O risco de distopia na IA médica

Por André Islabão:

“Por que meus olhos doem?
Porque você nunca os usou.”

Neo e Morpheus, Matrix

Há pouco mais de duas décadas, o surgimento do Google como buscador de internet revolucionou a forma como as pessoas procuravam informações. Essa revolução não poupou nem mesmo a área da saúde, e todos logo percebemos que boa parte dos pacientes chegavam ao profissional de saúde depois de já terem pesquisado sobre seus sintomas na internet. O tal Dr. Google se tornou, assim, um dos principais referenciadores de pacientes para os profissionais de saúde, uma vez que os diagnósticos sugeridos pela máquina tendiam a ser aqueles mais graves, o que deixava muita gente apavorada e acelerava a marcação das consultas. Hoje o viés pessimista do Dr. Google já é bastante conhecido e cada vez mais os pacientes evitam “consultá-lo”, preferindo os conselhos dos médicos de verdade.

O tempo passou e surgiram outras tecnologias que também facilitariam nossas vidas. Uma delas foi o prontuário eletrônico. Praticamente todos os serviços de saúde investiram fortunas na compra de computadores e na implantação dos prontuários eletrônicos com a premissa de que isso melhoraria a saúde dos pacientes, facilitaria o trabalho dos profissionais e possibilitaria um melhor controle administrativo por parte das instituições de saúde. Tal iniciativa parece ter servido mais a essas instituições do que a pacientes e profissionais, pois nem os pacientes estão mais saudáveis nem os profissionais tiveram seu trabalho reduzido pela tecnologia.

A medicina atual está sendo novamente invadida, e dessa vez pela tecnologia mais disruptiva já vista pela humanidade. Pelo menos essa tem sido a mensagem transmitida pela mídia, embora não se possa descartar um certo grau de exagero por parte de quem tem muito a lucrar com a implantação disseminada dessa tecnologia na medicina. A tal inteligência artificial (IA) generativa e os modelos de linguagem grandes seriam “um animal diferente” de tudo que já se viu, nas palavras daqueles que promovem seus benefícios. Com essa tecnologia, a máquina realizaria o trabalho pesado, deixando os profissionais livres para dar toda a atenção que os pacientes precisam, o que criaria o curioso paradoxo de que o uso mais extenso de máquinas na medicina a tornaria mais humanizada. O problema é que os profissionais de saúde já passaram por experiências parecidas e já estão – ou deveriam estar – vacinados contra todo tipo de milagre tecnológico. Para quem deseje conhecer melhor a evolução dessas tecnologias e tirar suas próprias conclusões, alguns livros podem ser interessantes.

Peter Lee e a revolução da IA na medicina

Um dos livros mais recentes sobre o tema foi escrito por Peter Lee e colaboradores. Peter Lee é chefe da área de pesquisa em IA da Microsoft, o que gera um grande conflito de interesses e não parece conferir muita imparcialidade às ideias. Segundo a narrativa de A revolução da inteligência artificial na medicina, a saúde em um futuro bem próximo dependeria ainda mais das máquinas, pois os profissionais de saúde usariam uma versão atualizada do ChatGPT em seus smartphones e delegariam várias de suas funções para a IA, o que inclui não apenas o registro das consultas, mas também um protagonismo em atividades fundamentais como a busca de informações da literatura científica, a definição das palavras a serem usadas na comunicação com os pacientes e a própria tomada das decisões clínicas. Não é difícil perceber que isso pode representar uma inversão de papéis, com a máquina se transformando em mestre e os profissionais de carne e osso servindo como meras ferramentas no processo de cuidados. Além disso, os pacientes desse bizarro futuro teriam em casa um assistente pessoal do tipo Alexa com a funcionalidade do ChatGPT que conversaria sobre seus problemas de saúde, fazendo diagnósticos e sugerindo tratamentos. Convenhamos que nada disso parece ser uma boa ideia para o futuro da medicina e a saúde das pessoas.

Eric Topol e sua medicina profunda

O médico americano Eric Topol é um dos grandes defensores da IA médica e das novas tecnologias, como os dispositivos vestíveis (wearables) e as diversas formas de monitoramento da saúde por meio de dados biométricos. O problema é que Topol faz parte da diretoria ou atua como consultor em diversas empresas de tecnologia em saúde, o que gera um evidente conflito de interesses. Em seu mais recente livro, Medicina Profunda – Deep Medicine, Topol começa fazendo um diagnóstico correto quando fala da crescente desumanização da medicina moderna. A coisa se complica quando ele propõe que a solução para o problema seja o uso mais amplo da IA e das tecnologias digitais variadas. Ele está entre aqueles que acreditam que o uso disseminado dessas tecnologias liberaria tempo para que os profissionais pudessem se dedicar aos pacientes de forma mais humana. Embora isso possa fazer sentido na teoria, a prática da medicina nas últimas décadas tem demonstrado resultados bem diferentes, com os profissionais trabalhando cada vez mais, apresentando taxas de burnout jamais vistas e demonstrando níveis crescentes de descontentamento com a profissão. Parece claro que essa narrativa de que a tecnologia salvará o trabalho dos médicos e a saúde dos pacientes é uma ideia bastante rasa.

Joseph Weinzenbaum e o apelo à razão humana

Para quem não conhece o autor, Weinzenbaum foi o responsável pela criação do primeiro chatbot usado para fazer psicoterapia através de mensagens de texto na década de 1960, o que faz com que ele seja um dos precursores da IA atual e com que seu programa ELIZA seja uma espécie de bisavô do ChatGPT. Conhecer suas ideias pode oferecer um contraponto interessante para este momento atual de encantamento da medicina pelas tecnologias modernas. O chatbot ELIZA, desenvolvido como sátira da psicoterapia da época, fez muito sucesso, para espanto de seu próprio criador. Em seu livro O poder do computador e a razão humana, Weizenbaum conta como ficou impressionado com o fato de que as pessoas gostavam de conversar com a máquina e contavam a ela seus segredos mais íntimos, mesmo sabendo se tratar de uma máquina inumana que só respondia banalidades e devolvia as afirmações em forma de pergunta. Apesar do sucesso de seu chatbot – ou exatamente por isso mesmo –, Weizenbaum logo abandonou o projeto e se tornou um grande crítico desse tipo de tecnologia, afirmando que qualquer tentativa de comparar máquinas a seres humanos não passava de uma “enorme obscenidade”. Ele tinha uma preocupação especial com os aspectos éticos da ciência e reforçava a responsabilidade dos cientistas pelas consequências dos projetos que desenvolviam, frisando que “algumas funções jamais deveriam ser atribuídas às máquinas, mesmo que elas possam realizá-las”.

Entre a utopia e a distopia

Entre a visão utópica que prega o uso irrestrito da IA para solucionar os principais problemas da medicina e a visão distópica da destruição do componente humano pela IA médica, existe espaço para a parcimônia e o bom senso. É evidente que a IA pode ser uma ferramenta útil em algumas áreas da medicina, como quando um algoritmo detecta um risco de interações medicamentosas ou de reações alérgicas e emite um alerta para o profissional responsável. Por isso é importante não colocarmos todas as formas de IA no mesmo “saco”, pois usar um algoritmo embutido no prontuário eletrônico para detectar eventuais riscos da prescrição é completamente diferente de uma tecnologia que transfira para as máquinas funções médicas que só seres de carne, osso e sentimentos podem compreender e realizar.

Além disso, precisamos lembrar que as tecnologias não são neutras e acabam influenciando a maneira como os profissionais pensam e atuam. Um algoritmo que auxilie os radiologistas a identificar com mais precisão um determinado tipo de lesão pode ser uma inovação positiva. Porém, se essa mesma tecnologia resultar na progressiva perda de expertise dos radiologistas ou ameaçar a disponibilidade de profissionais e a própria existência dessa especialidade médica, temos um enorme problema de desumanização da medicina. E isso pode acontecer em qualquer área dos cuidados de saúde. Weinzenbaum não abortou o projeto ELIZA por problemas técnicos, mas sim por perceber que a substituição de profissionais de carne e osso por máquinas pseudointeligentes era uma escolha ruim para a humanidade, embora muita gente estivesse disposta a arriscar.

Não devemos ter pressa para a adoção de tecnologias que não sejam absolutamente necessárias e que ainda não tenham demonstrado seus riscos e benefícios de maneira clara. A pressa neste caso serve apenas às grandes corporações de tecnologia em saúde que visam lucrar o máximo no menor tempo possível. Como profissionais, nossa missão é zelar pela boa medicina e pela saúde e segurança de nossos pacientes. Em um debate recente sobre o tema, um colega entusiasta das inovações tecnológicas afirmava que a IA deveria ser vista como um cavalo que passa encilhado e que devemos montar logo para não perdermos a oportunidade. Minha impressão é de que esses cavalos vêm e vão conforme ditames alheios à boa medicina. E que montar um cavalo desconhecido em pleno trote pode ser algo bastante imprudente. Além disso, é apenas o tempo que pode dizer quais são as tecnologias que realmente são boas para médicos e pacientes. Que as boas novidades da IA sejam incorporadas sem pressa… em seu tempo giusto.

André Islabão é médico clínico geral, formado em Pelotas, RS. Trabalha em Porto Alegre, em seu consultório privado. Além disso, é tradutor e escritor . “Entre a Estatística e a Medicina da Alma – Ensaios Não-Controlados do Dr. Pirro”, é um livro cujas ideias se entrelaçam de maneira muito natural à filosofia da Slow Medicine. Recentemente publicou o livro “O risco de cair é voar“. André é também autor do blog andreislabao.com.br .

A foto que ilustra o post é da Wikiwand.