ChatGPT: há uma versão sem pressa para a tecnologia?

Por Ana Coradazzi

“Nossa tecnologia passou a frente de nosso entendimento, e a nossa inteligência desenvolveu-se mais do que a nossa sabedoria.” (Roger Revelle)

            O ChatGPT tem tido o efeito de um tsunami no mundo digital desde que foi lançado ao público, em novembro de 2022. Baseado na mais avançada tecnologia de Inteligência Artificial (IA) de que se tem notícias até hoje, ele é capaz de fornecer informações sobre qualquer assunto em segundos extraindo-as de tudo o que nós, humanos, já escrevemos online. Sim, ele pode criar um poema de amor, uma lista de supermercado, uma tese de doutorado, um artigo científico, uma letra de música, um livro de ficção. Mais que isso: é uma ferramenta altamente capaz de resumir tópicos complexos de forma que eu, você e até nossas avós compreendam. E faz tudo isso com uma acurácia impressionante, que tem deixado o mundo boquiaberto. Basta perguntar. Como não poderia deixar de ser, seu potencial de utilidade na área da saúde parece ser infinito. 

            Não é novidade que muitas tarefas desempenhadas por médicos poderiam ser realizadas mais rapidamente e com maior eficácia por computadores. Temos uma imensa carga de atividades relacionadas a registros médicos e preenchimento de documentos, por exemplo, que consomem um grande tempo. O ChatGPT poderia, por exemplo, revolucionar a compilação de resumos de alta hospitalar, nos quais informações importantes ficam registradas para que a equipe de saúde das Unidades Básicas de Saúde ou dos consultórios possam dar continuidade ao cuidado dos pacientes. Os resumos são hoje uma grande pedra no sapato, visto que um bom resumo de alta exige tempo, capacidade de síntese e uma grande compreensão do contexto de saúde do paciente: todas as informações importantes precisam estar lá, mas o excesso de informações pode confundir a equipe que o receberá. O desafio é ainda maior se formos bem honestos: quem faz os resumos de alta em geral são os membros menos capacitados ou experientes da equipe, ou um plantonista que nem sequer participou do cuidado do paciente, o que transforma o resumo de alta num copia-e-cola sem o menor sentido. Uma ferramenta como o ChatGPT poderia resolver isso em segundos, identificando os dados clínicos mais significativos, em ordem cronológica, com as respectivas condutas e resultados de exames: o sonho de qualquer médico que receberá esse paciente semanas mais tarde. Os resumos de alta são apenas um exemplo aleatório, mas há inúmeras situações em que a amplitude, a rapidez e a eficiência da IA podem ser revolucionárias na saúde. Sua capacidade de síntese poderia facilitar (e muito) a vida dos profissionais da saúde em sua busca insana para se manterem atualizados quanto às publicações científicas. As prescrições médicas poderiam ser otimizadas. Estratégias mais eficientes de gestão em saúde poderiam ser elaboradas. Enfim, as possibilidades são inimagináveis, ainda mais olhando daqui, do início disso tudo. Mas, embora suas vantagens possam parecer infinitas, cabe aqui ouvir a voz do bom senso: até milagres tecnológicos têm seus limites, e nós humanos costumamos ignorá-los em nome da comodidade e do entusiasmo.

            Não é preciso ser um gênio da tecnologia para enxergar as duas pontas de vulnerabilidade da IA, ambas velhas conhecidas de todos nós. A primeira diz respeito aos “ingredientes” que o ChatGPT necessita para fazer sua mágica: os dados. Se os dados que oferecermos à IA estiverem incorretos, incompletos ou até – por que não? – manipulados, o resultado pode ser inútil, pernicioso ou até catastrófico. Não é exagero. Uma resposta incorreta a uma pergunta trivial como “O que preciso para obter um bolo de laranja perfeito?” pode, no máximo, gerar um bolo ruim, enquanto um resumo de alta baseado em dados incorretos ou imprecisos pode comprometer o acompanhamento médico e o prognóstico de alguém. Pior: dados manipulados de forma mal-intencionada podem induzir ao consumo de serviços ou insumos desnecessários, colocando a atividade dos profissionais a serviço dos interesses do sistema com o qual eles trabalham, o que não necessariamente estará alinhado com as demandas dos pacientes. A fidedignidade e a segurança desses dados podem se tornar um problema de dimensões assustadoras. Ou seja: continuaremos dependendo de mãos humanas confiáveis para fornecer os dados de trabalho para a IA, e isso não é pouca coisa (na verdade, nossa responsabilidade passa a ser ainda maior). 

            A segunda ponta diz respeito a uma questão filosófica: o que faremos com o tempo economizado pela IA? Os otimistas dirão que poderemos investi-lo em interações mais próximas com nossos pacientes, um cuidado mais personalizado e uma assistência mais empática. Mas, se formos ser honestos e olharmos para o que temos feito sempre que algum tempo nos é poupado, temos que admitir: nosso tempo “livre” raramente é empregado em prol dos pacientes. Aumentamos o número de pacientes atendidos (em vez de expandir o tempo com cada um deles), solicitamos uma quantidade maior de exames (já que temos tempo, disponibilidade e a distância de um clique para fazê-lo) e voltamos nossa atenção e energia para atender às exigências da própria tecnologia (médicos e enfermeiros, por exemplo, passam mais horas registrando dados no computador do que ao lado de seus pacientes). Será que passaremos a empregar nosso tempo para aprofundar nossas relações humanas com as pessoas de quem cuidamos? (pausa aqui para um riso nervoso: algo me diz que não). Também me parece pouco provável que reservemos tempo para checar o que a IA executou, e sim, isso é fundamental. Precisaremos de uma grande clareza quanto à nossa responsabilidade para entender, por exemplo, que um resumo de alta médica compilado por IA precisa ser revisado pelo médico antes de ser enviado. Na prática, esse senso de responsabilidade tem sido artigo raro no mercado, e a pressa (ou a preguiça) frequentemente nos fazem clicar no “enter” sem nem mesmo ter lido o que está escrito… Sem falar no tempo poupado ao obtermos, em segundos, um resumo dos últimos dados científicos sobre determinada doença, já com considerações e análises, sem precisarmos ler artigos inteiros (isso pode nos poupar tempo, mas nos deixa à mercê da avaliação crítica de sabe-se lá quem, com vieses impossíveis de identificar). Sentiu um frio na espinha? Eu também. Como sempre, o problema não está na tecnologia, e sim no que fazemos com ela.

            Mas, ainda que sejamos capazes de corrigir esses “desvios” e tornar a IA mais segura na área da saúde, há um ponto que está além das questões técnicas, e que talvez estejamos negligenciando há mais tempo do que deveríamos: as necessidades humanas do profissional da saúde. Pensei nelas quando li que o ChatGPT é capaz de escrever poesias e letras de música de forma tão eficiente que não se poderia diferenciá-las daquelas escritas por poetas e compositores. Talvez ler um poema escrito por IA não faça tanta diferença para o leitor, que experimentará emoções íntimas desencadeadas por palavras cuidadosamente organizadas com base em tudo o que humanos já produziram na história. Mas, e para o poeta? Um poeta não escreve poemas apenas para os outros. Ele os escreve como forma de expressar sua alma, de expor sua intimidade, e isso é não só terapêutico como vital para sua existência: sem escrevê-los, ele perde sua essência. Fico pensando se nós profissionais da saúde não nos ressentiremos do mesmo vazio existencial. Se permitirmos que uma tecnologia como o ChatGPT (ou qualquer outra) constitua o novo modelo de assistência à saúde, a ponto de dispensar nossos insights, nossas experiências pessoais, nossas ponderações junto às pessoas que nos procuram, talvez o espaço para enxergarmos significado no que fazemos se reduza a quase nada. Talvez tenhamos cada vez menos médicos, enfermeiros, psicólogos ou outros profissionais interessados realmente em cuidar de humanos. O perfil dos profissionais da saúde poderá se transformar: em vez de pessoas que se identificam com o alívio do sofrimento e a promoção da saúde, teremos pessoas apaixonadas por sistemas e fluxogramas. Nossos pacientes estão preparados (e desejosos) de algo assim? Estarão dispostos a abrir mão das incertezas e incongruências das relações com seus médicos em nome da (quase) infalibilidade das máquinas? Ou se sentirão mais seguros podendo contar com um humano ao seu lado, ainda que falível? Nosso enorme desafio será repensar o que esperamos para a nossa saúde: queremos um cuidado cujo alicerce se restringe a dados, algoritmos e documentos, ou o entenderemos como mais uma forma indispensável de interação humana? A primeira opção pode coexistir com a segunda? Sinceramente, espero que sim, mas confesso que a história recente da Medicina tem me feito acreditar que a primeira quase sempre prevalece.  

            Enfim, o tempo dirá que caminhos seguiremos. Seremos nós, pacientes, profissionais e todos os outros humanos, que faremos as escolhas, sensatas ou não, que darão forma à saúde do futuro. Seremos nós os responsáveis por definir o que nos é útil, o que é aceitável e o que é intolerável. Será que, dessa vez, utilizaremos nossa Inteligência Natural para colocar a tecnologia a nosso serviço, ou mais uma vez nos renderemos à comodidade da Inteligência Artificial a ponto de negligenciar o que nos faz, realmente, felizes?

Bibliografia:

Patel S, Kyle, L. ChatGPT: the future of discharge summaries? Lancet Digit Health 2023, publicado online em 06 de fevereiro (https://doi.org/10.1016/ S2589-7500(23)00021-3) 

Ana Coradazzi: Médica oncologista clínica e paliativista. Atualmente é responsável pela equipe de Oncologia Clínica da Faculdade de Medicina da UNESP, em Botucatu. É autora dos livros No Final do Corredor e O Médico e o Rio, e editora do blog  www.nofinaldocorredor.com, nos quais escreve sobre o quanto nosso envolvimento nas histórias de vida dos pacientes pode ser transformadora, principalmente para nós mesmos. Seu livro mais recente, “De Mãos Dadas” propõe um novo conceito, Slow Oncology – a Oncologia sem Pressa, e é inspirado em uma das principais obras da Slow Medicine, “My mother Your Mother“, de Dennis McCullough, geriatra americano.