Apps e bots com IA invadem medicina e médicos se preocupam

Por Steve Stecklow

9 Fev (Reuters) - A inteligência artificial está revolucionando setores que vão desde software e direito até entretenimento e educação. E, como médicos como Cem Aksoy estão aprendendo, ela está apresentando desafios especiais na medicina, à medida que os pacientes recorrem à IA para obter orientação.

Aksoy, médico residente em um hospital em Ancara, na Turquia, conta que um paciente de 18 anos e sua família entraram em pânico recentemente depois que o jovem foi diagnosticado com um tumor na perna esquerda. Eles recorreram ao ChatGPT. O bot disse que ele poderia sobreviver apenas cinco anos.

O chatbot da OpenAI estava errado: um cirurgião plástico removeu o tumor com sucesso em julho. “Ele ficou essencialmente curado após a operação”, disse Aksoy.

Mas, algumas semanas depois, o paciente ligou para Aksoy quase chorando. “Ele disse: ‘Comecei a tossir recentemente e o ChatGPT me disse que poderia ser metástase nos pulmões’”, o que significava que o câncer havia se espalhado, lembrou o médico. O paciente disse que precisava escrever um testamento. Acabou que seus pulmões estavam bem. Ele estava tossindo porque havia começado a fumar recentemente.

“Quando alguém está angustiado e sem orientação”, disse Aksoy, um chatbot de IA “simplesmente o arrasta para essa floresta de conhecimento sem um contexto coerente”.

Um porta-voz da OpenAI disse que seus modelos mais recentes melhoraram significativamente a forma como lidam com questões de saúde. O ChatGPT não se destina a substituir a orientação de um profissional médico, disse a empresa.

Muitos pacientes em todo o mundo estão recorrendo à tecnologia dos chatbots de IA para obterem orientação médica. Além dos grandes chatbots do tipo “pergunte-me qualquer coisa”, os consumidores estão recorrendo a uma série de novos aplicativos médicos baseados em IA.

“TORNE-SE SEU PRÓPRIO MÉDICO”

Um número crescente de aplicativos disponíveis nas lojas da Apple e do Google afirma usar IA para ajudar os pacientes com problemas de saúde.

De acordo com as diretrizes da Administração de Alimentos e Medicamentos dos Estados Unidos (FDA), os aplicativos de saúde baseados em IA não precisam de aprovação se “forem destinados geralmente à educação do paciente e não para o uso no diagnóstico de doenças ou outras condições”. Muitos aplicativos têm avisos de que não são uma ferramenta de diagnóstico e não devem ser usados como substitutos de um médico.

Mas alguns desenvolvedores estão ultrapassando os limites.

Um aplicativo chamado “Eureka Health: AI Doctor” se autointitula “seu companheiro de saúde pessoal completo”. Ele afirmava na App Store que é “APENAS PARA FINS INFORMATIVOS” e “não diagnostica nem trata doenças”.

Mas seu desenvolvedor, Sam Dot Co, também promove o aplicativo em um site, onde afirma em letras garrafais: “Torne-se seu próprio médico.”

“Pergunte, diagnostique, trate”, afirma o site. “Nossa IA não apenas diagnostica, mas também conecta você a prescrições, pedidos de exames laboratoriais e cuidados médicos reais.”

A Apple disse que, depois de saber sobre o Eureka Health pela Reuters, removeu o app de sua loja de aplicativos.

O desenvolvedor do aplicativo, Sam Dot, não respondeu a um pedido de comentário. Mas o site mudou depois que a Reuters questionou sobre ele. O site não menciona mais o aplicativo.

Em alguns casos, aplicativos deram conselhos imprecisos e potencialmente perigosos.

O “AI Dermatologist: Skin Scanner” afirma em seu site que tem mais de 940 mil usuários e “a mesma precisão que um dermatologista profissional”. Os usuários podem enviar fotos de manchas e outras condições da pele, e a IA fornece uma avaliação de risco “instantânea”. “O AI Dermatologist pode salvar sua vida”, afirma o site.

A desenvolvedora do app, Acina, com sede na Lituânia, afirma que o aplicativo usa “uma rede neural proprietária” que procura padrões para fazer previsões. A Acina afirma que ele foi treinado com imagens dermatológicas para reconhecer condições específicas da pele.

APP AFIRMA TER 97% DE PRECISÃO

O aplicativo afirma ter “mais de 97% de precisão”. Mas ele recebeu centenas de avaliações com uma estrela nas lojas de aplicativos, e muitos usuários reclamam que ele é impreciso.

Daniel Thiberge, analista de suporte técnico em Nova Jersey, disse à Reuters que comprou o aplicativo para interpretar sete fotos que tirou de um pequeno tumor em seu braço. Seis resultados mostraram que havia um risco de “75% a 95%” de ser cancerígeno, disse ele. Ele então foi a um dermatologista. O médico disse que o tumor não parecia problemático de forma alguma e que não valia a pena fazer uma biópsia.

“Se está completamente errado, qual é o objetivo do aplicativo?”, questionou Thiberge. Na melhor das hipóteses, é inútil, disse ele. “Na pior das hipóteses, é perigoso, porque você pode deixar de consultar um dermatologista.”

Em outra avaliação na Apple App Store, uma usuária escreveu que, para testar o aplicativo, ela enviou fotos mostrando que tinha melanoma, um tipo grave de câncer de pele, que havia sido diagnosticado e removido cirurgicamente. Mas o aplicativo informou que a condição era “benigna”, escreveu a usuária. Ela disse à Reuters que teme que “algumas pessoas confiem nele e adiem as consultas médicas”.

A Reuters não confirmou de forma independente as experiências dos usuários do aplicativo. A Acina disse que não pôde verificá-las. Ela disse à Reuters que o “objetivo do AI Dermatologist não é fornecer um diagnóstico médico, mas oferecer uma análise preliminar usando tecnologia de IA para incentivar os usuários a consultar um profissional”.

“Nossos modelos de IA são construídos com base em literatura dermatológica e conjuntos de dados cuidadosamente selecionados e validados por dermatologistas certificados”, disse, acrescentando que “falsos positivos podem ocorrer em qualquer sistema de IA”.

PRECISÃO DOS APPS

A empresa disse que sua IA recebeu muitas avaliações positivas online, incluindo “usuários que nos agradecem porque o aplicativo os levou a verificar uma verruga ou lesão precocemente – em alguns casos, levando a atendimento médico oportuno”.

A Apple disse que removeu o aplicativo da App Store depois de tomar conhecimento do caso pela Reuters, em parte devido às inúmeras reclamações de clientes.

O Google também removeu o AI Dermatologist da Google Play depois que a Reuters chamou a atenção para o aplicativo. “O Google Play proíbe que aplicativos ofereçam funcionalidades de saúde enganosas ou prejudiciais e exige comprovação regulatória ou um aviso legal para aplicativos que oferecem funcionalidades médicas”, disse um porta-voz.

Mas o aplicativo está de volta ao mercado. O Google o restabeleceu recentemente após a Acina fazê-lo revisar. O Google disse que os aplicativos suspensos podem retornar se forem atualizados com uma “versão compatível”.

A Acina disse que “esclareceu mais explicitamente que o aplicativo não é um dispositivo médico”, não fornece diagnósticos e que os usuários devem consultar profissionais de saúde.

A Apple também o restabeleceu brevemente, mas depois o removeu novamente na semana passada. De acordo com a Acina, a Apple informou que “após reavaliação”, determinou o seguinte: “O aplicativo fornece dados médicos, medições relacionadas à saúde, diagnósticos ou conselhos de tratamento sem a devida autorização regulatória”. A Acina disse que está recorrendo da remoção.

Rachel Draelos, médica, cientista da computação e consultora em saúde com IA, diz que os aplicativos médicos com IA são preocupantes, especialmente na dermatologia. “Estou muito preocupada com isso porque identificar corretamente as doenças da pele é realmente difícil”, disse ela à Reuters. Existem milhares de doenças de pele e “não há como todos esses aplicativos terem um conjunto de dados que cubra todas essas coisas”.

((Tradução Redação São Paulo, 55 11 56447753))

REUTERS AAJ