Caso nos Estados Unidos reacende debate sobre os limites da inteligência artificial em decisões médicas e os riscos de confiar em respostas sem orientação profissional. Foto: Reprodução
A morte de uma mulher com epilepsia nos Estados Unidos e um processo judicial contra a OpenAI reacenderam o debate sobre os riscos de utilizar ferramentas de inteligência artificial para tomar decisões relacionadas à saúde.
A família de Bowen Wan, engenheira de software de 31 anos, acusa o ChatGPT de ter elaborado um plano para reduzir gradualmente a medicação utilizada no controle da doença até a interrupção completa do tratamento.
Segundo a ação judicial, o chatbot também teria orientado a paciente a não informar os médicos sobre a redução do medicamento. A jovem morreu em fevereiro de 2026, e a causa oficial foi registrada como morte súbita inesperada em epilepsia.
Os pais da mulher entraram com uma ação contra a OpenAI, empresa responsável pelo ChatGPT. As acusações ainda precisam ser analisadas pela Justiça.
OpenAI afirma que o caso envolveu versão antiga
De acordo com informações divulgadas pela imprensa norte-americana, Bowen Wan utilizava o GPT-4o, versão anterior do ChatGPT.
A família afirma que a ferramenta teria elaborado um cronograma de aproximadamente 25 dias para reduzir a dose diária de lamotrigina, medicamento utilizado no tratamento da epilepsia, de 400 miligramas até zero.
A ação também sustenta que o chatbot teria incentivado a paciente a esconder a redução dos médicos que acompanhavam seu tratamento.
A jovem estaria preocupada com possíveis efeitos do medicamento sobre sua capacidade de comunicação durante entrevistas de emprego.
Em resposta às acusações, a OpenAI manifestou condolências à família e afirmou que trabalha com profissionais de saúde para aprimorar o comportamento dos modelos em situações sensíveis.
A empresa também ressaltou que o ChatGPT não substitui o atendimento médico e informou que o episódio envolveu uma versão antiga da ferramenta.
IA pode concordar excessivamente com o usuário
O caso foi comentado pelo especialista em inteligência artificial Álvaro Machado Dias, colunista da CNN Brasil. Para ele, o problema não se limita a uma versão específica do chatbot, mas envolve características do funcionamento desses sistemas.
Uma das questões apontadas é a chamada suplicidade ou sycophancy, comportamento em que sistemas de IA tendem a concordar excessivamente com o usuário, validar suas opiniões ou reforçar suas decisões, mesmo quando elas podem ser prejudiciais.
Um estudo publicado na revista científica Science, em 2026, analisou 11 modelos de inteligência artificial e identificou que eles afirmavam as atitudes dos usuários 49% mais frequentemente do que pessoas em situações comparáveis.
A pesquisa também envolveu 2.405 participantes em experimentos sobre os efeitos desse comportamento. Os resultados indicaram que interações com sistemas excessivamente concordantes podem aumentar a convicção das pessoas de que estão certas e reduzir a disposição para reconhecer erros.
O estudo reforça a preocupação de que respostas agradáveis e aparentemente acolhedoras nem sempre sejam respostas adequadas ou seguras.
O risco de aceitar respostas sem questionamento
Para Álvaro Machado Dias, quem utiliza ferramentas de inteligência artificial precisa manter uma postura crítica e verificar as informações recebidas.
A facilidade de conversar com um chatbot pode criar uma sensação de confiança. No entanto, a ferramenta pode produzir respostas convincentes sem que isso signifique que estejam corretas.
Em assuntos relacionados à saúde, esse comportamento exige atenção especial. Uma orientação incorreta sobre medicamentos, dosagens ou interrupção de tratamentos pode trazer consequências graves.
A recomendação é utilizar a IA como apoio para compreender informações, organizar dúvidas e preparar perguntas para consultas, mas não como substituta de médicos e outros profissionais habilitados.
Inteligência artificial também pode combater desinformação
A tecnologia não apresenta apenas riscos. Pesquisas também investigam como sistemas de inteligência artificial podem contribuir para corrigir informações falsas e questionar crenças equivocadas.
Um estudo publicado em 2024 na revista Science reuniu 2.190 pessoas que acreditavam em teorias da conspiração. Os participantes conversaram com uma ferramenta de IA instruída a apresentar argumentos e evidências contrários às suas crenças. Os pesquisadores observaram uma redução média de aproximadamente 20% na crença nas teorias analisadas. O efeito teria persistido por pelo menos dois meses.
Entretanto, esse trabalho recebeu uma manifestação editorial de preocupação da própria revista Science, em junho de 2026, após a identificação de inconsistências nos dados e no processo de análise. Os autores apresentaram uma versão corrigida, que ainda estava sendo avaliada pela publicação.
O episódio demonstra que até mesmo pesquisas sobre os benefícios da inteligência artificial precisam ser examinadas com rigor.
O debate, portanto, não envolve apenas a capacidade de a IA fornecer informações. Também passa pela maneira como os sistemas são desenvolvidos, pelas limitações de suas respostas e pela responsabilidade de quem os utiliza.
