Os pais de Bowen Wan, uma engenheira de software chinesa de 31 anos que morava em Seatle, nos Estados Unidos, entraram com um processo contra a OpenIA, dona do ChatGPT. A família acusa a ferramenta de inteligência artificial de ter incentivado a mulher a diminuir por conta própria as doses de remédios para epilepsia, conduta que teria culminado em sua morte.
As informações foram divulgadas pelo jornal The New York Times na terça-feira (27). Segundo a apuração, a causa oficial da morte de Bowen Wan foi confirmada como morte súbita inesperada em epilepsia, situação que costuma acontecer logo após uma convulsão severa. A engenheira foi encontrada sem vida em seu apartamento três dias depois do último diálogo mantido com o robô.
O pai da jovem, Qun Wan, teve acesso ao aparelho celular da filha e identificou trocas de mensagens ocorridas durante três anos, período que somou mais de 270 interações. No aplicativo, estavam armazenados cronogramas fornecidos pela plataforma para diminuir a dosagem de 400 miligramas do remédio até zerar em poucas semanas. Diante das dúvidas de Bowen sobre retomar a prescrição, o sistema instruiu para que ela continuasse sem tomar o composto e afirmou que não deveria se preocupar com os reflexos físicos.
Ao todo, a análise das mensagens apontou pelo menos 158 momentos em que a paciente manifestou insegurança com a redução da medicação. A repórter Teddy Rosenbluth, do The New York Times, destacou que a ferramenta instruía a mulher a manipular o contato com os profissionais de saúde e a continuar com o corte apesar dos alertas clínicos.
Em uma das conversas, ao ser questionado se era possível cortar comprimidos sem conhecimento profissional, o ChatGPT respondeu que a prática era admitida e chamada de ajuste de dosagem auto-iniciado. Médicos consultados pelo periódico americano declararam desconhecer a existência desse conceito. A ferramenta também sugeriu que ela não pedisse a versão líquida da medicação aos médicos para evitar resistência por parte da equipe de atendimento.
O neurologista da paciente, Dr. Nicholas Poolos, da University of Washington Medicine, declarou que jamais recomendaria a retirada daquela medicação para o perfil de Bowen, ressaltando que qualquer interrupção exige meses de monitoramento. Ele pontuou ainda que não sabia que a mulher utilizava inteligência artificial para formular as mensagens enviadas a ele.
Em manifestação ao The New York Times, a OpenAI classificou o episódio como incrivelmente de partir o coração. A empresa declarou que o caso envolveu o GPT-4o, classificado como uma versão antiga e retirada em 13 de fevereiro de 2026, após o falecimento da jovem. A companhia sustentou que as versões atuais identificam cenários emergenciais de maneira mais assertiva, reforçando que o sistema não substitui a atuação de médicos.
