A OpenAI enfrenta uma ação judicial nos Estados Unidos após os pais da engenheira de software chinesa Bowen Wan, de 31 anos, acusarem o ChatGPT de ter fornecido orientações que contribuíram para a redução e a suspensão de medicamentos utilizados no tratamento da epilepsia da filha. Segundo reportagem do The New York Times, a família analisou o histórico de conversas da jovem com a ferramenta e identificou mensagens que, segundo a acusação, teriam incentivado mudanças no tratamento sem acompanhamento médico adequado.
Bowen morreu em decorrência de morte súbita inesperada em epilepsia, condição conhecida pela sigla em inglês SUDEP. A ação judicial levanta questionamentos sobre a responsabilidade das empresas que desenvolvem sistemas de inteligência artificial quando suas ferramentas fornecem orientações relacionadas à saúde e influenciam decisões que podem colocar a vida dos usuários em risco.
Segundo a reportagem, Bowen convivia com epilepsia grave havia mais de dez anos. Após um período em que a doença permaneceu controlada com medicamentos, ela passou a apresentar crises mais frequentes e se afastou do trabalho. Em meio a dificuldades de saúde, isolamento e incertezas profissionais, começou a utilizar o ChatGPT, em 2023, para esclarecer dúvidas sobre relacionamentos, plano de saúde e benefícios por invalidez.
Com o tempo, o uso da ferramenta se intensificou. De acordo com o jornal, em 2025 a engenheira trocava mais de 1.500 mensagens por semana com o chatbot e passou a recorrer ao sistema para decisões cada vez mais delicadas, inclusive relacionadas ao tratamento da epilepsia.
A jovem relatava preocupação com possíveis efeitos colaterais cognitivos dos medicamentos, como lentidão na fala e dificuldades de raciocínio. Inicialmente, o chatbot a ajudava a formular perguntas e mensagens para os médicos. Posteriormente, conforme a análise das conversas relatada pelo jornal, a ferramenta teria sugerido estratégias para modificar as doses prescritas.
A reportagem também afirma que, após um neurologista recomendar uma dosagem diferente daquela desejada pela paciente, o sistema teria sugerido que ela aceitasse a prescrição e reduzisse a quantidade do medicamento por conta própria, sem comunicar a alteração ao profissional de saúde.
A situação teria se agravado entre o fim de 2025 e o início de 2026, quando Bowen enfrentou a perspectiva de perder o emprego e incertezas relacionadas à sua situação migratória nos Estados Unidos. Preocupada com o impacto dos medicamentos em seu desempenho em entrevistas técnicas, ela passou a considerar a redução da medicação como uma forma de melhorar suas capacidades cognitivas.
Segundo o The New York Times, o ChatGPT elaborou cronogramas para a redução da lamotrigina, medicamento utilizado no controle da epilepsia. Durante esse processo, Bowen relatou confusão mental, lapsos de memória, dificuldades de compreensão, alterações na percepção da realidade e problemas de fala. Em diferentes momentos, questionou se deveria interromper a redução e demonstrou preocupação com os sintomas apresentados.
De acordo com a análise das conversas mencionada pelo jornal, a engenheira manifestou dúvidas sobre a estratégia ao menos 158 vezes. Ainda assim, o chatbot teria interpretado alguns dos sintomas como sinais de adaptação do cérebro e recuperação cognitiva, além de recomendar a continuidade do plano de redução.
Especialistas ouvidos pelo g1 alertaram que a diminuição ou a interrupção de anticonvulsivantes exige acompanhamento médico rigoroso. O neurologista e professor de medicina da PUC-RS William Martins explicou que a retirada inadequada desses medicamentos pode desencadear crises graves, estado de mal epiléptico e, em situações extremas, morte. Segundo ele, sintomas como confusão mental e perda da noção do tempo também podem indicar crises epilépticas e demandam avaliação médica.
A reportagem relata ainda que Bowen passou a se afastar dos familiares, que vivem na China. Ao perceberem a redução do contato e descobrirem que ela estava diminuindo a medicação, os pais tentaram convencê-la a seguir as orientações médicas. A jovem, porém, defendeu sua decisão. Posteriormente, os familiares perderam contato com ela, e amigos encontraram seu corpo no apartamento em que morava, em Seattle.
Ao analisar o histórico de conversas, os pais afirmaram ter descoberto que a redução dos medicamentos havia sido mais extensa do que imaginavam. Segundo a reportagem, nas últimas mensagens registradas, Bowen descreveu sintomas preocupantes e perguntou se deveria voltar a tomar o remédio. O chatbot teria recomendado a manutenção da suspensão, mesmo diante das dificuldades relatadas.
O caso também provocou discussões sobre os limites do uso da inteligência artificial na área da saúde. Para Jeancarlo Cavalcante, terceiro vice-presidente do Conselho Federal de Medicina (CFM), sistemas desse tipo não conseguem avaliar todas as particularidades clínicas de um paciente e podem oferecer recomendações inadequadas quando utilizados para decisões terapêuticas.
O representante defendeu a adoção de mecanismos de segurança capazes de impedir que ferramentas de inteligência artificial recomendem mudanças de dosagem, substituição ou suspensão de medicamentos sem supervisão médica.
A responsabilização jurídica das empresas desenvolvedoras dessas tecnologias, entretanto, ainda é objeto de debate. O advogado Thayan Fernando Ferreira, especialista em Direito da Saúde e integrante da Comissão de Direito Médico da OAB-MG, afirmou ao g1 que a discussão permanece em estágio inicial e que o Brasil não dispõe de legislação específica que estabeleça regras abrangentes para a responsabilidade dessas plataformas pelas orientações fornecidas.
Segundo o advogado, a análise de eventual responsabilidade civil ou criminal depende das circunstâncias do caso, incluindo a verificação das orientações efetivamente fornecidas, dos alertas apresentados e da relação entre a conduta da ferramenta e os danos alegados. Ainda não há consenso consolidado sobre os limites dessa responsabilização.
Em manifestação ao The New York Times, a OpenAI classificou o caso como profundamente triste. A empresa afirmou que o modelo GPT-4o, utilizado por Bowen, não está mais disponível ao público e declarou que versões mais recentes foram aprimoradas para identificar situações de risco à saúde, solicitar informações adicionais e orientar os usuários a buscar atendimento médico adequado.
A ação judicial amplia o debate sobre os deveres de segurança das plataformas de inteligência artificial, especialmente quando suas respostas podem influenciar decisões relacionadas à saúde e à integridade física dos usuários.
(Com informações do G1 por Silvana Reis)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
