Processo contra OpenAI expõe riscos do uso de inteligência artificial para decisões médicas

Data:

Inteligência Artificial - ChatGPT para Advogados
Créditos: [email protected] / Depositphotos

A OpenAI enfrenta uma ação judicial nos Estados Unidos após os pais da engenheira de software chinesa Bowen Wan, de 31 anos, acusarem o ChatGPT de ter fornecido orientações que contribuíram para a redução e a suspensão de medicamentos utilizados no tratamento da epilepsia da filha. Segundo reportagem do The New York Times, a família analisou o histórico de conversas da jovem com a ferramenta e identificou mensagens que, segundo a acusação, teriam incentivado mudanças no tratamento sem acompanhamento médico adequado.

Bowen morreu em decorrência de morte súbita inesperada em epilepsia, condição conhecida pela sigla em inglês SUDEP. A ação judicial levanta questionamentos sobre a responsabilidade das empresas que desenvolvem sistemas de inteligência artificial quando suas ferramentas fornecem orientações relacionadas à saúde e influenciam decisões que podem colocar a vida dos usuários em risco.

Segundo a reportagem, Bowen convivia com epilepsia grave havia mais de dez anos. Após um período em que a doença permaneceu controlada com medicamentos, ela passou a apresentar crises mais frequentes e se afastou do trabalho. Em meio a dificuldades de saúde, isolamento e incertezas profissionais, começou a utilizar o ChatGPT, em 2023, para esclarecer dúvidas sobre relacionamentos, plano de saúde e benefícios por invalidez.

Com o tempo, o uso da ferramenta se intensificou. De acordo com o jornal, em 2025 a engenheira trocava mais de 1.500 mensagens por semana com o chatbot e passou a recorrer ao sistema para decisões cada vez mais delicadas, inclusive relacionadas ao tratamento da epilepsia.

A jovem relatava preocupação com possíveis efeitos colaterais cognitivos dos medicamentos, como lentidão na fala e dificuldades de raciocínio. Inicialmente, o chatbot a ajudava a formular perguntas e mensagens para os médicos. Posteriormente, conforme a análise das conversas relatada pelo jornal, a ferramenta teria sugerido estratégias para modificar as doses prescritas.

A reportagem também afirma que, após um neurologista recomendar uma dosagem diferente daquela desejada pela paciente, o sistema teria sugerido que ela aceitasse a prescrição e reduzisse a quantidade do medicamento por conta própria, sem comunicar a alteração ao profissional de saúde.

A situação teria se agravado entre o fim de 2025 e o início de 2026, quando Bowen enfrentou a perspectiva de perder o emprego e incertezas relacionadas à sua situação migratória nos Estados Unidos. Preocupada com o impacto dos medicamentos em seu desempenho em entrevistas técnicas, ela passou a considerar a redução da medicação como uma forma de melhorar suas capacidades cognitivas.

Segundo o The New York Times, o ChatGPT elaborou cronogramas para a redução da lamotrigina, medicamento utilizado no controle da epilepsia. Durante esse processo, Bowen relatou confusão mental, lapsos de memória, dificuldades de compreensão, alterações na percepção da realidade e problemas de fala. Em diferentes momentos, questionou se deveria interromper a redução e demonstrou preocupação com os sintomas apresentados.

De acordo com a análise das conversas mencionada pelo jornal, a engenheira manifestou dúvidas sobre a estratégia ao menos 158 vezes. Ainda assim, o chatbot teria interpretado alguns dos sintomas como sinais de adaptação do cérebro e recuperação cognitiva, além de recomendar a continuidade do plano de redução.

Especialistas ouvidos pelo g1 alertaram que a diminuição ou a interrupção de anticonvulsivantes exige acompanhamento médico rigoroso. O neurologista e professor de medicina da PUC-RS William Martins explicou que a retirada inadequada desses medicamentos pode desencadear crises graves, estado de mal epiléptico e, em situações extremas, morte. Segundo ele, sintomas como confusão mental e perda da noção do tempo também podem indicar crises epilépticas e demandam avaliação médica.

A reportagem relata ainda que Bowen passou a se afastar dos familiares, que vivem na China. Ao perceberem a redução do contato e descobrirem que ela estava diminuindo a medicação, os pais tentaram convencê-la a seguir as orientações médicas. A jovem, porém, defendeu sua decisão. Posteriormente, os familiares perderam contato com ela, e amigos encontraram seu corpo no apartamento em que morava, em Seattle.

Ao analisar o histórico de conversas, os pais afirmaram ter descoberto que a redução dos medicamentos havia sido mais extensa do que imaginavam. Segundo a reportagem, nas últimas mensagens registradas, Bowen descreveu sintomas preocupantes e perguntou se deveria voltar a tomar o remédio. O chatbot teria recomendado a manutenção da suspensão, mesmo diante das dificuldades relatadas.

O caso também provocou discussões sobre os limites do uso da inteligência artificial na área da saúde. Para Jeancarlo Cavalcante, terceiro vice-presidente do Conselho Federal de Medicina (CFM), sistemas desse tipo não conseguem avaliar todas as particularidades clínicas de um paciente e podem oferecer recomendações inadequadas quando utilizados para decisões terapêuticas.

O representante defendeu a adoção de mecanismos de segurança capazes de impedir que ferramentas de inteligência artificial recomendem mudanças de dosagem, substituição ou suspensão de medicamentos sem supervisão médica.

A responsabilização jurídica das empresas desenvolvedoras dessas tecnologias, entretanto, ainda é objeto de debate. O advogado Thayan Fernando Ferreira, especialista em Direito da Saúde e integrante da Comissão de Direito Médico da OAB-MG, afirmou ao g1 que a discussão permanece em estágio inicial e que o Brasil não dispõe de legislação específica que estabeleça regras abrangentes para a responsabilidade dessas plataformas pelas orientações fornecidas.

Segundo o advogado, a análise de eventual responsabilidade civil ou criminal depende das circunstâncias do caso, incluindo a verificação das orientações efetivamente fornecidas, dos alertas apresentados e da relação entre a conduta da ferramenta e os danos alegados. Ainda não há consenso consolidado sobre os limites dessa responsabilização.

Em manifestação ao The New York Times, a OpenAI classificou o caso como profundamente triste. A empresa afirmou que o modelo GPT-4o, utilizado por Bowen, não está mais disponível ao público e declarou que versões mais recentes foram aprimoradas para identificar situações de risco à saúde, solicitar informações adicionais e orientar os usuários a buscar atendimento médico adequado.

A ação judicial amplia o debate sobre os deveres de segurança das plataformas de inteligência artificial, especialmente quando suas respostas podem influenciar decisões relacionadas à saúde e à integridade física dos usuários.

(Com informações do G1 por Silvana Reis)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo