Quem responde quando a Inteligência Artificial erra? O novo desafio do Direito da Saúde

Mirian Castro 

  A inserção da Inteligência Artificial (IA) na área da saúde deixou de ser um tema de ficção científica e, há considerável tempo, passou a integrar de forma concreta o cotidiano de especialistas no setor. Atualmente, algoritmos são capazes de auxiliar diagnósticos, analisar exames de imagem, prever riscos clínicos, sugerir condutas terapêuticas e até executar procedimentos cirúrgicos com precisão milimétrica. Paralelamente, hospitais, clínicas especializadas e operadoras de planos de saúde têm incorporado ferramentas baseadas em treinamento e aprendizado de máquinas para aprimorar gestão de custos, auditorias médicas e softwares de gestão hospitalar, além de sistemas inteligentes de diagnósticos e procedimentos clínicos.

Recentemente, em 6 de outubro, de 2025, ocorreu a primeira “telecirurgia robótica não experimental” feita inteiramente no Brasil, onde o médico cirurgião estava em São Paulo – SP e o paciente em Porto Alegre – RS. Entre eles, mais de mil quilômetros, e a cirurgia foi um sucesso ^[1].

Segundo Rafael Ferreira Coelho, o médico que realizou a cirurgia, a tecnologia robótica já permite realizar diversos tipos de cirurgia com técnica minimamente invasiva. E que hoje, com a tecnologia robótica, qualquer tipo de cirurgia, seja, torácica, abdominal, até cirurgia de cabeça e pescoço, pode ser realizada com essa técnica. Isso se traduz para o paciente em menos sangramento, menos tempo de internação, menor dor no pós-operatório. A promessa é revolucionária: mais eficiência, precisão e economia.

A intenção é que essa modalidade de cirurgia seja expandida para todo Brasil e mundo. A Comissão Nacional de Incorporação de Tecnologias no Sistema Único de Saúde – CONITEC, aprovou a implementação, de cirurgia de próstata robótica no SUS.[2]

Entretanto, apesar de todo o avanço tecnológico e da eficácia da Inteligência Artificial na área da saúde, ainda persistem riscos e limitações que não podem ser ignorados, como falhas de diagnóstico, vieses algorítmicos, violação à privacidade de dados, além de erros decorrentes na própria programação dos sistemas. A IA, por exemplo, pode interpretar de forma equivocada exames ou sintomas, resultando em diagnósticos equivocados. Seja por imprecisão do algoritmo, erro de configuração ou utilização de bases de dados enviesadas. No caso de procedimentos realizados por meio de “telecirurgia”, também podem surgir falhas de conexão entre o robô e o sistema, ou ainda equívocos no manuseio por parte do profissional médico.

Em meio a esse avanço tecnológico e múltiplas possibilidades, surgem novas questões éticas e jurídicas, e uma delas é justamente, quem responde quando a Inteligência Artificial erra em algum procedimento clínico!

Nesse sentido, Organização Mundial da Saúde (OMS), expressou preocupação com o uso experimental da IA na saúde sem a supervisão e o julgamento humano adequados.[3] De acordo com a OMS, o uso da inteligência artificial (IA) na saúde pode apresentar riscos significativos, especialmente com ferramentas de modelo de linguagem (LLMs) como o ChatGPT. Os três dos principais riscos apontados pela OMS são: Viés e imprecisão dos dados, Proteção de dados e privacidade e Adoção precipitada.

Portanto, quando um algoritmo de diagnóstico falha, quem deve responder? O médico que o utilizou a IA sem certificar métodos ou procedimentos adequados? O hospital que o adotou sem validar sua precisão ou revisar a tecnologia empregada? Ou a empresa que o desenvolveu, mas cuja programação é uma “caixa-preta” inacessível até mesmo aos usuários técnicos?

O ordenamento jurídico brasileiro ainda não possui legislação específica sobre o uso da Inteligência Artificial em contextos clínicos, diferente dos medicamentos, tratamentos ou dispositivos médicos, que estão sujeitos a regulamentações detalhadas.  O que se tem são normas esparsas, como a Lei Geral de Proteção de Dados (Lei nº 13.709/2018), Código Civil, Código de Defesa do Consumidor e as Resoluções do Conselho Federal de Medicina (CFM), que tangenciam o tema de forma indireta, além, é claro, de leis na esfera penal.

Nenhuma, porém, enfrenta de modo direto as hipóteses de erro decorrente de decisões ou iniciativas automatizadas.

Na ausência de regras específicas, tende-se a aplicar, por analogia, os princípios gerais da responsabilidade civil e da relação de consumo. Assim, hospitais e clínicas respondem objetivamente pelos danos causados a pacientes (art. 14 do CDC), enquanto profissionais liberais têm responsabilidade subjetiva, dependente de culpa (art. 14, §4º).

Diante da falta de regulamentação especifica, ganha força a tese da responsabilidade compartilhada. Isso significa reconhecer que diferentes agentes podem ser corresponsáveis pelo resultado danoso, conforme seu grau de participação, elaboração e de controle sobre a tecnologia.

Assim, a empresa desenvolvedora pode ser responsabilizada por falhas técnicas; o hospital ou operadora de saúde, por implementar sistemas sem testes adequados e eficazes; e o médico, por confiar na ferramenta, abdicando de seu juízo clínico.

Em última análise, o erro da IA não afasta a necessidade de supervisão humana. Até o momento, pode-se afirmar que a tecnologia é um instrumento de apoio, não um substituto da responsabilidade médica. O profissional deve continuar sendo o elo crítico entre o algoritmo e a decisão terapêutica.

No Brasil, esse debate foi impulsionado sobretudo pela tramitação do Projeto de Lei nº 2.338/2023, que institui o Marco Regulatório da Inteligência Artificial, estabelecendo regras para o desenvolvimento e uso ético da inteligência artificial (IA) no país, abarcando e trazendo regras ao direito da saúde. [4]

Com isso, enquanto aguarda-se norma específica sobre a matéria, é importante minimizar esses riscos, a IA na saúde deve ser utilizada como uma ferramenta de apoio, com a supervisão de profissionais qualificados. Além disso, é essencial o desenvolvimento de regulamentações claras e éticas para garantir a segurança e a privacidade dos pacientes.

O desafio, é sensível: incentivar a inovação, sem que isso signifique flexibilizar a proteção do paciente, promovendo segurança jurídica. O futuro da saúde digital dependerá de encontrar esse ponto de equilíbrio, a fim de salvaguardar a vida e a dignidade da pessoa humana, proporcionando segurança jurídica aos procedimentos integrados pela IA na área da saúde.

^[1]  https://g1.globo.com/fantastico/noticia/2025/10/19/telecirurgia-robotica-inedita-no-brasil-conecta-medico-em-sp-a-paciente-com-cancer-em-porto-alegre.ghtml

[2] Informações in https://www.gov.br/conitec/pt-br/midias/consultas/relatorios/2025/relatorio-preliminar-prostatectomia-radical-assistida-por-robo-cp-50.

[3] Informações extraídas do relatório global sobre inteligência artificial na saúde e seis princípios orientadores para sua concepção e uso, in :https://iris.who.int/server/api/core/bitstreams/f780d926-4ae3-42ce-a6d6-e898a5562621/content

[4] https://www25.senado.leg.br/web/atividade/materias/-/materia/157233

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google