Inteligência Artificial e supervisão humana: o que se exige de quem julga?

Alexandre Miguel

Há uma cena que se repete nos gabinetes de todo o país. O sistema sugere a minuta, o assessor revisa a forma, o magistrado lê o dispositivo e assina. Formalmente, houve supervisão humana. Materialmente, talvez não tenha havido nenhuma. É nesse intervalo, entre a assinatura e o juízo efetivo sobre o caso, que se decide se a inteligência artificial será instrumento da jurisdição ou um substituto silencioso dela.

A pergunta deixou de ser teórica. Os tribunais brasileiros já operam ferramentas de triagem, classificação, pesquisa de precedentes e redação assistida, e a inteligência artificial generativa ampliou o alcance dessas ferramentas para o núcleo do trabalho decisório. O risco que me parece mais sério não é o erro grosseiro, facilmente percebido. É o erro plausível, bem redigido, que atravessa a revisão porque ninguém o procurou.

O Conselho Nacional de Justiça (CNJ) respondeu a esse cenário com a Resolução nº 615, de 11 de março de 2025 e passou a disciplinar o desenvolvimento, a governança, a auditoria, o monitoramento e o uso de soluções de inteligência artificial no Poder Judiciário. O texto adota a lógica da regulação por risco. Separa as aplicações vedadas, por incompatíveis com direitos fundamentais, daquelas de alto risco, admitidas sob controles reforçados, e das de baixo risco, voltadas a tarefas acessórias e rotineiras. Criou ainda o Comitê Nacional de Inteligência Artificial do Judiciário, com a atribuição de acompanhar e atualizar esse quadro.

Entre os fundamentos da norma está a participação e a supervisão humana em todas as etapas dos ciclos de desenvolvimento e de utilização das soluções. A expressão é ampla de propósito. Não se limita ao momento da assinatura. Alcança a escolha da ferramenta, a definição dos dados que a alimentam, a forma de uso no dia a dia e a verificação posterior dos resultados. Os tribunais vêm internalizando essa diretriz em políticas próprias, como fez o Tribunal de Justiça de Rondônia com a Resolução nº 356/2025, que instituiu sua Política de Inteligência Artificial e previu supervisão e revisão humana nas etapas decisórias em que haja aplicação de IA.

O problema é que a norma não se cumpre sozinha. A literatura sobre interação entre pessoas e sistemas automatizados descreve há décadas o chamado viés de automação, a tendência de aceitar a sugestão da máquina e de reduzir a vigilância justamente quando o sistema costuma acertar. Quanto melhor a ferramenta, maior a tentação de confiar nela sem conferir. No ambiente judicial, com acervos elevados e metas de produtividade, essa tendência encontra terreno fértil.

Supervisão significativa, portanto, exige condições concretas. A primeira é rastreabilidade: o magistrado precisa saber o que foi produzido pela ferramenta, a partir de quais fontes e com que grau de confiabilidade. A segunda é tempo e competência para divergir, o que passa por formação continuada e não apenas por treinamento operacional. A terceira é auditoria periódica, capaz de identificar vieses que nenhum revisor isolado enxergaria, porque só aparecem quando se comparam milhares de resultados. Um sistema pode tratar desigualmente grupos sociais sem que nenhuma decisão individual pareça injusta.

Há também a dimensão da segurança. Sistemas generativos podem ser manipulados por instruções ocultas inseridas em documentos, a técnica conhecida como injeção de prompt. Uma petição pode carregar comandos invisíveis ao leitor humano e legíveis pela máquina. Esse tipo de vulnerabilidade já é objeto de atenção e mostra que a supervisão humana também é uma camada de defesa institucional, e não apenas uma exigência ética.

A Resolução nº 615/2025 oferece um bom marco. Mas marcos normativos valem pelo que provocam na rotina. Se a supervisão humana virar um campo a ser preenchido, teremos cumprido a letra e perdido o sentido. O juiz que assina sem ter julgado não está sendo auxiliado pela tecnologia; está sendo substituído por ela, ainda que ninguém tenha decidido isso.

A legitimidade da jurisdição repousa numa promessa simples: quem decide responde pelo que decidiu e pode explicar por quê. A inteligência artificial pode tornar o Judiciário mais rápido e mais acessível, e isso é desejável. O que ela não pode é deslocar essa responsabilidade para um lugar onde ninguém a alcança. Supervisionar, no sentido que a norma exige, é continuar julgando.

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google