Euler Paulo de Moura Jansen[1]
A falta de transparência dos modelos de Inteligência Artificial (IA) sempre é trazida como um problema para o Poder Judiciário e não raro, valorosos estudiosos do tema caem numa falácia sempre lembrada, por conta de seu caráter midiaticamente preocupante: em muitos casos, o processo pelo qual as decisões automatizadas são tomadas é tão complexo que nem mesmo os desenvolvedores do sistema conseguem explicar como a IA chegou a uma determinada conclusão.
André Ramos Tavares[2], estudioso do Poder Judiciário, por exemplo, traz a referida informação: “Importante registrar, ainda, que as formas ou razões pelas quais um algoritmo (IA) com capacidade de aprendizado toma decisões é desconhecida também de seus criadores”.
Embora essa frase seja sempre replicada como se a IA estivesse tomando rumos não previstos pelos seus desenvolvedores, não é isso que ocorre, pois os modelos de IA não estão saindo do controle, tal qual um cenário “ciberapocalíptico” tanto explorado em grandes produções cinematográficas.
A análise dos sistemas de IA, notadamente aqueles que empregam técnicas de aprendizado de máquina (machine learning) e aprendizado profundo (deep learning), revela uma distinção entre a percepção de imprevisibilidade por parte dos artefatos e a incapacidade cognitiva humana de rastrear as complexas correlações estabelecidas pelos algoritmos. Jenna Burrell[3] (2018) concorda com esta afirmação, tratando a questão da opacidade como decorrente da “complexidade de escala”:
A contínua expansão do poder computacional produziu certas estratégias de otimização que acentuam ainda mais o problema específico da opacidade, em razão da complexidade de escala. Com maiores recursos computacionais e muitos terabytes de dados a serem explorados — frequentemente coletados de forma oportunista a partir dos rastros digitais das atividades dos usuários —, o número de possíveis características (features) a serem incluídas em um classificador cresce rapidamente para muito além do que pode ser facilmente compreendido por um ser humano racional.
De forma interessante, o já citado Tavares[4], noutro momento, bem explica o problema:
Ao alimentar a maioria dos sistemas neurais, atualmente utilizados, com padrões em massa, ocorre um momento em que a máquina aprende, identifica padrões importantes, e passa a orientar suas decisões sem que saibamos com certeza quais os critérios ou elementos relevantes ou exatos que foram utilizados para oferecer os resultados (outputs) apresentados pela máquina. Importante registrar, ainda, que as formas ou razões pelas quais um algoritmo (IA) com capacidade de aprendizado toma decisões é desconhecida também de seus criadores.
Também, não se deve confundir a ausência de motivação das decisões judiciais – vedada pelo ordenamento constitucional brasileiro – com a falta de transparência ou opacidade técnica dos modelos de IA. O princípio da motivação das decisões judiciais, inserto no art. 93, IX, da Constituição, impõe ao magistrado o dever de explicitar as razões, os motivos de fato e de direito que fundamentam suas decisões e, ademais, observa-se a harmonia deste com o princípio da publicidade e da transparência administrativa previsto no art. 37 da Constituição. É uma exigência na intenção de assegurar o controle social da jurisdição, a legitimidade democrática da função judicial e o efetivo exercício do contraditório e da ampla defesa.
Por outro lado, a opacidade algorítmica dos modelos de IA, decorrente da complexidade técnica daqueles sistemas, conforme acima explicada, não pode ser equiparada à falta de motivação judicial: enquanto esta constitui vício insanável de validade da decisão, aquela é um desafio técnico que demanda transparência algorítmica (ou explicabilidade) e governança responsável. Veja-se que caso solicitada uma minuta a um modelo de IA sobre um determinado caso o resultado vai, sem dúvida, ser uma decisão alcançada por um viés estocástico-probabilístico, mas obtido por conta de alguma referência interna da base de treinamento processada pela rede neural artificial, mas com uma difícil rastreabilidade lógica.
Visando solucionar problemas proativamente e quiçá preocupada com a imagem institucional do Poder Judiciário – tal qual a “mulher de César”[5], a Resolução CNJ nº 615/2025, ao disciplinar o uso da IA no Poder Judiciário, insiste na chamada reserva de humanidade, segundo a qual a atividade decisória é indelegável e deve ter supervisão humana permanente. Em vários momentos a norma determina que as ferramentas de IA sejam utilizadas apenas para elaboração de minutas e apoio ao processo decisório, cabendo ao magistrado a supervisão final e a assunção de responsabilidade pelo conteúdo da decisão que eventualmente subscreva.
Sem dúvida, a combinação entre a reserva de humanidade, a permanente supervisão humana e uma hábil governança do modelo de IA permite a resolução da tensão entre a opacidade tecnológica e o dever de motivação, pois atento a esse tripé, o juiz não apenas preserva sua autonomia intelectual, mas também garante a observância do princípio constitucional da transparência e da motivação, reafirmando o caráter humano e responsável da jurisdição.
O estudioso de sistemas judiciais e sua confluência com a tecnologia, Richard Susskind[6] traz belíssimo argumento:
Os tribunais são instituições públicas influentes, nas quais se concentra grande poder. Eles devem ser visíveis, inteligíveis e responsáveis. Oponemo-nos a sistemas judiciais cujos funcionamentos sejam mantidos em sigilo ou envoltos em segredo. […] O funcionamento de todo o sistema judicial deve estar aberto ao escrutínio público, assim como a condução e as conclusões dos casos individuais. Isso, por sua vez, deve fortalecer e ampliar a confiança e a credibilidade tanto no sistema judiciário quanto, de forma mais ampla, no Estado de Direito.
Por isso, ousamos que, embora a transparência dos algoritmos utilizados no Poder Judiciário não seja um problema, é uma obrigação com a habilidade de fazer resplandecer as decisões dessa instituição com o brilho da legitimidade democrática.
[1] Mestrando em Direito e Sustentabilidade (UNIPÊ/PB). Especialista em Direito Processual Civil (PUC/RS) e em Gestão Jurisdicional de Meios e de Fins (UNIPÊ/PB). Juiz de Direito em Bayeux/PB.
[2] TAVARES, André Ramos O Juiz Digital: da atuação em rede à Justiça algorítmica. São Paulo: Expressa, 2022. Edição do Kindle. p. 75.
[3] BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 1‑12, SAGE Publications, jan./jun. 2016. DOI: 10.1177/2053951715622512. Disponível em: https://journals.sagepub.com/doi/epub/10.1177/2053951715622512. Acesso em: 4 ago. 2025.
[4] Op. Cit. p. 75.
[5] Frase atribuída a César proclamou: “A mulher de César deve estar acima de qualquer suspeita. A mulher de César não basta ser honesta, deve parecer honesta”. É fácil perceber que a retidão institucional do poder estatal que julga tudo e os demais poderes deve não só existir, ser flagrante.
[6] SUSSKIND, Richard. Online Courts and the Future of Justice. New York, Oxford University Press Oxford, 2019. Edição do Kindle. p. 79, tradução nossa.
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
