O Comitê Nacional de Inteligência Artificial do Judiciário (CNIAJ), vinculado ao Conselho Nacional de Justiça (CNJ), aprovou em 27 de maio a Manifestação Técnica CNIAJ nº 1/2026, documento que estabelece diretrizes para prevenir ataques conhecidos como prompt injection nos sistemas de inteligência artificial utilizados pelo Poder Judiciário.
A prática consiste na inserção de comandos ocultos em documentos processuais com o objetivo de influenciar ou manipular as respostas produzidas por ferramentas de IA. A preocupação do CNJ é reduzir a vulnerabilidade dos sistemas e preservar a confiabilidade das tecnologias que vêm sendo incorporadas à atividade jurisdicional.
Entre as recomendações está a adoção de filtros de higienização capazes de identificar textos invisíveis, escritos fora da área perceptível do documento, sobrepostos a outros elementos, com fontes extremamente reduzidas ou com baixo contraste. A medida busca impedir que instruções ocultas sejam interpretadas pelos modelos de inteligência artificial.
O documento também orienta que os tribunais implementem mecanismos de rastreabilidade antes que documentos produzidos pelas partes sejam submetidos a sistemas de IA destinados à elaboração de minutas de decisões. Nesse processo, devem ser registrados dados como identificação do usuário, vínculo com certificado digital e autenticidade dos arquivos por meio de códigos de verificação.
Outra prática recomendada é a utilização dos chamados “contratos de resposta”, metodologia que limita a liberdade de resposta da inteligência artificial por meio de comandos previamente estruturados. Segundo o CNJ, a formulação dos prompts em etapas facilita a identificação de interferências indevidas e reduz o risco de que instruções ocultas influenciem o resultado produzido pela ferramenta.
Além das medidas tecnológicas, a manifestação reforça a necessidade de supervisão humana efetiva. Os documentos considerados não confiáveis devem ser tratados de forma isolada antes de serem analisados pelos sistemas, e os tribunais são incentivados a realizar avaliações periódicas para detectar vulnerabilidades, prevenir o envenenamento de bases de dados e evitar a utilização de conteúdos não validados. O CNJ, contudo, não estabeleceu prazo para a implementação das recomendações.
Caso haja suspeita de prompt injection, a orientação é que o fato seja registrado nos autos de forma clara e objetiva, preservando a rastreabilidade das informações. Eventuais sanções civis ficarão a cargo do magistrado responsável pelo caso, podendo incluir multa por ato atentatório à dignidade da justiça ou litigância de má-fé, nos termos dos artigos 77 e 80 do Código de Processo Civil. A conduta também poderá ser comunicada às autoridades competentes para apuração de eventual responsabilidade criminal.
Como funciona o prompt injection
O prompt injection representa uma das principais ameaças à utilização da inteligência artificial no ambiente judicial. O ataque ocorre quando comandos ocultos são inseridos em petições, recursos ou outros documentos processuais para alterar o comportamento da ferramenta.
Um exemplo seria a inclusão de uma instrução invisível em uma petição, escrita com a mesma cor do fundo e em tamanho mínimo, orientando a IA a ignorar determinados argumentos ou sugerir uma conclusão favorável a uma das partes. Embora imperceptível aos olhos humanos, a mensagem pode ser interpretada pelo sistema automatizado.
Essas manipulações podem ocorrer de forma direta, alterando instruções previamente existentes, ou de forma indireta, por meio da exploração de documentos e conteúdos externos. Em ambos os casos, o resultado pode comprometer a imparcialidade e a confiabilidade das respostas geradas pela tecnologia.
Crescimento do uso da IA no Judiciário
Levantamento recente do CNJ aponta que 45,8% dos tribunais brasileiros já utilizam ferramentas de inteligência artificial para auxiliar magistrados em atividades como elaboração de minutas, correção ortográfica, aprimoramento de textos e produção de resumos processuais.
Entre os tribunais que ainda não adotaram a tecnologia, mais de 80% informaram ter intenção de implementá-la nos próximos anos, indicando uma tendência de expansão do uso dessas ferramentas no sistema de justiça.
Paralelamente, a advocacia também vem discutindo parâmetros para a utilização responsável da tecnologia. Em 2024, a Ordem dos Advogados do Brasil editou a Recomendação nº 001/2024, com orientações voltadas ao uso ético da inteligência artificial na atividade jurídica.
Nos últimos meses, casos de suposta manipulação de sistemas por meio de comandos ocultos passaram a chamar a atenção. Advogados e procuradores já foram alvo de investigações e sanções por suspeitas de utilização indevida dessas técnicas em processos judiciais.
Integridade do processo judicial
Especialistas alertam que o prompt injection pode configurar não apenas litigância de má-fé e ato atentatório à dignidade da justiça, mas também, em determinadas circunstâncias, o crime de fraude processual previsto no artigo 347 do Código Penal.
Para o CNJ, o avanço da inteligência artificial no Judiciário exige a adoção de mecanismos robustos de segurança capazes de assegurar que a tecnologia seja utilizada para ampliar a eficiência da prestação jurisdicional, sem comprometer garantias fundamentais do processo.
O desafio, segundo a manifestação técnica, vai além da esfera tecnológica. Trata-se de preservar princípios como a boa-fé processual, a transparência e o devido processo legal em um cenário cada vez mais marcado pela presença da inteligência artificial.
(Com informações do JOTA por Mariana Timóteo de O. Pontual Marletti)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
