CNJ recomenda medidas para proteger sistemas judiciais contra manipulação de inteligência artificial

Data:

CNJ recomenda medidas para proteger sistemas judiciais contra manipulação de inteligência artificial | Juristas
Créditos: stevanovicigor / iStock

O Comitê Nacional de Inteligência Artificial do Judiciário (CNIAJ), vinculado ao Conselho Nacional de Justiça (CNJ), aprovou em 27 de maio a Manifestação Técnica CNIAJ nº 1/2026, documento que estabelece diretrizes para prevenir ataques conhecidos como prompt injection nos sistemas de inteligência artificial utilizados pelo Poder Judiciário.

A prática consiste na inserção de comandos ocultos em documentos processuais com o objetivo de influenciar ou manipular as respostas produzidas por ferramentas de IA. A preocupação do CNJ é reduzir a vulnerabilidade dos sistemas e preservar a confiabilidade das tecnologias que vêm sendo incorporadas à atividade jurisdicional.

Entre as recomendações está a adoção de filtros de higienização capazes de identificar textos invisíveis, escritos fora da área perceptível do documento, sobrepostos a outros elementos, com fontes extremamente reduzidas ou com baixo contraste. A medida busca impedir que instruções ocultas sejam interpretadas pelos modelos de inteligência artificial.

O documento também orienta que os tribunais implementem mecanismos de rastreabilidade antes que documentos produzidos pelas partes sejam submetidos a sistemas de IA destinados à elaboração de minutas de decisões. Nesse processo, devem ser registrados dados como identificação do usuário, vínculo com certificado digital e autenticidade dos arquivos por meio de códigos de verificação.

Outra prática recomendada é a utilização dos chamados “contratos de resposta”, metodologia que limita a liberdade de resposta da inteligência artificial por meio de comandos previamente estruturados. Segundo o CNJ, a formulação dos prompts em etapas facilita a identificação de interferências indevidas e reduz o risco de que instruções ocultas influenciem o resultado produzido pela ferramenta.

Além das medidas tecnológicas, a manifestação reforça a necessidade de supervisão humana efetiva. Os documentos considerados não confiáveis devem ser tratados de forma isolada antes de serem analisados pelos sistemas, e os tribunais são incentivados a realizar avaliações periódicas para detectar vulnerabilidades, prevenir o envenenamento de bases de dados e evitar a utilização de conteúdos não validados. O CNJ, contudo, não estabeleceu prazo para a implementação das recomendações.

Caso haja suspeita de prompt injection, a orientação é que o fato seja registrado nos autos de forma clara e objetiva, preservando a rastreabilidade das informações. Eventuais sanções civis ficarão a cargo do magistrado responsável pelo caso, podendo incluir multa por ato atentatório à dignidade da justiça ou litigância de má-fé, nos termos dos artigos 77 e 80 do Código de Processo Civil. A conduta também poderá ser comunicada às autoridades competentes para apuração de eventual responsabilidade criminal.

Como funciona o prompt injection

O prompt injection representa uma das principais ameaças à utilização da inteligência artificial no ambiente judicial. O ataque ocorre quando comandos ocultos são inseridos em petições, recursos ou outros documentos processuais para alterar o comportamento da ferramenta.

Um exemplo seria a inclusão de uma instrução invisível em uma petição, escrita com a mesma cor do fundo e em tamanho mínimo, orientando a IA a ignorar determinados argumentos ou sugerir uma conclusão favorável a uma das partes. Embora imperceptível aos olhos humanos, a mensagem pode ser interpretada pelo sistema automatizado.

Essas manipulações podem ocorrer de forma direta, alterando instruções previamente existentes, ou de forma indireta, por meio da exploração de documentos e conteúdos externos. Em ambos os casos, o resultado pode comprometer a imparcialidade e a confiabilidade das respostas geradas pela tecnologia.

Crescimento do uso da IA no Judiciário

Levantamento recente do CNJ aponta que 45,8% dos tribunais brasileiros já utilizam ferramentas de inteligência artificial para auxiliar magistrados em atividades como elaboração de minutas, correção ortográfica, aprimoramento de textos e produção de resumos processuais.

Entre os tribunais que ainda não adotaram a tecnologia, mais de 80% informaram ter intenção de implementá-la nos próximos anos, indicando uma tendência de expansão do uso dessas ferramentas no sistema de justiça.

Paralelamente, a advocacia também vem discutindo parâmetros para a utilização responsável da tecnologia. Em 2024, a Ordem dos Advogados do Brasil editou a Recomendação nº 001/2024, com orientações voltadas ao uso ético da inteligência artificial na atividade jurídica.

Nos últimos meses, casos de suposta manipulação de sistemas por meio de comandos ocultos passaram a chamar a atenção. Advogados e procuradores já foram alvo de investigações e sanções por suspeitas de utilização indevida dessas técnicas em processos judiciais.

Integridade do processo judicial

Especialistas alertam que o prompt injection pode configurar não apenas litigância de má-fé e ato atentatório à dignidade da justiça, mas também, em determinadas circunstâncias, o crime de fraude processual previsto no artigo 347 do Código Penal.

Para o CNJ, o avanço da inteligência artificial no Judiciário exige a adoção de mecanismos robustos de segurança capazes de assegurar que a tecnologia seja utilizada para ampliar a eficiência da prestação jurisdicional, sem comprometer garantias fundamentais do processo.

O desafio, segundo a manifestação técnica, vai além da esfera tecnológica. Trata-se de preservar princípios como a boa-fé processual, a transparência e o devido processo legal em um cenário cada vez mais marcado pela presença da inteligência artificial.

(Com informações do JOTA por Mariana Timóteo de O. Pontual Marletti)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo