O Comitê Nacional de Inteligência Artificial no Judiciário aprovou, nesta quarta-feira (27), duas iniciativas voltadas à prevenção de manipulações em sistemas de inteligência artificial utilizados pelo Poder Judiciário. As medidas foram coordenadas pelo Conselho Nacional de Justiça (CNJ) e buscam fortalecer a segurança no uso de ferramentas tecnológicas aplicadas à atividade judicial.
Entre as iniciativas aprovadas está a Manifestação Técnica CNIAJ 1/2026, que reconhece os riscos relacionados à inserção de comandos ocultos em documentos processuais capazes de interferir no funcionamento de sistemas de IA ou provocar o vazamento indevido de informações.
Segundo o presidente do Comitê Nacional de IA, conselheiro Rodrigo Badaró, a orientação tem como objetivo impedir que conteúdos escondidos em arquivos processuais manipulem respostas produzidas por ferramentas de inteligência artificial utilizadas por tribunais e magistrados.
Com apoio do Departamento de Tecnologia da Informação do CNJ e do Programa Conecta, o Comitê elaborou um estudo com medidas práticas para aumentar a confiabilidade das ferramentas tecnológicas empregadas pelo Judiciário. Entre as ações previstas estão procedimentos para preparação de documentos antes de serem submetidos à IA e mecanismos de revisão das respostas produzidas pelos sistemas, garantindo que magistrados e servidores mantenham o controle sobre a análise dos autos.
Outra medida aprovada foi a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA). O programa estabelece uma frente permanente de atuação voltada ao enfrentamento de riscos relacionados à manipulação de sistemas de IA no ambiente judicial.
A proposta prevê suporte a projetos de segurança tecnológica e preparação dos órgãos judiciais para novas modalidades de ataques digitais, permitindo ao CNJ estabelecer parâmetros nacionais de proteção e respostas padronizadas entre os tribunais.
O Comitê também definiu que os sistemas utilizados pelos tribunais deverão registrar nos autos eventuais conteúdos suspeitos identificados pelas ferramentas de IA, como comandos ocultos em textos invisíveis ou informações inseridas indevidamente em arquivos processuais. O objetivo é possibilitar a apuração dos fatos e eventual responsabilização dos envolvidos.
As medidas integram as prioridades da gestão 2025-2027 do CNJ e do Supremo Tribunal Federal (STF), presididos pelo ministro Edson Fachin. Entre os focos da gestão estão a uniformização de práticas, a prevenção de riscos éticos e o fortalecimento do sistema de precedentes vinculantes.
As iniciativas também se somam às ações de cibersegurança desenvolvidas pelo CNJ por meio do Programa Justiça [+Segura] e da Estratégia Nacional de Segurança Cibernética do Poder Judiciário.
A Manifestação Técnica CNIAJ 1/2026 representa a primeira orientação nacional voltada especificamente à prevenção de manipulação adversarial em sistemas de inteligência artificial utilizados pelo Judiciário brasileiro e ainda deverá ser submetida ao Plenário do CNJ.
O Comitê Nacional de Inteligência Artificial no Judiciário atua na definição de parâmetros para adoção segura e supervisionada de sistemas de IA pelos órgãos judiciais, conforme as diretrizes estabelecidas pela Resolução CNJ nº 615/2025.
(Com informações do Juri News)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
