A Sexta Turma do Superior Tribunal de Justiça (STJ) determinou, em julgamento realizado nesta terça-feira (1º), a comunicação à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF) para a adoção das providências cabíveis após identificar um comando oculto em uma petição de recurso especial com o objetivo de influenciar o comportamento de sistemas de inteligência artificial (IA) utilizados pelo tribunal. O conteúdo, inserido de forma não perceptível na documentação apresentada à Corte, buscava direcionar a interpretação da peça processual para favorecer a parte recorrente. A prática, conhecida como prompt injection, pode, segundo o colegiado, caracterizar ato atentatório à dignidade da Justiça e, em determinadas circunstâncias, configurar crime de fraude processual.
O relator do recurso, ministro Og Fernandes, classificou o episódio como “gravíssimo” e ressaltou que os processos submetidos ao STJ são analisados de maneira minuciosa pelos ministros e suas equipes. Segundo o magistrado, as ferramentas de inteligência artificial não são utilizadas para produzir automaticamente decisões que posteriormente seriam apenas assinadas pelos julgadores. Para Og Fernandes, a tentativa de interferir na atividade jurisdicional não teria êxito, sendo necessário, contudo, reforçar a utilização responsável das novas tecnologias no âmbito do Poder Judiciário.
O caso teve origem em um recurso especial apresentado contra acórdão do Tribunal de Justiça da Paraíba (TJPB), que havia considerado manifestamente contrária às provas dos autos a decisão que absolvera um homem acusado de homicídio. Durante a análise do recurso, a equipe do ministro Og Fernandes identificou, na última página da petição, um texto que não era perceptível durante a leitura convencional do documento, pois havia sido formatado em fonte branca sobre uma página da mesma cor. A mensagem continha uma instrução direcionada especificamente a sistemas de inteligência artificial, com o propósito de fazer com que a petição fosse interpretada de maneira favorável aos argumentos da defesa.
Após ser intimada a se manifestar sobre a existência do comando oculto, a defesa afirmou ter sido surpreendida com a identificação do conteúdo e informou ter adotado medidas internas de compliance para prevenir a ocorrência de situações semelhantes. Para o ministro Og Fernandes, entretanto, a justificativa apresentada não afasta a gravidade do episódio. Na avaliação do relator, o comando buscava influenciar o funcionamento de uma ferramenta de inteligência artificial para possibilitar a elaboração automática de uma minuta favorável à defesa, sem a necessária análise humana.
O magistrado ressaltou que a atividade jurisdicional não é exercida com confiança irrestrita em ferramentas de inteligência artificial. Segundo Og Fernandes, esses recursos devem permanecer submetidos à análise e ao controle dos julgadores, especialmente porque a tecnologia não substitui a sensibilidade humana necessária ao exercício da jurisdição. O ministro também destacou que a alegação de desconhecimento sobre a inserção do prompt injection não modifica a necessidade de apuração dos fatos, cabendo ao magistrado analisar a ocorrência e adotar as medidas institucionais consideradas adequadas.
Diante da situação identificada nos autos, o STJ determinou que o episódio seja comunicado à OAB e ao MPF, para que sejam avaliadas as providências cabíveis dentro das respectivas esferas de competência.
Processo: REsp 2256731
(Com informações do STJ)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
