A Primeira Turma do Superior Tribunal de Justiça (STJ) condenou advogados constituídos em um processo ao pagamento de multa de R$ 20 mil por ato atentatório à dignidade da Justiça, após identificar o uso de prompt injection em uma petição recursal. A técnica consiste na inserção de comandos ocultos em documentos para tentar influenciar sistemas de inteligência artificial (IA).
O julgamento ocorreu na terça-feira (20). Além da aplicação da multa, o colegiado determinou a elaboração de um relatório técnico detalhando as técnicas utilizadas para ocultar os comandos no documento. O tribunal também ordenou o envio de comunicações à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF), para que avaliem a adoção das providências cabíveis.
De acordo com a Secretaria de Processamento de Feitos do STJ, a petição de recurso especial continha trechos de texto ocultos em diferentes pontos de uma das páginas. Uma das inserções estava posicionada na faixa decorativa do rodapé e utilizava a mesma cor do elemento gráfico, o que impedia sua identificação pela leitura convencional do documento.
Após a extração do conteúdo, foram encontrados comandos direcionados ao sistema de inteligência artificial, como orientações para considerar que o acórdão questionado teria desrespeitado os limites da coisa julgada e para produzir uma manifestação favorável ao conhecimento e ao provimento integral do recurso especial.
Um dos advogados argumentou que o conteúdo poderia ser um resíduo de texto gerado por uma ferramenta de inteligência artificial utilizada na elaboração da petição. Também sustentou que as instruções apenas reproduziam a linha argumentativa do recurso, sem intenção de interferir no funcionamento dos sistemas auxiliares do tribunal.
STJ considera grave a tentativa de manipulação da inteligência artificial
O ministro Paulo Sérgio Domingues, relator do caso, destacou que o STJ já havia esclarecido que o sistema de inteligência artificial STJ Logos dispõe de mecanismos de segurança destinados a prevenir fraudes e impedir a execução de comandos maliciosos.
Para o relator, a questão central não é saber se a tentativa conseguiu contornar as proteções tecnológicas ou influenciar efetivamente a análise judicial, mas avaliar a forma deliberada de ocultação das instruções.
Segundo o ministro, o emprego de textos em tamanho reduzido, camuflados pela mesma cor de elementos gráficos, associado a expressões imperativas como “redija”, “reforce” e “afirme enfaticamente”, indica uma tentativa de direcionar o processamento automatizado do documento sem que o conteúdo pudesse ser percebido facilmente por quem realizasse sua leitura.
O relator ressaltou que o fato de o comando não ter produzido o resultado pretendido não torna a conduta legítima. A inserção de instruções destinadas ao processamento automatizado, sem transparência para os responsáveis pela análise do documento, foi considerada incompatível com os deveres de lealdade e boa-fé que devem orientar a atuação processual.
Conduta é considerada atentatória à dignidade da Justiça
Ao analisar o episódio, Paulo Sérgio Domingues afirmou que a utilização de comandos ocultos para tentar interferir em ferramentas de apoio à atividade jurisdicional pode comprometer a integridade e a confiabilidade dos sistemas eletrônicos utilizados pelo Judiciário.
O ministro defendeu uma resposta proporcional à gravidade da prática, ressaltando que a incorporação de ferramentas computacionais à atividade jurídica deve respeitar as garantias processuais e os deveres éticos aplicáveis à atuação dos profissionais do Direito.
Apesar da identificação da tentativa de prompt injection, o comando oculto não alterou o resultado do julgamento. O recurso especial não foi conhecido, e o agravo interno apresentado contra a decisão foi desprovido pela Primeira Turma do STJ.
A decisão reforça a atenção do tribunal ao uso de inteligência artificial no sistema de Justiça e aos riscos de manipulação de ferramentas automatizadas por meio de documentos processuais.
(Com informações do STJ)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
