O Superior Tribunal de Justiça (STJ) identificou, nas últimas semanas, tentativas de uso da técnica conhecida como prompt injection em petições protocoladas na corte. A prática consiste na inserção de comandos ocultos em documentos aparentemente comuns para manipular sistemas de inteligência artificial (IA), induzindo-os a executar instruções indevidas.
Embora o método já fosse conhecido entre especialistas em tecnologia, o tema ganhou repercussão no meio jurídico após relatos de possíveis fraudes processuais envolvendo IA no Tribunal Regional do Trabalho da 8ª Região (TRT8), divulgados no início de maio.
De acordo com o presidente do STJ, ministro Herman Benjamin, o tribunal vai apurar todas as tentativas de fraude detectadas. Segundo ele, o sistema de IA generativa da corte, chamado STJ Logos, já foi desenvolvido com mecanismos capazes de neutralizar esse tipo de artifício.
“O STJ Logos foi criado com comandos específicos para impedir esse tipo de manipulação. Estamos identificando todas as tentativas de prompt injection para possibilitar a aplicação de sanções processuais e a responsabilização administrativa e criminal dos envolvidos”, afirmou o ministro.
Sistema possui três camadas de proteção
Mesmo quando recebe documentos contendo comandos ocultos, o STJ Logos conta com camadas de segurança que impedem a execução das instruções maliciosas.
O modelo de proteção do sistema funciona em três etapas complementares. Na primeira, ocorre um pré-processamento rigoroso dos documentos, com separação entre dados e instruções, além do bloqueio preventivo de comandos suspeitos antes que cheguem ao modelo de IA.
Na segunda camada, o sistema delimita o contexto de atuação da inteligência artificial, evitando que comandos externos interfiram nas diretrizes centrais da plataforma.
Já na terceira etapa, um filtro de conformidade revisa as respostas produzidas pela IA para assegurar que estejam alinhadas às políticas de segurança e integridade do tribunal.
Segundo o STJ, a proteção dos processos judiciais é prioridade desde o início do desenvolvimento da ferramenta, lançada oficialmente em fevereiro de 2025. As equipes técnicas seguem aprimorando continuamente os mecanismos de defesa do sistema.
Medidas administrativas e investigação policial
Além das barreiras tecnológicas, a Presidência do STJ determinou que todas as tentativas de uso de prompt injection sejam registradas nos autos dos processos. A medida permitirá que ministros e ministras da corte possam aplicar sanções processuais aos responsáveis.
O tribunal também anunciou a instauração de inquérito policial e de procedimento administrativo para investigar os casos. Advogados e escritórios eventualmente envolvidos poderão ser ouvidos, com possibilidade de responsabilização criminal e disciplinar.
O que é prompt injection?
O prompt injection é uma técnica usada para tentar manipular modelos de inteligência artificial, especialmente os chamados grandes modelos de linguagem (LLMs). Nesse tipo de ataque, comandos ocultos são inseridos em documentos, como petições e recursos, sem que sejam percebidos visualmente por leitores humanos.
Como sistemas de IA interpretam textos a partir de comandos e contexto, essas instruções maliciosas podem tentar induzir a ferramenta a ignorar regras originais de análise ou favorecer determinada parte em um processo.
(Com informações do STJ)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
