STJ vai investigar tentativas de fraude com inteligência artificial em processos judiciais

Data:

inss
Créditos: M-A-U | iStock

O Superior Tribunal de Justiça (STJ) identificou, nas últimas semanas, tentativas de uso da técnica conhecida como prompt injection em petições protocoladas na corte. A prática consiste na inserção de comandos ocultos em documentos aparentemente comuns para manipular sistemas de inteligência artificial (IA), induzindo-os a executar instruções indevidas.

Embora o método já fosse conhecido entre especialistas em tecnologia, o tema ganhou repercussão no meio jurídico após relatos de possíveis fraudes processuais envolvendo IA no Tribunal Regional do Trabalho da 8ª Região (TRT8), divulgados no início de maio.

De acordo com o presidente do STJ, ministro Herman Benjamin, o tribunal vai apurar todas as tentativas de fraude detectadas. Segundo ele, o sistema de IA generativa da corte, chamado STJ Logos, já foi desenvolvido com mecanismos capazes de neutralizar esse tipo de artifício.

“O STJ Logos foi criado com comandos específicos para impedir esse tipo de manipulação. Estamos identificando todas as tentativas de prompt injection para possibilitar a aplicação de sanções processuais e a responsabilização administrativa e criminal dos envolvidos”, afirmou o ministro.

Sistema possui três camadas de proteção

Mesmo quando recebe documentos contendo comandos ocultos, o STJ Logos conta com camadas de segurança que impedem a execução das instruções maliciosas.

O modelo de proteção do sistema funciona em três etapas complementares. Na primeira, ocorre um pré-processamento rigoroso dos documentos, com separação entre dados e instruções, além do bloqueio preventivo de comandos suspeitos antes que cheguem ao modelo de IA.

Na segunda camada, o sistema delimita o contexto de atuação da inteligência artificial, evitando que comandos externos interfiram nas diretrizes centrais da plataforma.

Já na terceira etapa, um filtro de conformidade revisa as respostas produzidas pela IA para assegurar que estejam alinhadas às políticas de segurança e integridade do tribunal.

Segundo o STJ, a proteção dos processos judiciais é prioridade desde o início do desenvolvimento da ferramenta, lançada oficialmente em fevereiro de 2025. As equipes técnicas seguem aprimorando continuamente os mecanismos de defesa do sistema.

Medidas administrativas e investigação policial

Além das barreiras tecnológicas, a Presidência do STJ determinou que todas as tentativas de uso de prompt injection sejam registradas nos autos dos processos. A medida permitirá que ministros e ministras da corte possam aplicar sanções processuais aos responsáveis.

O tribunal também anunciou a instauração de inquérito policial e de procedimento administrativo para investigar os casos. Advogados e escritórios eventualmente envolvidos poderão ser ouvidos, com possibilidade de responsabilização criminal e disciplinar.

O que é prompt injection?

O prompt injection é uma técnica usada para tentar manipular modelos de inteligência artificial, especialmente os chamados grandes modelos de linguagem (LLMs). Nesse tipo de ataque, comandos ocultos são inseridos em documentos, como petições e recursos, sem que sejam percebidos visualmente por leitores humanos.

Como sistemas de IA interpretam textos a partir de comandos e contexto, essas instruções maliciosas podem tentar induzir a ferramenta a ignorar regras originais de análise ou favorecer determinada parte em um processo.

(Com informações do STJ)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo