Tag: Prompt Injection

O STJ identificou tentativas de fraude processual por meio da técnica de prompt injection, que busca manipular sistemas de inteligência artificial com comandos ocultos inseridos em petições. O tribunal informou que o sistema STJ Logos possui mecanismos de proteção capazes de neutralizar essas ações e anunciou a abertura de investigações administrativas e policiais para apurar responsabilidades.

Em 2025, quando publicamos o artigo "Prompt injection no Judiciário: a fraude invisível que ameaça a imparcialidade", o tema ainda parecia, para muitos, uma preocupação sofisticada demais para o cotidiano forense brasileiro, talvez restrita a debates técnicos de segurança da informação. Não era. Já entre 2020 e 2022, em artigos, capítulos de livros, palestras e estudos sobre inteligência artificial aplicada ao Direito, vínhamos advertindo que a automação da Justiça traria ganhos inevitáveis de eficiência, mas também abriria uma nova superfície de risco para a advocacia, para os tribunais e para a própria integridade do processo.

O texto diz que IA no Judiciário pode ser manipulada por comandos ocultos, o que afeta decisões sem percepção humana, e que só supervisão humana não resolve o problema.

A Justiça de Sorocaba autorizou o envio dos extratos bancários da AFF Empreendimentos ao Ministério Público na investigação sobre a compra de um prédio pela prefeitura por quase R$ 30 milhões. O caso apura suspeita de superfaturamento de cerca de R$ 10 milhões durante a gestão do prefeito Rodrigo Manga, que segue investigado, embora não seja réu nas ações já julgadas.

Advogados que atuam em defesa de Sérgio Roberto de Carvalho, conhecido como “Escobar brasileiro”, admitiram a existência de comandos ocultos de inteligência artificial em petições judiciais. A técnica, chamada de “prompt injection”, buscava influenciar sistemas automatizados de análise jurídica. Após a descoberta, o escritório desistiu da ação e informou ter identificado o mesmo conteúdo em outros 28 processos.