O Tribunal de Justiça de São Paulo (TJ-SP) identificou o uso da técnica conhecida como “prompt injection” em processos judiciais distribuídos nas comarcas de Campinas e da capital paulista. A prática consiste na inserção de comandos ocultos em sistemas de inteligência artificial para tentar manipular respostas automatizadas.
Segundo os magistrados, foram encontrados indícios de que petições iniciais continham instruções invisíveis ao olho humano, escritas em fonte branca sobre fundo branco, mas detectáveis por ferramentas tecnológicas. O comando orientava possíveis sistemas de IA a deferirem pedidos automaticamente, como justiça gratuita, tutela de urgência e citação da parte ré.
As ações analisadas apresentavam padrão repetitivo e foram atribuídas a um mesmo advogado, com indícios de litigância predatória e uso de petições padronizadas com manipulação tecnológica.
Em uma das decisões, o juiz classificou a conduta como grave e ofensiva à dignidade do Judiciário, apontando a ocorrência de fraude processual e litigância predatória em massa. O magistrado julgou os pedidos improcedentes, aplicou multa por litigância de má-fé equivalente a 10 salários-mínimos ao advogado e determinou o envio do caso ao Ministério Público, à Corregedoria-Geral da Justiça e às seccionais da OAB de São Paulo e Santa Catarina para apuração criminal e disciplinar.
A identificação do chamado “prompt injection” ocorreu durante o uso supervisionado de ferramentas de inteligência artificial por magistrados do TJ-SP, em conformidade com a Resolução CNJ nº 615/2025, que estabelece diretrizes para o uso de IA no Poder Judiciário. O modelo adotado pelo tribunal exige revisão humana obrigatória e proíbe decisões automatizadas sem controle judicial.
Para o tribunal, ainda que a tecnologia tenha permitido identificar os comandos ocultos, a prática revela grave violação ética e processual, por comprometer a boa-fé e a integridade do sistema de Justiça.
(Com informações do TJ-SP)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
