A crescente adoção da inteligência artificial pelo Poder Judiciário brasileiro tem impulsionado ganhos de eficiência, mas também revelado novos desafios para a segurança dos processos. Nos últimos meses, tribunais identificaram casos de advogados que inseriram comandos ocultos em petições eletrônicas com o objetivo de influenciar eventuais análises realizadas por sistemas de IA.
A prática, conhecida como prompt injection, consiste na inclusão de instruções invisíveis aos leitores humanos, mas potencialmente interpretáveis por ferramentas de inteligência artificial. Em alguns casos, os comandos orientavam os sistemas a favorecer uma das partes, desconsiderar argumentos adversários ou recomendar determinadas conclusões processuais.
Casos foram identificados em diferentes tribunais
Um dos episódios mais recentes ocorreu no Tribunal de Justiça de São Paulo (TJSP). Durante a análise de uma petição apresentada em ação contra uma instituição financeira, foi identificado um trecho oculto, inserido em fonte branca sobre fundo branco, contendo orientações direcionadas a agentes de inteligência artificial.
Segundo o magistrado responsável pelo caso, a mensagem tinha potencial para interferir em ferramentas eventualmente utilizadas no apoio à triagem e análise processual.
Situações semelhantes também foram registradas em tribunais de Minas Gerais, Pará e Paraíba. Em um dos casos mineiros, um advogado foi multado após a identificação de comandos que orientavam sistemas automatizados a produzirem resumos favoráveis ao autor da ação e desfavoráveis à instituição financeira demandada.
Já no Pará, profissionais da advocacia foram sancionados após a descoberta de instruções ocultas destinadas a influenciar a elaboração de manifestações processuais por sistemas de IA.
Uso crescente da IA amplia preocupação com segurança
O avanço da inteligência artificial no Judiciário tem sido expressivo. Estudos recentes indicam que a maioria dos tribunais brasileiros já utiliza algum tipo de ferramenta baseada em IA para atividades como pesquisa jurisprudencial, organização de processos, triagem documental e apoio à elaboração de minutas.
Apesar disso, as normas atualmente em vigor exigem supervisão humana obrigatória e vedam decisões judiciais produzidas exclusivamente por sistemas automatizados.
Especialistas afirmam que os casos recentemente identificados representam apenas os primeiros sinais de um problema que tende a se tornar mais frequente à medida que cresce o uso dessas tecnologias.
Especialistas defendem novas camadas de proteção
Para pesquisadores e profissionais envolvidos no desenvolvimento de soluções tecnológicas para o Judiciário, o desafio não se limita à identificação de textos ocultos. Há preocupação com formas mais sofisticadas de manipulação, que podem envolver anexos, links externos, bancos de dados e outros conteúdos processados por sistemas de inteligência artificial.
Diante desse cenário, especialistas defendem a implementação de mecanismos capazes de filtrar e validar informações antes de seu processamento pelas ferramentas tecnológicas, além do fortalecimento da capacitação de magistrados, servidores e operadores do Direito.
CNJ discute medidas para enfrentar o problema
O Conselho Nacional de Justiça (CNJ) já acompanha o debate e estuda medidas voltadas à prevenção desse tipo de prática. Entre as iniciativas em discussão estão a elaboração de novas diretrizes para o uso da inteligência artificial no sistema de Justiça, pesquisas sobre o impacto da tecnologia e campanhas de conscientização direcionadas aos profissionais do meio jurídico.
Para especialistas, o avanço da inteligência artificial é inevitável e tende a transformar cada vez mais a prestação jurisdicional. O principal desafio, contudo, será garantir que a inovação tecnológica seja acompanhada por mecanismos robustos de segurança, transparência e supervisão humana.
(Com informações da BBC News Brasil por Vitor Tavares)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
