Comandos ocultos em petições acendem alerta sobre manipulação de inteligência artificial no Judiciário

Data:

person using laptop
Photo by Thomas Lefebvre on Unsplash

A crescente adoção da inteligência artificial pelo Poder Judiciário brasileiro tem impulsionado ganhos de eficiência, mas também revelado novos desafios para a segurança dos processos. Nos últimos meses, tribunais identificaram casos de advogados que inseriram comandos ocultos em petições eletrônicas com o objetivo de influenciar eventuais análises realizadas por sistemas de IA.

A prática, conhecida como prompt injection, consiste na inclusão de instruções invisíveis aos leitores humanos, mas potencialmente interpretáveis por ferramentas de inteligência artificial. Em alguns casos, os comandos orientavam os sistemas a favorecer uma das partes, desconsiderar argumentos adversários ou recomendar determinadas conclusões processuais.

Casos foram identificados em diferentes tribunais

Um dos episódios mais recentes ocorreu no Tribunal de Justiça de São Paulo (TJSP). Durante a análise de uma petição apresentada em ação contra uma instituição financeira, foi identificado um trecho oculto, inserido em fonte branca sobre fundo branco, contendo orientações direcionadas a agentes de inteligência artificial.

Segundo o magistrado responsável pelo caso, a mensagem tinha potencial para interferir em ferramentas eventualmente utilizadas no apoio à triagem e análise processual.

Situações semelhantes também foram registradas em tribunais de Minas Gerais, Pará e Paraíba. Em um dos casos mineiros, um advogado foi multado após a identificação de comandos que orientavam sistemas automatizados a produzirem resumos favoráveis ao autor da ação e desfavoráveis à instituição financeira demandada.

Já no Pará, profissionais da advocacia foram sancionados após a descoberta de instruções ocultas destinadas a influenciar a elaboração de manifestações processuais por sistemas de IA.

Uso crescente da IA amplia preocupação com segurança

O avanço da inteligência artificial no Judiciário tem sido expressivo. Estudos recentes indicam que a maioria dos tribunais brasileiros já utiliza algum tipo de ferramenta baseada em IA para atividades como pesquisa jurisprudencial, organização de processos, triagem documental e apoio à elaboração de minutas.

Apesar disso, as normas atualmente em vigor exigem supervisão humana obrigatória e vedam decisões judiciais produzidas exclusivamente por sistemas automatizados.

Especialistas afirmam que os casos recentemente identificados representam apenas os primeiros sinais de um problema que tende a se tornar mais frequente à medida que cresce o uso dessas tecnologias.

Especialistas defendem novas camadas de proteção

Para pesquisadores e profissionais envolvidos no desenvolvimento de soluções tecnológicas para o Judiciário, o desafio não se limita à identificação de textos ocultos. Há preocupação com formas mais sofisticadas de manipulação, que podem envolver anexos, links externos, bancos de dados e outros conteúdos processados por sistemas de inteligência artificial.

Diante desse cenário, especialistas defendem a implementação de mecanismos capazes de filtrar e validar informações antes de seu processamento pelas ferramentas tecnológicas, além do fortalecimento da capacitação de magistrados, servidores e operadores do Direito.

CNJ discute medidas para enfrentar o problema

O Conselho Nacional de Justiça (CNJ) já acompanha o debate e estuda medidas voltadas à prevenção desse tipo de prática. Entre as iniciativas em discussão estão a elaboração de novas diretrizes para o uso da inteligência artificial no sistema de Justiça, pesquisas sobre o impacto da tecnologia e campanhas de conscientização direcionadas aos profissionais do meio jurídico.

Para especialistas, o avanço da inteligência artificial é inevitável e tende a transformar cada vez mais a prestação jurisdicional. O principal desafio, contudo, será garantir que a inovação tecnológica seja acompanhada por mecanismos robustos de segurança, transparência e supervisão humana.

(Com informações da BBC News Brasil por Vitor Tavares)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo