Manipulação de IA no Judiciário acende alerta sobre segurança e ética processual

Data:

Tomada de Decisão Apoiada - TDA - Modelo de Petição - Portal Juristas
Créditos: Jirsak / Depositphotos

O avanço da inteligência artificial no sistema de Justiça brasileiro trouxe ganhos de eficiência, mas também abriu espaço para novos riscos ligados à segurança digital e à integridade processual. Especialistas alertam que práticas conhecidas como “prompt injection” já começaram a aparecer em processos judiciais e podem comprometer a imparcialidade e a confiabilidade das ferramentas de IA utilizadas pelo Judiciário.

O tema ganhou relevância após a identificação de um caso concreto na Justiça do Trabalho envolvendo tentativa de manipulação algorítmica em uma peça processual. Segundo o relato, o documento continha comandos ocultos em texto invisível — utilizando fonte branca sobre fundo branco — destinados a influenciar sistemas de inteligência artificial responsáveis pela leitura e análise de processos.

A tentativa foi detectada pelo sistema Galileu, ferramenta de IA utilizada pela Justiça do Trabalho. O juízo classificou a conduta como ato atentatório à dignidade da Justiça, aplicando multa e determinando comunicações institucionais à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público.

Especialistas explicam que o prompt injection consiste na inserção de instruções ocultas em documentos destinados a serem processados por inteligência artificial. O objetivo pode ser induzir o sistema a priorizar determinadas teses, ignorar argumentos, classificar incorretamente processos ou até sugerir decisões enviesadas.

O risco preocupa porque a manipulação ocorre antes mesmo da análise humana do magistrado, afetando sistemas de triagem, resumo, pesquisa jurisprudencial e apoio à elaboração de minutas judiciais.

Segundo os autores do estudo, a litigância de má-fé ganha uma nova dimensão no ambiente digital, passando a explorar vulnerabilidades tecnológicas em vez de apenas fraudes documentais tradicionais.

O debate também levanta questionamentos sobre governança tecnológica, transparência e responsabilidade no uso de IA pelo Poder Judiciário. Especialistas defendem a adoção de protocolos rigorosos de segurança, incluindo sanitização de documentos, detecção de textos invisíveis, auditoria de sistemas e revisão humana obrigatória.

Além disso, cresce a pressão para que a OAB estabeleça regras mais detalhadas sobre o uso ético da inteligência artificial na advocacia, incluindo punições para manipulação algorítmica e uso indevido de comandos ocultos em peças processuais.

O artigo também alerta para outros riscos emergentes relacionados à IA no Judiciário, como contaminação de bases de dados, vazamento de informações sigilosas, criação de precedentes artificiais, deepfakes probatórios e dependência excessiva de sistemas automatizados.

Para especialistas, a modernização do Judiciário depende não apenas da adoção de novas tecnologias, mas da criação de mecanismos capazes de garantir segurança, auditabilidade, contraditório e preservação das garantias constitucionais.

Justiça amplia acesso a documentos financeiros em caso envolvendo prefeito de Sorocaba

A Justiça de Sorocaba autorizou o compartilhamento dos extratos bancários da empresa AFF Empreendimentos Imobiliários e Participações com a Promotoria Criminal de São Paulo, no âmbito das investigações que envolvem o prefeito Rodrigo Manga, conhecido nacionalmente pelas redes sociais como “prefeito tiktoker”.

A decisão foi assinada pelo juiz Alexandre de Mello Guerra em 9 de maio, dentro da ação popular que apura suposto superfaturamento na aquisição de um imóvel destinado à Secretaria de Educação do município.

De acordo com o Ministério Público, o prédio localizado no bairro Portal da Colina, na região do Campolim, teria sido inicialmente avaliado em aproximadamente R$ 19 milhões, mas acabou comprado pela prefeitura por quase R$ 30 milhões. A diferença de cerca de R$ 10 milhões é investigada como possível dano aos cofres públicos.

A AFF Empreendimentos tentou impedir o compartilhamento dos documentos financeiros sob alegação de sigilo bancário, mas o pedido foi negado pela Justiça. Na decisão, o magistrado afirmou que a ação popular possui caráter constitucional de fiscalização dos atos da administração pública e deve seguir o princípio da transparência.

Segundo o juiz, os extratos bancários estão diretamente ligados ao destino de recursos públicos utilizados na negociação do imóvel, o que justifica o interesse coletivo na apuração dos fatos.

A ação foi proposta por um morador de Sorocaba para questionar a compra realizada em 2021, no primeiro ano da gestão de Rodrigo Manga. O processo agora avança para a fase final de instrução.

As partes terão prazo para se manifestar sobre um laudo técnico de engenharia anexado ao processo e, em seguida, apresentar memoriais escritos antes do parecer final do Ministério Público e da futura sentença.

O caso já resultou em condenações em outras ações judiciais relacionadas ao negócio imobiliário. Ex-secretários municipais, um engenheiro aposentado e empresários foram condenados por corrupção e fraude. Rodrigo Manga não é réu nesses processos.

Apesar disso, o prefeito e a primeira-dama, Sirlange Frate Maganhato, seguem sob investigação do Ministério Público e do Gaeco. Conforme as apurações, mensagens atribuídas ao ex-secretário Fausto Bossolo discutiriam avaliações e laudos do imóvel adquirido pelo município.

Em nota, a Prefeitura de Sorocaba informou que acompanha o andamento do caso e permanece à disposição das autoridades para prestar esclarecimentos. As defesas de Rodrigo Manga e da AFF Empreendimentos não comentaram a decisão.

(Com informações do Juri News e G1)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

Deixe um comentário

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Justiça do Rio nega prisão domiciliar humanitária ao ator José Dumont

A Justiça do Rio de Janeiro negou o pedido de prisão domiciliar humanitária formulado pela defesa do ator José Dumont, de 76 anos. Condenado a dez anos e quatro meses de reclusão pelos crimes de estupro de vulnerável e posse de pornografia infantil, ele permanece cumprindo pena em regime fechado.

STJ admite desvinculação de resultados desabonadores associados ao nome de pessoa

O STJ manteve decisão que determinou a desindexação de resultados considerados desabonadores associados exclusivamente ao nome de uma mulher. Para a Terceira Turma, a medida não representa aplicação do direito ao esquecimento, mas proteção à intimidade e aos dados pessoais. Os conteúdos permanecem disponíveis nos sites de origem e podem ser localizados por outras palavras-chave.

Clubes de futebol se posicionam contra possível proibição das bets

Clubes e federações de futebol se manifestam contra possível proibição dos cassinos on-line e defendem a manutenção do mercado regulado de apostas, com maior fiscalização e combate às plataformas ilegais.

Banco Central altera regras do Pix e amplia mecanismos de segurança

Banco Central aprova novas regras para o Pix, amplia o uso do Pix Automático, regulamenta a cobrança híbrida e reforça as obrigações das instituições financeiras na prevenção e no combate a fraudes.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo