Fraudes com inteligência artificial desafiam tribunais e acendem alerta no Judiciário

Data:

Homem utiliza computador
Créditos: / iStock

A crescente adoção da inteligência artificial pelo sistema de Justiça brasileiro tem ampliado a eficiência na análise de processos, mas também criado novos desafios relacionados à segurança, à ética e à confiabilidade das decisões judiciais. Casos recentes de tentativas de manipulação de sistemas automatizados acenderam o alerta em tribunais e órgãos de controle sobre os riscos do uso inadequado da tecnologia.

Um dos episódios mais emblemáticos ocorreu em Parauapebas (PA), onde advogadas inseriram comandos ocultos em uma petição eletrônica destinada ao Tribunal Regional do Trabalho da 8ª Região (TRT-8). Utilizando letras brancas sobre fundo da mesma cor, o texto permanecia invisível aos leitores humanos, mas poderia ser identificado por sistemas de inteligência artificial utilizados na análise processual.

A instrução escondida orientava que a contestação da ação fosse feita de forma superficial e sem impugnação dos documentos apresentados. A tentativa de manipulação acabou sendo identificada pelo próprio sistema tecnológico empregado pelo tribunal. Como consequência, as advogadas foram multadas em R$ 84 mil. O caso também gerou medidas disciplinares no âmbito da Ordem dos Advogados do Brasil (OAB).

O episódio evidenciou uma nova modalidade de fraude conhecida como prompt injection, técnica que consiste na inserção de comandos ocultos capazes de influenciar a resposta de sistemas de inteligência artificial.

Expansão da IA no Judiciário

O uso de ferramentas de IA tornou-se cada vez mais comum nos tribunais brasileiros. Atualmente, cerca de metade das cortes do país já utiliza soluções tecnológicas para auxiliar magistrados e servidores em atividades como análise de documentos, elaboração de minutas, revisão textual e pesquisa jurisprudencial.

O movimento é incentivado pelo Conselho Nacional de Justiça (CNJ), que tem promovido o desenvolvimento de plataformas próprias voltadas à modernização da prestação jurisdicional. O objetivo é enfrentar o elevado volume processual existente no país, que supera dezenas de milhões de ações em tramitação.

Especialistas apontam que a tecnologia pode contribuir significativamente para a redução da morosidade judicial, mas alertam para a necessidade de supervisão humana constante. Isso porque sistemas baseados em modelos de linguagem podem apresentar falhas, produzir informações incorretas ou até gerar conteúdos inexistentes, fenômeno conhecido como “alucinação” da inteligência artificial.

Riscos e limites da automação

A preocupação com o uso excessivo ou inadequado da tecnologia ganhou força após a divulgação de casos envolvendo decisões judiciais com inconsistências atribuídas à utilização de ferramentas de IA sem a devida revisão humana.

Embora a inteligência artificial seja capaz de acelerar tarefas repetitivas e aumentar a produtividade, especialistas ressaltam que a atividade jurisdicional exige análise crítica, sensibilidade e avaliação de aspectos humanos que não podem ser integralmente substituídos por algoritmos.

No Brasil, o uso da IA pelo Judiciário é autorizado apenas como ferramenta auxiliar. Diferentemente de experiências adotadas em outros países para causas de menor complexidade, a legislação e as normas administrativas brasileiras não permitem que decisões judiciais sejam proferidas exclusivamente por sistemas automatizados.

Tribunais reforçam mecanismos de controle

Diante do aumento das tentativas de manipulação digital, tribunais passaram a adotar mecanismos mais rigorosos de monitoramento. O Superior Tribunal de Justiça (STJ), por exemplo, tem acompanhado de perto situações envolvendo possíveis adulterações eletrônicas em documentos processuais e ataques voltados à manipulação de sistemas de inteligência artificial.

Ao mesmo tempo, escritórios de advocacia investem em ferramentas próprias e em protocolos de segurança destinados a proteger dados sensíveis e evitar vulnerabilidades tecnológicas.

Pesquisas recentes indicam que a inteligência artificial já faz parte da rotina da advocacia brasileira. O uso frequente dessas ferramentas tem gerado ganhos de produtividade, especialmente em atividades repetitivas, mas também reforça a necessidade de estabelecer parâmetros éticos, técnicos e jurídicos capazes de assegurar a integridade do processo judicial.

Nesse cenário, o desafio do sistema de Justiça não é apenas incorporar a inovação tecnológica, mas garantir que ela permaneça subordinada aos princípios da imparcialidade, do devido processo legal e da atuação humana responsável.

(Com informações da Veja por Por Rayssa Motta)

 

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo