Tag: inteligência artificial

O avanço da inteligência artificial no Judiciário brasileiro tem aumentado a produtividade de tribunais e escritórios de advocacia, mas também criado novos riscos. Casos recentes de prompt injection — técnica que utiliza comandos ocultos para manipular sistemas de IA — acenderam o alerta sobre a necessidade de controles mais rigorosos. Embora a tecnologia seja amplamente utilizada como ferramenta de apoio, especialistas e tribunais defendem que decisões judiciais continuem sob supervisão humana para preservar a segurança jurídica, a ética e a imparcialidade do sistema de Justiça.

O Conselho Federal da OAB anunciou a criação do Plano Nacional de Integração de Inteligência Artificial na Advocacia. A iniciativa prevê capacitação profissional, definição de boas práticas, modernização dos serviços da Ordem e regulamentação do uso da tecnologia, além de uma pesquisa nacional em parceria com a Universidade Stanford para mapear a adoção da IA pelos advogados brasileiros.

Tribunais brasileiros identificaram casos de advogados que inseriram comandos ocultos em petições eletrônicas para tentar influenciar sistemas de inteligência artificial utilizados no apoio à atividade jurisdicional. A prática, conhecida como prompt injection, acendeu o alerta sobre a necessidade de reforçar mecanismos de segurança, supervisão humana e regulamentação do uso da IA no Poder Judiciário.

Durante evento sobre Direito Civil e vulnerabilidades algorítmicas, o presidente do STF e do CNJ, Edson Fachin, alertou para os riscos decorrentes da opacidade, dos vieses e da concentração de poder nos sistemas de inteligência artificial. O ministro defendeu maior transparência, auditabilidade e supervisão humana nas decisões automatizadas, além do fortalecimento de mecanismos de governança e proteção dos direitos fundamentais frente ao avanço tecnológico.

O CNJ aprovou duas iniciativas para reforçar a segurança no uso de inteligência artificial pelo Judiciário. As medidas reconhecem os riscos de manipulação de sistemas por meio de comandos ocultos em documentos processuais e criam um programa nacional de segurança voltado à prevenção de ataques, padronização de protocolos e identificação de conteúdos suspeitos nos autos judiciais.