O Projeto de Lei 2543/26 propõe incluir no Código Penal um novo crime relacionado ao uso de técnicas de “injeção de prompt” para manipular sistemas de inteligência artificial utilizados em processos judiciais e administrativos.
A proposta, de autoria do deputado Alberto Fraga (PL-DF), prevê punição para quem inserir comandos, instruções, conteúdos ou sinais com a finalidade de induzir sistemas de inteligência artificial a produzir resultados que proporcionem vantagem indevida, causem prejuízo ou interfiram em decisões automatizadas.
A técnica conhecida como prompt injection ocorre quando uma pessoa utiliza comandos ou informações especialmente elaboradas para alterar ou contornar o comportamento esperado de um sistema de IA.
Segundo o autor do projeto, a prática poderia representar uma nova modalidade de fraude processual digital, especialmente diante da crescente utilização de ferramentas de inteligência artificial no Judiciário e em órgãos públicos.
Pena pode chegar a quatro anos de reclusão
Pelo texto em análise na Câmara dos Deputados, o uso fraudulento da técnica seria punido com reclusão de um a quatro anos, além de multa.
A pena poderá ser aumentada de um terço até a metade caso a conduta provoque consequências como violação de sigilo, adulteração de decisão, interrupção relevante de serviço público, prejuízo à Justiça ou acesso a dados judiciais sensíveis.
Se o responsável possuir credencial profissional para acessar sistemas do Poder Judiciário, a pena poderá ser aumentada pela metade.
Nos casos em que a manipulação tiver como finalidade produzir efeitos em processo penal, ainda que a ação não tenha sido formalmente iniciada, as penas previstas no projeto serão aplicadas em dobro.
Projeto prevê auditoria de processos
Além da criação do novo crime, a proposta estabelece medidas de fiscalização sobre processos em que sistemas de inteligência artificial tenham sido utilizados para auxiliar na análise de documentos e peças apresentadas pelas partes.
Os órgãos públicos deverão realizar auditorias, no prazo de dois anos após eventual publicação da lei, para identificar possíveis indícios de fraude decorrentes de injeção de prompt ou de outras técnicas de manipulação.
A determinação também alcançaria processos já encerrados com trânsito em julgado.
Medidas de segurança para sistemas de IA
O projeto também estabelece medidas mínimas de prevenção e detecção de tentativas de manipulação de sistemas de inteligência artificial.
Entre as providências previstas estão a validação e higienização dos dados inseridos nos sistemas, a separação entre instruções internas, informações processuais e conteúdos enviados pelos usuários, além do registro de interações relevantes.
A proposta também prevê monitoramento de comportamentos considerados anormais, revisão humana obrigatória em processos classificados como de maior risco e treinamento periódico dos usuários autorizados a operar os sistemas.
Tribunais, conselhos do Poder Judiciário e órgãos dos Poderes Legislativo e Executivo deverão ainda editar normas complementares sobre segurança técnica, resposta a incidentes, responsabilização administrativa, canais de denúncia e preservação de evidências digitais.
Tramitação
O PL 2543/26 tramita em caráter conclusivo na Câmara dos Deputados e será analisado pelas Comissões de Ciência, Tecnologia e Inovação e de Constituição e Justiça e de Cidadania.
Para se tornar lei, o texto ainda precisará ser aprovado pela Câmara dos Deputados e pelo Senado Federal, além de passar pelas demais etapas do processo legislativo.
(Com informações da Agência Câmara de Notícias)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
