Tag: Prompt Injection
Artigos exclusivos
Revista Juristas lança 9ª edição com entrevista exclusiva ao conselheiro do CNJ Ilan Presser e debates sobre justiça algorítmica, crime organizado e o futuro...
Edição de agosto reúne magistrados, advogados e pesquisadores de todo o país em análises sobre inteligência artificial no Judiciário, segurança pública, uberização, tributação, ESG e cultura, consolidando a publicação como referência de atualização jurídica no Brasil.
Juiz mantém multa de R$ 32,8 mil a advogado por inserção de comandos ocultos de IA em petição
A Justiça da Paraíba manteve multa de R$ 32,8 mil aplicada a um advogado que inseriu comandos ocultos de inteligência artificial em uma petição judicial. O magistrado entendeu que a utilização da técnica de prompt injection desviou a finalidade do ato processual e representou tentativa de interferência em eventuais sistemas de apoio utilizados pelo Poder Judiciário. A decisão também determinou o envio do caso à OAB/PB e ao Ministério Público para as providências cabíveis.
CNJ recomenda medidas para proteger sistemas judiciais contra manipulação de inteligência artificial
O CNJ aprovou uma manifestação técnica com recomendações para proteger os sistemas de inteligência artificial do Judiciário contra ataques de prompt injection, prática que utiliza comandos ocultos para manipular respostas geradas por IA. O documento prevê filtros de segurança, rastreabilidade de documentos, supervisão humana e medidas de prevenção para garantir a integridade das decisões judiciais diante da crescente adoção da inteligência artificial pelos tribunais brasileiros.
STJ apura uso de prompt injection por escritório ligado à defesa de hacker do PJe
Uma banca de advocacia investigada pelo uso de prompt injection em petições enviadas ao Superior Tribunal de Justiça (STJ) também atuou na defesa de um hacker acusado de invadir o sistema PJe e alterar documentos judiciais.
O escritório admitiu que 41 peças processuais continham comandos ocultos voltados a influenciar sistemas de inteligência artificial, mas afirmou que a inserção desse conteúdo teria sido feita por um ex-funcionário.
Inteligência Artificial no Judiciário: Os Riscos do Prompt Injection e as Novas Vulnerabilidades
A adoção da Inteligência Artificial (IA) no ecossistema jurídico brasileiro vem crescendo em um ritmo acelerado. Ferramentas de IA generativa já auxiliam na redação de peças processuais, análise de jurisprudência e até mesmo na organização de dados volumosos nos tribunais. No entanto, com a inovação, surgem novos desafios de segurança da informação. Um dos temas mais urgentes e debatidos atualmente é o fenômeno conhecido como Prompt Injection.
Participe e receba as postagens diárias do Portal Juristas.
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil