OpenAI comunicou FBI após identificar plano de homicídio relatado ao ChatGPT

Data:

inss
Créditos: M-A-U | iStock

Um homem preso no Espírito Santo por suspeita de planejar o assassinato do próprio filho, de 8 anos, foi identificado pelas autoridades após conversas mantidas com o ChatGPT. A OpenAI, empresa responsável pelo desenvolvimento da ferramenta de inteligência artificial, detectou indícios concretos de risco iminente e comunicou o caso ao Federal Bureau of Investigation (FBI), que posteriormente repassou as informações às autoridades brasileiras.

O investigado foi preso preventivamente em 19 de junho, um dia antes da data em que, segundo a investigação, pretendia executar o crime. De acordo com a Polícia Civil, as informações fornecidas pela OpenAI foram determinantes para impedir a ocorrência do homicídio.

Conversas revelaram planejamento do crime

Segundo as investigações, o homem relatou ao ChatGPT que possuía uma arma de fogo, uma corda e veneno, além de afirmar que pretendia praticar atentados em locais públicos.

Nas mensagens, também declarou que tentou contratar um pistoleiro por R$ 50 mil para matar o próprio filho, mas que a proposta teria sido recusada após revelar que a vítima era uma criança.

As conversas ainda continham manifestações sobre o desejo de matar pessoas e de causar sofrimento às vítimas, elementos que, segundo especialistas, caracterizaram um cenário concreto de risco.

OpenAI explicou critérios para comunicar autoridades

Em nota, a OpenAI informou que seus sistemas possuem mecanismos destinados à identificação de situações que representem ameaça iminente à vida ou à integridade física de terceiros.

Segundo a empresa, quando são detectadas conversas que indiquem risco concreto e imediato de violência, as informações podem ser encaminhadas às autoridades competentes como medida de prevenção.

A companhia afirmou que o caso demonstra a importância dos protocolos de segurança adotados para evitar que seus sistemas sejam utilizados na prática de crimes.

Como funciona a detecção de riscos

De acordo com a OpenAI, a análise das conversas é realizada inicialmente por sistemas automatizados baseados em inteligência artificial, capazes de identificar padrões de comportamento, palavras-chave e o contexto das interações.

Esses mecanismos também utilizam bancos de dados com conteúdos previamente sinalizados e listas de termos relacionados a atividades ilícitas.

Quando uma conversa apresenta indícios relevantes, o caso é encaminhado para moderadores humanos, responsáveis por avaliar se houve violação das políticas da plataforma e se existe risco concreto de que o usuário pratique atos de violência.

Conforme a gravidade da situação, a empresa pode apenas advertir o usuário, suspender sua conta ou comunicar o caso às autoridades.

Especialistas destacam limites da privacidade nas conversas com IA

Para especialistas em inteligência artificial, o episódio reforça que plataformas como o ChatGPT não estão submetidas ao dever de sigilo profissional existente em relações como médico-paciente ou advogado-cliente.

Segundo o professor Álvaro Machado Dias, da Universidade Federal de São Paulo (Unifesp), o caso ultrapassou o limite da mera manifestação de pensamentos porque havia identificação da vítima, descrição dos meios para a prática do crime e definição de uma data próxima para sua execução.

Na avaliação do pesquisador, esses elementos justificaram o alerta de máxima prioridade emitido pelos sistemas da OpenAI.

Debate sobre cooperação internacional

O caso também reacendeu discussões sobre os mecanismos de cooperação entre empresas de tecnologia e autoridades nacionais.

Como a OpenAI possui sede nos Estados Unidos, o alerta foi inicialmente encaminhado ao FBI, que posteriormente comunicou o Ministério da Justiça e Segurança Pública brasileiro.

Em seguida, as informações foram encaminhadas à Polícia Civil do Espírito Santo, por meio da Delegacia Especializada de Repressão aos Crimes Cibernéticos, responsável pela investigação que resultou na prisão preventiva do suspeito.

Especialistas avaliam que seria desejável a criação de canais diretos entre plataformas digitais e autoridades brasileiras para agilizar a comunicação de ameaças envolvendo usuários localizados no país.

Investigação evitou possível crime

Segundo o delegado responsável pelo caso, o investigado negou as acusações. No entanto, o histórico das conversas fornecido pela OpenAI, aliado aos demais elementos reunidos durante a investigação, foi considerado suficiente para justificar a adoção de medidas cautelares.

Para a Polícia Civil, a atuação conjunta entre a empresa de tecnologia e as autoridades permitiu impedir um crime de extrema gravidade antes de sua execução, evidenciando o potencial das ferramentas de inteligência artificial na identificação preventiva de ameaças concretas à segurança pública.

(Com informações do G1- SP por Victor Hugo Silva)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Justiça Federal condena integrantes por contrabando e pirataria de sinal de TV por assinatura

A 7ª Vara Federal de Porto Alegre condenou oito pessoas investigadas na Operação Satelles por participação em esquema de contrabando de equipamentos de TV por assinatura, pirataria de sinal e outros crimes. A organização atuava com um fornecedor no Paraguai e dois núcleos de revenda no Brasil. As penas variaram de quatro a 15 anos de reclusão, e outros dois acusados foram absolvidos por falta de provas.

Justiça condena homem por enviar mensagens ofensivas e desejar a morte da ex-companheira

O 1º Juizado Especial Cível de Joinville (SC) condenou um homem a pagar R$ 10 mil por danos morais à ex-companheira após o envio reiterado de mensagens ofensivas e manifestações de desejo pela morte da mulher. A Justiça entendeu que a conduta ultrapassou os conflitos pessoais e violou direitos da personalidade, atingindo a dignidade e a integridade psicológica da vítima.

STJ decide que print de tela pode ser usado como prova civil sem ata notarial

A Terceira Turma do Superior Tribunal de Justiça (STJ) decidiu, por unanimidade, que capturas de tela de aplicativos de mensagens podem ser utilizadas como prova em processos civis mesmo sem ata notarial. O colegiado entendeu que a ausência do registro em cartório não torna a prova automaticamente inadmissível. Entretanto, se a autenticidade das imagens for questionada, será necessária a apresentação de autenticação eletrônica ou, caso isso não seja possível, a realização de perícia. A decisão foi tomada no julgamento do REsp 2.275.083, sob relatoria da ministra Nancy Andrighi.

TRF-1 mantém condenação de homem que fraudou identidade para receber auxílio emergencial

Resumo: O TRF1 manteve a condenação de um homem por falsidade ideológica e estelionato majorado após utilizar documentos falsos para criar uma identidade fictícia e receber indevidamente o auxílio emergencial. A decisão considerou suficientes as provas periciais e bancárias e rejeitou os pedidos de absolvição, redução da pena e exclusão da multa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo