Um homem preso no Espírito Santo por suspeita de planejar o assassinato do próprio filho, de 8 anos, foi identificado pelas autoridades após conversas mantidas com o ChatGPT. A OpenAI, empresa responsável pelo desenvolvimento da ferramenta de inteligência artificial, detectou indícios concretos de risco iminente e comunicou o caso ao Federal Bureau of Investigation (FBI), que posteriormente repassou as informações às autoridades brasileiras.
O investigado foi preso preventivamente em 19 de junho, um dia antes da data em que, segundo a investigação, pretendia executar o crime. De acordo com a Polícia Civil, as informações fornecidas pela OpenAI foram determinantes para impedir a ocorrência do homicídio.
Conversas revelaram planejamento do crime
Segundo as investigações, o homem relatou ao ChatGPT que possuía uma arma de fogo, uma corda e veneno, além de afirmar que pretendia praticar atentados em locais públicos.
Nas mensagens, também declarou que tentou contratar um pistoleiro por R$ 50 mil para matar o próprio filho, mas que a proposta teria sido recusada após revelar que a vítima era uma criança.
As conversas ainda continham manifestações sobre o desejo de matar pessoas e de causar sofrimento às vítimas, elementos que, segundo especialistas, caracterizaram um cenário concreto de risco.
OpenAI explicou critérios para comunicar autoridades
Em nota, a OpenAI informou que seus sistemas possuem mecanismos destinados à identificação de situações que representem ameaça iminente à vida ou à integridade física de terceiros.
Segundo a empresa, quando são detectadas conversas que indiquem risco concreto e imediato de violência, as informações podem ser encaminhadas às autoridades competentes como medida de prevenção.
A companhia afirmou que o caso demonstra a importância dos protocolos de segurança adotados para evitar que seus sistemas sejam utilizados na prática de crimes.
Como funciona a detecção de riscos
De acordo com a OpenAI, a análise das conversas é realizada inicialmente por sistemas automatizados baseados em inteligência artificial, capazes de identificar padrões de comportamento, palavras-chave e o contexto das interações.
Esses mecanismos também utilizam bancos de dados com conteúdos previamente sinalizados e listas de termos relacionados a atividades ilícitas.
Quando uma conversa apresenta indícios relevantes, o caso é encaminhado para moderadores humanos, responsáveis por avaliar se houve violação das políticas da plataforma e se existe risco concreto de que o usuário pratique atos de violência.
Conforme a gravidade da situação, a empresa pode apenas advertir o usuário, suspender sua conta ou comunicar o caso às autoridades.
Especialistas destacam limites da privacidade nas conversas com IA
Para especialistas em inteligência artificial, o episódio reforça que plataformas como o ChatGPT não estão submetidas ao dever de sigilo profissional existente em relações como médico-paciente ou advogado-cliente.
Segundo o professor Álvaro Machado Dias, da Universidade Federal de São Paulo (Unifesp), o caso ultrapassou o limite da mera manifestação de pensamentos porque havia identificação da vítima, descrição dos meios para a prática do crime e definição de uma data próxima para sua execução.
Na avaliação do pesquisador, esses elementos justificaram o alerta de máxima prioridade emitido pelos sistemas da OpenAI.
Debate sobre cooperação internacional
O caso também reacendeu discussões sobre os mecanismos de cooperação entre empresas de tecnologia e autoridades nacionais.
Como a OpenAI possui sede nos Estados Unidos, o alerta foi inicialmente encaminhado ao FBI, que posteriormente comunicou o Ministério da Justiça e Segurança Pública brasileiro.
Em seguida, as informações foram encaminhadas à Polícia Civil do Espírito Santo, por meio da Delegacia Especializada de Repressão aos Crimes Cibernéticos, responsável pela investigação que resultou na prisão preventiva do suspeito.
Especialistas avaliam que seria desejável a criação de canais diretos entre plataformas digitais e autoridades brasileiras para agilizar a comunicação de ameaças envolvendo usuários localizados no país.
Investigação evitou possível crime
Segundo o delegado responsável pelo caso, o investigado negou as acusações. No entanto, o histórico das conversas fornecido pela OpenAI, aliado aos demais elementos reunidos durante a investigação, foi considerado suficiente para justificar a adoção de medidas cautelares.
Para a Polícia Civil, a atuação conjunta entre a empresa de tecnologia e as autoridades permitiu impedir um crime de extrema gravidade antes de sua execução, evidenciando o potencial das ferramentas de inteligência artificial na identificação preventiva de ameaças concretas à segurança pública.
(Com informações do G1- SP por Victor Hugo Silva)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
