Uma mulher de 31 anos registrou boletim de ocorrência no Rio de Janeiro após ter sua imagem manipulada por meio de inteligência artificial vinculada à plataforma X (antigo Twitter). A fotografia original, publicada em seu perfil pessoal, foi alterada por terceiros para inserção de um biquíni inexistente, sem sua autorização, e passou a circular publicamente na rede social.
De acordo com o relato, usuários acionaram a ferramenta de IA da plataforma, conhecida como Grok, para modificar a imagem a partir de comandos nos comentários da postagem. Ainda que a vítima tivesse restringido interações com a ferramenta, a edição foi realizada por terceiros, evidenciando falhas nos mecanismos de controle e consentimento da plataforma.
A vítima informou ter denunciado as publicações, o que resultou na remoção de parte do conteúdo. No entanto, algumas versões da imagem adulterada continuaram acessíveis, o que motivou o registro policial. O caso foi formalizado como possível violação à honra, à imagem e à dignidade da pessoa, direitos assegurados pelo artigo 5º, incisos V e X, da Constituição Federal.
Sob a ótica jurídica, a conduta pode configurar ilícito civil e, conforme o contexto, também penal, sobretudo se caracterizada a exposição sexual não consentida, ainda que simulada por meios tecnológicos. Especialistas apontam que quem solicita ou compartilha esse tipo de manipulação pode responder por crimes contra a honra ou outros previstos na legislação penal, além de eventual responsabilização por danos morais.
Quanto à plataforma, o caso reabre o debate sobre a responsabilidade civil dos provedores de aplicações, nos termos do Marco Civil da Internet (Lei nº 12.965/2014), especialmente quanto ao dever de agir de forma eficaz após a ciência do conteúdo ilícito. A vítima pode, inclusive, buscar indenização judicial caso reste demonstrada omissão ou falha na moderação.
O episódio ocorre em meio a discussões mais amplas sobre o uso indevido de inteligência artificial para sexualização não consentida, inclusive em situações potencialmente mais graves, como a criação de imagens falsas envolvendo menores, o que tem levado à retirada de conteúdos e ao aumento da pressão por regulação mais rigorosa dessas tecnologias.
(Com informações do Tilt do UOL por Pedro Vilas Boas)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
