A Meta, empresa responsável por plataformas como Facebook, Instagram, Messenger e Threads, foi alvo de denúncias após pesquisadores identificarem anúncios pagos contendo imagens de abuso sexual infantil geradas por inteligência artificial e conteúdos com apelo sexual envolvendo menores de idade.
Segundo reportagem da revista norte-americana Wired, o levantamento realizado pelo Tech Transparency Project (TTP) encontrou mais de 50 anúncios com material considerado abusivo na biblioteca de anúncios da empresa. As peças teriam circulado entre novembro do ano passado e o início de agosto, permanecendo disponíveis por meses na ferramenta de transparência da Meta.
De acordo com os pesquisadores, parte dos anúncios direcionava usuários para aplicativos e sites de “nudificação”, ferramentas baseadas em inteligência artificial que prometem remover roupas de imagens de pessoas, prática associada à criação de conteúdo sexual não consensual.
Pesquisadores apontam falhas na moderação
O Tech Transparency Project afirmou que os anúncios foram aprovados pelos sistemas de publicidade da própria Meta, diferentemente de conteúdos publicados espontaneamente por usuários.
Segundo a diretora da organização, Katie Paul, a questão envolve não apenas a circulação de conteúdo inadequado, mas também a aprovação e monetização de anúncios pela plataforma.
Os pesquisadores relataram que uma das peças utilizava a imagem de uma criança e fazia referência a supostas “fantasias” criadas por inteligência artificial. Conforme a investigação, após o clique, o material apresentava cenas sexualizadas envolvendo adultos e posteriormente inseria o rosto da criança em uma situação de teor sexual.
Meta remove anúncios e afirma aprimorar sistemas
Após ser procurada pela Wired, a Meta informou que removeu os anúncios identificados e afirmou que eles violavam suas políticas internas.
Em comunicado, a empresa declarou que a exploração sexual é uma prática considerada gravíssima e que trabalha para impedir esse tipo de conteúdo em suas plataformas. A companhia também afirmou que vem desenvolvendo novas tecnologias de inteligência artificial para identificar e bloquear anúncios que descumpram suas regras.
A Meta informou ainda que removeu milhões de conteúdos relacionados à exploração sexual infantil no último ano e que adotou medidas legais contra desenvolvedores de aplicativos de “nudificação”.
Alcance dos anúncios preocupa especialistas
Dados da biblioteca de anúncios indicaram que pelo menos uma das peças alcançou milhares de contas em países da Europa, incluindo França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. Pesquisadores ressaltaram que as métricas disponíveis não permitem dimensionar completamente o alcance dos conteúdos.
O TTP afirmou ter identificado inicialmente cerca de 20 anúncios e, posteriormente, localizado outros 30 materiais semelhantes. Segundo a organização, alguns anúncios continuavam ativos mesmo após questionamentos enviados à Meta.
Especialistas em segurança digital alertam que o mercado de ferramentas de manipulação de imagens por inteligência artificial tem se adaptado rapidamente para contornar mecanismos de fiscalização.
Aplicativos de “nudificação” entram no centro do debate
Parte dos anúncios identificados levava a aplicativos que prometem criar imagens sexualizadas por meio de inteligência artificial. A reportagem citou ferramentas disponíveis em lojas digitais que foram posteriormente removidas após denúncias.
A Apple, segundo a publicação, retirou um aplicativo citado pela investigação por violar suas regras contra a criação e distribuição de pornografia.
Organizações de proteção digital afirmam que esses serviços representam um desafio crescente, principalmente porque permitem a produção de imagens falsas envolvendo pessoas reais sem consentimento.
O caso amplia o debate sobre a responsabilidade das plataformas digitais, a necessidade de mecanismos mais rigorosos de moderação e os riscos do uso indevido da inteligência artificial na produção de conteúdos envolvendo crianças e adolescentes.
(Com informações do Tilt UOL)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
