Meta é alvo de denúncia após anúncios com conteúdo sexual infantil gerado por IA circularem em suas plataformas

Data:

Jurisprudências sobre Youtubers do TJSP
Créditos: metamorworks / iStock

A Meta, empresa responsável por plataformas como Facebook, Instagram, Messenger e Threads, foi alvo de denúncias após pesquisadores identificarem anúncios pagos contendo imagens de abuso sexual infantil geradas por inteligência artificial e conteúdos com apelo sexual envolvendo menores de idade.

Segundo reportagem da revista norte-americana Wired, o levantamento realizado pelo Tech Transparency Project (TTP) encontrou mais de 50 anúncios com material considerado abusivo na biblioteca de anúncios da empresa. As peças teriam circulado entre novembro do ano passado e o início de agosto, permanecendo disponíveis por meses na ferramenta de transparência da Meta.

De acordo com os pesquisadores, parte dos anúncios direcionava usuários para aplicativos e sites de “nudificação”, ferramentas baseadas em inteligência artificial que prometem remover roupas de imagens de pessoas, prática associada à criação de conteúdo sexual não consensual.

Pesquisadores apontam falhas na moderação

O Tech Transparency Project afirmou que os anúncios foram aprovados pelos sistemas de publicidade da própria Meta, diferentemente de conteúdos publicados espontaneamente por usuários.

Segundo a diretora da organização, Katie Paul, a questão envolve não apenas a circulação de conteúdo inadequado, mas também a aprovação e monetização de anúncios pela plataforma.

Os pesquisadores relataram que uma das peças utilizava a imagem de uma criança e fazia referência a supostas “fantasias” criadas por inteligência artificial. Conforme a investigação, após o clique, o material apresentava cenas sexualizadas envolvendo adultos e posteriormente inseria o rosto da criança em uma situação de teor sexual.

Meta remove anúncios e afirma aprimorar sistemas

Após ser procurada pela Wired, a Meta informou que removeu os anúncios identificados e afirmou que eles violavam suas políticas internas.

Em comunicado, a empresa declarou que a exploração sexual é uma prática considerada gravíssima e que trabalha para impedir esse tipo de conteúdo em suas plataformas. A companhia também afirmou que vem desenvolvendo novas tecnologias de inteligência artificial para identificar e bloquear anúncios que descumpram suas regras.

A Meta informou ainda que removeu milhões de conteúdos relacionados à exploração sexual infantil no último ano e que adotou medidas legais contra desenvolvedores de aplicativos de “nudificação”.

Alcance dos anúncios preocupa especialistas

Dados da biblioteca de anúncios indicaram que pelo menos uma das peças alcançou milhares de contas em países da Europa, incluindo França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. Pesquisadores ressaltaram que as métricas disponíveis não permitem dimensionar completamente o alcance dos conteúdos.

O TTP afirmou ter identificado inicialmente cerca de 20 anúncios e, posteriormente, localizado outros 30 materiais semelhantes. Segundo a organização, alguns anúncios continuavam ativos mesmo após questionamentos enviados à Meta.

Especialistas em segurança digital alertam que o mercado de ferramentas de manipulação de imagens por inteligência artificial tem se adaptado rapidamente para contornar mecanismos de fiscalização.

Aplicativos de “nudificação” entram no centro do debate

Parte dos anúncios identificados levava a aplicativos que prometem criar imagens sexualizadas por meio de inteligência artificial. A reportagem citou ferramentas disponíveis em lojas digitais que foram posteriormente removidas após denúncias.

A Apple, segundo a publicação, retirou um aplicativo citado pela investigação por violar suas regras contra a criação e distribuição de pornografia.

Organizações de proteção digital afirmam que esses serviços representam um desafio crescente, principalmente porque permitem a produção de imagens falsas envolvendo pessoas reais sem consentimento.

O caso amplia o debate sobre a responsabilidade das plataformas digitais, a necessidade de mecanismos mais rigorosos de moderação e os riscos do uso indevido da inteligência artificial na produção de conteúdos envolvendo crianças e adolescentes.

(Com informações do Tilt UOL)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo