Empresas de tecnologia que desenvolvem e utilizam inteligência artificial estão ampliando mecanismos para identificar conteúdos produzidos com a tecnologia e permitir que os próprios usuários sinalizem materiais considerados artificiais ou de baixa qualidade. A mudança ocorre em meio à pressão por regulamentação, à preocupação com a qualidade do conteúdo exibido nas plataformas e aos riscos jurídicos e econômicos associados à disseminação de materiais gerados por IA.
Uma das principais preocupações é a facilidade com que textos, imagens, vídeos e músicas podem ser produzidos por ferramentas de inteligência artificial. Segundo especialistas, essa simplicidade contribuiu para a rápida disseminação de conteúdos de baixa qualidade, fenômeno conhecido como “AI slop”, expressão usada para definir materiais produzidos em grande escala por IA, muitas vezes sem conteúdo relevante ou original, com o objetivo de atrair visualizações e gerar receita.
Nesse cenário, plataformas digitais passaram a adotar mecanismos de identificação e denúncia. O LinkedIn, por exemplo, criou uma ferramenta que permite aos usuários sinalizar publicações que considerem “lixo de IA”. A empresa também informou que está desenvolvendo classificadores capazes de identificar esse tipo de material e reduzir sua presença nas recomendações da plataforma.
A Substack também passou a utilizar uma ferramenta que estima a participação da inteligência artificial na produção de um texto. O sistema permite indicar se determinado conteúdo foi produzido integralmente por uma pessoa, se contou com auxílio de IA ou se foi totalmente gerado pela tecnologia.
Outra iniciativa partiu da Anthropic, responsável pelo Claude, que anunciou mecanismos para identificar textos e imagens produzidos por sua inteligência artificial. A medida está relacionada às exigências do AI Act, legislação da União Europeia que estabelece regras para o desenvolvimento e uso de sistemas de inteligência artificial e prevê maior transparência sobre conteúdos gerados ou manipulados pela tecnologia.
O Snapchat também anunciou que deixaria de recomendar no Spotlight publicações totalmente produzidas por inteligência artificial. A plataforma, entretanto, diferenciou conteúdos inteiramente gerados por IA daqueles que apenas receberam edição ou aprimoramento com a tecnologia, mantendo estes últimos elegíveis para recomendação e acompanhados de indicadores de transparência.
O Google, por sua vez, ampliou a adoção do SynthID, tecnologia desenvolvida para auxiliar na identificação de imagens e vídeos produzidos por inteligência artificial. Empresas como OpenAI, Kakao e ElevenLabs também passaram a integrar a tecnologia a seus produtos.
O YouTube igualmente adotou uma postura mais restritiva em relação a conteúdos produzidos em massa com inteligência artificial. A plataforma passou a combater a monetização de vídeos considerados genéricos, repetitivos e sem diferenciação, especialmente aqueles produzidos em grande escala por meio de ferramentas automatizadas. A política busca privilegiar conteúdos que apresentem informações, histórias ou explicações capazes de oferecer algum valor ao público.
TikTok e Instagram também já disponibilizam mecanismos para que os próprios usuários indiquem quando suas publicações foram produzidas ou modificadas com auxílio de inteligência artificial.
Por trás dessas iniciativas está também a entrada em vigor de novas exigências regulatórias na União Europeia. Em 2 de agosto, passou a valer o artigo 50 do AI Act, que estabelece regras de transparência para conteúdos gerados ou manipulados por inteligência artificial, incluindo a necessidade de identificação clara em determinadas situações.
Especialistas avaliam que a proximidade desse prazo ajuda a explicar a sequência de anúncios realizados por grandes plataformas ao longo dos últimos meses. Além do cumprimento das normas, as empresas estariam preocupadas com os impactos financeiros, jurídicos e reputacionais provocados pela proliferação de conteúdos artificiais de baixa qualidade.
Segundo essa avaliação, quando uma plataforma fica saturada de materiais genéricos produzidos por IA, a experiência do usuário pode ser prejudicada e o valor de serviços pagos pode diminuir. Ao mesmo tempo, a ausência de identificação adequada pode aumentar riscos relacionados à responsabilidade jurídica, à regulamentação e à reputação das empresas.
A preocupação também envolve a disseminação de desinformação. Um exemplo ocorreu quando o Google lançou uma ferramenta capaz de criar imagens artificiais a partir de registros reais de satélite do Google Earth. O recurso acabou sendo retirado após usuários utilizarem a tecnologia para produzir imagens falsas relacionadas a acontecimentos reais, inclusive representações de supostos conflitos em locais existentes.
Para especialistas, a corrida pela identificação de conteúdos gerados por IA deve continuar. À medida que os modelos se tornam mais sofisticados e capazes de produzir materiais cada vez mais realistas, os sistemas de detecção também precisam evoluir para acompanhar essas tecnologias.
A tendência, portanto, é de crescimento dos mecanismos de rotulagem, identificação e controle de conteúdos produzidos artificialmente. Ao mesmo tempo, permanece o desafio de estabelecer padrões capazes de acompanhar a rápida evolução da inteligência artificial e garantir maior transparência sem impedir usos legítimos e criativos da tecnologia.
(Com informações do G1 por Darlan Helder)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
