ChatGPT passa a utilizar conteúdos gerados por outra IA e reacende alertas sobre confiabilidade da informação

Data:

Inteligência Artificial - ChatGPT para Advogados
Créditos: [email protected] / Depositphotos

O modelo mais recente do ChatGPT, o GPT-5.2, passou a recorrer a conteúdos produzidos por outra inteligência artificial generativa para responder a determinadas perguntas. A prática foi identificada sobretudo em consultas sobre temas menos comuns e reacende preocupações antigas sobre os riscos do uso de sistemas de IA como fonte primária de informação.

Segundo apuração do jornal The Guardian, o ChatGPT utilizou dados da Gropipedia, uma enciclopédia inteiramente gerada por inteligência artificial desenvolvida pela xAI, empresa de Elon Musk. Embora esse uso não represente, tecnicamente, o treinamento direto do modelo, especialistas alertam que a simples referência cruzada entre IAs já impõe desafios relevantes à confiabilidade das respostas.

O episódio reforça um debate que vem ganhando força no setor: até que ponto modelos de linguagem podem depender de conteúdos não produzidos ou revisados por humanos? À medida que grandes modelos de linguagem (LLMs) absorvem praticamente todo o conteúdo humano disponível, surge a preocupação sobre qual será a base informacional dessas ferramentas no futuro — especialmente se passarem a se “retroalimentar”.

Até agora, empresas como Meta, Google e OpenAI têm utilizado fontes diversas, incluindo plataformas de vídeo e grandes acervos digitais, para testar e aprimorar seus modelos. No entanto, há indícios de que conteúdos criados por outras IAs já estejam sendo incorporados às respostas, ainda que de forma pontual.

Risco de erro em cadeia

O principal problema apontado por especialistas é a propagação de erros. Modelos de linguagem são conhecidos por “alucinar” informações — isto é, apresentar dados incorretos com aparência plausível. Quando uma IA passa a utilizar outra IA como fonte, o erro deixa de ser isolado e passa a se reproduzir em cadeia, ganhando aparência de legitimidade.

Esse risco é agravado pelo comportamento dos usuários. Muitos já tratam respostas fornecidas por ferramentas como o ChatGPT como informação validada, sem verificar fontes originais. A repetição constante de um mesmo dado, sobretudo em formatos enciclopédicos, tende a gerar uma falsa percepção de veracidade.

No caso da Gropipedia, o problema é estrutural. O projeto não conta com edição humana direta nem com um sistema tradicional de revisão. Embora usuários possam sugerir alterações, não há controle editorial efetivo, o que permite que erros persistam e sejam replicados por outros sistemas.

Especialistas descrevem esse fenômeno como um “loop recursivo”, em que modelos de IA passam a citar uns aos outros. O efeito se assemelha à disseminação de boatos entre pessoas, porém em escala global e velocidade muito superior.

Desinformação automatizada

Esse ambiente também favorece o chamado “efeito da verdade ilusória”, no qual uma informação falsa passa a ser aceita como verdadeira simplesmente por ser repetida diversas vezes. Ao longo da história, mitos se consolidaram dessa forma; com a IA, esse processo pode atingir proporções inéditas.

Além disso, há registros de tentativas organizadas de manipulação de modelos de linguagem por meio da inundação deliberada da internet com conteúdos falsos — prática conhecida como “LLM grooming”. O objetivo é fazer com que sistemas de IA passem a reproduzir narrativas específicas como se fossem fatos consolidados.

Casos recentes já chamaram a atenção de reguladores e pesquisadores, após modelos populares reproduzirem discursos alinhados a interesses políticos ou ideológicos. Embora empresas tenham adotado medidas corretivas, o uso de fontes inteiramente geradas por IA cria uma nova camada de vulnerabilidade.

À medida que ferramentas como o ChatGPT se tornam centrais para pesquisa, estudo e tomada de decisões, a dependência de conteúdos não verificados produzidos por outras IAs representa um desafio crescente. O episódio evidencia uma fronteira delicada no avanço da inteligência artificial, em que velocidade e escala podem acabar comprometendo a própria noção de verdade.

(Com informações do Tudo Celular por Guilherme Souza)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

TRF-3 autoriza retomada das atividades de três casas de apostas e impõe multa à União

O TRF-3 concedeu liminar que autoriza três plataformas da CDA Gaming a retomar as operações no Brasil. A decisão considera os investimentos realizados pela empresa após obter autorização do Ministério da Fazenda e prevê multa diária de R$ 200 mil à União em caso de descumprimento. A AGU pretende recorrer, e a liberação não se estende às demais casas de apostas.

Governo federal enfrenta ataque cibernético contra estruturas do Gov.br e do Serpro

O governo federal enfrentou um ataque cibernético classificado como sem precedentes contra o Gov.br e estruturas do Serpro. A estatal informou ter conseguido responder à ofensiva, mas não divulgou detalhes sobre possíveis danos aos sistemas ou comprometimento de dados pessoais. O episódio reforça a necessidade de investimentos em segurança digital e proteção das informações dos cidadãos.

Fachin defende fortalecimento do sistema de precedentes e cooperação entre tribunais

O presidente do STF, ministro Edson Fachin, defendeu o fortalecimento do sistema de precedentes judiciais e a cooperação entre os tribunais brasileiros. Durante encontro realizado no STJ, destacou a importância da nova sistemática de admissibilidade dos recursos especiais, da segurança jurídica e da integração tecnológica entre as instituições.

TJ-SC reconhece que cores nacionais, nome do Brasil e bola de futebol são de domínio público

O TJ-SC decidiu que as cores verde e amarela, o nome “Brasil” e a figura de uma bola de futebol são elementos de domínio público e não caracterizam, isoladamente, violação das marcas registradas pela CBF. A Corte negou recurso da entidade contra uma confecção de Gaspar, afastando a cobrança de multa de R$ 40 mil por suposto descumprimento de acordo.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo