ChatGPT passa a utilizar conteúdos gerados por outra IA e reacende alertas sobre confiabilidade da informação

Data:

Inteligência Artificial - ChatGPT para Advogados
Créditos: [email protected] / Depositphotos

O modelo mais recente do ChatGPT, o GPT-5.2, passou a recorrer a conteúdos produzidos por outra inteligência artificial generativa para responder a determinadas perguntas. A prática foi identificada sobretudo em consultas sobre temas menos comuns e reacende preocupações antigas sobre os riscos do uso de sistemas de IA como fonte primária de informação.

Segundo apuração do jornal The Guardian, o ChatGPT utilizou dados da Gropipedia, uma enciclopédia inteiramente gerada por inteligência artificial desenvolvida pela xAI, empresa de Elon Musk. Embora esse uso não represente, tecnicamente, o treinamento direto do modelo, especialistas alertam que a simples referência cruzada entre IAs já impõe desafios relevantes à confiabilidade das respostas.

O episódio reforça um debate que vem ganhando força no setor: até que ponto modelos de linguagem podem depender de conteúdos não produzidos ou revisados por humanos? À medida que grandes modelos de linguagem (LLMs) absorvem praticamente todo o conteúdo humano disponível, surge a preocupação sobre qual será a base informacional dessas ferramentas no futuro — especialmente se passarem a se “retroalimentar”.

Até agora, empresas como Meta, Google e OpenAI têm utilizado fontes diversas, incluindo plataformas de vídeo e grandes acervos digitais, para testar e aprimorar seus modelos. No entanto, há indícios de que conteúdos criados por outras IAs já estejam sendo incorporados às respostas, ainda que de forma pontual.

Risco de erro em cadeia

O principal problema apontado por especialistas é a propagação de erros. Modelos de linguagem são conhecidos por “alucinar” informações — isto é, apresentar dados incorretos com aparência plausível. Quando uma IA passa a utilizar outra IA como fonte, o erro deixa de ser isolado e passa a se reproduzir em cadeia, ganhando aparência de legitimidade.

Esse risco é agravado pelo comportamento dos usuários. Muitos já tratam respostas fornecidas por ferramentas como o ChatGPT como informação validada, sem verificar fontes originais. A repetição constante de um mesmo dado, sobretudo em formatos enciclopédicos, tende a gerar uma falsa percepção de veracidade.

No caso da Gropipedia, o problema é estrutural. O projeto não conta com edição humana direta nem com um sistema tradicional de revisão. Embora usuários possam sugerir alterações, não há controle editorial efetivo, o que permite que erros persistam e sejam replicados por outros sistemas.

Especialistas descrevem esse fenômeno como um “loop recursivo”, em que modelos de IA passam a citar uns aos outros. O efeito se assemelha à disseminação de boatos entre pessoas, porém em escala global e velocidade muito superior.

Desinformação automatizada

Esse ambiente também favorece o chamado “efeito da verdade ilusória”, no qual uma informação falsa passa a ser aceita como verdadeira simplesmente por ser repetida diversas vezes. Ao longo da história, mitos se consolidaram dessa forma; com a IA, esse processo pode atingir proporções inéditas.

Além disso, há registros de tentativas organizadas de manipulação de modelos de linguagem por meio da inundação deliberada da internet com conteúdos falsos — prática conhecida como “LLM grooming”. O objetivo é fazer com que sistemas de IA passem a reproduzir narrativas específicas como se fossem fatos consolidados.

Casos recentes já chamaram a atenção de reguladores e pesquisadores, após modelos populares reproduzirem discursos alinhados a interesses políticos ou ideológicos. Embora empresas tenham adotado medidas corretivas, o uso de fontes inteiramente geradas por IA cria uma nova camada de vulnerabilidade.

À medida que ferramentas como o ChatGPT se tornam centrais para pesquisa, estudo e tomada de decisões, a dependência de conteúdos não verificados produzidos por outras IAs representa um desafio crescente. O episódio evidencia uma fronteira delicada no avanço da inteligência artificial, em que velocidade e escala podem acabar comprometendo a própria noção de verdade.

(Com informações do Tudo Celular por Guilherme Souza)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo