Anthropic defende pausa global no avanço da inteligência artificial diante de riscos de perda de controle

Data:

Inteligência Artificial vai substituir o trabalho dos advogados
Créditos: Andy | iStock

A empresa de inteligência artificial Antropic defendeu a criação de um mecanismo internacional que permita desacelerar ou até interromper temporariamente o desenvolvimento dos sistemas mais avançados de IA. A proposta surge em meio a preocupações sobre a possibilidade de futuras tecnologias se tornarem capazes de aprimorar a si mesmas sem intervenção humana, cenário que, segundo a companhia, pode representar riscos significativos para a sociedade.

A manifestação foi apresentada em artigo divulgado pela empresa, que alerta para o avanço acelerado dos modelos de inteligência artificial e para a necessidade de criar mecanismos globais de supervisão antes que a tecnologia alcance níveis de autonomia sem precedentes.

Temor de autoaperfeiçoamento autônomo

O principal foco da preocupação está no chamado autoaperfeiçoamento recursivo, hipótese em que sistemas de IA passariam a desenvolver versões mais avançadas de si próprios, acelerando sua evolução de forma independente da atuação humana.

Segundo a presidente do Instituto Anthropic, Marina Favaro, embora esse estágio ainda não tenha sido alcançado, as tendências observadas atualmente indicam que ele não pode ser descartado.

De acordo com a executiva, a capacidade de sistemas de inteligência artificial projetarem seus próprios sucessores poderia impulsionar avanços tecnológicos extraordinários, mas também criaria desafios inéditos relacionados à supervisão, segurança e controle.

Proposta exige coordenação internacional

A empresa argumenta que uma eventual pausa no desenvolvimento da IA só teria efetividade se fosse adotada de forma coordenada entre os principais desenvolvedores globais da tecnologia.

Nesse contexto, a Anthropic defende a criação de mecanismos verificáveis que permitam monitorar e garantir o cumprimento de eventuais acordos entre empresas e governos. A proposta envolveria especialmente os principais polos de desenvolvimento de inteligência artificial, incluindo Estados Unidos e China.

A companhia informou ainda que pretende promover discussões com autoridades governamentais, cientistas, organizações da sociedade civil e outras empresas do setor para debater modelos de governança capazes de lidar com os desafios futuros da tecnologia.

Avanço acelerado da IA

No documento, a Anthropic também apresentou indicadores que demonstram o rápido progresso de seus sistemas.

Segundo a empresa, engenheiros que utilizam ferramentas de inteligência artificial passaram a produzir significativamente mais código de programação em comparação aos anos anteriores. Além disso, modelos recentes registraram avanços expressivos na resolução de problemas complexos de software.

Para a companhia, esse aumento de desempenho pode acelerar ainda mais o ciclo de evolução tecnológica, aproximando o setor de cenários em que sistemas de IA contribuam diretamente para seu próprio desenvolvimento.

Debate divide setor tecnológico

A proposta de desaceleração global da inteligência artificial encontra resistência em parte da indústria de tecnologia e de autoridades governamentais, especialmente nos Estados Unidos.

Críticos da ideia argumentam que uma pausa coordenada poderia reduzir a competitividade de empresas ocidentais e favorecer países que optassem por manter o ritmo de desenvolvimento tecnológico.

Ao mesmo tempo, cresce o debate internacional sobre mecanismos de regulação, transparência e segurança para modelos cada vez mais sofisticados de inteligência artificial.

As discussões ganharam força nos últimos anos à medida que sistemas generativos passaram a demonstrar capacidades mais avançadas de raciocínio, programação, automação e produção de conteúdo.

(Com informações da Folha de São Paulo por Pedro S. Teixeira)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo