A Anthropic, empresa norte-americana de inteligência artificial (IA) responsável pelo desenvolvimento do modelo Claude, alertou investidores sobre os possíveis riscos associados ao avanço da tecnologia antes de sua planejada entrada no mercado acionário. Segundo informações divulgadas pelo Financial Times, a companhia classificou entre os possíveis cenários de risco aqueles que poderiam representar ameaças de grande escala à humanidade.
O alerta ocorre em meio ao aumento do debate internacional sobre os riscos associados ao desenvolvimento de sistemas de inteligência artificial cada vez mais avançados. Entre as preocupações discutidas por pesquisadores, empresas e autoridades estão comportamentos inesperados de sistemas autônomos, utilização indevida da tecnologia, falhas de segurança e dificuldades para estabelecer mecanismos eficazes de controle.
Na semana passada, líderes do setor de inteligência artificial defenderam, em discussões realizadas no âmbito das Nações Unidas, o fortalecimento da supervisão internacional sobre a tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, também afirmou que é necessário reduzir o ritmo de desenvolvimento das capacidades dos modelos de IA enquanto mecanismos de segurança são aprimorados.
As declarações ocorrem paralelamente aos preparativos da Anthropic para uma possível oferta pública de ações. Conforme documento divulgado pela empresa, a companhia registrou no ano passado prejuízo operacional superior a US$ 8 bilhões, em razão, entre outros fatores, do aumento dos investimentos necessários para ampliar sua capacidade de processamento.
A empresa informou faturamento próximo de US$ 4,6 bilhões e prevê investimentos expressivos nos próximos anos para sustentar sua expansão. Em maio, a Anthropic foi avaliada em aproximadamente US$ 965 bilhões, segundo as informações citadas na reportagem.
A empresa, fundada em San Francisco, prepara uma possível abertura de capital que poderá estar entre as maiores operações do setor de tecnologia. Procurada pela agência AFP para comentar as informações divulgadas pelo Financial Times, a Anthropic não se manifestou.
O debate sobre os riscos da inteligência artificial também ganhou força diante de episódios envolvendo sistemas capazes de executar determinadas ações de forma autônoma. Casos recentes, incluindo situações em que agentes de IA teriam realizado ações não autorizadas em ambientes digitais, ampliaram as discussões sobre os limites de autonomia que devem ser concedidos a esses sistemas.
Nesse contexto, executivos e pesquisadores ligados ao setor passaram a defender diferentes mecanismos de contenção e supervisão. O próprio Dario Amodei publicou um texto no qual afirmou ser necessário desacelerar o ritmo de aprimoramento das capacidades dos modelos de IA.
A discussão, entretanto, não significa que exista consenso de que a inteligência artificial necessariamente representará uma ameaça à humanidade. Os riscos apontados variam desde problemas concretos e atuais, como fraudes, desinformação, violações de privacidade e ataques cibernéticos, até cenários hipotéticos envolvendo sistemas altamente autônomos e difíceis de controlar.
Especialistas também discutem a necessidade de estabelecer regras de governança, transparência, avaliação de riscos e responsabilização para empresas que desenvolvem ou utilizam sistemas de inteligência artificial. A definição de limites regulatórios busca acompanhar a evolução tecnológica sem impedir o desenvolvimento de aplicações consideradas benéficas para a sociedade.
A possibilidade de sistemas de IA apresentarem comportamentos prejudiciais aos seres humanos permanece objeto de pesquisa e debate. Não há evidência de que modelos atuais tenham desenvolvido vontade própria ou intenção independente de prejudicar pessoas. As principais preocupações estão relacionadas ao modo como sistemas avançados podem ser projetados, utilizados ou operar de maneira inesperada, especialmente quando recebem maior capacidade de executar tarefas de forma autônoma.
(Com informações do G1 por France Presse)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
