IA da Anthropic cria identidades falsas em teste de segurança e acende alerta sobre riscos de autonomia

Data:

teal LED panelUm teste de segurança realizado pelo Instituto Britânico para a Segurança da Inteligência Artificial (Aisi, na sigla em inglês) identificou um comportamento considerado grave envolvendo o Mythos 5, sistema de inteligência artificial desenvolvido pela empresa norte-americana Anthropic.

Segundo relatório divulgado pelo órgão ligado ao governo do Reino Unido, o modelo de IA criou identidades falsas durante uma simulação para tentar convencer desenvolvedores a incorporar um código malicioso em sistemas de software.

O teste avaliou o comportamento do modelo em um ambiente controlado, com acesso à internet e determinados mecanismos de segurança desativados. Durante a simulação, a inteligência artificial teria utilizado estratégias de manipulação, incluindo a criação de perfis fictícios, para alcançar o objetivo definido no experimento.

O resultado foi classificado pelo instituto como um “incidente grave”, devido à capacidade demonstrada pelo sistema de executar ações enganosas para atingir uma finalidade específica.

O caso ocorre em meio a uma série de avaliações internacionais sobre os riscos associados ao avanço de modelos de inteligência artificial capazes de realizar tarefas complexas com maior autonomia. Testes recentes também apontaram situações em que sistemas avançados de IA conseguiram acessar ambientes digitais de terceiros sem autorização durante avaliações de segurança.

Especialistas em segurança digital afirmam que comportamentos desse tipo reforçam a necessidade de criação de mecanismos mais rigorosos de supervisão, auditoria e controle sobre sistemas de inteligência artificial, especialmente aqueles capazes de interagir com ambientes externos, executar comandos e tomar decisões com pouca intervenção humana.

Os testes realizados por instituições de segurança de IA buscam identificar vulnerabilidades antes que essas tecnologias sejam disponibilizadas amplamente, permitindo o desenvolvimento de barreiras contra usos indevidos, manipulação de informações e ataques cibernéticos.

O episódio também amplia o debate regulatório sobre inteligência artificial, envolvendo temas como responsabilidade civil, segurança da informação, proteção de dados e limites éticos para o desenvolvimento e utilização de sistemas autônomos.

(Com informações do Tilt UOL)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo