Uso indevido de IA acende alerta após ataque global com o Claude

Data:

Uso indevido de IA acende alerta após ataque global com o Claude | Juristas

Um grupo de hackers ligado ao governo chinês utilizou o modelo de inteligência artificial Claude, da Anthropic, para realizar um ataque cibernético coordenado contra 30 alvos corporativos e políticos ao redor do mundo. De acordo com a própria empresa, este é o primeiro registro documentado de uma operação conduzida quase integralmente por IA, com interação humana reduzida.

Hackers driblaram restrições de segurança

Para burlar os mecanismos de proteção do sistema, os invasores se apresentaram ao Claude Code como uma empresa de cibersegurança que usaria o modelo em treinamentos defensivos. A partir desse disfarce, eles dividiram o ataque em etapas pequenas e isoladas, de modo que nenhuma instrução revelasse claramente o propósito malicioso.

Segundo a Anthropic, a estratégia permitiu que a IA assumisse entre 80% e 90% do trabalho, incluindo desenvolvimento de exploits, invasão de sistemas e extração de dados.

IA escreveu o exploit, invadiu sistemas e roubou dados

Após definirem seus alvos — entre eles empresas de tecnologia, instituições financeiras e órgãos governamentais — os hackers solicitaram ao Claude Code que montasse toda a estrutura da ofensiva.

A IA não apenas programou o código explorando a falha de segurança, como também conseguiu acessar sistemas e obter credenciais de usuários, incluindo nomes e senhas. Com essas informações, o modelo criou um backdoor e extraiu uma “grande quantidade de dados privados”.

A Anthropic relatou ainda que o Claude documentou os ataques, organizou os resultados em arquivos separados e armazenou os dados roubados. Embora parte das informações obtidas fossem públicas, a empresa alerta que a sofisticação desses ataques tende a aumentar com o avanço das ferramentas de IA.

Claude também avaliou o nível de ameaça dos dados roubados

Apesar de ter sido usado pelos hackers, o modelo também foi capaz de analisar os próprios dados coletados e classificar o nível de risco associado ao material obtido.

O uso de IA em ataques não é novidade. Como lembra o portal Engadget, a OpenAI já revelou que suas ferramentas foram utilizadas por criminosos para depurar códigos e elaborar e-mails de phishing, prática comum em roubos de credenciais. OpenAI e Anthropic inclusive colaboraram na identificação de vulnerabilidades em seus sistemas.

Empresa relata outros usos indevidos da ferramenta

No relatório publicado em agosto, a Anthropic também detalhou outros casos de uso abusivo de seus modelos, como:

  • esquemas de extorsão;
  • criação de ransomware por criminosos com baixo conhecimento técnico;
  • operações de fraude conduzidas pela Coreia do Norte.

Neste último caso, agentes norte-coreanos teriam usado o Claude para criar identidades profissionais falsas, passar por entrevistas técnicas e garantir vagas remotas em empresas de tecnologia dos EUA.

(Com informações do Tecno Blog)

 

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo