O que é inteligência artificial adversária e por que isso importa?

A inteligência artificial está se tornando um componente crítico na hora de governo, empresas e cidadãos se defenderem contra ataques cibernéticos.

o que é
Créditos: Hwanchul | iStock

Os avanços nas capacidades de aprendizagem profunda se tornarão parte integrante da agenda de segurança, já que criminosos podem aproveitar a inteligência artificial para conduzir uma nova geração de ataques. É a chamada Adversarial AI ou inteligência artificial adversária.

Inteligência artificial adversária

Adversarial AI é o desenvolvimento e uso malicioso de tecnologias e sistemas digitais avançados que possuem processos intelectuais tipicamente associados ao comportamento humano. Isso inclui a capacidade de aprender com experiências passadas e raciocinar ou descobrir o significado a partir de dados complexos.

Os criminosos já estão aproveitando o reconhecimento automatizado, a exploração de alvos e a penetração da rede de ponta a ponta. Em breve, a tecnologia permitirá que automatizem todos os elementos de seu ciclo de ataque, incluindo processos atualmente muito manuais, como a capacidade de aprender controles de fraudes e de industrializar táticas de levantamento e lavagem de dinheiro.

Considerando os princípios do big data, a IA adversária terá impacto no cenário de ameaças de três formas principais.

  • Maior volume de ataques contra um ciclo de ataque mais amplo;
  • Novo ritmo, eficiência e velocidade de ataques, que podem se adaptar ao ambiente em tempo real;
  • Novas variedades de ataques, permitindo metodologias de ataque que antes eram inviáveis.

Como se proteger?

Os avanços dos ataques demandarão uma metodologia baseada em fundamentos sólidos de segurança, mais evoluídos e adaptados.

Em primeiro lugar, será preciso conhecer o atual ambiente de ameaças. É impossível defender uma organização de todos os ataques em todos os canais o tempo todo. A compreensão e a defesa contra a IA adversária exigirão um profundo entendimento de onde a adaptação de ameaças desafiará as posturas atuais e onde concentrar recursos limitados.

Em seguida, será preciso investir em habilidades e análises. Para se adaptar a esse novo ambiente de segurança, o governo, os negócios e os sistemas de ensino precisam garantir que tenham uma base de habilidades e um fluxo de talentos necessários. Atrair, recrutar e treinar pessoas com habilidades interdisciplinares como computação avançada, matemática e análise orquestrada será de suma importância.

Outro ponto importante é investir em fornecedores e terceiros. A defesa profunda em larga escala é baseada em um conjunto integrado de serviços. Eles gerenciam e refinam ativamente as defesas conforme a mudança do cenário de ameaças em um nível operacional e estratégico.

O investimento em novas parcerias políticas operacionais também é importante. Ataques em larga escala exigirão parcerias proativas e alianças além das estruturas tradicionais. Para isso, serão estratégias com parceiros intersetoriais, reguladores e governos, que podem colaborar na estratégia e responder ativamente aos novos desafios de segurança (Com informações do Fórum Econômico Mundial.)