IA x Defesa Cibernética: Quando os invasores crescem mais rápido do que os defensores

Em 2024, um funcionário do departamento financeiro de uma empresa multinacional autorizou um pagamento de US$ 25 milhões após receber o que parecia ser uma videochamada do CEO da empresa. A voz, o rosto e o contexto pareciam autênticos, mas não eram. Tratava-se de um deepfake: uma imitação sintética, gerada por IA, indistinguível da realidade. Esse incidente não foi isolado e representou a aceleração de uma tendência mais ampla: o crime cibernético facilitado pela IA está se expandindo mais rapidamente do que as defesas convencionais conseguem responder.

A IA não é apenas mais um vetor de ataque. É um multiplicador de força, capaz de reduzir as barreiras de entrada para os agentes mal-intencionados e aumentar a sofisticação, o volume e a taxa de sucesso das campanhas maliciosas. Em resposta a isso, as estratégias de segurança precisam se adaptar de forma exponencial.
 

IA generativa nas mãos de invasores
Embora a IA tenha um enorme potencial para inovação e eficiência, sua adoção por agentes mal-intencionados tem sido igualmente rápida. Somente nos últimos dois anos, a IBM X-Force registrou um aumento de 1.000% no volume de phishing em todo o mundo, sendo que grande parte desse crescimento é atribuída a conteúdos gerados por IA. Os invasores não precisam mais de habilidades linguísticas, conhecimento em engenharia social ou mesmo acesso a kits caros de desenvolvimento de malware. Um único modelo generativo agora é capaz de compor milhares de mensagens de phishing personalizadas, completas com a linguagem interna da empresa, em questão de segundos.

Em muitos casos, essas mensagens não são apenas linguisticamente impecáveis, mas também contextualmente inteligentes. Elas imitam o tom dos executivos seniores, fazem referência a reuniões recentes e se dirigem a pessoas específicas com base em sua função, região ou nível de acesso. O resultado: um aumento drástico nas taxas de sucesso e uma queda significativa na detecção por parte dos usuários.  

Mas o phishing é apenas o começo. Tecnologias de clonagem de voz são agora utilizadas para criar imitações de áudio sintéticas de executivos. Vídeos deepfake estão sendo utilizados em tempo real para validar transações fraudulentas ou influenciar decisões no nível do conselho administrativo. Malware gerado por IA é criado, testado e reimplantado em questão de minutos, com variações de código projetadas para burlar a detecção baseada em assinaturas. O crime cibernético, em resumo, se industrializou.

Amplificação da IA
No cerne dessa transformação está o conceito de “amplificação da IA” — o efeito cumulativo da aplicação da inteligência artificial às atividades de ameaças cibernéticas e da ampliação dos riscos de segurança relacionados à IA. O que antes levava semanas para ser preparado por uma equipe de operadores qualificados agora pode ser orquestrado por um único agente usando algumas instruções e um modelo pronto para uso. Tarefas como ofuscação de código, varredura de vulnerabilidades e criação de perfis de usuários estão sendo automatizadas em um nível nunca antes visto.

O que torna a amplificação da IA especialmente perigosa é sua adaptabilidade. Ao contrário dos ataques programados, as ameaças geradas por IA podem evoluir durante a execução, ampliando ainda mais o panorama dos riscos de segurança relacionados à IA. Por exemplo, uma campanha de phishing baseada em IA pode se aperfeiçoar continuamente com base nos padrões de interação do usuário. Atualmente, alguns malwares adaptam suas ações de acordo com o dispositivo que infectam, monitorando as condições do sistema, as ferramentas de segurança instaladas ou o comportamento do usuário para decidir quando e como agir. Até mesmo vozes falsas podem alterar o tom no meio da conversa para simular estresse ou urgência.

Por que as medidas de defesa estão ficando para trás
Apesar da crescente conscientização, muitas empresas continuam mal preparadas para lidar com essa mudança. Há quatro razões para isso:

• Em primeiro lugar, a maioria dos sistemas de detecção não foi projetada para identificar ameaças geradas por IA. Ferramentas baseadas em assinaturas, embora ainda sejam úteis, não conseguem identificar malware polimórfico ou mensagens de phishing criadas sinteticamente que se desviam de modelos conhecidos. Mesmo análises comportamentais avançadas têm dificuldade em detectar deepfakes disseminados por meio de plataformas de colaboração legítimas. 
• Em segundo lugar, os centros de operações de segurança (SOCs) estão sobrecarregados. O volume de alertas, muitos deles falsos positivos, consome um tempo valioso dos analistas. Quando surgem ameaças reais — especialmente aquelas novas ou de baixa frequência —, elas muitas vezes passam despercebidas. E, embora a IA possa ajudar a reduzir essa carga, atualmente apenas uma minoria dos SOCs integra análises baseadas em IA em grande escala. 
• Em terceiro lugar, a lacuna de talentos está aumentando. As organizações enfrentam escassez persistente de profissionais de segurança cibernética, sendo que os conhecimentos específicos em IA são particularmente escassos. De acordo com dados recentes, mais de 50% dos CISOs afirmam que suas equipes não possuem as habilidades necessárias para identificar ou mitigar ameaças baseadas em IA. Além disso, a integração da nova geração na força de trabalho aumentará a ameaça de riscos gerados por fatores humanos. Por exemplo, entre os funcionários nos Estados Unidos, apenas 31% da Geração Z relataram se sentir confiantes para reconhecer tentativas de phishing, enquanto 72% admitiram ter aberto pelo menos um link no trabalho que parecia suspeito — mais do que qualquer geração mais velha. 
• Por fim, a inércia estrutural é um fator importante. Os investimentos em segurança costumam priorizar a conformidade regulatória em detrimento da adaptabilidade às ameaças. As estruturas são auditadas anualmente; os invasores, por sua vez, se adaptam diariamente.
  O resultado é uma desvantagem estratégica. Enquanto as empresas se adaptam de forma incremental, os invasores evoluem continuamente.
   

Três cenários de ameaças que as organizações enfrentam atualmente
1. Phishing em grande escala impulsionado por IA
Em diversos setores, as campanhas de phishing passaram de e-mails rudimentares e genéricos para iscas criadas com precisão. Modelos de IA treinados com dados internos — provenientes de violações anteriores, comunicados à imprensa e biografias de executivos — elaboram mensagens que contornam tanto os filtros técnicos quanto o ceticismo humano. Em muitos incidentes, os funcionários não agiram por descuido, mas porque as mensagens eram simplesmente convincentes demais.

• Os e-mails reproduzem perfeitamente a linguagem e a formatação da empresa. 
• Os assuntos das mensagens e o momento do envio são adaptados aos eventos internos. 
• A personalização agora vai além dos nomes, abrangendo cargos e histórico de reuniões. 

2. Fraudes com uso de deepfakes
Os ataques de suplantação de identidade que utilizam deepfakes estão se tornando cada vez mais comuns. Os alvos geralmente são profissionais das áreas financeira ou de RH, aos quais é solicitado que tomem medidas urgentes em resposta ao que parece ser um vídeo ao vivo ou uma mensagem de voz de um executivo. A pressão psicológica, combinada com pistas visuais ou auditivas, muitas vezes leva à obediência. O sucesso desses ataques não se deve à excelência tecnológica, mas à confiança que os usuários depositam em formatos familiares, como videochamadas, mensagens de voz ou canais internos.

• As chamadas de voz com deepfake em tempo real têm como alvo, cada vez mais, os aplicativos de mensagens para celular. 
• Os deepfakes de áudio estão sendo usados para burlar os sistemas de verificação de voz. 
• Os invasores costumam combinar deepfakes com o contexto de e-mails ou conversas por chat para criar uma aparência de legitimidade. 
   

Uma ameaça semelhante envolve o uso da IA para gerar identidades digitais totalmente sintéticas, completas com históricos falsos de e-mails, perfis no LinkedIn e até mesmo amostras de voz. Essas identidades são utilizadas para se infiltrar em organizações, acessar sistemas restritos ou construir credibilidade ao longo do tempo nos ecossistemas da cadeia de suprimentos. Essa ameaça é particularmente relevante para organizações com processos de integração de novos funcionários distribuídos, políticas de acesso remoto ou portais de terceiros na cadeia de suprimentos.

• Os agentes mal-intencionados criam “funcionários fantasmas” para se cadastrar em portais de fornecedores ou solicitar acesso. 
• Foram identificadas identidades falsas envolvidas em golpes B2B por meio de equipes de compras. 
• Imagens e currículos gerados por IA são utilizados para se candidatar a vagas remotas em funções sensíveis. 

3. Malware gerativo e cargas úteis evasivas
Já se observamalwaregerado por IA em ambiente real. Essas cargas úteis não são apenas criadas rapidamente — elas são projetadas para sofrer mutações. Algumas podem testar a si mesmas contra ferramentas de segurança e adaptar suas assinaturas em tempo real. Outras incluem lógica integrada para detectar se estão sendo executadas em uma sandbox, adiando a execução até que as condições sejam “seguras”. Para antivírus tradicionais ou ferramentas de EDR, tais ameaças representam um desafio significativo.

• A ofuscação do malware agora é gerada dinamicamente e atualizada constantemente. 
• Algumas variantes utilizam IA para evitar seletivamente a detecção apenas em ambientes monitorados.
• Ferramentas de IA ofensivas, como o WormGPT, estão reduzindo as dificuldades para escrever código evasivo.

Como as organizações podem responder aos riscos de segurança relacionados à IA
Lidar com ameaças na escala da IA, como essas, exige uma mudança total de mentalidade. Não se trata mais apenas de conter as ameaças, mas de agir de forma proativa para antecipá-las. Considere o seguinte:

• Detecção moderna de ameaças com IA integrada: as plataformas de segurança que utilizam aprendizado de máquina e análise comportamental são capazes de identificar anomalias sutis, como um executivo fazendo login em um horário incomum ou um dispositivo enviando volumes inesperados de dados. Essas ferramentas não são soluções milagrosas, mas constituem uma base necessária para operar com rapidez e em grande escala. No futuro, agentes de IA e seres humanos trabalharão em estreita colaboração para fazer face à variedade de ataques que surgirão. 
• Resiliência por meio da conscientização: os usuários humanos continuam sendo tanto uma vulnerabilidade quanto um ponto forte. Os programas de conscientização atualizados devem agora incluir treinamento sobre mídia sintética, detecção de deepfakes e engenharia social baseada em IA. O objetivo não é incitar a paranóia, mas sim o pensamento crítico: confie, mas verifique, especialmente quando a solicitação vier de uma voz ou rosto familiar. 
• Zero Trust como padrão: as estruturas de Zero Trust, há muito discutidas, são agora essenciais. A verificação contínua de usuários, dispositivos e fluxos de dados impede que os invasores se desloquem lateralmente uma vez dentro do perímetro. A autenticação multifatorial (MFA), o acesso condicional e a microsegmentação não devem mais ser opcionais. 
• Inteligência integrada contra ameaças: Compreender os métodos dos invasores exige mais do que apenas telemetria interna. A integração com fontes de inteligência contra ameaças em tempo real — especialmente aquelas que monitoram ferramentas assistidas por IA e atividades na dark web — oferece aos defensores o contexto necessário para agir antes que os incidentes se agravem. Estruturas colaborativas entre setores também desempenharão um papel crucial. 
   

Recentemente, tivemos um vislumbre de como o futuro poderia ser na prática, quando o sistema “Big Sleep” do Google, baseado em IA, impediu a exploração de uma vulnerabilidade crítica do SQLite antes que os agentes mal-intencionados pudessem agir. Embora essa tecnologia ainda não esteja disponível ao público, ela ilustra a próxima evolução da defesa cibernética — sistemas de IA capazes de identificar e neutralizar ameaças de forma autônoma, muitas vezes antes mesmo que a intervenção humana seja possível. Tais avanços destacam um futuro em que arquiteturas proativas e com autodefesa se tornam padrão, transformando a defesa cibernética de uma resposta reativa em uma antecipação inteligente.

A redução da lacuna começa agora
A corrida armamentista da segurança cibernética entrou em uma nova fase. A IA alterou o equilíbrio de forças a favor do invasor, dando início a uma nova era de riscos de segurança relacionados à IA, mas essa mudança não é permanente. As empresas que agirem agora, adotando métodos modernos de detecção, aumentando a conscientização da força de trabalho e envolvendo parceiros estratégicos, poderão recuperar a iniciativa.

A janela de oportunidade para se adaptar é estreita. Mas a oportunidade é clara.

Na Getronics, já estamos trabalhando com organizações dos setores financeiro, de saúde, de manufatura e do governo para criar defesas preparadas para a IA. Convidamos você a se juntar a elas.

Entre em contato conosco ou baixe nosso white paper executivo para descobrir como sua organização pode transformar a defesa em vantagem.

Vamos enfrentar a automação com automação e vencer juntos.