IA frente a la ciberdefensa: cuando los atacantes crecen más rápido que los defensores

En 2024, un empleado del departamento financiero de una empresa multinacional autorizó un pago de 25 millones de dólares tras recibir lo que parecía ser una videollamada de su director general. La voz, el rostro y el contexto parecían auténticos, pero no lo eran. Se trataba de un «deepfake»: una suplantación de identidad sintética, generada por IA, indistinguible de la realidad. Este incidente no fue un caso aislado, sino que representó la aceleración de una tendencia más amplia: la ciberdelincuencia basada en la IA está creciendo a un ritmo más rápido del que pueden responder las defensas convencionales.

La IA no es simplemente otro vector de ataque más. Es un multiplicador de potencia que está reduciendo las barreras de acceso para los autores de amenazas y aumentando la sofisticación, el volumen y la tasa de éxito de las campañas maliciosas. En respuesta a ello, las estrategias de seguridad deben evolucionar de forma exponencial.
 

La IA generativa en manos de los atacantes
Aunque la IA encierra un enorme potencial para la innovación y la eficiencia, su adopción por parte de actores malintencionados ha sido igualmente rápida. Solo en los últimos dos años, IBM X-Force ha registrado un aumento del 1000 % en el volumen de ataques de phishing a nivel mundial, y gran parte de ese crecimiento se atribuye al contenido generado por IA. Los atacantes ya no necesitan conocimientos lingüísticos, experiencia en ingeniería social ni siquiera acceso a costosos kits de desarrollo de malware. Un único modelo generativo puede ahora redactar miles de mensajes de phishing personalizados, con el lenguaje interno de la empresa, en cuestión de segundos.

En muchos casos, estos mensajes no solo son lingüísticamente impecables, sino que también son contextualmente inteligentes. Imitan el tono de los altos directivos, hacen referencia a reuniones recientes y se dirigen a personas concretas en función de su cargo, región o nivel de acceso. El resultado: un aumento espectacular de las tasas de éxito y una disminución significativa de la detección por parte de los usuarios.  

Pero el phishing es solo el principio. Las tecnologías de clonación de voz se utilizan ahora para crear imitaciones de audio sintéticas de ejecutivos. Se están utilizando vídeos «deepfake» en tiempo real para validar transacciones fraudulentas o influir en las decisiones de los consejos de administración. El malware generado por IA se escribe, se prueba y se vuelve a distribuir en cuestión de minutos, con variaciones en el código diseñadas para eludir la detección basada en firmas. En resumen, la ciberdelincuencia se ha industrializado.

Amplificación de la IA
En el núcleo de esta transformación se encuentra el concepto de «amplificación de la IA»: el efecto multiplicador que se produce al aplicar la inteligencia artificial a las actividades de las amenazas cibernéticas y al amplificar los riesgos de seguridad relacionados con la IA. Lo que antes requería semanas de preparación por parte de un equipo de operadores cualificados, ahora puede ser orquestado por un solo actor utilizando unas pocas instrucciones y un modelo ya disponible. Tareas como la ofuscación de código, el análisis de vulnerabilidades y la elaboración de perfiles de usuarios se están automatizando hasta un grado nunca antes visto.

Lo que hace que la amplificación de la IA resulte especialmente peligrosa es su capacidad de adaptación. A diferencia de los ataques programados, las amenazas generadas por la IA pueden evolucionar durante su ejecución, lo que amplía aún más el panorama de los riesgos de seguridad relacionados con la IA. Por ejemplo, una campaña de phishing basada en IA puede mejorar continuamente a partir de los patrones de interacción de los usuarios. Actualmente, algunos programas maliciosos adaptan sus acciones en función del dispositivo que infectan, supervisando el estado del sistema, las herramientas de seguridad instaladas o el comportamiento del usuario para decidir cuándo y cómo ejecutarse. Incluso las voces falsas pueden modificar el tono en mitad de una conversación para simular estrés o urgencia.

Por qué las medidas de seguridad se están quedando atrás
A pesar de la creciente concienciación, muchas empresas siguen sin estar preparadas para hacer frente a este cambio. Hay cuatro razones que lo explican:

• En primer lugar, la mayoría de los sistemas de detección no están diseñados para identificar amenazas generadas por IA. Las herramientas basadas en firmas, aunque siguen siendo útiles, no detectan el malware polimórfico ni los mensajes de phishing generados sintéticamente que se desvían de las plantillas conocidas. Incluso los análisis de comportamiento avanzados tienen dificultades para detectar los «deepfakes» difundidos a través de plataformas de colaboración legítimas. 
• En segundo lugar, los centros de operaciones de seguridad (SOC) están desbordados. El volumen de alertas, muchas de ellas falsos positivos, consume un tiempo valioso a los analistas. Cuando surgen amenazas reales —especialmente aquellas novedosas o poco frecuentes—, a menudo pasan desapercibidas. Y, aunque la inteligencia artificial puede ayudar a reducir esta carga, actualmente solo una minoría de los SOC integra análisis basados en la inteligencia artificial a gran escala. 
• En tercer lugar, la brecha de talento es cada vez mayor. Las organizaciones se enfrentan a una escasez persistente de personal especializado en ciberseguridad, siendo especialmente escasos los expertos en IA. Según datos recientes, más del 50 % de los CISO afirman que sus equipos carecen de las habilidades necesarias para identificar o mitigar las amenazas relacionadas con la IA. Además, la incorporación de las nuevas generaciones a la plantilla aumentará la amenaza de los riesgos generados por el factor humano. Por ejemplo, entre los empleados de Estados Unidos, solo el 31 % de la Generación Z afirmó sentirse seguro a la hora de reconocer intentos de phishing, mientras que el 72 % admitió haber abierto al menos un enlace en el trabajo que le pareció sospechoso, una cifra superior a la de cualquier generación anterior. 
• Por último, la inercia estructural es un factor a tener en cuenta. Las inversiones en seguridad suelen dar prioridad al cumplimiento normativo frente a la adaptabilidad ante las amenazas. Los marcos de seguridad se auditan anualmente; los atacantes, en cambio, actúan a diario.
  El resultado es una desventaja estratégica. Mientras que las empresas se adaptan de forma gradual, los atacantes evolucionan continuamente.
   

Tres escenarios de amenaza a los que se enfrentan actualmente las organizaciones
1. Phishing a gran escala impulsado por la IA
En múltiples sectores, las campañas de phishing han pasado de ser correos electrónicos burdos y genéricos a convertirse en señuelos diseñados con precisión. Los modelos de IA entrenados con datos internos —procedentes de filtraciones anteriores, comunicados de prensa y biografías de ejecutivos— elaboran mensajes que eluden tanto los filtros técnicos como el escepticismo humano. En muchos incidentes, los empleados no actuaron por descuido, sino porque los mensajes eran, sencillamente, demasiado convincentes.

• Los correos electrónicos imitan a la perfección el lenguaje y el formato de la empresa. 
• Los asuntos de los correos y el momento de envío se adaptan a los eventos internos. 
• La personalización va ahora más allá de los nombres y abarca los puestos de trabajo y el historial de reuniones. 

2. Fraude mediante deepfakes
Los ataques de suplantación de identidad mediante deepfakes son cada vez más frecuentes. Las víctimas suelen ser profesionales del ámbito financiero o de recursos humanos, a quienes se les pide que actúen con urgencia ante lo que parece ser un vídeo en directo o un mensaje de voz de un directivo. La presión psicológica, combinada con señales visuales o auditivas, suele llevar a que se cumpla lo solicitado. El éxito de estos ataques no se debe a la brillantez tecnológica, sino a la confianza que los usuarios depositan en formatos familiares como las videollamadas, las notas de voz o los canales internos.

• Las llamadas de voz con deepfakes en tiempo real se dirigen cada vez más a las aplicaciones de mensajería móvil. 
• Los «deepfakes» de audio se están utilizando para burlar los sistemas de verificación de voz. 
• Los atacantes suelen combinar los deepfakes con el contexto de un correo electrónico o un chat para darles un aire de legitimidad. 
   

Una amenaza similar consiste en el uso de la inteligencia artificial para generar identidades digitales totalmente sintéticas, que incluyen historiales de correo electrónico falsos, perfiles de LinkedIn e incluso huellas vocales. Estas se utilizan para infiltrarse en organizaciones, acceder a sistemas restringidos o ganarse credibilidad con el tiempo en los ecosistemas de la cadena de suministro. Esta amenaza es especialmente relevante para las organizaciones con procesos de incorporación distribuidos, políticas de acceso remoto o portales de la cadena de suministro de terceros.

• Los ciberdelincuentes crean «empleados fantasma» para registrarse en los portales de los proveedores o solicitar acceso. 
• Se han detectado identidades falsas que están llevando a cabo estafas B2B a través de los equipos de compras. 
• Se utilizan imágenes y currículos generados por IA para solicitar puestos de trabajo a distancia en funciones sensibles. 

3. Malware generativo y cargas útiles evasivas
Ya se está observando en el entorno realmalwaregenerado por IA. Estas cargas útiles no solo se crean rápidamente, sino que están diseñadas para mutar. Algunas pueden ponerse a prueba frente a herramientas de seguridad y adaptar sus firmas en tiempo real. Otras incluyen una lógica integrada para detectar si se están ejecutando en un entorno aislado (sandbox), retrasando la ejecución hasta que las condiciones sean «seguras». Para las herramientas antivirus tradicionales o de EDR, estas amenazas representan un reto significativo.

• La ofuscación del malware se genera ahora de forma dinámica y se actualiza constantemente. 
• Algunas cepas utilizan la inteligencia artificial para evitar de forma selectiva ser detectadas únicamente en entornos vigilados.
• Las herramientas de IA ofensivas, como WormGPT, están reduciendo las dificultades para escribir código evasivo.

Cómo pueden las organizaciones hacer frente a los riesgos de seguridad relacionados con la IA
Abordar amenazas a escala de la IA como estas requiere un cambio total de mentalidad. Ya no se trata solo de contener las amenazas, sino de actuar de forma proactiva para anticiparse a ellas. Piensa en lo siguiente:

• Detección moderna de amenazas con IA integrada: las plataformas de seguridad que utilizan el aprendizaje automático y el análisis de comportamiento pueden detectar anomalías sutiles, como que un directivo inicie sesión a una hora inusual o que un dispositivo suba volúmenes inesperados de datos. Estas herramientas no son la panacea, pero constituyen una base necesaria para operar con rapidez y a gran escala. En el futuro, los agentes de IA y las personas trabajarán en estrecha colaboración para hacer frente a la variedad de ataques que se produzcan. 
• Resiliencia a través de la concienciación: los usuarios humanos siguen siendo tanto un punto débil como un punto fuerte. Los programas de concienciación actualizados deben incluir ahora formación sobre medios sintéticos, detección de deepfakes e ingeniería social basada en la inteligencia artificial. El objetivo no es infundir paranoia, sino fomentar el pensamiento crítico: confía, pero verifica, sobre todo cuando la solicitud provenga de una voz o un rostro familiar. 
• El modelo «Zero Trust» como norma por defecto: los marcos de trabajo «Zero Trust», de los que se lleva hablando tanto tiempo, son ahora imprescindibles. La verificación continua de usuarios, dispositivos y flujos de datos impide que los atacantes se desplacen lateralmente una vez que han traspasado el perímetro. La autenticación multifactorial (MFA), el acceso condicional y la microsegmentación ya no deberían ser opcionales. 
• Inteligencia integrada sobre amenazas: Para comprender los métodos de los atacantes se necesita algo más que la telemetría interna. La integración con fuentes de inteligencia sobre amenazas en tiempo real —especialmente aquellas que realizan un seguimiento de las herramientas asistidas por IA y de la actividad en la dark web— proporciona a los defensores el contexto necesario para actuar antes de que los incidentes se agraven. Los marcos de colaboración entre sectores también desempeñarán un papel crucial. 
   

Recientemente se ha podido vislumbrar cómo podría ser el futuro en la práctica, cuando el sistema «Big Sleep» de Google, impulsado por IA, impidió que se aprovechara una vulnerabilidad crítica de SQLite antes de que los atacantes pudieran actuar. Aunque esta tecnología aún no está disponible para el público, ilustra la próxima evolución de la ciberdefensa: sistemas de IA capaces de identificar y neutralizar amenazas de forma autónoma, a menudo incluso antes de que sea posible la intervención humana. Estos avances apuntan a un futuro en el que las arquitecturas proactivas y con capacidad de autodefensa se conviertan en la norma, transformando la ciberdefensa de una respuesta reactiva a una anticipación inteligente.

Reducir la brecha empieza ahora
La carrera armamentística en materia de ciberseguridad ha entrado en una nueva fase. La inteligencia artificial ha inclinado la balanza de poder a favor de los atacantes, dando paso a una nueva era de riesgos de seguridad relacionados con la IA, pero ese cambio no es permanente. Las empresas que actúen ahora, adoptando sistemas de detección modernos, sensibilizando a su plantilla y colaborando con socios estratégicos, podrán recuperar la iniciativa.

El margen para adaptarse es reducido. Pero la oportunidad es evidente.

En Getronics, ya colaboramos con organizaciones de los sectores financiero, sanitario, industrial y público para desarrollar sistemas de defensa preparados para la inteligencia artificial. Te invitamos a unirte a ellas.

Ponte en contacto con nosotros o descarga nuestro whitepaper ejecutivo whitepaper descubrir cómo tu organización puede convertir la defensa en una ventaja.

Enfrentemos la automatización con automatización y ganemos juntos.