Missbrauch von KI: Cyberkriminelle setzen generative KI als Waffe ein

Diese Entwicklungen spiegeln eine umfassendere Dynamik im Bereich der Cybersicherheit wider. Während Angreifer mit KI-gestützten Taktiken experimentieren, treiben Unternehmen ihre Investitionen in KI-gestützte Abwehrmaßnahmen voran, darunter Verhaltensanalysen, automatisierte Reaktion auf Sicherheitsvorfälle und Zero-Trust-Architekturen. Das Ergebnis ist eine sich wandelnde Landschaft, in der sich offensive und defensive KI-Fähigkeiten parallel weiterentwickeln.

Was passiert gerade und warum ist das wichtig?
Der Missbrauch von KI ist weit mehr als nur eine hypothetische Gefahr – er findet bereits statt. Cyberkriminelle planen nicht nur Angriffe, sie nutzen KI auch, um diese zu koordinieren.

Aus den Meldungen zu Bedrohungen lassen sich mehrere neue Muster erkennen:

• Generative KI wird eingesetzt, um äußerst überzeugende Phishing-Kampagnen mit verbesserter sprachlicher Qualität und kontextbezogener Zielausrichtung zu erstellen.
• Große Sprachmodelle werden derzeit getestet, um bösartige Skripte zu generieren oder zu verfeinern und bestimmte Aspekte des Social Engineering zu automatisieren.
• KI-gestützte Arbeitsabläufe können die Vorbereitung von Angriffen optimieren – von der Erkundung über die Erstellung von Opferprofilen bis hin zur Ausarbeitung von Erpressungsnachrichten.
   

Zwar verfügen die meisten gängigen KI-Plattformen über Sicherheitsvorkehrungen, doch die Verfügbarkeit von Open-Source-Modellen und modifizierten Systemen senkt die Hürde für Missbrauch. Dadurch steigt das Risiko, dass selbst Akteure mit nur mäßigen Fähigkeiten Taktiken anwenden können, für die zuvor spezielles Fachwissen erforderlich war.

Insgesamt verdeutlichen diese Beispiele, wie immer einfacher es selbst für wenig qualifizierte Akteure wird, komplexe und schädliche Cyberangriffe zu verüben – und das alles dank des Missbrauchs von KI.

Die Bedrohung, die Sie nicht ignorieren dürfen
All dies ist Teil eines größeren globalen Wandels. Die Cybersicherheitslandschaft wird mittlerweile von einer neuen Realität geprägt, in der Angreifer ihre Aktivitäten ausweiten und generative KI nutzen, um äußerst realistische Phishing-Kampagnen, Deepfakes, Malware und Identitätsbetrug zu erstellen. Diese Bedrohungen sind nicht mehr nur auf versierte Täter beschränkt, sondern werden zunehmend auch für weniger erfahrene Akteure zugänglich. Die Cybersicherheitslandschaft im Allgemeinen befindet sich im Wandel. Generative KI ermöglicht es Angreifern, ihre Operationen auszuweiten, Täuschungsmanöver zu personalisieren und Aspekte der Malware-Entwicklung sowie des Social Engineering zu automatisieren. Techniken wie Deepfake-Stimmklonen, die Erstellung synthetischer Identitäten und KI-generiertes Phishing werden immer leichter zugänglich.

Gleichzeitig gibt das Insiderrisiko weiterhin Anlass zur Sorge. Die Verfügbarkeit leistungsfähiger KI-Tools erhöht die Wahrscheinlichkeit eines versehentlichen Missbrauchs, der Umgehung von Richtlinien oder einer „Schattennutzung“ innerhalb von Organisationen.

Die Abwehrmaßnahmen entwickeln sich entsprechend weiter. Unternehmen setzen KI-gestützte Anomalieerkennung, Verhaltensanalysen von Benutzern und Entitäten (UEBA), automatisierte Reaktionskoordination sowie Zero-Trust-Architekturen ein. Diese Maßnahmen zielen darauf ab, subtile Verhaltensabweichungen zu erkennen, anstatt sich ausschließlich auf signaturbasierte Erkennung zu verlassen.

Regulatorische Rahmenbedingungen – darunter das EU-KI-Gesetz und branchenspezifische Cybersicherheitsstandards – sorgen für zusätzliche Komplexität und erfordern von Organisationen, ein Gleichgewicht zwischen Innovation, Governance und Rechenschaftspflicht herzustellen.

Auf der defensiven Seite reagieren Unternehmen mit Investitionen in KI-gestützte Bedrohungserkennung, Verhaltensanalysen, automatisierte Reaktion auf Vorfälle und Zero-Trust-Frameworks – ein untrügliches Zeichen dafür, dass das Wettrüsten im Bereich der defensiven KI in vollem Gange ist. All dies spielt sich vor dem Hintergrund zunehmender regulatorischer Kontrolle ab, vom KI-Gesetz der Europäischen Union bis hin zu sich weiterentwickelnden Leitlinien in den Vereinigten Staaten, was für Unternehmen weltweit nicht nur eine technische, sondern auch eine Compliance-Herausforderung darstellt.

Wie Unternehmen reagieren sollten
Das Verständnis von KI-gestützten Bedrohungen ist nur der erste Schritt. Eine wirksame Reaktion erfordert einen strukturierten Ansatz, der Technologie, Governance und Sensibilisierung der Mitarbeiter miteinander verbindet.

Unternehmen sollten folgenden Punkten Priorität einräumen:

• Kontinuierliche Überwachung, die sich auf Verhaltensanalysen statt auf statische Regeln stützt.
• Klare Regeln für den Einsatz von KI, einschließlich Richtlinien für interne Experimente und „Schatten-KI“.
• Transparente, nachvollziehbare Sicherheitstools, die die Nachvollziehbarkeit und die Einhaltung gesetzlicher Vorschriften gewährleisten.
• Risikoübersetzung auf Führungsebene, um sicherzustellen, dass die Vorstände sowohl die technischen Risiken als auch die strategischen Auswirkungen verstehen.

KI verändert die Grundprinzipien der Cybersicherheit nicht grundlegend. Sie beschleunigt sie vielmehr. Unternehmen, die bereits über eine starke Governance, mehrschichtige Verteidigungsstrategien und eine proaktive Überwachung verfügen, sind besser gerüstet, um der durch KI vorangetriebenen Entwicklung von Bedrohungen zu begegnen.

Häufig gestellte Fragen (FAQ)
Was versteht man unter „Missbrauch von KI“?
Unter KI-Missbrauch versteht man die Nutzung von KI-Tools für schädliche oder böswillige Zwecke, beispielsweise zur Erstellung von Phishing-E-Mails, zur Generierung von Malware, zur Umgehung von Sicherheitsfiltern, zur Durchführung von Einflusskampagnen oder zur Automatisierung groß angelegter Cyberangriffe.
 

Wie nutzen Cyberkriminelle generative KI als Waffe?
Sie nutzen generative KI, um:

• glaubwürdige Phishing-Inhalte verfassen,
• bösartigen Code schreiben,
• Einflussmaßnahmen automatisieren,
• „Vibe-Hacking“ (maßgeschneiderte Erpressung) betreiben und
• komplexe Angriffe zu koordinieren, angefangen bei der Identifizierung der Opfer bis hin zur Forderung von Lösegeld.

Warum stellt der Missbrauch von KI eine wachsende Bedrohung für Unternehmen dar?
Da die Eintrittsbarrieren sinken, können auch Akteure mit geringen Fähigkeiten dank KI-Unterstützung mittlerweile ausgeklügelte Angriffe durchführen. Zudem werden Bedrohungen durch Insider immer gefährlicher, und die behördliche Kontrolle nimmt zu.