Wie man vertrauensbasierte KI-Sicherheit in großem Maßstab aufbaut

Vertrauen hat in diesem Zusammenhang zwei Dimensionen. Erstens müssen Mitarbeiter und Analysten darauf vertrauen können, dass KI-Tools ihre Arbeit unterstützen und ihr Urteilsvermögen nicht untergraben. Zweitens müssen Führungskräfte darauf vertrauen können, dass diese Systeme sicher, nachvollziehbar und unter realen Bedingungen widerstandsfähig sind.

Ohne diese beiden Dimensionen lässt sich KI-gestützte Sicherheit nicht skalieren – sie zerfällt in Einzelteile. Erfolgreiche Unternehmen betrachten Vertrauen nicht als reines Kommunikationsinstrument, sondern als Gestaltungsprinzip, das fest in Governance, Aufsicht und Einführungsstrategie verankert ist.
 

Die doppelte Bedeutung von Vertrauen 

Erstens: Was meinen wir eigentlich, wenn wir im Zusammenhang mit KI und Sicherheit von Vertrauen sprechen? Tatsächlich hat der Begriff zwei verschiedene Bedeutungen:

• Die menschliche Seite: Vertrauen Ihre Mitarbeiter den KI-Sicherheitstools, die Sie für sie auswählen, tatsächlich, oder sehen sie diese als Bedrohung, als Belastung oder als etwas, das es zu umgehen gilt? 
• Die technische Seite: Kann man darauf vertrauen, dass Ihre KI-Sicherheitstools das leisten, was ihre Anbieter oder Entwickler versprechen?
  Beide Aspekte sind wichtig und entscheiden darüber, ob KI einen Mehrwert schafft oder lediglich neue Risiken mit sich bringt.

Wenn Sie bei der Einführung neuer KI-Tools die menschliche Seite des Vertrauens vernachlässigen, riskieren Sie eine geringe Akzeptanz, Schattenpraktiken, die offizielle Systeme umgehen, und ein falsches Sicherheitsgefühl, das Ihr Unternehmen anfälliger macht. Außerdem untergräbt es das Vertrauen Ihres Teams, wenn Sie Tools wählen, die die Komplexität erhöhen, anstatt die Effizienz zu steigern. Diese Spannung erklärt zum Teil, warum Gartner berichtet, dass 69 % der Unternehmen den Verdacht hegen oder Beweise dafür haben, dass Mitarbeiter nicht autorisierte öffentliche GenAI-Tools („Schatten-KI“) nutzen. Wenn zugelassene Tools den tatsächlichen betrieblichen Anforderungen nicht gerecht werden, suchen Mitarbeiter nach Alternativen – oft ohne angemessene Kontrolle.

Auf der technischen Seite müssen CIOs über den überwältigenden Hype und die ständigen überzogenen Versprechungen hinwegsehen, die wir in den letzten Jahren aus der KI-Community erlebt haben. Genau wie jedes andere Sicherheitstool müssen sich auch KI-gestützte Tools unter realen Bedingungen bewähren – und zwar mit Transparenz, Nachvollziehbarkeit und Widerstandsfähigkeit gegenüber neuen Bedrohungen wie Prompt-Injection und Fehlern bei der Zugriffskontrolle.
 

Vertrauen in die Einführung von KI integrieren 

Viele Unternehmen stehen bei der Einführung neuer KI-Tools vor Herausforderungen hinsichtlich der Akzeptanz. Das liegt wahrscheinlich daran , dass laut einem BCG-Bericht fast die Hälfte (46 %) der Mitarbeiter KI als Bedrohung für ihre Arbeitsplätze ansieht. Es ist sicherlich nicht hilfreich, dass die KI-Branche weiterhin das Potenzial ihrer Tools hochspielt, die Arbeit, wie wir sie kennen, neu zu definieren. Die Mitarbeiter haben berechtigte Bedenken. Es ist Aufgabe der IT- und Sicherheitsverantwortlichen, diesen durch sorgfältig geplante Einführungsstrategien entgegenzuwirken.

Erfolgsgeschichte im Bereich KI: MinterEllison 

Ein häufig genanntes Beispiel ist MinterEllison, das ein strukturiertes Programm zur Vermittlung von KI-Kenntnissen eingeführt hat, um die Einführung dieser Technologie zu unterstützen. Die Kanzlei stellte spezielle Lernzeiten zur Verfügung, stimmte die Schulungen auf die Leistungsziele ab und ernannte interne „Digital Champions“, die ihre Kollegen anhand praktischer Anwendungsfälle anleiteten.

Zu den berichteten Ergebnissen zählten ein deutlicher Anstieg der wöchentlichen KI-Nutzung sowie ein anhaltendes Engagement in allen Abteilungen. Die wichtigste Erkenntnis sind nicht die Nutzungszahlen an sich, sondern die Struktur: Das Vertrauen stieg, weil Schulungen, die Zeitplanung und die gegenseitige Unterstützung durch Kollegen bewusst in die Einführung integriert wurden.

Weiterbildung, Transparenz und Kommunikation
Der Bedarf an strukturierter Weiterbildung wird weiter zunehmen. In seinem Bericht „Predicts 2025: AI and the Future of Work“ geht Gartner davon aus, dass bis 2028 40 % der Mitarbeiter bei der Übernahme einer neuen Position zunächst durch KI geschult oder gecoacht werden – gegenüber weniger als 5 % heute. Wenn Mitarbeiter erwarten, dass KI sie vom ersten Tag an begleitet, können es sich Unternehmen nicht leisten, die KI-Kompetenz dem Zufall zu überlassen.

Auch eine klare Kommunikation ist wichtig. Seien Sie offen und realistisch in Bezug darauf, was KI-Tools leisten können und was nicht. Zeigen Sie den Mitarbeitern, wie wichtig ihre menschliche Kontrolle ist. Und sagen Sie nicht einfach nur: „Vertraut dem Tool“. Bringen Sie ihnen stattdessen bei und ermutigen Sie sie, die Ergebnisse zu hinterfragen und zu interpretieren. Wenn die Mitarbeiter wissen, dass ihr Urteilsvermögen nach wie vor geschätzt wird, wird KI weniger als Bedrohung und mehr als Unterstützung wahrgenommen.
 

Die Auswahl vertrauenswürdiger KI-Sicherheitstools 

Die andere Seite der Medaille ist die Frage, ob IT- und Sicherheitsverantwortliche darauf vertrauen können, dass KI-Systeme zuverlässig und sicher funktionieren. Auch hier sind die Risiken real. Branchenprognosen deuten darauf hin, dass Schwachstellen bei der Zugriffskontrolle – darunter Risiken durch Prompt-Injection und Privilegieneskalation – in den nächsten Jahren wahrscheinlich zu den wichtigsten Angriffsvektoren für KI-gestützte Systeme werden. In dem Maße, wie KI-Agenten an operativer Autonomie gewinnen, werden Lücken in der Governance zu Sicherheitslücken.

Gleichzeitig müssen Unternehmen Genauigkeitsabweichungen, das Risiko von Verzerrungen und steigende Cloud-Kosten bewältigen. Eine vertrauensbasierte KI-Sicherheit hängt daher nicht nur von der Abwehr von Bedrohungen ab, sondern auch von kontinuierlicher Validierung, Überwachung und Kostenkontrolle.

Diese Herausforderungen erklären, warum Cybersicherheit für CIOs im Bank-, Versicherungs- und Einzelhandelssektor nach wie vor zu den drei wichtigsten Prioritäten zählt. Die gute Nachricht ist jedoch, dass es bereits Beispiele für den vertrauenswürdigen Einsatz von KI gibt, wie die folgenden Fallstudien von Gartner zeigen.

Die Citizens Bank hat beispielsweise einen sorgfältig ausgewählten Orchestrator-Agenten eingeführt, um Backoffice-Aufgaben sicher innerhalb kontrollierter Arbeitsabläufe zu verwalten. In der Versicherungsbranche nutzt ein niederländisches Unternehmen KI, um einfache Kfz-Schadensfälle automatisch zu bearbeiten, während komplexe Fälle an menschliche Sachverständige weitergeleitet werden. Beide Beispiele lehren uns dieselbe Lektion: Führungskräfte können KI vertrauen, wenn sie für den jeweiligen Anwendungsfall gut geeignet ist, klare Rahmenbedingungen hat und wenn Menschen weiterhin die Verantwortung für risikoreiche Entscheidungen tragen.
 

Branchenperspektiven 

Die Herausforderung im Bereich Vertrauen sieht von Branche zu Branche etwas anders aus:

• Bankwesen: Vertrauen ist untrennbar mit Compliance verbunden. Führungskräfte benötigen KI-Systeme, die Fehlalarme bei der Betrugserkennung reduzieren und Prüfpfade vorhalten, denen die Aufsichtsbehörden ohne Einwände nachgehen können. 
• Versicherungen: Voreingenommenheit bei der Risikoprüfung oder bei Schadenentscheidungen ist nicht nur ein ethisches Problem, sondern auch ein regulatorisches Risiko und ein Reputationsrisiko. Maßnahmen zur Überprüfung auf Voreingenommenheit und Instrumente zur Erklärbarkeit sind unerlässlich. 
• Fertigung: Sicherheit ist nicht verhandelbar. Werksleiter verlassen sich nicht auf KI-Prognosen zu Anlagenausfällen, solange sie nicht wissen, wann und in welchem Umfang eine Überprüfung durch Menschen erforderlich ist. 
• Einzelhandel: Angesichts der hohen Personalfluktuation stellt „Shadow-AI“ ein großes Risiko dar. Einzelhändler müssen KI-Kompetenz genauso ernst nehmen wie Datenkompetenz, um eine sichere und produktive Einführung zu gewährleisten.
   

Vertrauen skalierbar machen 

Wie schaffen es Führungskräfte also, Vertrauen bei der Einführung von KI-Sicherheitsprojekten skalierbar zu gestalten? Dabei lassen sich branchenübergreifend einige Muster erkennen:

• KI-Kompetenz steht an erster Stelle. Mitarbeiter werden nichts anwenden, was sie nicht verstehen. Programme wie das von MinterEllison beweisen, dass sich strukturierte Schulungen in Bezug auf die Akzeptanz und die sichere Nutzung auszahlen. 
• Klare Regeln für die Aufsicht. Legen Sie fest, wann Menschen eingreifen müssen, und stellen Sie sicher, dass dies allen bekannt ist. Dies verhindert sowohl eine übermäßige Abhängigkeit von KI als auch Misstrauen gegenüber deren Ergebnissen. 
• Nachvollziehbarkeit. Jede KI-gestützte Maßnahme sollte Spuren hinterlassen, die einer Überprüfung durch Aufsichtsbehörden und Kunden standhalten. 
• Kosten- und Risikosteuerung. Überwachen Sie Cloud-Ausgaben, Abweichungen bei der Genauigkeit und Zugriffskontrollen genauso genau wie Ihre Finanzkontrollen. 
• Kulturwandel. KI wird die Arbeitskultur in den kommenden Jahren zweifellos grundlegend verändern. CIOs, CISOs und CHROs spielen alle eine Rolle dabei, KI in großem Maßstab vertrauenswürdig zu machen.
   

Vertrauen in die Sicherheit von KI entsteht nicht von selbst. Es muss gezielt aufgebaut werden.

Unternehmen, die erfolgreich skalieren, stützen sich auf fünf Säulen: Fachwissen, klare Kontrollstrukturen, Nachvollziehbarkeit, kontinuierliche Risikoüberwachung und funktionsübergreifende Steuerung. Sind diese Grundlagen geschaffen, wird KI zu einem Kraftmultiplikator für die Cybersicherheit und stellt keine zusätzliche Risikoebene dar.

Führungskräfte, die sowohl die menschlichen als auch die technischen Aspekte des Vertrauens berücksichtigen, werden KI nicht nur sicher einsetzen – sie werden auch die Widerstandsfähigkeit stärken, verantwortungsvolle Innovationen vorantreiben und dauerhaftes Vertrauen in ihre digitale Strategie aufbauen.