Ein Überblick über die KI-Gesetzgebung der EU: Meilensteine, Geschichte und zukünftige Ziele

Ein kurzer Überblick über die Gesetzgebung zur KI in der EU
Die gesetzgeberischen Bemühungen der EU im Bereich der KI begannen Ende der 2010er Jahre ernsthaft und zielten darauf ab, Innovationen zu fördern und gleichzeitig die Rechte und die Sicherheit der Bürger zu gewährleisten. Zu den wichtigsten Meilensteinen zählen:

• April 2018: Die Europäische Kommission stellte die Europäische Strategie für künstliche Intelligenz vor, deren Schwerpunkte auf der Steigerung öffentlicher und privater Investitionen in KI, der Vorbereitung auf sozioökonomische Veränderungen und der Schaffung eines angemessenen ethischen und rechtlichen Rahmens liegen.
• Dezember 2018: Verabschiedung des Koordinierten Plans zur künstlichen Intelligenz, der die Zusammenarbeit zwischen den Mitgliedstaaten fördert, um die Wirkung von KI-Investitionen sowohl auf EU-Ebene als auch auf nationaler Ebene zu maximieren.
• April 2019: Die hochrangige Expertengruppe für KI veröffentlichte die Ethikrichtlinien für vertrauenswürdige KI, in denen Grundsätze wie Transparenz, Rechenschaftspflicht und menschliche Aufsicht dargelegt wurden.
• Februar 2020: Veröffentlichung des Weißbuchs zur künstlichen Intelligenz durch die Europäische Kommission, in dem politische Optionen vorgeschlagen werden, um eine vertrauenswürdige und sichere Entwicklung der KI in Europa zu ermöglichen.
• April 2021: Vorlage des Entwurfs für ein Gesetz über künstliche Intelligenz (KI-Gesetz), das darauf abzielt, einen Rechtsrahmen für KI zu schaffen, der Innovation und den Schutz der Grundrechte in Einklang bringt.

Das Gesetz über künstliche Intelligenz verstehen
Das vorgeschlagene KI-Gesetz stellt einen Meilenstein in der Gesetzgebung dar und zielt darauf ab, KI-Technologien entsprechend ihrer potenziellen Risiken zu regulieren. Es verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme in Kategorien eingeteilt werden, um ein angemessenes Maß an Regulierung zu gewährleisten, ohne dabei Innovationen zu behindern.

An der Spitze der Hierarchie stehen KI-Systeme, die ein „inakzeptables Risiko“ darstellen. Diese sind aufgrund ihres Potenzials, die Sicherheit, die Existenzgrundlagen oder die Grundrechte zu gefährden, gänzlich verboten. Dazu gehören Systeme, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, oder die eine soziale Bewertung durch Regierungen ermöglichen.

Als Nächstes folgen „risikoreiche“ KI-Anwendungen, für die strenge Auflagen gelten, bevor sie auf den Markt gebracht werden dürfen. Diese Systeme kommen in der Regel in kritischen Bereichen wie dem Gesundheitswesen, dem Verkehrswesen und der Strafverfolgung zum Einsatz. Zu diesen Standards gehören die Durchführung von Risikobewertungen, die Gewährleistung hochwertiger Datensätze, die Führung von Aktivitätsprotokollen und die Möglichkeit einer menschlichen Aufsicht.

Systeme mit „begrenztem Risiko“ sind solche, für die bestimmte Transparenzpflichten gelten. So müssen Chatbots die Nutzer beispielsweise darüber informieren, dass sie mit einer Maschine interagieren, um eine informierte Einwilligung sicherzustellen.

Schließlich können KI-Systeme mit „minimalem Risiko“ entwickelt und eingesetzt werden, die im Rahmen der bestehenden Rechtsvorschriften ohne zusätzliche rechtliche Anforderungen zulässig sind.

Das KI-Gesetz im Zusammenhang mit der DSGVO, NIS2 und DORA
Das KI-Gesetz existiert nicht isoliert; es ergänzt andere wichtige EU-Rechtsrahmen und überschneidet sich mit diesen, wodurch ein kohärentes Umfeld für die Technologie-Governance geschaffen wird.

Die seit Mai 2018 geltende Datenschutz-Grundverordnung (DSGVO) bildet das Fundament für den Datenschutz und die Privatsphäre in der EU. Das KI-Gesetz baut auf den Grundsätzen der DSGVO auf und befasst sich mit der Datenqualität und der Governance in KI-Systemen. Beide Rechtsvorschriften legen den Schwerpunkt auf den Schutz personenbezogener Daten, Transparenz und die Rechte des Einzelnen. So müssen KI-Systeme beispielsweise die Datenminimierung und die rechtmäßige Verarbeitung gewährleisten und dabei den Anforderungen der DSGVO entsprechen.

Die Richtlinie über Netz- und Informationssicherheit 2 (NIS2) zielt darauf ab, die Cybersicherheit in der gesamten EU zu stärken und deckt dabei kritische Sektoren und wesentliche Dienste ab. Das KI-Gesetz steht im Einklang mit der NIS2, indem es sicherstellt, dass KI-Systeme, insbesondere solche mit hohem Risiko, sicher und widerstandsfähig gegenüber Cyberbedrohungen sind. Diese Übereinstimmung ist von entscheidender Bedeutung, da KI-Systeme zu Zielen oder Werkzeugen für Cyberangriffe werden könnten, wodurch Sicherheit und Datenschutz potenziell gefährdet würden.

Der „Digital Operational Resilience Act“ (DORA) konzentriert sich auf die Fähigkeit des Finanzsektors, Störungen im Bereich der Informations- und Kommunikationstechnologie (IKT) zu widerstehen und sich davon zu erholen. Der KI-Gesetz ergänzt DORA, indem er sicherstellt, dass im Finanzwesen eingesetzte KI-Systeme zuverlässig und sicher sind. Gemeinsam fördern sie die operative Widerstandsfähigkeit und legen dabei den Schwerpunkt auf Risikomanagement, Meldung von Vorfällen und eine strenge Aufsicht.

Durch die Angleichung des KI-Gesetzes an die DSGVO, NIS2 und DORA schafft die EU ein einheitliches regulatorisches Umfeld, das die Bereiche Datenschutz, Cybersicherheit und operative Widerstandsfähigkeit abdeckt und so ein vertrauenswürdiges Ökosystem für die Entwicklung und den Einsatz von KI fördert.

Ziele der neuen KI-Gesetzgebung
Die KI-Gesetzgebung der EU verfolgt mehrere zentrale Ziele. Ein vorrangiges Ziel ist der Schutz der Grundrechte und der Sicherheit, wobei sichergestellt werden soll, dass KI-Systeme so entwickelt und eingesetzt werden, dass Grundsätze wie Nichtdiskriminierung, Privatsphäre und Datenschutz gewahrt bleiben.

Die Förderung vertrauenswürdiger KI ist ein weiteres zentrales Ziel. Durch die Festlegung klarer Regeln und Standards zielt die Gesetzgebung darauf ab, das Vertrauen der Öffentlichkeit in KI-Technologien zu stärken, was für deren Einführung und Akzeptanz von entscheidender Bedeutung ist. Die EU möchte zudem Innovationen fördern, indem sie einen Binnenmarkt für rechtmäßige, sichere und vertrauenswürdige KI-Anwendungen schafft. Damit soll die Marktfragmentierung begrenzt und Rechtssicherheit für Unternehmen und Innovatoren geschaffen werden.

Die Gewährleistung von Transparenz und Rechenschaftspflicht ist von entscheidender Bedeutung. Die Gesetzgebung schreibt Transparenzmaßnahmen vor, wie beispielsweise die Offenlegung, wann Personen mit KI-Systemen interagieren, sowie die Gewährleistung, dass die Systeme überprüfbar und rechenschaftspflichtig sind. Diese Offenheit soll die Nutzer stärken und das Vertrauen der Öffentlichkeit in KI-Technologien aufrechterhalten.

Auswirkungen auf Unternehmen
Für Unternehmen, die innerhalb der EU tätig sind oder mit Daten von EU-Bürgern umgehen, birgt das KI-Gesetz sowohl Herausforderungen als auch Chancen. Unternehmen müssen ihre KI-Systeme bewerten, um deren Risikokategorie zu ermitteln und sicherzustellen, dass sie die entsprechenden Verpflichtungen einhalten. Dies kann erhebliche Anpassungen ihrer Entwicklungs- und Bereitstellungsprozesse erfordern.

Compliance-Anforderungen könnten notwendige Investitionen in neue Systeme und Prozesse erfordern, insbesondere für diejenigen, die KI-Systeme mit hohem Risiko einsetzen. Klare Vorschriften können jedoch ein stabiles Umfeld für Innovationen schaffen und Investitionen in KI-Technologien fördern, die den Vorschriften entsprechen und vertrauenswürdig sind. Da die EU häufig Maßstäbe bei Regulierungsstandards setzt (wie im Fall der DSGVO), profitieren Unternehmen von der Anpassung an EU-Vorschriften und können sich dadurch möglicherweise einen Wettbewerbsvorteil auf den globalen Märkten verschaffen.

Ähnliche Rechtsvorschriften außerhalb der EU
Die Erkenntnis, dass KI tiefgreifende Auswirkungen hat, beschränkt sich nicht auf Europa; weltweit entwickeln Länder ihre eigenen Rahmenbedingungen zur Regulierung von KI, was einen globalen Trend hin zu einer verantwortungsvollen KI-Governance widerspiegelt.

In den Vereinigten Staaten wurde ein sektorbezogener Ansatz gewählt, bei dem verschiedene Bundesbehörden für ihre jeweiligen Zuständigkeitsbereiche spezifische Leitlinien herausgeben. Mit dem „Algorithmic Accountability Act“ wurde vorgeschlagen, Unternehmen zu verpflichten, die Auswirkungen automatisierter Entscheidungssysteme zu bewerten und etwaige Risiken zu mindern. Auch wenn dieses Gesetz noch nicht in Kraft getreten ist, zeugt es von einem wachsenden Bewusstsein für die Notwendigkeit einer KI-Aufsicht.

Das Vereinigte Königreich arbeitet nach dem Brexit an seiner KI-Strategie, deren Schwerpunkt auf einer innovationsfördernden Regulierung liegt. Das Vereinigte Königreich plant die Einführung eines Rechtsrahmens, der Innovationen fördert und gleichzeitig den mit KI verbundenen Risiken Rechnung trägt. Mit diesem Ansatz soll ein Gleichgewicht zwischen der führenden Rolle des Vereinigten Königreichs in der KI-Entwicklung und der Notwendigkeit, öffentliche Interessen zu wahren, hergestellt werden.

In China hat die Regierung Vorschriften zur künstlichen Intelligenz erlassen, deren Schwerpunkt insbesondere auf Datensicherheit und dem ethischen Einsatz von KI liegt. Chinas Ansatz verbindet strenge staatliche Aufsicht mit dem entschlossenen Streben nach technologischer Führungsrolle im Bereich der KI. Die Vorschriften betonen die Notwendigkeit, dass KI mit gesellschaftlichen Werten und nationalen Sicherheitsinteressen im Einklang stehen muss.

In Kanada hat die Regierung den „Artificial Intelligence and Data Act“ (AIDA) vorgeschlagen, der darauf abzielt, KI-Systeme mit erheblichen Auswirkungen zu regulieren und sicherzustellen, dass diese verantwortungsvoll entwickelt und eingesetzt werden. Das Gesetz würde Organisationen dazu verpflichten, Maßnahmen zur Risikominderung zu ergreifen und Aufsichtsmechanismen einzurichten.

In Australien hat die Regierung den „AI Ethics Framework“ veröffentlicht, der freiwillige Leitlinien für Unternehmen und Behörden bei der Konzeption, Entwicklung und Umsetzung von KI enthält. Auch wenn dieser Rahmen nicht rechtsverbindlich ist, spiegelt er das Engagement Australiens wider, dafür zu sorgen, dass KI-Technologien sicher, geschützt und zuverlässig sind.

In Japan hat die Regierung die „Sozialen Grundsätze für eine menschenzentrierte KI“ gefördert, wobei der Schwerpunkt auf Grundsätzen wie Menschenrechten, Datenschutz und der Förderung von Innovation liegt. Japans Ansatz betont das harmonische Zusammenleben von Mensch und KI und zielt darauf ab, das Vertrauen und die Akzeptanz der Öffentlichkeit zu stärken.

In Brasilien erwägt die Regierung derzeit die Schaffung eines Rechtsrahmens für künstliche Intelligenz, der Grundsätze, Rechte und Pflichten für die Entwicklung und Anwendung von KI festlegen soll. Der Rahmen konzentriert sich auf die Förderung von Innovation bei gleichzeitiger Gewährleistung der Einhaltung ethischer Standards und der Grundrechte.

In Südafrika hat die Regierung – vor dem Hintergrund des wachsenden Interesses des afrikanischen Kontinents an KI – damit begonnen, das Potenzial der KI und die erforderlichen regulatorischen Maßnahmen zu untersuchen. Die Präsidialkommission zur Vierten Industriellen Revolution hat empfohlen, einen umfassenden politischen und rechtlichen Rahmen für KI zu entwickeln, dessen Schwerpunkt auf inklusivem Wachstum und ethischen Überlegungen liegt.

Diese Initiativen stammen aus allen Kontinenten und unterstreichen eine weltweite Bewegung hin zur Schaffung regulatorischer Rahmenbedingungen, die Innovation mit ethischen Erwägungen und Risikomanagement in Einklang bringen. Der Ansatz jedes Landes spiegelt dessen einzigartige sozioökonomische Gegebenheiten, Rechtstraditionen und strategischen Prioritäten wider und trägt so zu einer vielfältigen globalen Landschaft der KI-Governance bei.

Ausblick
Der KI-Gesetzentwurf befindet sich noch in der Diskussion und kann noch geändert werden. Er muss sowohl vom Europäischen Parlament als auch vom Rat verabschiedet werden, bevor er in Kraft treten kann. Nach der Verabschiedung wird es eine Übergangsfrist geben, in der sich die Beteiligten auf die neuen Vorschriften einstellen können. Die Verknüpfung mit der DSGVO, NIS2 und DORA unterstreicht den ganzheitlichen Regulierungsansatz der EU, der sicherstellt, dass KI-Systeme nicht nur innovativ, sondern auch sicher, transparent und unter Wahrung der individuellen Rechte sind.

Die wichtigsten Erkenntnisse
 

• Mit dem vorgeschlagenen KI-Gesetz übernimmt die EU eine Vorreiterrolle bei der Schaffung umfassender Rechtsvorschriften im Bereich der künstlichen Intelligenz.
• Das KI-Gesetz ergänzt andere Vorschriften wie die DSGVO, NIS2 und DORA und schafft so einen einheitlichen Rahmen für Datenschutz, Cybersicherheit und operative Widerstandsfähigkeit.
• Bei einem risikobasierten Ansatz werden KI-Systeme in die Risikokategorien „inakzeptabel“, „hoch“, „begrenzt“ und „minimal“ eingeteilt.
• Die Gesetzgebung zielt darauf ab, Grundrechte zu schützen, Vertrauen zu stärken, Innovationen zu fördern und Transparenz zu gewährleisten.
• Unternehmen müssen sich darauf vorbereiten, neue Verpflichtungen zu erfüllen, die sich auf ihre Entwicklungs- und Einführungsstrategien auswirken können.
• Weltweit sind ähnliche Regulierungsbemühungen im Gange, was die allgemeine Erkenntnis widerspiegelt, dass eine verantwortungsvolle KI-Governance erforderlich ist.
• Für Organisationen, die von diesen Änderungen betroffen sind, ist es von entscheidender Bedeutung, sich auf dem Laufenden zu halten und sich aktiv am Gesetzgebungsprozess zu beteiligen.
   

Durch das Verständnis der Geschichte und der Ziele der EU-Gesetzgebung im Bereich der künstlichen Intelligenz sowie ihrer Beziehung zu anderen Rechtsrahmen können Unternehmen sich im neuen regulatorischen Umfeld effektiv zurechtfinden und zur Entwicklung von KI-Technologien beitragen, die sowohl innovativ sind als auch den gesellschaftlichen Werten entsprechen.

Wenn Sie mehr darüber erfahren möchten, was der KI-Rahmen der EU für Sie bedeutet, wenden Sie sich bitte an einen unserer Experten. Wir helfen Ihnen dabei, Ihr Unternehmen auf die oben beschriebenen Veränderungen vorzubereiten und KI auf rechtlich und ethisch verantwortungsvolle Weise einzusetzen.