AI Act: Die EU möchte die Risiken von KI in den Griff bekommen

Aktualisiert am 31.07.2026

Der AI Act ist am 1. August 2024 in Kraft getreten und wird seitdem schrittweise anwendbar.  Er gilt als das weltweit erste Gesetz zur Regulierung künstlicher Intelligenz (KI). Der AI Act teilt KI in Risikogruppen ein. Je höher das Risiko einer Anwendung, desto höher sollen die Anforderungen und Pflichten sein.

Die EU möchte mit der Verordnung Gefahren, die von künstlicher Intelligenz ausgehen können, begrenzen und die wesentlichen Risiken für Nutzerinnen und Nutzer wirksam begrenzen.

Die Idee der Verordnung: Je höher das Risiko eines KI-Systems, desto höher sind die damit verbundenen Anforderungen und Pflichten. Die KI-Regulierung soll das Vertrauen der Nutzerinnen und Nutzer in Künstliche Intelligenz innerhalb der EU stärken und so auch für Hersteller und Verwender von KI-Anwendungen bessere Voraussetzungen für Innovation schaffen.

Die Pflichten des EU AI Acts treffen insbesondere Anbieter, Importeure, Händler und Betreiber von KI-Systemen sowie Hersteller von Produkten, in die KI-Systeme integriert sind. Aufgrund der weiten Anwendungsbereiche kann der AI Act für einen Großteil der Unternehmen relevant werden, die KI entwickeln, vertreiben oder einsetzen.

Verstöße und Haftung

Verstöße können Geldbußen von bis zu 35 Millionen Euro oder bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres nach sich ziehen. Die Sanktionen sind damit mit denen der DSGVO zu vergleichen.

Um Haftungsfragen im Zusammenhang mit KI zu regeln, hat die EU die Produkthaftungsrichtlinie überarbeitet. Die neue EU-Produkthaftungsrichtlinie muss bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden. Sie bezieht Software und KI-Systeme ausdrücklich in ihren Anwendungsbereich ein und soll den Nachweis von Ansprüchen bei Schäden durch komplexe Technologien erleichtern.

KI mit einem „unannehmbaren“ Risiko verbietet der AI Act

Der AI Act teilt Künstliche Intelligenz in vier Risikoklassen ein: „unannehmbar“, „hoch“, „begrenzt“ und „minimal“.

Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die ein unannehmbares Risiko darstellen, sind verboten. Hierzu zählen insbesondere solche KI-Systeme, die dazu bestimmt sind, menschliches Verhalten unterschwellig nachteilig zu beeinflussen. Auch KI, die der Ausnutzung von Schwächen schutzbedürftiger Personen dient, ist nicht annehmbar und damit verboten. Untersagt ist auch die Nutzung von KI-Systemen durch Behörden zur Bewertung oder Klassifizierung von Vertrauenswürdigkeit natürlicher Personen („Social Scorings“). KI-Systeme dürfen ebenso grundsätzlich nicht zur biometrischen Echtzeit-Fernidentifizierung natürlicher Personen in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken eingesetzt werden.

Für KI-Systeme mit Risikoklasse „hoch“ gelten besondere Anforderungen

KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen, werden als „Hochrisiko-KI-Systeme“ bezeichnet. Darunter fallen zum Beispiel die Würde des Menschen, die Achtung des Privat- und Familienlebens, der Schutz personenbezogener Daten, die Freiheit der Meinungsäußerung und die Informationsfreiheit und die Versammlungs- und Vereinigungsfreiheit.

An die Gestaltung und Nutzung von Hochrisiko-KI-Systemen stellt der AI Act hohe Anforderungen, zum Beispiel an die Qualität der Datengrundlage, an die Sicherheit, die Funktionsweise, aber auch an die Dokumentation und Aufsicht durch Menschen sowie das Qualitäts- und Risikomanagement.

Die Konformität mit dem AI Act sollte mit einer CE-Kennzeichnung sichtbar gemacht werden.

Geringere Anforderungen an Systeme mit Risikoklasse „gering/minimal“

Sofern KI-Systeme nicht unannehmbar und auch nicht als Hochrisiko-KI-System einzustufen sind, fallen sie in die dritte Kategorie. Sie unterliegen dann weniger strengen Anforderungen. Anbieter solcher Systeme sollen aber dennoch Verhaltenskodizes erstellen und ermutigt werden, die Regelungen für Hochrisiko-KI-Systeme freiwillig anzuwenden. Zudem fordert der EU AI Act, dass auch KI-Systeme mit geringem Risiko sicher sein müssen, sofern sie in den Verkehr gebracht oder in Betrieb genommen werden. Sicherheit kann insbesondere dadurch gewährleistet werden, dass freiwillig die Regelungen für Hochrisiko-KI-Systeme beachtet werden.

Neue Regelungen für General Purpose AI Models (GPAI)

Der AI Act enthält zusätzlich konkrete Regelungen für KI-Modelle mit allgemeinem Verwendungszweck, auch General Purpose AI (GPAI) genannt. Diese KI-Modelle können unterschiedlichen Zwecken dienen und als selbständiges System oder als integrativer Bestandteil anderer Systeme auftreten. Sie stellen grundsätzlich KI-Systeme mit begrenztem Risiko dar und unterfallen damit den Transparenzpflichten aus Art. 52. Zusätzlich wurde jedoch im neuen Art. 52a die Kategorie der „GPAI-Modelle mit systemischem Risiko“ eingeführt. Darunter fallen GPAI-Modelle mit einer „hohen Wirkungsmöglichkeit“. Die Wirkungsmöglichkeit ist hoch, wenn die Fähigkeiten des Modells den Fähigkeiten der fortschrittlichsten GPAI-Modelle entsprechen oder diese übertreffen. Dies soll anhand von Benchmarks oder auf Grund von Feststellungen der EU-Kommission ermittelt werden. Wenn der Rechenaufwand für das Training, gemessen in „floating point operations“, 10^25 übersteigt, wird es vermutet. Für GPAI-Modelle gibt es einige Pflichten, zum Beispiel: die Bereitstellung technischer Unterlagen und Gebrauchsanweisungen, die Beachtung des Urheberrechts und die Zusammenfassung der für das Training verwendeten Inhalte. Für GPAI-Modelle mit systemischem Risiko treten weitere Verpflichtungen bezüglich der Risikosteuerung und der Gewährleistung der Cybersicherheit hinzu.

Ab wann gelten welche Pflichten nach dem AI Act?

Die Anwendung des AI Acts erfolgt schrittweise. Durch den im Juli 2026 in Kraft getretenen Digital Omnibus on AI wurden insbesondere die Fristen für Hochrisiko-KI-Systeme verlängert.

2. Februar 2025: Verbotene KI-Praktiken und KI-Kompetenz

Ab diesem Zeitpunkt gelten die Verbote bestimmter KI-Praktiken, die der AI Act als unannehmbares Risiko einstuft. Dazu gehören bestimmte Formen der Manipulation von Personen oder Social Scoring durch Behörden. Unternehmen müssen Maßnahmen zur Förderung der KI-Kompetenz der Personen treffen, die KI-Systeme in ihrem Auftrag nutzen oder betreiben.

2. August 2025: Neue Regeln für General Purpose AI (GPAI)

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen unter anderem technische Dokumentationen erstellen, urheberrechtliche Vorgaben beachten und Informationen über die für das Training verwendeten Inhalte bereitstellen. Für GPAI-Modelle mit systemischem Risiko kommen zusätzliche Pflichten zur Risikosteuerung und Cybersicherheit hinzu.

2. August 2026: Transparenzpflichten werden anwendbar

Ab dem 2. August 2026 werden die Transparenzpflichten des AI Acts grundsätzlich anwendbar. Für bestimmte Kennzeichnungspflichten für KI-generierte Inhalte gelten jedoch Übergangsregelungen bis zum 2. Dezember 2026.Nutzerinnen und Nutzer müssen in bestimmten Fällen darüber informiert werden, dass sie mit einem KI-System interagieren. Darüber hinaus müssen KI-generierte oder KI-manipulierte Inhalte als solche gekennzeichnet werden. Außerdem beginnt die behördliche Durchsetzung der bereits geltenden GPAI-Regelungen.

2. Dezember 2026: Neue Verbote für bestimmte Deepfakes

Ab diesem Zeitpunkt gelten zusätzliche Verbote für KI-Systeme, die nicht einvernehmliche intime Deepfakes oder Darstellungen von sexuellem Missbrauch von Kindern erzeugen.

2. August 2027: Zahlreiche weitere Vorschriften gelten

Ab diesem Zeitpunkt gelten zahlreiche weitere Vorschriften des AI Acts, insbesondere zu Governance, Marktüberwachung und behördlicher Durchsetzung. Der Digital Omnibus hat lediglich bestimmte Fristen für Hochrisiko-KI-Systeme verschoben, nicht jedoch die Anwendung des AI Acts insgesamt.

2. Dezember 2027: Anforderungen für die meisten Hochrisiko-KI-Systeme

Die besonderen Anforderungen für die meisten eigenständigen Hochrisiko-KI-Systeme werden erst ab diesem Zeitpunkt anwendbar. Betroffen sind unter anderem Anforderungen an Datenqualität, Risikomanagement, Dokumentation, menschliche Aufsicht und Konformitätsbewertungsverfahren. Dieser Termin wurde durch den Digital Omnibus gegenüber der ursprünglichen Fassung des AI Act verschoben.

2. August 2028: Hochrisiko-KI in regulierten Produkten

Für Hochrisiko-KI-Systeme, die in bestimmte regulierte Produkte integriert sind, gelten die Anforderungen erst ab dem 2. August 2028. Dazu zählen beispielsweise KI-Komponenten in bestimmten Maschinen oder anderen Produkten, die bereits sektorspezifischen Sicherheitsvorschriften unterliegen.

Mit einer KI-Governance können Unternehmen Risiken absichern

Unternehmen sollten aktiv jede einzelne Anwendung evaluieren und in eine Governance-Struktur einbinden.

Auch alle KI-basierten Lösungen sollten betrachtet werden. Anwendungsfälle und die damit verbundenen Risiken sollten Unternehmen kennen. Hersteller eines Endprodukts müssen die im AI Act festgelegten Anbieterpflichten erfüllen und sicherstellen, dass das in das Endprodukt eingebettete KI-System den Anforderungen entspricht. Zu den Risiken gehört auch das Haftungsrisiko aus dem KI-Gesetz.

Beim Aufbau einer KI-Governance ist entscheidend, wer die Einstufung der Risiken verantwortet. Damit die Einschätzung möglich objektiv wird, sollte das Team interdisziplinär sein.

Wie ein KI-Risikomanagement gelingen kann

Für ein effektives Risikomanagement sollten Unternehmen Guidelines, Prozesse und Monitoring-Lösungen etablieren. Verschiedene Institutionen und Organisationen wie BSI, IDW oder DIN erarbeiten bereits Standards hierfür.

Es ist empfehlenswert, Compliance und Performance nicht voneinander zu trennen. Das Management und die IT sollten daher eng mit den Rechts- und Compliance-Funktionen zusammenarbeiten. Nur wenn sichergestellt ist, dass Rechtsvorschriften eingehalten sind und Haftungsrisiken minimiert werden, kann das Potenzial von Künstlicher Intelligenz tatsächlich ausgeschöpft werden.

Nach der endgültigen Verabschiedung des AI Acts sollten Unternehmen ihre KI-Anwendungen zeitnah einer Risikobewertung unterziehen und eine geeignete Governance-Struktur etablieren.