Mit der Verordnung (EU) 2024/1689 – besser bekannt als EU AI Act – hat die Europäische Union das weltweit erste umfassende Regelwerk für Künstliche Intelligenz geschaffen. Für Unternehmen, die KI-Software einsetzen oder KI-Agenten entwickeln, ist sie längst keine ferne Zukunftsmusik mehr: Erste Pflichten gelten seit Februar 2025, weitere greifen 2026 und 2027 gestaffelt. Dieser Artikel erklärt verständlich, wie der AI Act funktioniert, welche Pflichten auf wen zukommen – und was Sie jetzt konkret tun sollten.
Wichtiger Hinweis: Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine Rechtsberatung. Ob und wie der AI Act auf Ihren konkreten Anwendungsfall zutrifft, klären Sie bitte mit qualifiziertem juristischem Rat.
Der risikobasierte Ansatz: vier Stufen
Das Herzstück des AI Act ist ein risikobasierter Ansatz. Nicht jede KI wird gleich behandelt – maßgeblich ist, welches Risiko ein System für Grundrechte, Sicherheit und Gesundheit der Menschen birgt. Daraus ergeben sich vier Stufen, von verboten bis weitgehend unreguliert. Je höher das Risiko, desto strenger die Anforderungen.
| Risikostufe | Beispiele | Pflichten | Geltung |
|---|---|---|---|
| Unannehmbares Risiko (verboten) | Social Scoring durch Behörden, manipulative oder ausnutzende Systeme, ungezielte Gesichtserkennung | Vollständig untersagt | seit Februar 2025 |
| Hohes Risiko (high risk) | KI in HR/Recruiting, Kreditwürdigkeitsprüfung, kritischer Infrastruktur, Medizinprodukten | Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht, Transparenz, Konformitätsbewertung | gestaffelt bis ~August 2026/2027 |
| Begrenztes Risiko (limited risk) | Chatbots, KI-generierte Inhalte, Deepfakes | Transparenzpflichten nach Art. 50 (Kennzeichnung) | ab August 2026 |
| Minimales Risiko | Spamfilter, KI in Videospielen, einfache Empfehlungssysteme | Keine besonderen Pflichten (freiwillige Codes of Conduct) | — |
Stufe 1: Verbotene Praktiken
Bestimmte KI-Anwendungen gelten als so grundrechtsgefährdend, dass sie schlicht verboten sind. Dazu zählen unter anderem das Social Scoring durch Behörden, KI-Systeme, die menschliches Verhalten gezielt manipulieren oder die Schwäche schutzbedürftiger Gruppen ausnutzen, sowie das ungezielte Auslesen von Gesichtsbildern aus dem Internet zum Aufbau von Erkennungsdatenbanken. Diese Verbote gelten bereits seit Februar 2025 – sie sind die erste Stufe des AI Act, die scharfgestellt wurde. Verstöße werden besonders hart sanktioniert.
Stufe 2: Hochrisiko-KI
Die meisten regulatorischen Anforderungen treffen die Hochrisiko-KI. Darunter fallen Systeme, die in sensiblen Bereichen Entscheidungen mit erheblicher Tragweite beeinflussen – etwa KI-Software im HR und Recruiting (Bewerberauswahl), bei der Kreditwürdigkeitsprüfung, in der kritischen Infrastruktur (Energie, Verkehr) oder als Sicherheitskomponente in regulierten Produkten. Für diese Systeme gelten strenge Pflichten:
- Risikomanagementsystem: Risiken müssen über den gesamten Lebenszyklus identifiziert, bewertet und minimiert werden.
- Datenqualität (Data Governance): Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein.
- Technische Dokumentation: Aufbau, Funktionsweise und Grenzen des Systems müssen nachvollziehbar dokumentiert werden.
- Menschliche Aufsicht: Menschen müssen das System wirksam überwachen und eingreifen können.
- Transparenz, Robustheit und Cybersicherheit: Genauigkeit und Stabilität müssen gewährleistet sein.
Die Geltung dieser Pflichten ist gestaffelt: Ein erheblicher Teil greift rund um August 2026, für Hochrisiko-KI, die als Sicherheitskomponente bereits anderen Produktvorschriften unterliegt, gilt eine längere Frist bis August 2027.
Stufe 3: Begrenztes Risiko – Transparenzpflichten
Viele praktisch eingesetzte KI-Systeme fallen in die Kategorie begrenztes Risiko. Hier verlangt Artikel 50 vor allem Transparenz: Menschen müssen wissen, wann sie es mit Maschinen statt mit Menschen zu tun haben.
- Chatbots und KI-Agenten: Nutzer müssen erkennen können, dass sie mit einer KI-Software interagieren – nicht mit einem Menschen.
- KI-generierte Inhalte: Künstlich erzeugte oder veränderte Texte, Bilder, Audio und Video müssen als solche maschinenlesbar gekennzeichnet werden.
- Deepfakes: Realistisch wirkende, aber manipulierte Inhalte müssen klar als künstlich erzeugt offengelegt werden.
Stufe 4: Minimales Risiko
Der Großteil der heute eingesetzten KI – Spamfilter, KI in Videospielen, einfache Empfehlungen – fällt in die Kategorie minimales Risiko. Hier sieht der AI Act keine besonderen Pflichten vor. Unternehmen können sich freiwillig an Verhaltenskodizes (Codes of Conduct) halten, sind dazu aber nicht verpflichtet.
GPAI: Pflichten für Basismodelle
Eine eigene Kategorie bilden KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI, GPAI) – die großen Basismodelle, auf denen viele Anwendungen aufsetzen. Für sie gelten seit August 2025 eigene Pflichten: technische Dokumentation, Informationen für nachgelagerte Anbieter, Einhaltung des Urheberrechts und eine Zusammenfassung der Trainingsdaten. Für besonders leistungsfähige Modelle mit „systemischem Risiko" kommen zusätzliche Anforderungen wie Modellbewertungen und das Melden schwerwiegender Vorfälle hinzu.
Zeitliche Staffelung im Überblick
Der AI Act tritt nicht auf einen Schlag in Kraft, sondern in Stufen:
- Februar 2025: Verbote (unannehmbares Risiko) und Pflicht zur KI-Kompetenz (Art. 4).
- August 2025: Pflichten für GPAI-/Basismodelle, Governance-Strukturen.
- August 2026: Großteil der Pflichten, darunter Transparenz (Art. 50) und viele Hochrisiko-Anforderungen.
- August 2027: Hochrisiko-KI als Sicherheitskomponente regulierter Produkte.
Rollen: Anbieter vs. Betreiber
Welche Pflichten Sie treffen, hängt von Ihrer Rolle ab. Der AI Act unterscheidet vor allem zwischen Anbietern (Provider) – wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt – und Betreibern (Deployer) – wer ein KI-System unter eigener Verantwortung beruflich einsetzt. Anbieter tragen den Großteil der Pflichten (Konformität, Dokumentation, Risikomanagement). Betreiber müssen das System bestimmungsgemäß nutzen, die menschliche Aufsicht sicherstellen und ihre Transparenzpflichten erfüllen. Achtung: Wer ein fremdes System wesentlich verändert oder unter eigenem Namen vertreibt, kann selbst zum Anbieter werden – mit allen Folgen.
Kernaussage: Ihre Pflichten ergeben sich aus der Kombination von Risikoklasse und Rolle. Wer als Betreiber einen einfachen Chatbot nutzt, hat vor allem Transparenzpflichten; wer Hochrisiko-KI anbietet, trägt das volle Pflichtenprogramm. Beides zu klären ist der erste Schritt zur Compliance.
Sanktionen und Bußgelder
Der AI Act ist mit empfindlichen Sanktionen bewehrt. Bei Verstößen gegen die verbotenen Praktiken drohen Bußgelder von bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Für Verstöße gegen die Pflichten bei Hochrisiko-KI und andere Anforderungen sind gestaffelt geringere, aber immer noch erhebliche Bußgelder vorgesehen (bis 15 Mio. EUR bzw. 3 % des Umsatzes). Falsche oder unvollständige Angaben gegenüber Behörden können mit bis zu 7,5 Mio. EUR bzw. 1 % geahndet werden.
Verhältnis zur DSGVO
Der AI Act ersetzt die DSGVO nicht – beide gelten parallel. Sobald ein KI-System personenbezogene Daten verarbeitet (was bei HR-, Kredit- oder Service-Anwendungen die Regel ist), bleiben die datenschutzrechtlichen Anforderungen vollständig bestehen: Rechtsgrundlage, Datenminimierung, Betroffenenrechte, gegebenenfalls eine Datenschutz-Folgenabschätzung. Der AI Act tritt ergänzend hinzu und stellt produktsicherheitsähnliche Anforderungen an das KI-System selbst. In der Praxis sollten Sie beide Regelwerke gemeinsam betrachten.
KI-Kompetenz (Art. 4)
Eine oft übersehene, aber bereits seit Februar 2025 geltende Pflicht ist die KI-Kompetenz (AI Literacy) nach Artikel 4. Anbieter und Betreiber müssen dafür sorgen, dass ihr Personal – und andere Personen, die in ihrem Auftrag mit KI-Systemen umgehen – über ein ausreichendes Maß an Verständnis verfügen. Was „ausreichend" bedeutet, hängt von Vorbildung, Kontext und Einsatzbereich ab. Praktisch heißt das: Schulungen und ein Grundverständnis für Chancen und Risiken der eingesetzten KI-Software sind keine Kür mehr, sondern Pflicht.
Was Unternehmen jetzt tun sollten
Auch wenn nicht jede Frist schon greift, lohnt es sich, früh aktiv zu werden. Diese Schritte schaffen Klarheit und Sicherheit:
- KI-Systeme inventarisieren: Verschaffen Sie sich einen Überblick, welche KI-Software und KI-Agenten im Unternehmen tatsächlich im Einsatz sind.
- Risikoklasse bestimmen: Ordnen Sie jedes System einer der vier Stufen zu – verboten, hoch, begrenzt oder minimal.
- Rolle klären: Sind Sie für das jeweilige System Anbieter oder Betreiber?
- Transparenz und Kennzeichnung sicherstellen: Chatbots als KI ausweisen, KI-generierte Inhalte und Deepfakes kennzeichnen.
- Dokumentation aufbauen: Technische Unterlagen, Risikobewertungen und Nachweise strukturiert ablegen.
- Mitarbeiter schulen: KI-Kompetenz nach Art. 4 aufbauen und dokumentieren.
Fazit
Der EU AI Act ist kein Innovationsverbot, sondern ein Rahmen, der KI verlässlich und vertrauenswürdig machen soll. Für die meisten Unternehmen wird der Großteil ihrer KI-Software in die unteren Risikostufen fallen – die zentrale Aufgabe ist, das sauber zu klären, Transparenz herzustellen und die wenigen Hochrisiko-Fälle ernst zu nehmen. Wer jetzt inventarisiert, Rollen klärt und sein Team schult, ist gut aufgestellt, wenn die Fristen 2026 und 2027 greifen. Eine fundierte rechtliche Einordnung Ihres konkreten Falls ersetzt dieser Überblick allerdings nicht – holen Sie sich dafür qualifizierten juristischen Rat.
Quellen & weiterführende Informationen
- Verordnung (EU) 2024/1689 (KI-Verordnung) – amtlicher Volltext, EUR-Lex
- Europäische Kommission – Regulatorischer Rahmen für KI
- Europäisches KI-Büro (AI Office)
- Cogitavo-Magazin: KI & DSGVO
Stand der verlinkten Quellen: Juni 2026. Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung.