KI & DSGVO: Datenschutzkonforme KI-Projekte

Viele Unternehmen möchten KI einsetzen, schrecken aber zurück, sobald das Wort „Datenschutz" fällt. Die gute Nachricht: KI und die Datenschutz-Grundverordnung (DSGVO) schließen sich nicht aus. Wer KI-Software und KI-Agenten mit Augenmaß einführt, kann beides verbinden – leistungsfähige Automatisierung und rechtskonforme, vertrauenswürdige Verarbeitung. Dieser Artikel zeigt verständlich, worauf es ankommt: von der Rechtsgrundlage über die Auftragsverarbeitung bis zu praktischen Maßnahmen. Vorab ein wichtiger Hinweis: Dieser Beitrag ist eine allgemeine Orientierung und keine Rechtsberatung.

Wann greift die DSGVO bei KI überhaupt?

Die DSGVO gilt, sobald personenbezogene Daten verarbeitet werden – also Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Das betrifft viele KI-Anwendungen: ein Chatbot, der Kundenanfragen beantwortet, ein KI-Agent, der E-Mails liest und Termine koordiniert, oder ein System, das Bewerbungen oder Rechnungen auswertet. Werden dagegen ausschließlich anonyme oder rein technische Daten ohne Personenbezug verarbeitet, ist die DSGVO nicht einschlägig. Der erste Schritt jedes KI-Projekts ist deshalb die ehrliche Frage: Welche personenbezogenen Daten fließen hier eigentlich – und sind sie wirklich nötig?

Rechtsgrundlage: Ohne Erlaubnis keine Verarbeitung

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für KI-Projekte sind vor allem drei relevant:

• Vertrag (Art. 6 Abs. 1 lit. b): Die Verarbeitung ist nötig, um einen Vertrag zu erfüllen oder vorzubereiten – etwa wenn ein KI-Agent eine Bestellung abwickelt oder eine Kundenanfrage im Rahmen eines bestehenden Auftrags bearbeitet.
• Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): Das Unternehmen hat ein legitimes Interesse (z. B. effiziente Bearbeitung, IT-Sicherheit), und die Interessen der betroffenen Person überwiegen nicht. Hier ist eine sorgfältige Abwägung erforderlich, die dokumentiert werden sollte.
• Einwilligung (Art. 6 Abs. 1 lit. a): Die betroffene Person stimmt freiwillig, informiert und für einen klaren Zweck zu. Sie muss jederzeit widerrufbar sein – was bei KI-Systemen technisch mitgedacht werden muss.

Wichtig: Es gibt keine pauschale „KI-Erlaubnis". Jede Verarbeitung braucht eine konkrete, vorab festgelegte Grundlage – und der gewählte Zweck bindet die spätere Nutzung.

Die Grundsätze: Mehr als nur eine Rechtsgrundlage

Eine Rechtsgrundlage allein genügt nicht. Art. 5 DSGVO formuliert Grundsätze, die jede Verarbeitung – auch durch KI – einhalten muss:

• Datenminimierung: Es werden nur die Daten verarbeitet, die für den Zweck wirklich erforderlich sind. Gerade bei KI verlockt die Versuchung, „alles" einzuspeisen – das ist genau der falsche Weg.
• Zweckbindung: Daten, die für einen Zweck erhoben wurden, dürfen nicht beliebig für andere Zwecke (z. B. Modelltraining) weiterverwendet werden.
• Transparenz: Betroffene müssen verständlich erfahren, dass und wie ihre Daten durch KI verarbeitet werden.
• Richtigkeit: Daten müssen korrekt sein. Da KI-Modelle Inhalte erzeugen können, die plausibel klingen, aber falsch sind, ist die Richtigkeit der Ausgaben besonders kritisch.
• Speicherbegrenzung: Personenbezogene Daten werden nur so lange aufbewahrt, wie sie gebraucht werden – mit klaren Lösch- und Aufbewahrungsfristen.

Auftragsverarbeitung: Wenn KI-Dienstleister ins Spiel kommen

Die wenigsten Unternehmen betreiben ihre KI vollständig selbst. Sobald ein externer Cloud- oder KI-Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, liegt eine Auftragsverarbeitung nach Art. 28 DSGVO vor. Dafür ist ein Auftragsverarbeitungsvertrag (AV-Vertrag) erforderlich, der unter anderem regelt, welche Daten zu welchem Zweck verarbeitet werden, welche technischen und organisatorischen Maßnahmen gelten und ob Unterauftragnehmer eingebunden sind. Verantwortlich für die Rechtmäßigkeit bleibt Ihr Unternehmen – der Dienstleister handelt weisungsgebunden. Vor der Auswahl eines Anbieters lohnt deshalb ein genauer Blick: Bietet er einen belastbaren AV-Vertrag? Wo werden die Daten verarbeitet? Werden Eingaben womöglich zum Training eigener Modelle genutzt?

Drittlandübermittlung: Das Thema bei US-Anbietern

Viele bekannte KI-Modelle und Cloud-Dienste stammen von US-Anbietern. Werden personenbezogene Daten außerhalb der EU bzw. des EWR verarbeitet, greifen die Art. 44 ff. DSGVO. Eine solche Drittlandübermittlung ist nur zulässig, wenn ein angemessenes Schutzniveau sichergestellt ist – etwa durch einen Angemessenheitsbeschluss, durch Standardvertragsklauseln (SCC) als geeignete Garantie oder durch andere zulässige Mechanismen. In der Praxis bedeutet das: Prüfen, wohin die Daten tatsächlich fließen, welche Garantien der Anbieter bietet und ob zusätzliche Schutzmaßnahmen nötig sind. Häufig ist die einfachste Lösung, die Verarbeitung von vornherein in der EU zu halten – dazu später mehr.

Datenschutz-Folgenabschätzung (DSFA)

Führt eine Verarbeitung voraussichtlich zu einem hohen Risiko für die Rechte und Freiheiten betroffener Personen, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchzuführen. Das ist bei KI häufig der Fall – etwa bei systematischer Bewertung von Personen (Scoring), umfangreicher Verarbeitung sensibler Daten oder neuartiger Technologie. Die DSFA beschreibt die geplante Verarbeitung, bewertet die Risiken und legt Maßnahmen fest, um diese Risiken zu mindern. Sie ist kein bürokratischer Selbstzweck, sondern ein strukturierter Weg, ein KI-Projekt von Anfang an datenschutzfreundlich zu gestalten.

Betroffenenrechte – und die Krux bei trainierten Modellen

Betroffene haben weitreichende Rechte: Auskunft, Berichtigung, Löschung („Recht auf Vergessenwerden"), Einschränkung, Datenübertragbarkeit und Widerspruch. Bei klassischen Datenbanken ist das gut umsetzbar. Schwieriger wird es bei trainierten Modellen: Sind personenbezogene Daten einmal ins Training eingeflossen, lassen sie sich nicht ohne Weiteres aus den Modellgewichten „herauslöschen". Genau deshalb ist es so wichtig, personenbezogene Daten möglichst gar nicht ins Training zu geben. Architekturen wie RAG (Retrieval-Augmented Generation), bei denen das Modell zur Laufzeit auf eine kontrollierbare, durchsuchbare Wissensbasis zugreift, statt mit den Daten trainiert zu werden, machen Auskunft und Löschung deutlich praktikabler.

Automatisierte Einzelentscheidungen (Art. 22)

Art. 22 DSGVO schützt Menschen davor, ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung unterworfen zu werden – etwa eine vollautomatische Ablehnung eines Kredits oder einer Bewerbung. Solche rein automatisierten Einzelentscheidungen sind grundsätzlich nur in engen Ausnahmen zulässig und erfordern besondere Schutzmaßnahmen, darunter das Recht auf Eingreifen einer Person. Für KI-Agenten bedeutet das praktisch: An rechtlich oder wirtschaftlich folgenreichen Punkten gehört ein Mensch in die Schleife („human in the loop"). Der Agent bereitet vor, der Mensch entscheidet.

Besondere Vorsicht bei sensiblen Daten (Art. 9)

Besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO – etwa Gesundheitsdaten, biometrische Daten, Daten zu Religion, Gewerkschaftszugehörigkeit oder sexueller Orientierung – genießen einen verstärkten Schutz und dürfen nur unter engen Voraussetzungen verarbeitet werden. KI-Systeme können solche Daten auch unbeabsichtigt ableiten oder erzeugen. Wer KI mit Gesundheits-, Personal- oder ähnlich sensiblen Daten einsetzt, sollte daher besonders sorgfältig prüfen, ob eine zulässige Ausnahme greift, und die Verarbeitung technisch und organisatorisch besonders absichern.

Praktische Maßnahmen für datenschutzkonforme KI

Aus den rechtlichen Anforderungen lassen sich konkrete, umsetzbare Maßnahmen ableiten:

• Anonymisierung & Pseudonymisierung: Wo immer möglich, Personenbezug entfernen oder durch Pseudonyme ersetzen – das reduziert Risiko und Aufwand erheblich.
• Zugriffskontrolle: Klare Rollen- und Rechtekonzepte; nur wer Daten braucht, sieht sie. Protokollierung sorgt für Nachvollziehbarkeit.
• Verarbeitung in der EU / Datenhoheit: Anbieter und Modelle wählen, die eine Verarbeitung innerhalb der EU ermöglichen – das entschärft die Drittland-Frage von vornherein.
• On-Premise oder EU-Hosting: Sensible Anwendungen lokal oder in europäischen Rechenzentren betreiben, statt Daten in unkontrollierte Drittdienste zu geben.
• RAG statt Training: Firmenwissen über eine durchsuchbare Wissensbasis bereitstellen, statt personenbezogene Daten ins Modell zu trainieren.
• Klare Richtlinien für Mitarbeiter: Verständliche Regeln, welche Daten in welche KI-Werkzeuge eingegeben werden dürfen – und welche nicht.

DSGVO und EU AI Act: Zwei Regelwerke, die sich ergänzen

Die DSGVO ist nicht die einzige relevante Regulierung. Der EU AI Act ergänzt sie: Während die DSGVO die Verarbeitung personenbezogener Daten regelt, adressiert der AI Act die Risiken von KI-Systemen selbst – über einen risikobasierten Ansatz mit Pflichten je nach Risikoklasse. Beide Regelwerke greifen ineinander: Ein KI-System kann unter den AI Act fallen und personenbezogene Daten verarbeiten, sodass beide Anforderungen parallel zu erfüllen sind. Wer Datenschutz von Beginn an mitdenkt, ist auch für die Anforderungen des AI Act gut aufgestellt.

Fazit

KI und DSGVO passen zusammen – wenn Datenschutz von Anfang an Teil des Designs ist und nicht erst nachträglich „draufgesetzt" wird. Wer die Rechtsgrundlage klärt, die Grundsätze beachtet, Dienstleister und Drittlandübermittlungen sauber regelt, bei hohem Risiko eine DSFA durchführt und auf datensparsame, EU-basierte Umsetzung setzt, kann KI rechtskonform und vertrauenswürdig nutzen. Genau dieser datenschutzfreundliche Ansatz – lokale oder EU-Verarbeitung, RAG statt Training, keine unnötigen Drittdienste – ist Teil der Arbeitsweise von Cogitavo. Und noch einmal in aller Deutlichkeit: Dieser Beitrag bietet allgemeine Orientierung und ersetzt keine individuelle Rechtsberatung.

Quellen & weiterführende Informationen

• Verordnung (EU) 2016/679 (DSGVO) – amtlicher Volltext, EUR-Lex
• Europäischer Datenschutzausschuss (EDPB)
• Datenschutzbehörde der Republik Zypern
• Cogitavo-Magazin: EU AI Act 2026

Stand der verlinkten Quellen: Juni 2026. Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung.