Datenschutzbeauftragter · Künstliche Intelligenz

Die Rolle des Datenschutzbeauftragten bei der Einführung von KI

Ein Chatbot für den Kundenservice, ein Assistent für Angebotstexte, eine Software, die Bewerbungen vorsortiert: KI-Projekte entstehen in vielen Unternehmen schnell und oft in einzelnen Abteilungen. Der Datenschutzbeauftragte erfährt davon nicht selten erst, wenn das Tool schon läuft. Diese Seite zeigt, an welchen Stellen eines KI-Projekts der DSB gebraucht wird, was er konkret prüft und wie man ihn so einbindet, dass er das Vorhaben nicht verzögert.

  • Externer Datenschutzbeauftragter
  • Sitz in Lehre, bundesweit tätig
  • Erstgespräch kostenlos
Kurz gesagt

Nach Art. 38 Abs. 1 DSGVO ist der Datenschutzbeauftragte frühzeitig in alle Fragen einzubinden, die den Schutz personenbezogener Daten betreffen – also bereits bei der Auswahl eines KI-Systems, nicht erst nach dem Rollout. Er berät zur Rechtsgrundlage, zur Prüfung des Anbieters und zum Datenfluss, zur Frage, ob eine Datenschutz-Folgenabschätzung erforderlich ist, und zu Schulung und Regeln für Beschäftigte. Die Entscheidung über den Einsatz trifft die Unternehmensleitung.

Warum KI-Projekte den DSB früher brauchen als andere

Bei klassischer Software ist meist klar, welche Daten hineingehen und was herauskommt. Bei KI-Systemen ist das schwieriger. Eingaben werden je nach Anbieter gespeichert, zum Training genutzt oder in Drittländern verarbeitet. Ergebnisse können personenbezogene Aussagen enthalten, die so nie eingegeben wurden. Und Beschäftigte nutzen die Werkzeuge auf eine Weise, die vorher niemand geplant hat.

Je später der DSB hinzukommt, desto teurer werden Korrekturen. Ist ein Vertrag mit einem Anbieter ohne ausreichende Regelungen bereits unterschrieben oder sind Kundendaten schon in ein öffentliches Modell geflossen, lässt sich das kaum rückgängig machen. Grundsätzliches zum Einsatz von KI-Werkzeugen beschreibt die Seite KI-Tools im Unternehmen datenschutzkonform nutzen.

Der DSB entlang des KI-Projekts

ProjektphaseFragen, die der DSB stellt
Idee und AnwendungsfallWelche Daten sollen verarbeitet werden? Geht es auch mit anonymisierten oder pseudonymisierten Daten? Welche Personen sind betroffen?
Auswahl des AnbietersWo werden Daten verarbeitet? Werden Eingaben zum Training genutzt? Gibt es einen Auftragsverarbeitungsvertrag? Wie ist ein Drittlandtransfer abgesichert?
RisikobewertungIst eine Datenschutz-Folgenabschätzung erforderlich? Welche Risiken entstehen durch fehlerhafte oder diskriminierende Ergebnisse?
KonfigurationSind Speicherfristen, Protokollierung und Zugriffsrechte passend eingestellt? Sind Trainingsoptionen deaktiviert, wo nötig?
EinführungGibt es Nutzungsregeln? Wurden Beschäftigte geschult? Sind Informationspflichten gegenüber Kunden erfüllt?
BetriebWerden Änderungen beim Anbieter verfolgt? Gibt es neue Funktionen, die neu bewertet werden müssen?

Die drei kritischsten Prüfpunkte

1. Rechtsgrundlage und Zweck

Für jede Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage nach Art. 6 DSGVO, bei Gesundheits- oder anderen besonderen Daten zusätzlich eine Ausnahme nach Art. 9. Zudem gilt die Zweckbindung: Kundendaten, die für die Vertragsabwicklung erhoben wurden, dürfen nicht ohne Weiteres zum Training eines eigenen Modells verwendet werden. Mehr zur Abwägung unter Rechtsgrundlagen der Verarbeitung.

2. Anbieter und Datenfluss

Viele KI-Dienste werden aus Drittländern erbracht. Dann muss geprüft werden, ob ein Angemessenheitsbeschluss, Standardvertragsklauseln oder andere Mechanismen den Transfer tragen. Ebenso wichtig ist die Frage, ob der Anbieter als Auftragsverarbeiter handelt oder die Daten auch für eigene Zwecke nutzt. Letzteres verändert die rechtliche Bewertung grundlegend.

3. Automatisierte Entscheidungen

Sortiert eine Software Bewerbungen aus oder entscheidet sie über Kreditrahmen, kann Art. 22 DSGVO berührt sein. Betroffene haben grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen zu werden. Ein Mensch, der die KI-Empfehlung ungeprüft übernimmt, ist dabei keine echte menschliche Entscheidung. Details unter Profiling und automatisierte Entscheidungen.

Unsicher, was davon für Ihr Unternehmen gilt? Ich schätze Ihre Situation im kostenlosen Erstgespräch ein.

Erstgespräch anfragen

Folgenabschätzung bei KI: oft, aber nicht zwingend nötig

KI ist eine neue Technologie im Sinne von Art. 35 Abs. 1 DSGVO. Das allein löst noch keine Folgenabschätzung aus, ist aber ein Faktor in der Risikobewertung. Kommen weitere Faktoren hinzu – umfangreiche Verarbeitung, Bewertung von Personen, sensible Daten, Beschäftigte oder andere schutzbedürftige Gruppen –, ist eine DSFA häufig geboten. Ein interner Schreibassistent, der nur mit allgemeinen Texten arbeitet, wird anders zu bewerten sein als eine Software, die Kundengespräche analysiert.

Ergibt die Prüfung, dass eine DSFA erforderlich ist, kann das sogar zur Pflicht führen, einen Datenschutzbeauftragten zu benennen, wenn bislang keiner da ist. Dieser Zusammenhang ist auf der Seite zur DSB-Pflicht wegen Datenschutz-Folgenabschätzung erklärt.

KI-Verordnung, Betriebsrat und Schulung

Neben der DSGVO bringt die europäische KI-Verordnung eigene Pflichten mit. Seit Februar 2025 müssen Unternehmen, die KI-Systeme einsetzen, dafür sorgen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Je nach Risikoklasse des Systems kommen weitere Anforderungen hinzu. Der Datenschutzbeauftragte ist nicht automatisch für die KI-Verordnung zuständig, die Themen überschneiden sich aber stark. Einen Überblick gibt die Seite KI-Verordnung und Datenschutz.

Gibt es einen Betriebsrat, ist dieser bei KI-Systemen, die Verhalten oder Leistung von Beschäftigten erfassen können, regelmäßig zu beteiligen. Eine frühe gemeinsame Abstimmung zwischen DSB, Betriebsrat und Projektteam spart Zeit.

Schulungen sollten nicht nur die Bedienung erklären, sondern auch klare Regeln vermitteln: Welche Daten dürfen eingegeben werden, welche nicht? Wie werden Ergebnisse geprüft, bevor sie verwendet werden?

Schatten-KI: wenn Beschäftigte schneller sind als das Projekt

In vielen Unternehmen sind KI-Werkzeuge längst im Einsatz, bevor es eine offizielle Entscheidung gibt – über private Konten, Browser-Erweiterungen oder kostenlose Versionen. Verbote allein helfen erfahrungsgemäß wenig. Wirksamer ist eine Kombination aus einer freigegebenen Lösung mit geprüftem Vertrag, einer kurzen, verständlichen Nutzungsrichtlinie und einer Anlaufstelle für Fragen. Der DSB kann helfen, den tatsächlichen Gebrauch zu erfassen, ohne einzelne Beschäftigte bloßzustellen. Mehr dazu unter Schatten-IT erkennen.

Wie ich Sie bei KI-Vorhaben begleite

Als externer Datenschutzbeauftragter bewerte ich mit Ihnen den Anwendungsfall, prüfe Vertrag und Datenfluss des Anbieters, entscheide mit Ihnen über die Notwendigkeit einer Folgenabschätzung und entwerfe Nutzungsregeln für Ihre Beschäftigten. Mein Ziel ist, dass Sie KI mit vertretbarem Aufwand einsetzen können – und nachvollziehbar dokumentiert haben, warum Sie es so tun.

Vor dem Start eines KI-Projekts

  • DSB über das Vorhaben informiert, bevor ein Anbieter ausgewählt ist
  • Anwendungsfall, Datenarten und betroffene Personen beschrieben
  • Rechtsgrundlage und Zweckbindung geprüft
  • Anbieter geprüft: Verarbeitungsort, Trainingsnutzung, Auftragsverarbeitungsvertrag
  • Notwendigkeit einer Datenschutz-Folgenabschätzung bewertet und dokumentiert
  • Automatisierte Entscheidungen mit erheblicher Wirkung ausgeschlossen oder abgesichert
  • Betriebsrat beteiligt, sofern vorhanden
  • Nutzungsregeln erstellt und Beschäftigte geschult
  • Verarbeitungsverzeichnis und Datenschutzhinweise ergänzt

Häufige Fragen

Muss der Datenschutzbeauftragte einem KI-Tool zustimmen?

Nein. Der DSB hat keine Genehmigungs- oder Vetobefugnis. Er berät, bewertet Risiken und gibt Empfehlungen. Die Entscheidung trifft die Unternehmensleitung, die damit auch die Verantwortung übernimmt. Weicht sie von der Empfehlung ab, sollte das mit Begründung dokumentiert werden. Ein früh eingebundener DSB macht die Entscheidung aber meist leichter, nicht schwerer.

Ist der DSB auch für die KI-Verordnung zuständig?

Nicht automatisch. Die KI-Verordnung kennt keine Pflicht, dafür einen Datenschutzbeauftragten einzusetzen. Weil sich viele Fragen überschneiden – Transparenz, Risikobewertung, Dokumentation, Schulung –, übertragen manche Unternehmen die Koordination dennoch dem DSB oder einer Person, die eng mit ihm zusammenarbeitet. Wichtig ist, die Zuständigkeit ausdrücklich festzulegen.

Dürfen Beschäftigte Kundendaten in einen Chat-Assistenten eingeben?

Das hängt vom Tool und vom Vertrag ab. Bei einer Unternehmenslösung mit Auftragsverarbeitungsvertrag, ohne Trainingsnutzung und mit geregeltem Verarbeitungsort kann das zulässig sein. Bei kostenlosen Verbraucherversionen ist davon in der Regel abzuraten. Eine Nutzungsrichtlinie sollte klar festhalten, welche Daten eingegeben werden dürfen und welche nicht.

Was ist, wenn ein KI-Tool falsche Aussagen über eine Person erzeugt?

Dann geht es um die Richtigkeit personenbezogener Daten und um das Recht auf Berichtigung. Werden solche Ergebnisse gespeichert oder weiterverwendet, muss das Unternehmen sie korrigieren können. Deshalb sollten KI-Ergebnisse vor der Verwendung durch Menschen geprüft werden, besonders wenn sie Aussagen über Kunden, Bewerber oder Beschäftigte enthalten.

Lohnt sich ein DSB für ein kleines Team, das nur einen Schreibassistenten nutzt?

Eine Benennungspflicht ergibt sich daraus allein meist nicht. Sinnvoll ist trotzdem eine kurze Prüfung von Vertrag und Einstellungen sowie eine einfache Regel für die Nutzung. Das lässt sich auch im Rahmen einer punktuellen Beratung erledigen, ohne gleich einen Datenschutzbeauftragten zu benennen.

  • Art. 38 Abs. 1 DSGVO
  • Art. 6 und 9 DSGVO
  • Art. 22 DSGVO
  • Art. 35 DSGVO
  • Art. 4 KI-Verordnung

Stand: November 2026. Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Verantwortlich für die Einhaltung des Datenschutzes bleibt das Unternehmen; als Datenschutzbeauftragter berate und unterstütze ich Sie dabei.

Sie planen den Einsatz von KI und wollen den Datenschutz gleich richtig aufsetzen?

Im kostenlosen Erstgespräch schauen wir auf Ihren Anwendungsfall und klären, welche Prüfungen nötig sind, bevor das Tool live geht.

  • Kostenloses Erstgespräch, ca. 30 Minuten
  • Telefonisch, per Video oder nach Absprache vor Ort
  • Antwort innerhalb von 24 Stunden

Kurzanfrage senden

Drei Pflichtfelder genügen. Ich melde mich persönlich bei Ihnen.

Ihre Angaben nutze ich nur zur Beantwortung Ihrer Anfrage.

AnrufenErstgespräch