Die KI-Verordnung (Verordnung (EU) 2024/1689) regelt KI-Systeme nach ihrem Risiko: bestimmte Praktiken sind verboten, Hochrisiko-Systeme unterliegen strengen Anforderungen, für manche Systeme gelten Transparenzpflichten, der Rest bleibt weitgehend frei. Die meisten Unternehmen sind nicht Anbieter, sondern Betreiber von KI, etwa beim Einsatz von Chatbots oder Textassistenten. Für sie gilt vor allem die Pflicht zur KI-Kompetenz der Beschäftigten. Sobald personenbezogene Daten verarbeitet werden, gilt die DSGVO zusätzlich und vollständig weiter.
Zwei Gesetze mit unterschiedlichem Blickwinkel
Die DSGVO schützt Menschen bei der Verarbeitung ihrer Daten, ganz gleich, mit welcher Technik. Die KI-Verordnung setzt am Produkt an: Sie regelt, welche Anforderungen ein KI-System erfüllen muss, bevor es auf den Markt kommt oder eingesetzt wird. Man kann es so zusammenfassen: Die KI-Verordnung fragt, ob das Werkzeug sicher und transparent ist. Die DSGVO fragt, ob Sie es mit diesen Daten für diesen Zweck nutzen dürfen.
Ein KI-System kann deshalb alle Anforderungen der KI-Verordnung erfüllen und trotzdem im konkreten Einsatz gegen die DSGVO verstoßen, etwa weil Kundendaten ohne Rechtsgrundlage hineinkopiert werden. Umgekehrt ersetzt eine saubere Datenschutzprüfung nicht die Pflichten aus dem KI-Recht.
Die Risikostufen in der Übersicht
| Stufe | Beispiele | Folge |
|---|---|---|
| Verbotene Praktiken | Social Scoring, manipulative Techniken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen mit engen Ausnahmen | Einsatz untersagt |
| Hochrisiko | KI in der Personalauswahl und Leistungsbewertung, bei der Kreditwürdigkeitsprüfung, im Bildungszugang, als Sicherheitskomponente regulierter Produkte | Umfangreiche Pflichten für Anbieter und Betreiber |
| Transparenzpflichten | Chatbots, KI-generierte oder manipulierte Bilder, Audio und Video | Kennzeichnung und Hinweis an Nutzer |
| Minimales Risiko | Spamfilter, Rechtschreibhilfen, Empfehlungen in Unternehmenssoftware | Keine besonderen Pflichten außer KI-Kompetenz |
Zusätzlich gibt es eigene Regeln für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Sprachmodelle. Diese Pflichten treffen die Modellanbieter, nicht die Unternehmen, die die Modelle über eine Anwendung nutzen.
Anbieter oder Betreiber: welche Rolle haben Sie?
Die KI-Verordnung unterscheidet vor allem zwischen Anbietern, die ein KI-System entwickeln und in Verkehr bringen, und Betreibern, die es in eigener Verantwortung beruflich einsetzen. Ein Steuerbüro, das einen KI-Textassistenten nutzt, ist Betreiber. Ein Softwarehaus, das eine eigene KI-Funktion verkauft, ist Anbieter.
Vorsicht ist geboten, wenn Sie ein fremdes System wesentlich verändern oder unter eigenem Namen anbieten. Dann können Sie selbst in die Anbieterrolle rutschen. Für die meisten mittelständischen Unternehmen bleibt es jedoch bei der Betreiberrolle mit überschaubaren Pflichten, solange sie keine Hochrisiko-Anwendungen einsetzen.
Unsicher, was davon für Ihr Unternehmen gilt? Ich schätze Ihre Situation im kostenlosen Erstgespräch ein.
Erstgespräch anfragenWas Betreiber konkret tun müssen
KI-Kompetenz nach Art. 4
Unternehmen, die KI einsetzen, müssen dafür sorgen, dass ihre Beschäftigten ausreichend über die Funktionsweise, Chancen und Risiken der genutzten Systeme Bescheid wissen. Diese Pflicht gilt bereits seit Februar 2025. Sie lässt sich gut mit einer Datenschutzschulung verbinden, denn die praktischen Fragen überschneiden sich: Was darf ich eingeben, wie prüfe ich Ergebnisse, wann muss ich nachfragen?
Transparenz
Setzen Sie einen Chatbot im Kundenkontakt ein, müssen Nutzer erkennen können, dass sie mit einer Maschine kommunizieren. KI-erzeugte Bilder oder Videos, die realistisch wirken, sind zu kennzeichnen.
Hochrisiko-Einsatz
Nutzen Sie etwa eine KI zur Vorauswahl von Bewerbungen, steigen die Anforderungen deutlich: Einsatz nach Gebrauchsanweisung, menschliche Aufsicht durch geschulte Personen, Überwachung des Betriebs, Aufbewahrung von Protokollen und Information der betroffenen Beschäftigten. Viele dieser Pflichten greifen nach dem gestaffelten Zeitplan der Verordnung erst später; der genaue Zeitpunkt für einzelne Hochrisiko-Bereiche war zuletzt Gegenstand von Anpassungsvorschlägen auf EU-Ebene. Planen Sie solche Einsätze trotzdem schon jetzt mit diesen Anforderungen.
Wo DSGVO und KI-Verordnung sich berühren
- Folgenabschätzung: Die DSGVO verlangt bei hohem Risiko eine Datenschutz-Folgenabschätzung. Die KI-Verordnung sieht für bestimmte Betreiber von Hochrisiko-Systemen zusätzlich eine Grundrechte-Folgenabschätzung vor. Beide lassen sich in einem gemeinsamen Dokument vorbereiten.
- Automatisierte Entscheidungen: Art. 22 DSGVO beschränkt Entscheidungen, die ausschließlich automatisiert getroffen werden und Menschen erheblich beeinträchtigen. Die menschliche Aufsicht nach der KI-Verordnung verfolgt ein ähnliches Ziel. Mehr unter Profiling und automatisierte Entscheidungen.
- Transparenz: Die Informationspflichten der DSGVO verlangen, über die Logik automatisierter Entscheidungen zu informieren. Die Kennzeichnungspflicht der KI-Verordnung tritt daneben.
- Dienstleisterverträge: Wer einen KI-Dienst mit Personenbezug nutzt, braucht in aller Regel weiterhin einen Auftragsverarbeitungsvertrag und muss Drittlandübermittlungen prüfen.
Ein pragmatischer Einstieg in vier Schritten
- Bestandsaufnahme: Welche KI-Funktionen sind im Einsatz, auch versteckt in vorhandener Software wie Office-Paketen, CRM oder Bewerbermanagement?
- Einordnung: Für jede Anwendung Rolle und Risikostufe festhalten. Bei Personal, Kredit oder Bildung genauer hinsehen.
- Regeln: Eine kurze KI-Richtlinie, die festlegt, welche Tools erlaubt sind und welche Daten eingegeben werden dürfen. Hinweise dazu bietet der Beitrag KI-Tools im Unternehmen datenschutzkonform nutzen.
- Kompetenz: Schulung der Nutzerinnen und Nutzer, dokumentiert wie andere Pflichtschulungen.
Meine Rolle bei KI-Projekten
Als Datenschutzbeauftragter bin ich bei KI-Vorhaben für die DSGVO-Seite zuständig und berate zu den Schnittstellen mit der KI-Verordnung. Ich helfe bei der Bestandsaufnahme, bewerte die Datenflüsse, prüfe die Verträge mit KI-Anbietern und bereite, wo nötig, die Folgenabschätzung vor. Wie das in der Praxis abläuft, beschreibe ich unter Datenschutzbeauftragter bei der Einführung von KI. Für reine Produktzulassungsfragen von KI-Anbietern ziehen Sie zusätzlich spezialisierte Fachleute hinzu.
KI-Verordnung: erste Pflichten prüfen
- Alle genutzten KI-Funktionen erfasst, auch eingebettete
- Rolle als Anbieter oder Betreiber je System geklärt
- Risikostufe eingeordnet, Personalprozesse besonders geprüft
- Keine verbotenen Praktiken im Einsatz
- Chatbots und KI-Inhalte gekennzeichnet
- KI-Kompetenz der Beschäftigten geschult und dokumentiert
- DSGVO-Prüfung: Rechtsgrundlage, Vertrag, Drittland
- Bei Hochrisiko-Einsatz Folgenabschätzung vorbereitet
Häufige Fragen
Gilt die KI-Verordnung auch für kleine Unternehmen, die nur einen Chatbot nutzen?
Ja, aber in begrenztem Umfang. Als Betreiber müssen Sie für ausreichende KI-Kompetenz Ihrer Mitarbeitenden sorgen und Nutzer darauf hinweisen, dass sie mit einer KI sprechen. Weitergehende Pflichten entstehen erst bei Hochrisiko-Anwendungen. Die DSGVO gilt unabhängig davon, sobald über den Chatbot personenbezogene Daten verarbeitet werden.
Wer überwacht die KI-Verordnung in Deutschland?
Die nationale Zuständigkeit wird durch ein deutsches Durchführungsgesetz festgelegt; vorgesehen war insbesondere eine Rolle der Bundesnetzagentur als zentrale Marktüberwachungsbehörde. Für die Datenschutzseite bleiben die Datenschutzaufsichtsbehörden zuständig. In der Praxis können also verschiedene Behörden auf dieselbe KI-Anwendung schauen, jeweils aus ihrem Blickwinkel.
Ist eine Schulung zur KI-Kompetenz Pflicht?
Art. 4 der KI-Verordnung verlangt kein bestimmtes Format, sondern ein ausreichendes Maß an Kompetenz, gemessen an Vorkenntnissen und Einsatzbereich. Eine dokumentierte Schulung ist der naheliegende Weg, das nachzuweisen. Sie sollte auf die tatsächlich genutzten Werkzeuge eingehen und typische Risiken wie falsche Ergebnisse oder die Eingabe vertraulicher Daten behandeln.
Macht die KI-Verordnung eine Datenschutz-Folgenabschätzung überflüssig?
Nein. Die Datenschutz-Folgenabschätzung ist eine Pflicht aus der DSGVO und bleibt bestehen, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt. Die Grundrechte-Folgenabschätzung aus der KI-Verordnung tritt für bestimmte Betreiber hinzu. Sinnvoll ist, beide Prüfungen inhaltlich zu verknüpfen, statt zwei getrennte Dokumente mit doppelten Inhalten zu pflegen.
Dürfen wir KI im Bewerbungsprozess einsetzen?
Grundsätzlich ja, aber dieser Bereich gilt nach der KI-Verordnung als Hochrisiko. Damit verbunden sind menschliche Aufsicht, Protokollierung und Information der Bewerbenden. Datenschutzrechtlich dürfen Absagen nicht allein auf einer automatisierten Bewertung beruhen. Vor einer Einführung sollten Datenschutz, Personalabteilung und gegebenenfalls Betriebsrat gemeinsam prüfen.