KI-Tools dürfen im Unternehmen genutzt werden, wenn klar ist, welche Daten eingegeben werden, auf welcher Rechtsgrundlage das geschieht und welcher Vertrag mit dem Anbieter besteht. Empfehlenswert sind Geschäftskonten, bei denen Eingaben nicht zum Training genutzt werden und ein Vertrag zur Auftragsverarbeitung vorliegt. Personenbezogene und vertrauliche Daten gehören nur nach festgelegten Regeln hinein. Eine interne KI-Richtlinie, Schulung und gegebenenfalls eine Folgenabschätzung runden den Einsatz ab.
Wo personenbezogene Daten ins Spiel kommen
Datenschutz wird bei KI-Werkzeugen meist an einer Stelle relevant, die im Alltag unauffällig ist: im Eingabefeld. Wer eine Kundenbeschwerde zur Antwort einfügt, einen Lebenslauf zusammenfassen lässt oder ein Besprechungsprotokoll mit Namen hochlädt, übermittelt personenbezogene Daten an den Anbieter. Auch die Antworten können Personenbezug haben, etwa wenn die KI eine Einschätzung über einen Mitarbeiter formuliert.
Nicht jede Nutzung ist kritisch. Ein Werbetext für ein neues Produkt, eine Gliederung für eine Präsentation oder eine Übersetzung ohne Namen berühren den Datenschutz kaum. Die Kunst liegt darin, zu unterscheiden und diese Unterscheidung dem Team verständlich zu machen.
Kontotyp entscheidet: privat, Team oder Unternehmen
Die meisten Anbieter haben unterschiedliche Bedingungen für Privat- und Geschäftskunden. Diese Unterschiede sind datenschutzrechtlich wesentlich:
| Kriterium | Kostenloses Privatkonto | Geschäftskonto (Team, Enterprise, API) |
|---|---|---|
| Nutzung der Eingaben zum Training | häufig standardmäßig möglich, teils abschaltbar | in der Regel ausgeschlossen |
| Vertrag zur Auftragsverarbeitung | nicht vorgesehen | meist verfügbar |
| Verwaltung durch das Unternehmen | keine | zentrale Kontoverwaltung, Löschung beim Austritt |
| Speicherdauer der Verläufe | vom Nutzer abhängig | teils konfigurierbar |
Daraus folgt eine einfache Grundregel: Für dienstliche Arbeit mit Daten von Kunden, Beschäftigten oder Geschäftspartnern sind private Konten ungeeignet. Wer das unterbinden will, braucht eine geregelte Alternative, sonst wandert die Nutzung in die Schatten-IT.
Vertrag, Drittland und Rechtsgrundlage
Bei Geschäftskonten handelt der Anbieter in der Regel als Auftragsverarbeiter. Sie brauchen dann einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO und sollten prüfen, ob Daten in die USA oder andere Drittländer gelangen und auf welcher Grundlage das geschieht, etwa einer Zertifizierung unter dem Data Privacy Framework oder Standardvertragsklauseln.
Für die Verarbeitung selbst braucht jede Eingabe personenbezogener Daten eine Rechtsgrundlage. Häufig kommt das berechtigte Interesse in Betracht, etwa bei der Zusammenfassung allgemeiner Kundenanfragen. Bei Gesundheitsdaten, Personalunterlagen oder Daten, die einem Berufsgeheimnis unterliegen, wird es deutlich enger. Hier ist im Einzelfall zu klären, ob eine Eingabe überhaupt in Frage kommt oder ob die Daten vorher entfernt oder pseudonymisiert werden müssen.
Unsicher, was davon für Ihr Unternehmen gilt? Ich schätze Ihre Situation im kostenlosen Erstgespräch ein.
Erstgespräch anfragenTransparenz und Grenzen bei Entscheidungen
Setzen Sie KI so ein, dass Betroffene davon berührt werden, gehört das in die Datenschutzinformation, etwa wenn ein Chatbot auf der Website Anfragen beantwortet oder KI eingehende Mails vorsortiert. Kunden müssen erkennen können, dass sie mit einer Maschine kommunizieren; das verlangt auch die KI-Verordnung für bestimmte Systeme.
Besonders sorgfältig ist der Einsatz bei Entscheidungen über Menschen. Lässt man eine KI Bewerbungen bewerten oder Kreditwürdigkeit einschätzen, sind die Grenzen des Art. 22 DSGVO zu beachten: Ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind nur in engen Ausnahmen zulässig. Mehr dazu unter Profiling und automatisierte Entscheidungen. Die KI darf vorbereiten, die Entscheidung sollte ein Mensch mit echtem Spielraum treffen.
Wann eine Datenschutz-Folgenabschätzung nötig wird
Der Einsatz neuer Technologien ist ein Kriterium, das nach Art. 35 DSGVO für eine Folgenabschätzung sprechen kann. Für einen Textassistenten, der ohne personenbezogene Daten arbeitet, ist sie nicht erforderlich. Anders sieht es aus, wenn KI systematisch Daten von Beschäftigten oder Kunden auswertet, sensible Daten verarbeitet oder Entscheidungen vorbereitet. Dann ist eine Datenschutz-Folgenabschätzung sorgfältig zu prüfen und im Zweifel durchzuführen. Die Datenschutzkonferenz hat zudem eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die bei der Bewertung hilft.
Eine KI-Richtlinie für Ihr Team
Was im Unternehmen erlaubt ist, sollte schriftlich und verständlich geregelt sein. Eine schlanke Richtlinie beantwortet diese Fragen:
- Welche Werkzeuge sind freigegeben, und mit welchem Konto werden sie genutzt?
- Welche Daten dürfen eingegeben werden, welche ausdrücklich nicht, etwa Gesundheitsdaten, Passwörter oder Geschäftsgeheimnisse?
- Wie werden Ergebnisse geprüft, bevor sie an Kunden gehen?
- Wer entscheidet über neue Tools, und wie wird der Datenschutz dabei eingebunden?
- Wie werden Beschäftigte geschult?
Für die Schulung gibt es seit Februar 2025 zusätzlichen Rückenwind: Die KI-Verordnung verpflichtet Betreiber von KI-Systemen, für ausreichende KI-Kompetenz ihres Personals zu sorgen. Die Zusammenhänge erläutert die Seite zur KI-Verordnung (AI Act). In Betrieben mit Betriebsrat ist dessen Beteiligung bei der Einführung zu berücksichtigen.
Wie ich Ihre KI-Nutzung begleite
Ich erfasse mit Ihnen, welche KI-Werkzeuge im Haus tatsächlich genutzt werden, auch die inoffiziellen. Danach bewerte ich die Anbieter, prüfe Verträge und Einstellungen und formuliere eine KI-Richtlinie, die zu Ihrem Alltag passt. Für Ihr Team biete ich eine Schulung an, die Datenschutz und KI-Kompetenz verbindet. Bei größeren Projekten, etwa einem eigenen Chatbot oder KI in der Personalarbeit, begleite ich die Einführung von Anfang an.
KI-Einsatz im Unternehmen: Ihre Prüfliste
- Überblick, welche KI-Tools im Haus genutzt werden, auch inoffiziell
- Freigegebene Werkzeuge mit Geschäftskonto statt privaten Accounts
- Training mit Unternehmensdaten ist vertraglich oder per Einstellung ausgeschlossen
- AV-Vertrag und Bewertung des Drittlandbezugs liegen vor
- Klare Liste, welche Daten nicht eingegeben werden dürfen
- Ergebnisse werden vor der Weitergabe von Menschen geprüft
- Datenschutzinformation erwähnt KI, wo Betroffene berührt sind
- Schulung zu Datenschutz und KI-Kompetenz ist durchgeführt und dokumentiert
Häufige Fragen
Dürfen wir Kundenmails in ChatGPT kopieren, um Antworten zu formulieren?
Mit einem Geschäftskonto, Vertrag zur Auftragsverarbeitung und deaktiviertem Training ist das bei gewöhnlichen Anfragen oft vertretbar. Besser ist es, Namen, Adressen und Vertragsnummern vor dem Einfügen zu entfernen. Bei sensiblen Inhalten, etwa Gesundheitsangaben oder Beschwerden mit persönlichen Details, sollten Sie darauf verzichten oder spezielle Lösungen nutzen.
Reicht es, im Privatkonto das Training abzuschalten?
Das verringert ein Risiko, löst aber nicht alle Probleme. Es fehlt weiterhin ein Vertrag zur Auftragsverarbeitung, das Unternehmen hat keinen Zugriff auf das Konto, und beim Austritt der Person bleiben die Verläufe bei ihr. Für dienstliche Nutzung mit personenbezogenen Daten ist ein vom Unternehmen verwaltetes Konto deutlich besser.
Wer haftet, wenn die KI falsche Angaben über eine Person macht?
Verantwortlich für die Verarbeitung bleibt das Unternehmen, das die Ergebnisse nutzt. Übernehmen Sie eine fehlerhafte Aussage über eine Person ungeprüft, etwa in einem Schreiben, kann das das Recht auf Berichtigung berühren und Ansprüche auslösen. Deshalb gehört eine menschliche Prüfung der Ergebnisse fest in jede KI-Richtlinie.
Ist eine selbst betriebene KI auf eigenen Servern unproblematisch?
Sie reduziert Fragen zu Drittland und Anbieterzugriff, ersetzt aber nicht die übrigen Pflichten. Auch bei lokalem Betrieb brauchen Sie eine Rechtsgrundlage, Zugriffsregeln, Löschfristen und Transparenz gegenüber Betroffenen. Hinzu kommt der Aufwand für sichere Konfiguration und Updates, der oft unterschätzt wird.
Müssen Beschäftigte zustimmen, bevor wir KI im Unternehmen einführen?
Eine individuelle Zustimmung ist in der Regel nicht erforderlich und wegen des Abhängigkeitsverhältnisses als Grundlage auch wenig geeignet. Beschäftigte müssen aber informiert werden, wenn ihre Daten durch KI verarbeitet werden. Besteht ein Betriebsrat, ist er zu beteiligen, insbesondere wenn das Werkzeug geeignet ist, Verhalten oder Leistung zu überwachen.