DSGVO-konformer KI-Einsatz im Unternehmen: Die vollständige Checkliste

KI-Werkzeuge sind im deutschen Mittelstand angekommen. Von der automatischen Rechnungsverarbeitung über KI-gestützten Kundenservice bis zu Textentwürfen im Marketing — die Einsatzmöglichkeiten sind vielfältig, die Zeiteinsparungen real. Was viele Unternehmen dabei unterschätzen: Sobald personenbezogene Daten ins Spiel kommen, greift die DSGVO — und zwar vollständig, unabhängig davon, ob der KI-Anbieter in Europa oder den USA sitzt.

Dieser Leitfaden zeigt, welche DSGVO-Pflichten beim KI-Einsatz entstehen, wie Sie Cloud-KI von lokalen Alternativen datenschutzrechtlich unterscheiden und was Sie konkret klären müssen, bevor das erste Mitarbeitergespräch oder die erste Kundenanfrage in ein KI-System fließt. Am Ende finden Sie eine praxiserprobte Checkliste für Ihren KI-Einsatz im Unternehmen.

Warum KI und Datenschutz eine besondere Kombination sind

Die DSGVO schützt personenbezogene Daten — also alle Informationen, die sich auf eine identifizierbare natürliche Person beziehen. Namen, E-Mail-Adressen und Telefonnummern sind offensichtliche Beispiele. Weniger offensichtlich, aber rechtlich genauso relevant: Gesprächsinhalte aus Kundengesprächen, Mitarbeiterleistungsdaten, Vertragsdetails oder sogar Schreibstile, die Rückschlüsse auf eine Person erlauben. Wer diese Daten an ein KI-System übergibt, verarbeitet sie im Sinne der DSGVO.

KI-Systeme bringen dabei spezifische Risiken mit sich, die klassische Software nicht hat. Viele Large Language Models wurden mit riesigen Datenmengen trainiert und können Informationen — auch solche, die scheinbar gelöscht oder anonymisiert wurden — in unerwarteten Kontexten reproduzieren. Zudem fließen Anfragen bei cloudbasierten Diensten auf Server des Anbieters, häufig außerhalb der EU. Und: Entscheidungen, die ein KI-System trifft oder vorbereitet, unterliegen besonderen Anforderungen, wenn sie rechtliche oder erhebliche wirtschaftliche Folgen für Personen haben.

Welche KI-Anwendungen sind DSGVO-relevant?

Nicht jeder KI-Einsatz löst automatisch komplexe Datenschutzpflichten aus. Entscheidend ist: Werden personenbezogene Daten verarbeitet? Hier ein Überblick der häufigsten Szenarien im Mittelstand:

• Kunden- und Interessentenkommunikation: E-Mails, Chatverläufe, Anfragen — enthält fast immer personenbezogene Daten. KI-Zusammenfassungen, automatische Antworten oder CRM-Analysen sind DSGVO-relevant.
• Personalwesen (HR): Bewerbungsunterlagen, Leistungsbewertungen, Anwesenheitsdaten. KI-gestützte Vorauswahl oder Analyse unterliegt Art. 22 DSGVO (automatisierte Entscheidungen).
• Buchhaltung und Rechnungsverarbeitung: Rechnungen enthalten Kundennamen und Kontaktdaten — bei KI-gestützter Extraktion besteht Verarbeitungspflicht.
• Transkription von Meetings und Calls: Aufzeichnungen von Geschäftsgesprächen betreffen alle Teilnehmenden. Einwilligung oder berechtigtes Interesse klären.
• Interne Wissensdatenbanken und Dokumentensuche: Häufig weniger datenschutzkritisch, wenn keine Kundendaten enthalten — aber bei Personalakten oder Vertragsmanagement beachten.
• Marketingpersonalisierung: Kundenverhalten, Kaufhistorie, Segmentierung — DSGVO-Grundlage (Einwilligung oder berechtigtes Interesse) und Opt-out klären.

Die sechs DSGVO-Grundsätze im KI-Kontext

Art. 5 DSGVO definiert sechs Grundsätze, die für jede Verarbeitung personenbezogener Daten gelten — also auch für KI. Hier die Übersetzung in den KI-Alltag:

1. 1Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz: Jede Verarbeitung braucht eine Rechtsgrundlage (Einwilligung, Vertrag, berechtigtes Interesse o. ä.). KI-Einsatz transparent kommunizieren — Mitarbeitende und Kunden informieren, wenn ihre Daten in KI-Systeme fließen.
2. 2Zweckbindung: Daten dürfen nur für den Zweck genutzt werden, für den sie erhoben wurden. Kundendaten, die zur Auftragsabwicklung gesammelt wurden, dürfen nicht ohne weiteres für das Training eigener KI-Modelle genutzt werden.
3. 3Datenminimierung: Nur die Daten verarbeiten, die tatsächlich benötigt werden. In der Praxis: so wenig Kontext wie möglich in KI-Prompts einfügen, Anonymisierung oder Pseudonymisierung prüfen.
4. 4Richtigkeit: KI-Ausgaben, die Entscheidungsgrundlage sind, regelmäßig auf Richtigkeit prüfen — Halluzinationen von Sprachmodellen sind ein reales Risiko.
5. 5Speicherbegrenzung: Protokolle, Chatverläufe und Transkriptionen regelmäßig löschen. Bei cloudbasierten Diensten Aufbewahrungsfristen des Anbieters prüfen und eigene Fristen intern umsetzen.
6. 6Integrität und Vertraulichkeit: KI-Systeme mit angemessenen technischen und organisatorischen Maßnahmen (TOMs) nach Art. 32 DSGVO absichern — Zugriffsrechte, Verschlüsselung, Logging.

Cloud-KI vs. lokale KI: Was der Datenschutz empfiehlt

Die datenschutzrechtlich größte Weiche liegt bei der Wahl zwischen cloudbasierter KI (z. B. ChatGPT Enterprise, Microsoft Copilot 365) und lokal betriebenen Open-Weight-Modellen (z. B. auf eigenem Server oder on-premise). Beide Wege sind DSGVO-konform gestaltbar — mit unterschiedlichem Aufwand:

Für die meisten KMU ist Cloud-KI mit Enterprise-Plan und deaktivierter Trainingsnutzung der pragmatische Weg. Wer besonders sensitive Daten (Gesundheit, Finanzen, Personalakten) verarbeitet oder spezifische Compliance-Anforderungen hat, sollte die KI-Integration auf der Basis eines lokalen Modells prüfen.

DSGVO-Checkliste: Das müssen Sie vor dem KI-Einsatz klären

Diese Checkliste gilt für jede neue KI-Anwendung, die personenbezogene Daten verarbeitet — unabhängig davon, ob es sich um ein eingekauftes SaaS-Tool oder eine selbst entwickelte Lösung handelt:

• Rechtsgrundlage bestimmen: Auf welcher Grundlage (Art. 6 DSGVO) werden Daten verarbeitet? Einwilligung, Vertragserfüllung oder berechtigtes Interesse müssen vor dem Einsatz festgelegt und dokumentiert sein.
• Auftragsverarbeitungsvertrag (AVV) abschließen: Wird ein externer Dienst eingesetzt, der personenbezogene Daten im Auftrag verarbeitet? Dann ist ein AVV nach Art. 28 DSGVO Pflicht — auch bei kostenloser Nutzung.
• Drittstaatenübertragung prüfen: Liegt der Server außerhalb der EU/EWR? Dann müssen Standardvertragsklauseln (SCCs) und ggf. ein Angemessenheitsbeschluss der EU-Kommission vorliegen.
• Trainingsnutzung deaktivieren: Bei cloudbasierten KI-Diensten sicherstellen, dass Eingaben nicht für das Modelltraining des Anbieters verwendet werden. Das erfordert in der Regel Enterprise-Tarif oder aktives Opt-out.
• Informationspflichten erfüllen: Mitarbeitende, Kunden und ggf. Lieferanten informieren, wenn ihre Daten in KI-Systeme fließen (Art. 13/14 DSGVO). Datenschutzerklärung und Mitarbeiterhandbuch aktualisieren.
• Verzeichnis der Verarbeitungstätigkeiten (VVT) ergänzen: Jede neue KI-Anwendung als eigene Verarbeitungstätigkeit eintragen (Art. 30 DSGVO). Name des Anbieters, Datenkategorien, Zweck, Drittstaatenübertragung, Löschfristen.
• Datenschutz-Folgenabschätzung (DSFA) prüfen: Bei hohem Risiko (automatisierte Entscheidungen mit rechtlicher Wirkung, großmaßstäbliche Verarbeitung besonderer Datenkategorien, systematische Überwachung) ist eine DSFA nach Art. 35 DSGVO Pflicht — nicht optional.
• Technische und organisatorische Maßnahmen (TOMs) festlegen: Wer hat Zugriff auf KI-Ausgaben und -Protokolle? Wie werden Daten gespeichert, verschlüsselt, gelöscht? Antworten dokumentieren.
• Betroffenenrechte sicherstellen: Können Kunden und Mitarbeitende ihr Auskunfts-, Berichtigungs- oder Löschrecht auch bezüglich KI-gespeicherter Daten ausüben? Prozesse dafür intern einrichten.

EU AI Act: Was KMU jetzt wissen müssen

Der EU AI Act (Verordnung (EU) 2024/1689) ergänzt die DSGVO um spezifische Anforderungen für KI-Systeme und gilt in Teilen seit August 2026. Die meisten Standard-KI-Tools — Texthilfen, Chatbots, Übersetzungstools — fallen als allgemeine KI-Modelle oder Niedrigrisiko-KI unter vergleichsweise geringe Pflichten (Transparenzkennzeichnung für Deepfakes und KI-generierte Inhalte). Höhere Anforderungen gelten für sogenannte Hochrisiko-KI nach Anhang III der Verordnung:

• Hochrisiko-KI im KMU-Kontext betrifft vor allem: KI-gestützte Personalentscheidungen (Bewerberauswahl, Leistungsbewertung), Kreditwürdigkeitsprüfungen, biometrische Systeme, KI in kritischen Infrastrukturen und Bildungseinrichtungen.
• Pflichten für Hochrisiko-KI: Risikomanagementsystem, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, Registrierung in der EU-Datenbank — deutlich aufwändiger als bei Niedrigrisiko-KI.
• Verbotene KI-Praktiken (ab August 2026): Social Scoring, unterschwellige Manipulation, Ausnutzung von Schwächen, Echtzeitbiometrie im öffentlichen Raum (mit engen Ausnahmen).
• Neue Transparenzpflicht: Deepfakes und KI-generierte Texte/Bilder/Videos mit erheblicher Ähnlichkeit zu realen Personen oder Ereignissen müssen als KI-generiert gekennzeichnet sein.
• Empfehlung für KMU: Eine kurze KI-Inventur durchführen — welche Tools nutze ich, und welche Risikokategorie haben sie? Für Standard-Büroanwendungen reicht in der Regel die DSGVO-Checkliste; nur bei HR-KI oder Kreditsystemen wird die Hochrisiko-Prüfung relevant.

Typische Fehler beim DSGVO-konformen KI-Einsatz — und wie man sie vermeidet

In der Praxis zeigen sich bei KMU immer wieder dieselben Fallstricke — unabhängig von der Unternehmensgröße oder Branche:

• Kein AVV vor der ersten Eingabe: Mitarbeitende nutzen den kostenlosen Tarif eines KI-Dienstes und geben Kundendaten ein — ohne AVV ist das eine Datenschutzverletzung. Abhilfe: klare interne Richtlinie, welche Tarife und welche Daten erlaubt sind.
• Irrglaube: Die AGB regeln das schon. Allgemeine Geschäftsbedingungen ersetzen keinen AVV. Der AVV ist ein separates Dokument nach Art. 28 DSGVO — prüfen, ob der Anbieter einen bereitstellt.
• Standard-Tarif statt Enterprise: Viele kostenlose oder günstige Tarife erlauben dem Anbieter, Eingaben für das Modelltraining zu nutzen. Enterprise-Tarife oder Business-Pläne deaktivieren das — prüfen und im VVT dokumentieren.
• Keine Löschfristen für KI-Protokolle: KI-Chatverläufe und Transkripte werden unbegrenzt gespeichert. Löschfristen wie bei E-Mails und Dokumenten einrichten und technisch umsetzen.
• KI-Entscheidungen ohne menschliche Kontrolle: Bei Entscheidungen mit erheblicher Wirkung auf Personen (Personalauswahl, Kreditvergabe) verlangt Art. 22 DSGVO das Recht auf menschliche Überprüfung. Vollautomatisierte Entscheidungen sind ohne Einwilligung unzulässig.
• DSFA vergessen: Wer ein neues KI-Projekt für Hochrisikobereiche einführt, ohne DSFA und hält es für eine Formsache — bis die Datenschutzbehörde nachfragt.

Datenschutzkonforme KI-Integration: Was konkret zu tun ist

DSGVO und KI schließen sich nicht aus — sie verlangen Sorgfalt. Wer die Checkliste in diesem Artikel systematisch abarbeitet, kann KI-Werkzeuge datenschutzkonform einsetzen und intern nachweisen, dass er seiner Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO nachkommt. Der Aufwand für ein erstes KI-Projekt mit sauberem Datenschutz-Setup liegt erfahrungsgemäß bei zwei bis vier Arbeitstagen — verteilt auf AVV, VVT-Ergänzung, Mitarbeiterkommunikation und ggf. DSFA.

Wenn Sie mehrere KI-Systeme gleichzeitig einführen oder besonders sensitive Bereiche (HR, Gesundheit, Finanzen) betroffen sind, lohnt sich eine strukturierte KI-Beratung und IT-Beratung — um das Setup einmalig sauber aufzusetzen und nicht bei jedem neuen Tool von vorn anzufangen.

Häufige Fragen

Müssen KMU für ChatGPT, Copilot & Co. einen AVV abschließen?

Ja, sobald personenbezogene Daten eingegeben werden. Microsoft (Copilot), OpenAI (ChatGPT Enterprise) und Google (Gemini for Workspace) stellen standardisierte AVV bereit, die vor der ersten Nutzung mit Unternehmensdaten unterzeichnet werden müssen. Beim kostenlosen oder privaten Tarif fehlt dieser AVV häufig — dort sollten keine Unternehmens- oder Kundendaten eingegeben werden.

Dürfen Mitarbeiterdaten in KI-Systeme eingegeben werden?

Grundsätzlich ja, wenn eine DSGVO-Rechtsgrundlage vorliegt (häufig: Vertragserfüllung oder berechtigtes Interesse), ein AVV mit dem Anbieter besteht, und die Trainingsnutzung deaktiviert ist. Vorsicht gilt bei besonderen Datenkategorien (Gesundheit, Behinderung, Gewerkschaftszugehörigkeit — Art. 9 DSGVO), für die strengere Regeln gelten, sowie bei Entscheidungen mit erheblicher Wirkung (Art. 22 DSGVO).

Wann ist eine Datenschutz-Folgenabschätzung (DSFA) für KI-Projekte Pflicht?

Art. 35 DSGVO verlangt eine DSFA, wenn die Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt. Für KI-Projekte besonders relevant: automatisierte Entscheidungen mit rechtlicher oder erheblich beeinträchtigender Wirkung (Personalauswahl, Kreditvergabe), großmaßstäbliche Verarbeitung besonderer Datenkategorien, systematische Überwachung öffentlicher Bereiche. Im Zweifelsfall gilt: lieber eine DSFA durchführen, die als unnötig gilt, als keine DSFA und eine Rüge.

Sind Open-Weight-KI-Modelle automatisch DSGVO-konform?

Nicht automatisch. Lokal betriebene Modelle vermeiden Drittstaatenübertragungen und die Trainingsrisiken cloudbasierter Dienste — das ist ein wesentlicher Vorteil. Aber die DSGVO-Pflichten (Zweckbindung, Datenminimierung, technische Schutzmaßnahmen, Dokumentation) gelten auch hier. Kein AVV erforderlich (Daten verlassen das Unternehmen nicht), aber VVT, TOMs und ggf. DSFA sind weiterhin Pflicht.

Was ändert der EU AI Act an unseren DSGVO-Pflichten?

Der EU AI Act kommt hinzu, ersetzt die DSGVO aber nicht. Für Standard-KI-Tools (Textassistenten, Chatbots) bleibt die DSGVO die entscheidende Norm; der Act verlangt hauptsächlich Transparenzkennzeichnung für synthetische Inhalte. Nur bei Hochrisiko-KI nach Anhang III (HR, Kredit, Infrastruktur) kommen weitergehende Pflichten (Risikomanagement, CE-Kennzeichnung, Konformitätsbewertung) hinzu. Eine kurze KI-Inventur — welche Tools nutzen wir, welcher Risikokategorie gehören sie an — hilft, den tatsächlichen Aufwand abzuschätzen.

Müssen Kunden informiert werden, wenn ihr Anliegen durch KI bearbeitet wird?

Ja, aus zwei Richtungen: Die DSGVO verlangt Transparenz über Verarbeitungstätigkeiten (Art. 13), d. h. die Datenschutzerklärung muss den KI-Einsatz und die damit verbundene Datenverarbeitung beschreiben. Der EU AI Act verlangt zusätzlich, dass Nutzer wissen, wenn sie mit einem KI-System interagieren (Chatbots, Voice-Assistants) — es sei denn, es ist für vernünftige Personen offensichtlich.

DSGVO-konformer KI-Einsatz ist kein Projekt, das man abschließt — er ist eine laufende Praxis aus Checklisten, Updates und gelegentlichem Nachsteuern. Wer einmal ein sauberes Setup hat, braucht dafür keinen Rechtsanwalt mehr für jeden neuen Tool-Test.

Haben Sie Fragen zur DSGVO-konformen KI-Integration in Ihrem Unternehmen oder benötigen Sie Unterstützung beim Aufbau eines passenden KI-Setups? Wir begleiten KMU in Bayern und DACH bei der strukturierten Einführung — von der ersten Bestandsaufnahme bis zum produktiven Betrieb.

Dieser Artikel wurde mit KI-Unterstützung erstellt und redaktionell geprüft.