Stand: 10. Juli 2026

Generative KI kann Mitarbeitende bei Recherche, Wissenszugriff, Textarbeit und der Bearbeitung wiederkehrender Aufgaben unterstützen. Sobald dabei personenbezogene Daten verarbeitet werden, gelten jedoch die Anforderungen der Datenschutz-Grundverordnung. Das betrifft nicht nur das Training eigener KI-Modelle, sondern auch Eingaben in Chatbots, angebundene Unternehmensdaten, Protokolle, Nutzerkonten und KI-generierte Ausgaben.

Eine DSGVO-konforme Unternehmens-KI entsteht deshalb nicht allein durch einen Serverstandort in Deutschland oder der Europäischen Union. Unternehmen müssen den gesamten Verarbeitungsvorgang prüfen: den Zweck, die Rechtsgrundlage, die Rollen der Beteiligten, die Datenflüsse, Zugriffsrechte, Löschfristen, Unterauftragnehmer und mögliche Übermittlungen in Drittländer.

Dieser Leitfaden zeigt, welche vier datenschutzrechtlichen Anforderungen besonders wichtig sind und wie Unternehmen generative KI kontrolliert bereitstellen können.

Hinweis: Dieser Artikel bietet eine allgemeine Orientierung und ersetzt keine individuelle Rechtsberatung oder Prüfung durch den Datenschutzbeauftragten.

Was bedeutet DSGVO-konforme Unternehmens-KI?

Eine DSGVO-konforme Unternehmens-KI verarbeitet personenbezogene Daten im Einklang mit den Grundsätzen und Anforderungen der Datenschutz-Grundverordnung. Dazu gehören insbesondere Rechtmäßigkeit, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität, Vertraulichkeit und Rechenschaftspflicht.

Die DSGVO schützt personenbezogene Daten natürlicher Personen. Dazu können beispielsweise Namen, berufliche E-Mail-Adressen, Telefonnummern, Personalinformationen, Kundenvorgänge, Gesprächsnotizen, Nutzerkennungen und IP-Adressen gehören.

Reine Unternehmensdaten ohne Personenbezug fallen nicht unmittelbar unter die DSGVO. Sie können dennoch vertraulich, geschäftskritisch oder als Geschäftsgeheimnis geschützt sein. Eine sichere KI-Strategie muss deshalb Datenschutz und Informationssicherheit gemeinsam berücksichtigen.

Kurz erklärt: DSGVO-konform ist nicht das KI-Produkt allein. Entscheidend ist, ob das Unternehmen die konkrete Datenverarbeitung rechtmäßig, transparent und sicher gestaltet.

Warum ist die DSGVO beim Einsatz von KI wichtig?

KI-Systeme können an mehreren Stellen personenbezogene Daten verarbeiten. Das geschieht nicht nur, wenn ein Modell mit personenbezogenen Daten trainiert wird.

Personenbezogene Daten können unter anderem enthalten sein in:

  • Eingaben und Prompts der Mitarbeitenden,
  • hochgeladenen Dokumenten und Anhängen,
  • angebundenen E-Mails, CRM-Daten oder Personalakten,
  • Protokollen und Nutzungsstatistiken,
  • Nutzerkonten und Authentifizierungsdaten,
  • Feedback zu KI-Antworten,
  • generierten Ausgaben und Zusammenfassungen,
  • Trainings-, Test- oder Evaluationsdaten.

Auch ein interner KI-Assistent kann daher personenbezogene Daten verarbeiten, obwohl das zugrunde liegende Modell nicht mit den Daten des Unternehmens trainiert wird.

Unternehmen müssen deshalb den gesamten Lebenszyklus betrachten: von der Beschaffung und Konfiguration über die Nutzung bis zur Löschung oder Beendigung des Dienstes.

Vier Anforderungen an eine DSGVO-konforme Unternehmens-KI

Für die datenschutzrechtliche Bewertung eines KI-Systems sind vier Bereiche besonders relevant. Sie bilden eine belastbare Grundlage für Auswahl, Einführung und Betrieb.

1. Rechtsgrundlage und Zweckbindung klären

Jede Verarbeitung personenbezogener Daten benötigt eine Rechtsgrundlage. Welche Rechtsgrundlage geeignet ist, hängt vom jeweiligen Zweck, den betroffenen Personen und der konkreten Verarbeitung ab.

Je nach Anwendungsfall können beispielsweise relevant sein:

  • die Erfüllung eines Vertrags,
  • die Erfüllung einer rechtlichen Verpflichtung,
  • ein berechtigtes Interesse nach einer dokumentierten Interessenabwägung,
  • eine Einwilligung, sofern diese freiwillig, informiert und widerruflich erteilt werden kann,
  • besondere Regelungen für Beschäftigtendaten,
  • spezielle gesetzliche Grundlagen für öffentliche Stellen.

Eine Einwilligung ist nicht automatisch die beste oder einzige Rechtsgrundlage. Gerade im Beschäftigungsverhältnis kann ihre Freiwilligkeit problematisch sein. Unternehmen sollten daher zuerst den konkreten Zweck definieren und anschließend die passende Rechtsgrundlage bestimmen.

Ebenso wichtig ist die Zweckbindung. Daten, die beispielsweise für die Bearbeitung eines Kundenauftrags erhoben wurden, dürfen nicht automatisch für das Training, die Produktverbesserung oder andere Zwecke verwendet werden.

Vor der Einführung sollten Unternehmen mindestens folgende Fragen beantworten:

  • Welche Aufgabe soll das KI-System erfüllen?
  • Welche personenbezogenen Daten werden dafür tatsächlich benötigt?
  • Auf welcher Rechtsgrundlage erfolgt die Verarbeitung?
  • Werden Daten für zusätzliche Zwecke genutzt?
  • Können personenbezogene Daten entfernt, pseudonymisiert oder vermieden werden?
  • Wie lange werden Eingaben, Ausgaben und Protokolle gespeichert?

2. Rollen, Verträge und Anbieter prüfen

Vor Vertragsabschluss muss geklärt werden, welche datenschutzrechtliche Rolle das Unternehmen und der KI-Anbieter übernehmen.

Typische Konstellationen sind:

  • Auftragsverarbeitung: Der Anbieter verarbeitet personenbezogene Daten nach dokumentierter Weisung des Unternehmens.
  • Eigene Verantwortlichkeit: Der Anbieter entscheidet für bestimmte Verarbeitungen selbst über Zwecke und Mittel.
  • Gemeinsame Verantwortlichkeit: Unternehmen und Anbieter bestimmen bestimmte Zwecke und Mittel gemeinsam.
  • Gemischte Rollen: Der Anbieter ist für einen Teil der Verarbeitung Auftragsverarbeiter und für andere Vorgänge selbst Verantwortlicher.

Die Rollen können nicht allein durch eine Vertragsüberschrift festgelegt werden. Entscheidend ist, wie die Verarbeitung tatsächlich ausgestaltet ist.

Ist der Anbieter Auftragsverarbeiter, muss ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO geschlossen werden. Dieser sollte unter anderem regeln:

  • Gegenstand und Dauer der Verarbeitung,
  • Art und Zweck der Verarbeitung,
  • Kategorien personenbezogener Daten,
  • Kategorien betroffener Personen,
  • Weisungsbindung,
  • Vertraulichkeit,
  • technische und organisatorische Maßnahmen,
  • Einsatz und Wechsel von Unterauftragnehmern,
  • Unterstützung bei Betroffenenrechten und Datenschutzvorfällen,
  • Löschung oder Rückgabe der Daten,
  • Kontroll- und Nachweismöglichkeiten.

Darüber hinaus sollten Unternehmen prüfen, ob der Anbieter Daten für eigene Zwecke verwendet, zum Beispiel zur Verbesserung, Evaluation oder zum Training seiner Modelle.

3. Datensicherheit und Zugriffsrechte umsetzen

Unternehmen und Anbieter müssen ein dem Risiko angemessenes Schutzniveau gewährleisten. Welche Maßnahmen erforderlich sind, hängt von den Daten, dem Anwendungsfall, dem Stand der Technik und möglichen Folgen eines Vorfalls ab.

Bei Unternehmens-KI sind insbesondere folgende Maßnahmen relevant:

  • Verschlüsselung bei Übertragung und Speicherung,
  • Mehrfaktor-Authentifizierung,
  • rollenbasierte Berechtigungen,
  • Übernahme bestehender Zugriffsrechte aus Quellsystemen,
  • Trennung von Mandanten und Datenbeständen,
  • Protokollierung sicherheitsrelevanter Zugriffe,
  • regelmäßige Sicherheitsupdates,
  • Schwachstellenmanagement,
  • Backup- und Wiederherstellungsverfahren,
  • geregeltes Berechtigungsmanagement beim Ein- und Austritt von Mitarbeitenden,
  • Lösch- und Aufbewahrungskonzepte,
  • Notfall- und Vorfallprozesse.

Besonders kritisch ist die Rechtevererbung bei angebundenem Unternehmenswissen. Ein KI-System darf keine Informationen aus SharePoint, DMS, CRM oder Netzlaufwerken anzeigen, auf die der fragende Mitarbeitende im Quellsystem nicht zugreifen dürfte.

Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen sollten bereits bei Auswahl und Konfiguration berücksichtigt werden. Funktionen wie Protokollspeicherung, Modelltraining oder externe Freigaben sollten nicht unbemerkt aktiviert sein.

4. Transparenz, Dokumentation und Betroffenenrechte sicherstellen

Unternehmen müssen nachvollziehbar dokumentieren, wie und warum personenbezogene Daten mit einem KI-System verarbeitet werden. Gleichzeitig müssen betroffene Personen verständlich informiert werden.

Je nach Anwendung können folgende Maßnahmen erforderlich sein:

  • Aufnahme der Verarbeitung in das Verzeichnis von Verarbeitungstätigkeiten,
  • Anpassung von Datenschutzinformationen,
  • Dokumentation der Rechtsgrundlage,
  • Dokumentation einer Interessenabwägung,
  • Prüfung und Dokumentation einer Datenschutz-Folgenabschätzung,
  • Dokumentation der technischen und organisatorischen Maßnahmen,
  • Regelungen für Auskunft, Berichtigung, Löschung und Widerspruch,
  • Prozesse zur Meldung und Bearbeitung von Datenschutzverletzungen,
  • Nachweise über Schulungen und Freigaben.

Betroffenenrechte dürfen nicht dadurch ins Leere laufen, dass Daten in einem KI-System schwer auffindbar oder technisch nicht löschbar sind. Bereits bei der Anbieterprüfung sollte deshalb geklärt werden, wie Eingaben, Protokolle, Nutzerinformationen und verbundene Datenbestände identifiziert, exportiert oder gelöscht werden können.

Welche Daten dürfen Mitarbeitende in KI-Tools eingeben?

Es gibt kein allgemeines DSGVO-Verbot, personenbezogene Daten in KI-Systemen zu verarbeiten. Die Eingabe ist aber nur zulässig, wenn sie für einen festgelegten Zweck erforderlich ist, eine Rechtsgrundlage besteht und angemessene Schutzmaßnahmen umgesetzt wurden.

Bei frei zugänglichen oder nicht freigegebenen KI-Tools sollten Mitarbeitende grundsätzlich keine personenbezogenen, vertraulichen oder geschäftskritischen Informationen eingeben.

Dazu gehören insbesondere:

  • Kunden- und Lieferantendaten,
  • Personal- und Bewerberdaten,
  • Gesundheitsdaten,
  • Vertragsunterlagen,
  • technische Zeichnungen und Konstruktionsdaten,
  • interne Finanzinformationen,
  • Passwörter und Zugangsdaten,
  • nicht veröffentlichte Produktinformationen,
  • Geschäftsgeheimnisse.

Unternehmen sollten diese Regeln in einer verbindlichen KI-Richtlinie festhalten. Ein pauschales Verbot ohne sichere Alternative führt allerdings häufig dazu, dass Mitarbeitende private Konten oder nicht freigegebene Dienste verwenden. Sinnvoller ist eine Kombination aus klaren Regeln, Schulung und kontrollierten Unternehmenslösungen.

Wann ist ein Auftragsverarbeitungsvertrag erforderlich?

Ein Auftragsverarbeitungsvertrag ist erforderlich, wenn ein KI-Anbieter personenbezogene Daten im Auftrag und nach Weisung des Unternehmens verarbeitet.

Das kann beispielsweise der Fall sein, wenn ein Anbieter:

  • Eingaben und hochgeladene Dateien verarbeitet,
  • Unternehmensdaten indexiert,
  • Nutzerkonten und Protokolle im Auftrag verwaltet,
  • ein KI-System in seiner Cloud für das Unternehmen betreibt,
  • Supportzugriffe auf personenbezogene Daten erhält.

Ein AVV ist jedoch nicht automatisch in jeder KI-Konstellation ausreichend. Nutzt der Anbieter Daten für eigene Zwecke, kann er insoweit selbst Verantwortlicher sein. Dann müssen Rechtsgrundlage, Transparenz und mögliche Datenübermittlungen gesondert geprüft werden.

Unternehmen sollten deshalb nicht nur fragen, ob ein AVV angeboten wird. Entscheidend ist, ob der Vertrag die tatsächliche Verarbeitung korrekt abbildet.

Wann ist eine Datenschutz-Folgenabschätzung erforderlich?

Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Nicht jeder Einsatz von Künstlicher Intelligenz löst automatisch eine DSFA aus.

Ein erhöhtes Risiko kann insbesondere vorliegen bei:

  • systematischer und umfassender Bewertung persönlicher Aspekte,
  • automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung,
  • umfangreicher Verarbeitung besonderer Kategorien personenbezogener Daten,
  • systematischer Überwachung,
  • Verarbeitung besonders schutzbedürftiger Personengruppen,
  • neuartiger Technologie in Verbindung mit weiteren Risikofaktoren,
  • Zusammenführung umfangreicher Datenbestände,
  • KI-Anwendungen im Personalbereich.

Im Rahmen der DSFA werden die geplante Verarbeitung, ihre Notwendigkeit und Verhältnismäßigkeit, die Risiken für betroffene Personen und die vorgesehenen Schutzmaßnahmen dokumentiert.

Unternehmen sollten frühzeitig den Datenschutzbeauftragten einbeziehen. Ergibt die DSFA trotz geplanter Maßnahmen ein verbleibendes hohes Risiko, kann eine vorherige Konsultation der zuständigen Aufsichtsbehörde erforderlich werden.

Dürfen Anbieter KI-Modelle mit Unternehmensdaten trainieren?

Ob ein Anbieter Eingaben oder Unternehmensdaten zum Training oder zur Verbesserung von Modellen verwenden darf, hängt von der vertraglichen Gestaltung, dem Zweck und der datenschutzrechtlichen Rechtsgrundlage ab.

Unternehmen sollten sich nicht auf allgemeine Aussagen wie „Ihre Daten sind sicher“ verlassen. Sie sollten konkret prüfen:

  • Werden Eingaben gespeichert?
  • Werden Inhalte für Training, Feinabstimmung oder Evaluation verwendet?
  • Ist die Verwendung standardmäßig aktiviert?
  • Kann sie vertraglich und technisch ausgeschlossen werden?
  • Gelten andere Bedingungen für kostenlose, geschäftliche und Programmierschnittstellen-Konten?
  • Werden Daten von Menschen geprüft?
  • Welche Unterauftragnehmer erhalten Zugriff?
  • Wie werden Daten nach Vertragsende gelöscht?

Eine vertragliche Zusage, Unternehmensdaten nicht zum Training allgemeiner Modelle zu verwenden, reduziert Risiken. Sie ersetzt jedoch nicht die Prüfung der übrigen Datenverarbeitung.

Auch bei Retrieval-Augmented Generation werden Unternehmensdokumente nicht zwingend zum Training des Sprachmodells verwendet. Dennoch werden sie verarbeitet, indexiert oder für die Erzeugung einer Antwort abgerufen. Deshalb bleiben DSGVO, Berechtigungsmanagement und Datensicherheit relevant.

EU-Hosting, USA oder On-Premise: Was ist datenschutzrechtlich entscheidend?

Der Hosting-Standort ist ein wichtiges Auswahlkriterium, aber kein alleiniger Nachweis für DSGVO-Konformität. Entscheidend ist die gesamte Verarbeitungskette.

Vergleich möglicher Architekturen für eine DSGVO-konforme Unternehmens-KI

Mögliche Architekturen für die Bereitstellung generativer KI

Hosting und Verarbeitung in der EU

Hosting und Datenverarbeitung innerhalb der Europäischen Union können die datenschutzrechtliche Prüfung vereinfachen, weil keine Übermittlung in ein Drittland allein aufgrund des Speicherorts entsteht.

EU-Hosting bedeutet jedoch nicht automatisch, dass alle Verarbeitungsvorgänge in der EU stattfinden. Unternehmen sollten zusätzlich prüfen:

  • Wo befinden sich Support- und Administrationszugriffe?
  • Wo sitzen Muttergesellschaft und Unterauftragnehmer?
  • Werden Telemetrie- oder Diagnosedaten außerhalb der EU verarbeitet?
  • Welche Cloud- und Modellanbieter sind eingebunden?
  • Welche gesetzlichen Zugriffsmöglichkeiten bestehen?
  • Wo werden Backups und Protokolle gespeichert?

Ein Anbieter mit deutschem Rechenzentrum kann weiterhin Dienste oder Unterauftragnehmer aus Drittländern einsetzen. Die tatsächlichen Datenflüsse müssen daher transparent dokumentiert sein.

Datenübermittlung in die USA

Personenbezogene Daten dürfen nicht ohne geeignete Grundlage in die USA oder andere Staaten außerhalb des Europäischen Wirtschaftsraums übermittelt werden.

Für zertifizierte US-Unternehmen kann das EU-US Data Privacy Framework eine Grundlage für die Übermittlung bieten. Unternehmen müssen prüfen, ob der konkrete Empfänger tatsächlich zertifiziert ist und ob die Zertifizierung die relevante Datenkategorie umfasst.

Alternativ können insbesondere Standardvertragsklauseln eingesetzt werden. Abhängig vom Zielland, Empfänger und Verarbeitungskontext kann zusätzlich eine Bewertung der Übermittlungsrisiken erforderlich sein.

Unternehmen sollten außerdem berücksichtigen, dass eine Datenübermittlung nicht nur durch das Speichern auf einem US-Server entstehen kann. Auch Supportzugriffe, Fernwartung oder der Zugriff eines Unterauftragnehmers aus einem Drittland können relevant sein.

On-Premise und Private Cloud

Bei einer On-Premise-Lösung wird die Software in der eigenen Infrastruktur oder einer kontrollierten Umgebung betrieben. Dadurch lassen sich Datenflüsse und Zugriffe häufig stärker steuern.

On-Premise beseitigt datenschutzrechtliche Pflichten jedoch nicht. Das Unternehmen bleibt weiterhin für Rechtsgrundlage, Transparenz, Datensicherheit, Löschung, Betroffenenrechte und Dokumentation verantwortlich.

Auch ein AVV kann weiterhin erforderlich sein, beispielsweise wenn externe Dienstleister:

  • die Infrastruktur betreiben,
  • Wartung und Support übernehmen,
  • auf personenbezogene Daten zugreifen können,
  • Backups oder Monitoring bereitstellen.

On-Premise ist außerdem nicht automatisch sicherer. Ohne ausreichende Ressourcen für Betrieb, Updates, Zugriffsschutz, Überwachung und Notfallmanagement kann eine selbst betriebene Umgebung höhere Risiken verursachen als ein professionell abgesicherter Cloud-Dienst.

Wie verhalten sich DSGVO und AI Act zueinander?

Der EU AI Act ersetzt die DSGVO nicht. Beide Verordnungen gelten nebeneinander.

Die DSGVO schützt personenbezogene Daten und regelt deren Verarbeitung. Der AI Act verfolgt einen risikobasierten Ansatz für die Entwicklung, Bereitstellung und Nutzung von KI-Systemen.

Ein KI-System kann deshalb:

  • unter dem AI Act nur ein minimales Risiko haben und dennoch datenschutzrechtlich kritisch sein,
  • als Hochrisiko-System eingestuft werden und zusätzlich personenbezogene Daten verarbeiten,
  • keine personenbezogenen Daten verarbeiten, aber trotzdem Pflichten aus dem AI Act auslösen.

Beispiel: Ein interner Schreibassistent ist regelmäßig keine Hochrisiko-Anwendung. Geben Mitarbeitende jedoch ohne Freigabe Kunden- oder Personaldaten ein, können trotzdem erhebliche DSGVO-Risiken entstehen.

Fristen, Risikoklassen und Rollen nach dem AI Act erklären wir im separaten Leitfaden:

EU AI Act für Unternehmen: Pflichten und Fristen im Überblick

Checkliste für die Auswahl einer Unternehmens-KI

Vor der Beschaffung oder Freigabe eines KI-Systems sollten Unternehmen mindestens die folgenden Punkte prüfen:

  • Verwendungszweck: Ist eindeutig definiert, wofür die KI eingesetzt werden darf?
  • Datenarten: Ist bekannt, welche personenbezogenen und vertraulichen Daten verarbeitet werden?
  • Rechtsgrundlage: Wurde für jede relevante Verarbeitung eine Rechtsgrundlage bestimmt?
  • Rollenverteilung: Ist geklärt, ob der Anbieter Auftragsverarbeiter oder selbst Verantwortlicher ist?
  • Verträge: Liegen ein geeigneter AVV und transparente Bedingungen für Unterauftragnehmer vor?
  • Modelltraining: Ist vertraglich geregelt, ob Unternehmensdaten für Training oder Produktverbesserung verwendet werden?
  • Hosting: Sind Speicherorte, Supportzugriffe und weitere Datenflüsse bekannt?
  • Drittlandtransfer: Besteht für Übermittlungen außerhalb des EWR eine belastbare Grundlage?
  • Berechtigungen: Respektiert das System bestehende Zugriffsrechte?
  • Löschung: Können Eingaben, Protokolle und Nutzerinformationen gelöscht werden?
  • Betroffenenrechte: Lassen sich Auskunft, Berichtigung, Löschung und Widerspruch umsetzen?
  • Sicherheit: Sind Verschlüsselung, Mehrfaktor-Authentifizierung und Protokollierung vorhanden?
  • DSFA: Wurde geprüft, ob die Verarbeitung voraussichtlich ein hohes Risiko verursacht?
  • Schulung: Wissen Mitarbeitende, welche Daten sie eingeben dürfen und wie Ergebnisse geprüft werden müssen?
  • Monitoring: Werden Anbieter, Funktionen und Datenflüsse regelmäßig neu bewertet?

Praxisregel: Ein seriöser KI-Anbieter sollte verständlich erklären können, welche Daten verarbeitet werden, wo dies geschieht, wer Zugriff erhält und wie das Unternehmen seine datenschutzrechtlichen Pflichten erfüllen kann.

Datenschutzorientierter Einsatz von amber

amber macht Informationen aus angebundenen Unternehmenssystemen wie Microsoft 365, SharePoint, CRM, DMS und Netzlaufwerken über eine zentrale Business-KI zugänglich.

Dabei ist entscheidend, dass nicht nur passende Informationen gefunden werden. Die vorhandenen Zugriffsrechte der Quellsysteme müssen auch bei der KI-gestützten Suche und Antwortgenerierung berücksichtigt werden. Mitarbeitende sollen nur Inhalte erhalten, für die sie bereits berechtigt sind.

Für einen kontrollierten Einsatz unterstützt amber Unternehmen unter anderem durch:

  • die Anbindung vorhandener Unternehmenssysteme,
  • die Berücksichtigung bestehender Berechtigungen,
  • eine kontrollierte Bereitstellung von Unternehmenswissen,
  • Hosting- und Betriebsoptionen mit Fokus auf europäische Anforderungen,
  • eine vertraglich und technisch definierte Datenverarbeitung,
  • eine Alternative zur unkontrollierten Nutzung privater KI-Konten.

Ob eine konkrete Verarbeitung DSGVO-konform ist, hängt dennoch von der gemeinsamen Umsetzung ab. Unternehmen müssen den vorgesehenen Einsatz, die Datenquellen, Rechtsgrundlagen, Berechtigungen und internen Prozesse passend konfigurieren und dokumentieren.

Sie möchten prüfen, wie sich eine kontrollierte Business-KI in Ihre bestehende Systemlandschaft integrieren lässt?

Demo buchen

Häufige Fragen zu DSGVO-konformer KI

Ist ChatGPT DSGVO-konform?

Ein KI-Dienst ist nicht pauschal DSGVO-konform oder nicht DSGVO-konform. Entscheidend sind die eingesetzte Vertrags- und Produktvariante, der konkrete Zweck, die verarbeiteten Daten, die Rechtsgrundlage, Speicher- und Trainingsbedingungen sowie mögliche Drittlandübermittlungen. Unternehmen sollten den Dienst vor einer geschäftlichen Nutzung prüfen und verbindliche Regeln für Mitarbeitende festlegen.

Reicht EU-Hosting für DSGVO-Konformität aus?

Nein. EU-Hosting kann die Prüfung erleichtern, ist aber nur ein Baustein. Zusätzlich müssen unter anderem Rechtsgrundlage, Rollenverteilung, Unterauftragnehmer, Zugriffsrechte, Löschung, Sicherheit und mögliche Zugriffe aus Drittländern geprüft werden.

Braucht jedes KI-Tool einen AVV?

Ein AVV ist erforderlich, wenn der Anbieter personenbezogene Daten im Auftrag des Unternehmens verarbeitet. Verarbeitet der Anbieter Daten für eigene Zwecke, kann eine andere Rollenverteilung vorliegen. Die tatsächliche Datenverarbeitung muss deshalb im Einzelfall bewertet werden.

Ist bei KI immer eine Datenschutz-Folgenabschätzung erforderlich?

Nein. Eine DSFA ist erforderlich, wenn die konkrete Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. Das kann beispielsweise bei umfangreicher Überwachung, Profiling, sensiblen Daten oder bedeutenden automatisierten Entscheidungen der Fall sein.

Dürfen personenbezogene Daten in eine Unternehmens-KI eingegeben werden?

Grundsätzlich kann dies zulässig sein, wenn ein klarer Zweck, eine geeignete Rechtsgrundlage und angemessene Schutzmaßnahmen bestehen. In nicht freigegebene oder öffentliche KI-Tools sollten Mitarbeitende keine personenbezogenen oder vertraulichen Daten eingeben.

Dürfen KI-Anbieter mit den Eingaben eines Unternehmens trainieren?

Das hängt von den vertraglichen Bedingungen, der datenschutzrechtlichen Rolle, dem Zweck und der Rechtsgrundlage ab. Unternehmen sollten die Verwendung ihrer Daten für Training und Produktverbesserung ausdrücklich prüfen und nach Möglichkeit vertraglich ausschließen, wenn sie nicht erforderlich ist.

Ist eine On-Premise-KI automatisch DSGVO-konform?

Nein. On-Premise ermöglicht mehr Kontrolle über die Infrastruktur, beseitigt aber weder die DSGVO-Pflichten noch automatisch alle externen Datenflüsse. Auch bei eigenem Betrieb müssen Rechtsgrundlage, Sicherheit, Transparenz, Löschung und Betroffenenrechte umgesetzt werden.

Wer ist im Unternehmen für den Datenschutz beim KI-Einsatz verantwortlich?

Die Gesamtverantwortung liegt beim Unternehmen beziehungsweise bei der verantwortlichen Stelle. Operativ sollten Datenschutzbeauftragter, IT, Informationssicherheit, Recht, Einkauf und Fachbereich zusammenarbeiten. Bei Beschäftigtendaten und mitbestimmungspflichtigen Anwendungen kann außerdem der Betriebsrat einzubeziehen sein.

Fazit: DSGVO-konforme KI benötigt mehr als einen sicheren Serverstandort

Unternehmen können generative KI auch mit personenbezogenen Daten einsetzen. Voraussetzung ist jedoch, dass der konkrete Verarbeitungsvorgang rechtmäßig, transparent und sicher gestaltet wird.

Die wichtigsten Grundlagen sind ein klarer Verwendungszweck, eine geeignete Rechtsgrundlage, eine belastbare Rollen- und Vertragsprüfung, wirksame Zugriffsrechte und eine nachvollziehbare Dokumentation.

Wer Mitarbeitenden eine kontrollierte Unternehmens-KI bereitstellt, reduziert zugleich das Risiko unfreigegebener Tools und privater KI-Konten. Datenschutz wird damit nicht zum Hindernis für KI, sondern zur Voraussetzung für eine verlässliche und skalierbare Nutzung.