Datenschutz und KI: Worauf Unternehmen achten sollten

Welche Daten wohin fließen – und warum ein selbst betriebenes KI-Modell die rechtlichen Rahmenbedingungen grundlegend verändern kann.

Künstliche Intelligenz kann Dokumente auswerten, Texte formulieren und Informationen aus umfangreichen Unterlagen erschließen. Für viele dieser Aufgaben reicht heute eine Eingabe in einen KI-Dienst im Browser. Gerade weil das so einfach ist, bleibt eine entscheidende Frage häufig unbeantwortet: Wer erhält die Informationen, die wir der KI zur Verfügung stellen?

Bei einem externen KI-Dienst werden Eingaben und gegebenenfalls hochgeladene Dateien an den Betreiber übermittelt. Sobald personenbezogene Daten betroffen sind, müssen dafür die Vorgaben der Datenschutz-Grundverordnung (DSGVO) berücksichtigt werden. Auch ohne Personenbezug können Verträge, Kalkulationen, Entwicklungsunterlagen oder Geschäftsgeheimnisse schutzbedürftig sein.

Weniger bekannt ist die Alternative: Ein KI-Modell lässt sich vollständig eigenständig betreiben, ohne Unternehmensdaten an einen KI-Anbieter zu senden. Dafür ist nicht zwingend ein eigenes Rechenzentrum erforderlich. Entscheidend sind die gewählte Infrastruktur und die tatsächlichen Datenflüsse. Die Wahl zwischen externem Dienst und Eigenbetrieb hat deshalb nicht nur technische, sondern auch erhebliche rechtliche Folgen.

Das eigentliche Datenschutzproblem: Wer verarbeitet die Daten?

Wer einen externen KI-Dienst nutzt, beauftragt nicht lediglich eine Software auf dem eigenen Rechner. Die Anfrage wird zur Verarbeitung an die Infrastruktur des Dienstes übertragen. Je nach Angebot können auch Dateien, Gesprächsverläufe und weitere Informationen verarbeitet oder gespeichert werden.

Das ist nicht grundsätzlich unzulässig. Unternehmen müssen jedoch wissen, welche Daten sie weitergeben, zu welchem Zweck der Empfänger sie verarbeitet und auf welcher rechtlichen Grundlage dies geschieht.

Ein kurzes Beispiel: Ein Mitarbeiter lässt einen Kundenvertrag zusammenfassen. Enthält das Dokument Namen, Kontaktdaten oder andere Angaben zu identifizierbaren Personen, werden personenbezogene Daten verarbeitet. Werden dieselben Informationen an einen externen KI-Dienst übertragen, ist zusätzlich dessen Rolle in der Datenverarbeitung zu klären. Enthält der Vertrag vertrauliche Konditionen oder Betriebsgeheimnisse, stellen sich daneben Fragen der Vertraulichkeit – selbst dann, wenn keine personenbezogenen Daten enthalten sind.

Dabei wird häufig ein wichtiger Punkt verwechselt: Die Verarbeitung einer Anfrage ist nicht dasselbe wie das Training eines KI-Modells. Ein Dienst kann vertraglich zusichern, Eingaben nicht für das Modelltraining zu verwenden, und sie dennoch zur Bearbeitung, Speicherung oder Sicherheitsüberwachung verarbeiten. Ein Trainingsausschluss allein beantwortet die Datenschutzfragen also nicht.

Die entscheidende Weichenstellung erfolgt bereits bei der Wahl des Betriebsmodells: Muss ein externer KI-Anbieter die Inhalte überhaupt erhalten?

Eigenbetrieb: KI nutzen, ohne Daten an einen KI-Anbieter zu übermitteln

Ein KI-Modell muss nicht als Onlinedienst eines Modellanbieters verwendet werden. Sind die benötigten Modellgewichte verfügbar und erlaubt die Lizenz den vorgesehenen Einsatz, kann das Modell auf einer selbst verwalteten Infrastruktur ausgeführt werden. Das gilt grundsätzlich auch für große, leistungsfähige Modelle – die verfügbare Rechenleistung ist eine technische und wirtschaftliche Frage, keine rechtliche Unterscheidung zwischen „kleiner“ und „großer“ KI.

Beim vollständigen Betrieb innerhalb der eigenen IT können Eingaben, Dokumente und Ergebnisse im Unternehmen verbleiben. Es ist kein externer KI-Anbieter erforderlich, der die Inhalte entgegennimmt oder zur Erstellung einer Antwort verarbeitet. Was nicht an einen KI-Dienst übermittelt wird, muss diesem gegenüber auch nicht durch einen Auftragsverarbeitungsvertrag abgesichert werden.

Das ist der oft übersehene Vorteil: Bestimmte Fragen stellen sich erst gar nicht. Für diese Verarbeitung muss das Unternehmen weder Speicherfristen eines fremden KI-Dienstes akzeptieren noch dessen Unterauftragnehmer oder die Übermittlungswege seiner KI-Anfragen bewerten. Auch die Frage, ob der externe Dienst die Eingaben zu eigenen Zwecken nutzt, entfällt – weil kein solcher Dienst beteiligt ist.

Daraus folgt allerdings keine Befreiung von der DSGVO. Verarbeitet das Unternehmen mit seiner eigenen KI personenbezogene Daten, benötigt es weiterhin eine Rechtsgrundlage, muss die Verarbeitung auf den erforderlichen Umfang begrenzen und angemessene Sicherheitsmaßnahmen umsetzen. Je nach Einsatzzweck kommen Informationspflichten, Dokumentation oder weitere Prüfungen hinzu. Die Verantwortung verbleibt beim Unternehmen.

Wichtig ist außerdem, was unter „vollständig eigenständig“ zu verstehen ist: Nicht nur das Modell, sondern auch die tatsächlich genutzte Anwendung muss ohne ungewollte Datenabflüsse arbeiten. Externe Schnittstellen, Fehlerberichte mit Inhaltsdaten, ausgelagerte Zusatzdienste, Cloud-Backups oder Fernzugriffe können sonst doch wieder Dritte einbeziehen. Eine lokale Installation allein ist noch kein Nachweis für eine ausschließlich interne Verarbeitung.

Eigener Server oder Mietserver: Ein rechtlich wichtiger Unterschied

Ein selbst betriebenes Modell muss nicht im eigenen Gebäude stehen. Unternehmen können auch einen dedizierten oder virtuellen Server bei einem Hosting-Anbieter mieten und dort das Modell eigenständig installieren und verwalten.

Der wesentliche Vorteil gegenüber einem fertigen KI-Dienst bleibt bestehen: Das Unternehmen entscheidet selbst über Modell und Anwendung. Es muss die Inhalte nicht an einen zusätzlichen KI-Modellanbieter übertragen. Auch die Regeln für die Speicherung und Löschung innerhalb der eigenen Anwendung können selbst festgelegt werden.

Rechtlich sind eigener Server und Mietserver trotzdem nicht gleichzusetzen.

Auf eigener Hardware, ohne Beteiligung externer Dienstleister an dieser Verarbeitung, ist für den KI-Betrieb kein Auftragsverarbeitungsvertrag mit einem KI- oder Infrastrukturbetreiber notwendig. Die allgemeinen datenschutzrechtlichen Pflichten bestehen selbstverständlich weiter.

Auf gemieteter Hardware ist der Hosting-Anbieter dagegen ein externer Beteiligter. Soweit er personenbezogene Daten im Auftrag des Unternehmens verarbeitet, ist grundsätzlich ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO erforderlich. Zu prüfen sind unter anderem die technischen Schutzmaßnahmen, Zugriffs- und Administrationsmöglichkeiten, Sicherungen, Unterauftragnehmer und gegebenenfalls internationale Datenübermittlungen.

Damit lässt sich der Unterschied präzise beschreiben: Auf einem Mietserver kann eine KI selbst betrieben werden, ohne dass sie ausschließlich intern betrieben wird. Die Kontrolle über das Modell ist nicht mit dem vollständigen Ausschluss aller externen Dienstleister gleichzusetzen.

Entscheidend ist daher nicht allein, ob ein Anbieter seinen Server als „dediziert“, „privat“ oder „europäisch“ bewirbt. Maßgeblich sind die tatsächliche technische Architektur und die vertragliche Rolle des Infrastrukturbetreibers.

Externe KI-Dienste: Was vertraglich geregelt sein sollte

Externe KI-Dienste haben ihre Berechtigung: Sie sind schnell verfügbar und nehmen Unternehmen einen großen Teil des Betriebsaufwands ab. Werden ihnen personenbezogene oder vertrauliche Informationen anvertraut, ist jedoch eine sorgfältige Prüfung erforderlich.

Die Rolle des Anbieters. Verarbeitet er personenbezogene Daten weisungsgebunden für das Unternehmen, ist grundsätzlich ein Auftragsverarbeitungsvertrag (AVV) nach Artikel 28 DSGVO notwendig. Ein solcher Vertrag regelt unter anderem Gegenstand und Dauer der Verarbeitung, Verarbeitungszwecke, Weisungen, Vertraulichkeit, Sicherheitsmaßnahmen sowie den Umgang mit Unterauftragnehmern und der Löschung. Verfolgt der Anbieter für bestimmte Verarbeitungsvorgänge eigene Zwecke, muss diese Rolle gesondert bewertet werden. Ein AVV deckt nicht automatisch jede Datenverwendung ab.

Zulässige Nutzung der Eingaben. Es sollte ausdrücklich geklärt sein, ob der Dienst Eingaben, Dateien und Ergebnisse ausschließlich zur Bereitstellung der beauftragten Leistung verwendet oder auch für eigene Zwecke – etwa zur Modellverbesserung. Die Nichtverwendung zum Training ist eine wichtige Zusicherung, ersetzt aber keine vollständige Zweckbestimmung.

Speicherung und Löschung. Wo verbleiben Eingaben und Gesprächsverläufe, wie lange werden sie aufbewahrt, wer kann darauf zugreifen und wann werden sie gelöscht? Dabei können für Inhaltsdaten, Sicherheitsprotokolle und Backups unterschiedliche Regeln gelten. Auch die Behandlung von Daten nach Vertragsende gehört zur Prüfung.

Unterauftragnehmer und Datenstandorte. Welche weiteren Unternehmen sind an Betrieb und Verarbeitung beteiligt? Wo finden Speicherung, technische Verarbeitung und Support statt? Ein europäischer Speicherort bedeutet nicht zwingend, dass alle Verarbeitungsschritte ausschließlich innerhalb des Europäischen Wirtschaftsraums erfolgen.

Übermittlungen in Drittländer. Soweit personenbezogene Daten in Staaten außerhalb des Europäischen Wirtschaftsraums übermittelt werden, müssen die Anforderungen von Kapitel V DSGVO erfüllt sein. Ob beispielsweise ein Angemessenheitsbeschluss oder geeignete Garantien herangezogen werden können, hängt vom konkreten Empfänger und der Übermittlung ab.

Vertraulichkeit und Kontrolle. Bei Geschäftsgeheimnissen und anderen sensiblen Unternehmensinformationen sind auch vertragliche Geheimhaltung, Zugriffsmöglichkeiten, Sicherheitsnachweise und geeignete technische Maßnahmen relevant. Die DSGVO schützt personenbezogene Daten; sie ersetzt nicht den Schutz unternehmensinterner Informationen.

Diese Punkte gelten unabhängig vom Namen des KI-Anbieters oder der Höhe des Abonnementpreises. Ein kostenpflichtiger Zugang ist nicht automatisch eine datenschutzrechtlich geeignete Unternehmensvereinbarung. Ebenso wenig genügt es, ausschließlich auf das Versprechen „Ihre Daten werden nicht zum Training verwendet“ zu achten.

Welche Betriebsform ist die richtige?

Die Wahl der KI-Infrastruktur sollte mit den Daten beginnen, nicht mit einem bestimmten Produkt. Werden ausschließlich öffentliche Informationen verarbeitet, kann ein externer Dienst eine unkomplizierte und angemessene Lösung sein. Bei personenbezogenen Daten, vertraulichen Kundenunterlagen oder internem Know-how kommt es stärker darauf an, wer Zugriff erhält und welche Zusicherungen tatsächlich belastbar sind.

Für die Entscheidung helfen drei Fragen: Welche Daten benötigt die KI wirklich? Wer muss technisch an ihrer Verarbeitung beteiligt sein? Und welche zusätzlichen Verpflichtungen entstehen dadurch?

Beim vollständig internen Eigenbetrieb ist die Antwort auf die zweite Frage besonders einfach: Für die eigentliche KI-Verarbeitung muss kein externer Anbieter beteiligt sein. Beim selbst verwalteten Mietserver kommt in der Regel der Infrastrukturbetreiber hinzu, aber nicht zwingend ein externer KI-Dienst. Bei einem fertigen KI-Dienst übernimmt dessen Betreiber die Verarbeitung – mit den entsprechenden vertraglichen und datenschutzrechtlichen Prüfungen.

Das macht Eigenbetrieb nicht automatisch zur besten Lösung. Sicherheit, Verfügbarkeit, Wartung, Kosten und Qualität der Ergebnisse müssen ebenso stimmen. Er eröffnet aber eine zusätzliche Wahlmöglichkeit, die in vielen Datenschutzdiskussionen zu kurz kommt: KI nutzen, ohne die dafür benötigten Unternehmensdaten an einen KI-Anbieter weiterzugeben.

Fazit

Datenschutz beim KI-Einsatz ist nicht nur eine Frage der richtigen Vertragsklauseln. Er beginnt mit der Entscheidung, ob ein Dritter die Daten überhaupt verarbeiten muss.

Wer einen externen KI-Dienst einsetzt, sollte dessen Rolle, Datenverwendung, Aufbewahrung, Unterauftragnehmer und mögliche Drittlandübermittlungen klären und erforderliche Verträge abschließen. Wer ein Modell vollständig eigenständig betreibt, kann einen wesentlichen Teil dieses zusätzlichen Abstimmungs- und Prüfaufwands vermeiden – nicht weil Datenschutz dann unwichtig wäre, sondern weil ein externer KI-Anbieter an der Verarbeitung gar nicht beteiligt ist.

Die wichtigste Erkenntnis: KI muss kein externer Dienst sein. Unternehmen können selbst entscheiden, wie viel Kontrolle sie über ihre Daten behalten möchten – und ihre KI-Infrastruktur entsprechend gestalten.

Rechtliche Grundlagen und weiterführende Informationen