Der kritische Moment sieht harmlos aus. Jemand kopiert ein Angebot, eine Kundenliste oder den Auszug aus einem Vertrag in ein Textfeld, weil das Werkzeug daraus in zehn Sekunden eine Zusammenfassung macht. Der Vorgang dauert kürzer als die Überlegung, ob er zulässig war.

Genau an dieser Stelle entstehen die Probleme, die später schwer zu reparieren sind: personenbezogene Daten bei einem Anbieter ohne Vertrag, fremde Geschäftsgeheimnisse aus einem Kundenprojekt in einem System außerhalb der eigenen Kontrolle, Eingaben, die in ein Training einfließen und sich nicht zurückholen lassen.

Vier Fragen klären den größten Teil davon, und sie lassen sich ohne eigene Rechtsabteilung beantworten. Für die verbleibenden Fälle braucht es fachliche Beratung; dieser Text ordnet die Reihenfolge, er ist keine Rechtsberatung.

Der Rahmen in sechs Zeilen

• Personenbezug: Namen, Kontaktdaten, Kundennummern, Freitexte über Menschen und Aufzeichnungen aus Gesprächen zählen dazu.
• Vertrag: Verarbeitet ein Anbieter in Ihrem Auftrag, braucht es einen Vertrag über die Auftragsverarbeitung, bevor die ersten Daten fließen.
• Training: Die Standardeinstellung unterscheidet sich zwischen kostenlosen, privaten und geschäftlichen Tarifen erheblich.
• Ort und Zugriff: Speicherort, Verarbeitungsort und Support-Zugriff aus Drittländern sind drei verschiedene Fragen.
• Tabu: Gesundheitsdaten, Bewerbungsunterlagen, Berufsgeheimnisse, fremde Geschäftsgeheimnisse und Zugangsdaten.
• Aufwand: Die Erstprüfung eines Werkzeugs dauert eine halbe Stunde, die Wiederholung bei jeder Neuerung fünfzehn Minuten.

Datenschutz bei KI-Tools: vier Fragen vor dem ersten Einsatz

Der Datenschutz bei KI-Tools folgt keiner eigenen Logik. Es gelten dieselben Regeln wie bei jedem anderen Dienstleister, nur fallen die Verstöße stärker ins Gewicht, weil Eingaben protokolliert werden und weil Modelle mit Daten weiterentwickelt werden können.

Die vier Fragen lauten: Steckt ein Personenbezug in dem, was eingegeben wird? Verarbeitet der Anbieter in Ihrem Auftrag oder für eigene Zwecke? Fließen die Eingaben in ein Training ein? Wo wird verarbeitet, und wer kann darauf zugreifen?

Wer diese vier Punkte für ein Werkzeug schriftlich beantwortet hat, kann die Antworten für das nächste in einem Bruchteil der Zeit wiederverwenden. Die rechtlichen Grundlagen dahinter sind im Überblick zur Datenschutz-Grundverordnung zusammengefasst.

Frage eins: steckt ein Personenbezug in den Eingaben?

Personenbezogen ist jede Information, die sich einer bestimmten oder bestimmbaren Person zuordnen lässt. Der Name ist der offensichtliche Fall; entscheidend sind die weniger offensichtlichen. Eine Kundennummer mit Zuordnungsliste im eigenen System ist personenbezogen, eine E-Mail-Adresse ohnehin.

Besonders geschützt sind bestimmte Kategorien: Gesundheit, biometrische Daten, Religion, Gewerkschaftszugehörigkeit, politische Meinung, ethnische Herkunft und das Sexualleben. Für sie gelten deutlich strengere Voraussetzungen, und in den meisten Unternehmen gibt es keinen Anlass, sie überhaupt in ein solches Werkzeug zu geben.

Ein verbreiteter Irrtum betrifft die Pseudonymisierung. Wer Namen durch Kürzel ersetzt, den Schlüssel aber behält, hat den Personenbezug nicht beseitigt. Anonym ist eine Information erst, wenn eine Zuordnung mit vertretbarem Aufwand für niemanden mehr möglich ist.

Die Datenarten, die dabei übersehen werden

In der Praxis rutschen personenbezogene Daten nicht über die offensichtlichen Felder hinein, sondern über die beiläufigen. Der Auszug aus dem Ticketsystem enthält den Namen des Kunden im Fließtext. Der Screenshot zeigt die Kopfzeile mit dem Postfach. Die Besprechungsaufzeichnung enthält Stimmen, und eine Stimme ist ein personenbezogenes Datum.

Ebenso häufig übersehen: Kalendereinträge mit Teilnehmerlisten, Bewerbungsunterlagen, Beurteilungen und Krankmeldungen, Protokolle mit Aussagen einzelner Beschäftigter, Lieferantenkontakte und Freitextfelder in Formularen, in die Menschen alles Mögliche schreiben.

Die brauchbarste Gegenmaßnahme ist eine kurze Liste erlaubter Datenarten statt einer langen Liste verbotener. Was nicht auf der Liste steht, wird vorher geklärt. Das ist die einzige Regel, die im Alltag hält.

Frage zwei: verarbeitet der Anbieter in Ihrem Auftrag?

Wenn ein Anbieter Daten nur nach Ihren Weisungen und für Ihre Zwecke verarbeitet, liegt eine Auftragsverarbeitung vor, und dafür ist ein Vertrag erforderlich, bevor die ersten Daten übermittelt werden. Dieser Vertrag regelt Gegenstand, Dauer, Weisungsrechte, Sicherheitsmaßnahmen, Unterauftragnehmer und das Vorgehen am Vertragsende.

Nutzt der Anbieter die Daten dagegen für eigene Zwecke, etwa zur Verbesserung seiner Modelle, ist er insoweit selbst verantwortlich. Damit ändert sich die Rechtslage grundlegend, und die Übermittlung braucht eine eigene Grundlage, die in den seltensten Fällen vorliegt.

Praktisch bedeutet das: Ohne unterzeichneten Vertrag über die Auftragsverarbeitung und ohne ausdrücklichen Ausschluss der Eigennutzung gehören keine personenbezogenen Daten in ein Werkzeug. Die entsprechenden Vertragsangebote stehen bei seriösen Anbietern öffentlich zum Abschluss bereit.

Frage drei: landen die Eingaben im Training?

Hier unterscheiden sich Tarife desselben Anbieters oft stärker als verschiedene Anbieter. In kostenlosen und privaten Tarifen ist die Auswertung von Eingaben zur Weiterentwicklung verbreitet, in geschäftlichen Tarifen und beim Zugriff über eine Programmierschnittstelle häufig ausgeschlossen.

Zu prüfen sind drei Punkte: Ist die Nutzung zu Trainingszwecken vertraglich ausgeschlossen oder nur in einer Einstellung abschaltbar? Gilt der Ausschluss für alle Bestandteile, also auch für Anhänge und hochgeladene Dateien? Und wie lange werden Eingaben protokolliert, bevor sie gelöscht werden?

Die letzte Frage wird unterschätzt. Protokolle zur Missbrauchserkennung können auch dann bestehen, wenn kein Training stattfindet. Das ist kein Ausschlussgrund, aber es gehört in das eigene Verzeichnis und in die Antwort auf eine Auskunftsanfrage.

Frage vier: wo wird verarbeitet, und wer greift zu?

Speicherort und Verarbeitungsort sind zwei verschiedene Angaben, und beide sagen nichts über den Zugriff. Ein Rechenzentrum in Europa nützt wenig, wenn der technische Support aus einem Drittland auf Kundendaten zugreifen kann.

Für Übermittlungen in Drittländer braucht es eine Grundlage: einen Angemessenheitsbeschluss der Kommission, Standardvertragsklauseln oder eine der weiteren im Gesetz genannten Möglichkeiten. Die Belastbarkeit einzelner Grundlagen ist in der Vergangenheit gerichtlich überprüft worden, weshalb sich ein Blick auf den aktuellen Stand vor längerfristigen Festlegungen lohnt.

Ebenso wichtig ist die Liste der Unterauftragnehmer. Wer sie nicht findet, hat keine belastbare Aussage über den Verarbeitungsort. Seriöse Anbieter veröffentlichen sie und informieren über Änderungen, bevor sie wirksam werden.

Eine Frage bleibt oft offen und lohnt die Nachfrage: Wo laufen die Protokolle? Bei manchen Diensten liegt die eigentliche Verarbeitung in einer wählbaren Region, während die Auswertung von Nutzungsdaten zentral erfolgt. Das ist zulässig gestaltbar, gehört aber ins Verzeichnis und nicht in eine Fußnote.

Welche Daten nie in ein fremdes Modell gehören

Es gibt eine kurze Liste, bei der die Antwort ohne Prüfung feststeht. Sie ersetzt keine Einzelfallbewertung, verhindert aber die Mehrzahl der ernsten Fälle.

• Gesundheitsdaten und andere besondere Kategorien, solange keine ausdrückliche und tragfähige Grundlage vorliegt.
• Bewerbungsunterlagen, Beurteilungen und Personalakten, insbesondere wenn daraus eine Auswahlentscheidung folgen soll.
• Daten, die einem Berufsgeheimnis unterliegen, etwa aus ärztlicher, anwaltlicher oder steuerberatender Tätigkeit.
• Fremde Geschäftsgeheimnisse aus Kundenprojekten, die einer Vertraulichkeitsvereinbarung unterliegen.
• Zugangsdaten, Schlüssel und Konfigurationen aus produktiven Systemen, unabhängig vom Personenbezug.
• Daten von Kindern und Jugendlichen sowie alles, was einer besonderen Schutzpflicht unterliegt.

Bei automatisierten Entscheidungen mit rechtlicher Wirkung für Einzelne gelten zusätzliche Anforderungen. Eine Vorauswahl im Bewerbungsverfahren ohne menschliche Prüfung ist deshalb kein Zeitgewinn, sondern ein Risiko.

Geschäftsgeheimnisse sind ein zweiter, eigener Punkt

Neben dem Datenschutz steht eine Frage, die häufig übersehen wird: Der gesetzliche Schutz von Geschäftsgeheimnissen setzt voraus, dass angemessene Geheimhaltungsmaßnahmen getroffen wurden. Wer vertrauliche Unterlagen ohne Regelung in ein beliebiges Werkzeug gibt, schwächt genau diesen Nachweis.

Dazu kommen vertragliche Pflichten. Vertraulichkeitsvereinbarungen mit Kunden untersagen die Weitergabe an Dritte oft ausdrücklich, und ein Anbieter ist ein Dritter. Manche Verträge verlangen eine vorherige Zustimmung für den Einsatz von Unterauftragnehmern, die dann auch für Werkzeuge dieser Art gilt.

Der praktische Umgang damit ist unspektakulär: eine Liste der Kundenverträge mit Weitergabeverbot, ein Vermerk, welche Projekte davon betroffen sind, und eine Freigabe pro Werkzeug. Wie sehr Sicherheitsfragen kleine Unternehmen betreffen, beschreibt der Text über Cybersicherheit im kleinen Betrieb.

Die Prüfreihenfolge ohne eigene Rechtsabteilung

Diese Reihenfolge lässt sich von einer Person im Unternehmen abarbeiten, sofern sie Zugriff auf die Verträge hat. Der erste Durchlauf dauert eine halbe Stunde.

1. Datenarten benennen. Was genau soll eingegeben werden? Nicht die Kategorie, sondern das konkrete Dokument.
2. Personenbezug prüfen. Auch in Freitexten, Kopfzeilen, Anhängen und Aufzeichnungen. Im Zweifel ja.
3. Zweck und Grundlage festhalten. Wofür wird verarbeitet, und worauf stützt sich das? Ein Satz genügt, aber er muss geschrieben werden.
4. Vertrag prüfen. Auftragsverarbeitung abgeschlossen, Training ausgeschlossen, Unterauftragnehmer bekannt, Löschfristen benannt.
5. Ort und Zugriff klären. Verarbeitungsort, Support-Zugriff, Grundlage für Übermittlungen in Drittländer.
6. Eintragen und freigeben. Aufnahme in das Verarbeitungsverzeichnis, benannte verantwortliche Person, Datum der Freigabe.
7. Kurz schulen. Zehn Minuten für das Team: was hinein darf, was nicht, und an wen man sich bei Zweifeln wendet.

Ergibt einer der Punkte ein hohes Risiko für die betroffenen Personen, etwa bei umfangreicher Auswertung von Beschäftigtendaten, ist eine förmliche Folgenabschätzung erforderlich. Das ist der Punkt, an dem fachliche Beratung hinzukommt.

Was im Vertrag stehen muss

Die folgenden Punkte sind der Kern jeder Prüfung. Fehlt einer davon, ist das kein Formfehler, sondern eine offene Frage.

Prüfpunkt	Was zu klären ist	Warnzeichen
Auftragsverarbeitung	Vertrag vorhanden, unterzeichnet, aktuelle Fassung	nur ein Hinweis in den allgemeinen Bedingungen
Trainingsnutzung	vertraglich ausgeschlossen, nicht nur abschaltbar	Formulierung mit Vorbehalt der Verbesserung des Dienstes
Unterauftragnehmer	Liste öffentlich, Änderungen werden angekündigt	pauschale Zustimmung ohne Benennung
Verarbeitungsort	Region wählbar, Support-Zugriff geregelt	Angabe nur zum Speicherort
Speicherdauer	Frist für Eingaben und Protokolle in Tagen	Löschung auf Anfrage ohne Frist
Sicherheitsmaßnahmen	beschriebene Maßnahmen, Nachweis oder Zertifikat	Verweis auf eine allgemeine Sicherheitsseite
Betroffenenrechte	Unterstützung bei Auskunft und Löschung zugesagt	keine Aussage, wie Eingaben auffindbar sind
Vertragsende	Rückgabe oder Löschung, Frist und Nachweis	Daten bleiben bis zur Kündigung des Kontos

Diese acht Zeilen sind in dreißig Minuten geprüft, wenn die Unterlagen des Anbieters auffindbar sind. Braucht die Suche länger, ist das bereits eine Antwort.

Verzeichnis, Freigabe und Löschfristen

Wer personenbezogene Daten verarbeitet, führt darüber ein Verzeichnis. Die Ausnahme für kleinere Unternehmen greift nur eingeschränkt, weil sie bei regelmäßiger Verarbeitung ohnehin entfällt. Ein Werkzeug, das im Alltag genutzt wird, ist regelmäßige Verarbeitung.

Der Eintrag ist kurz: Zweck, Datenarten, Kategorien betroffener Personen, Empfänger, Drittlandbezug, Löschfristen, Sicherheitsmaßnahmen. Eine Tabellenzeile pro Werkzeug reicht in kleinen Unternehmen aus, solange sie gepflegt wird.

Dazu gehören die Löschfristen im eigenen Haus: Wie lange bleiben Eingaben in Verläufen, geteilten Ordnern und Protokollen liegen? Diese Frage entscheidet später darüber, ob eine Auskunft oder eine Löschung überhaupt vollständig erfüllt werden kann. Ohne dokumentierte Abläufe fällt beides schwer, wie der Text zu dokumentierten Prozessen zeigt.

Die interne Regel, die auf eine Seite passt

Eine Nutzungsregel wird gelesen, wenn sie eine Seite lang ist. Darauf stehen: die freigegebenen Werkzeuge, die erlaubten Datenarten, die verbotenen, die Pflicht zur Prüfung von Ergebnissen und der Name der Person, die Zweifelsfälle entscheidet.

Zwei Regeln fehlen fast immer und sind besonders nützlich. Erstens: Ergebnisse werden vor der Verwendung gegen die Quelle geprüft, gerade bei Zahlen, Zitaten und rechtlichen Aussagen. Zweitens: Wo ein Ergebnis nach außen geht, trägt eine Person die Verantwortung dafür, nicht das Werkzeug.

Sinnvoll ist außerdem eine kurze Einweisung, weil die europäischen Vorgaben für den Einsatz solcher Systeme auf ein Mindestmaß an Kenntnis der Beteiligten abstellen und gestaffelt greifen. Eine Zusammenfassung des Alltagsnutzens findet sich im Text über künstliche Intelligenz im Startup-Alltag.

Wann ein Modell im eigenen Haus die einfachere Antwort ist

Für einige Anwendungsfälle ist der Betrieb eines kleineren Modells auf eigener oder gemieteter Infrastruktur der ruhigere Weg, weil die Daten das eigene Umfeld nicht verlassen. Das gilt besonders für Berufsgeheimnisträger und für Unternehmen mit strengen Kundenauflagen.

Der Preis dafür ist Betriebsaufwand: Aktualisierungen, Zugriffsverwaltung, Protokollierung, Verfügbarkeit. Wer keine Person hat, die das nebenbei verantworten kann, tauscht ein Vertragsproblem gegen ein Betriebsproblem.

Ein Mittelweg ist der Bezug über einen Anbieter mit europäischer Verarbeitung und vertraglichem Trainingsausschluss. Für viele Aufgaben genügt das, und der Aufwand bleibt bei den Punkten aus der Tabelle. Wie weit sich Aufgaben ohne eigene Entwicklung lösen lassen, zeigt der Text zu Werkzeugen ohne Programmierkenntnisse.

Woran man ein Angebot erkennt, das nicht trägt

Es gibt wiederkehrende Signale. Der Anbieter nennt keinen Verarbeitungsort, sondern nur eine Sicherheitsseite mit Symbolen. Der Vertrag über die Auftragsverarbeitung existiert auf Anfrage, aber niemand schickt ihn. Die Liste der Unterauftragnehmer fehlt oder ist ohne Datum.

Ein weiteres Signal ist die Werbung mit Konformität als Eigenschaft des Produkts. Konform ist nie ein Werkzeug, sondern immer eine konkrete Verarbeitung in einem konkreten Unternehmen. Wer das Gegenteil verspricht, hat entweder die Frage nicht verstanden oder rechnet damit, dass der Kunde sie nicht stellt.

Umgekehrt gilt: Ein Anbieter, der Fristen in Tagen nennt, Unterauftragnehmer öffentlich führt und Änderungen ankündigt, erspart die Hälfte der Prüfung. Diese Transparenz ist ein besseres Auswahlkriterium als jede Funktionsliste.

Häufige Fragen

Darf ich eine Kundenliste zusammenfassen lassen?

Nur mit Vertrag über die Auftragsverarbeitung, ausgeschlossener Trainingsnutzung, geklärtem Verarbeitungsort und einer Grundlage für den Zweck. Ohne diese vier Punkte gehört die Liste nicht in das Werkzeug, auch nicht gekürzt.

Reicht es, Namen vorher zu entfernen?

Selten. Wenn sich die Person über verbleibende Angaben oder über eine Zuordnungsliste identifizieren lässt, bleibt der Personenbezug bestehen. Wirklich anonyme Daten sind eine hohe Hürde, keine Formatierungsfrage.

Was ist mit Aufzeichnungen von Besprechungen?

Eine Aufzeichnung enthält Stimmen und Aussagen identifizierbarer Personen. Sie braucht eine Grundlage, eine vorherige Information der Teilnehmenden und eine Löschfrist. Wo ein Betriebsrat besteht, ist er bei solchen Systemen zu beteiligen.

Wer haftet, wenn etwas schiefgeht?

Verantwortlich bleibt das Unternehmen, das die Verarbeitung veranlasst hat, unabhängig davon, welches Werkzeug im Einsatz war. Vertragliche Regelungen verteilen Risiken im Innenverhältnis, sie verschieben die Verantwortlichkeit nach außen nicht.

Wie oft muss die Prüfung wiederholt werden?

Bei jeder wesentlichen Änderung des Dienstes, bei neuen Datenarten und mindestens einmal jährlich. Anbieter ändern Tarife, Regionen und Unterauftragnehmer regelmäßig, und die Ankündigung erreicht selten die Person, die das Werkzeug nutzt.

Was tun, wenn bereits Daten eingegeben wurden?

Vorgang dokumentieren, Umfang klären, Löschung beim Anbieter beantragen und prüfen, ob eine Meldepflicht besteht. Für diese Bewertung gelten kurze Fristen, deshalb gehört sie sofort in fachliche Hände und nicht in die nächste Wochenrunde.

Die vier Fragen kosten beim ersten Werkzeug eine halbe Stunde und beim fünften noch zehn Minuten. Verglichen mit dem Aufwand, eine unklare Übermittlung im Nachhinein aufzuarbeiten, ist das die günstigste Viertelstunde im ganzen Vorgang.