Ein Bauleiter hat einen Nachunternehmervertrag vor sich, zwölf Seiten, und will wissen, ob die Gewährleistung für den Estrich noch läuft. Er kopiert die Seite mit den Fristen in einen öffentlichen Chatbot und hat in zehn Sekunden eine Antwort. Das ist nützlich, und deshalb passiert es, in fast jedem Betrieb, meistens ohne dass jemand davon weiß.
Was mit dem Text passiert
Der kopierte Text verlässt in dem Moment das Haus. Er wird an die Server des Anbieters übertragen, bei den großen Diensten in der Regel außerhalb der EU, dort verarbeitet und, je nach Dienst und Tarif, gespeichert. Bei kostenlosen und privaten Zugängen räumen sich manche Anbieter in ihren Bedingungen das Recht ein, Eingaben zur Verbesserung ihrer Modelle zu verwenden. Ob das für den konkreten Dienst gilt, steht in dessen Nutzungsbedingungen, und die liest vor dem Kopieren niemand.
Für den Betrieb ergeben sich daraus drei Probleme, unabhängig davon, wie der Anbieter mit den Daten umgeht:
- Personenbezug. Ein Vertrag nennt Namen, Adressen, Unterschriften, oft Bankverbindungen. Deren Weitergabe an einen Dienstleister braucht eine Grundlage und einen Vertrag zur Auftragsverarbeitung. Bei einem privaten Konto gibt es beides nicht.
- Vertraulichkeit. Viele Verträge enthalten Geheimhaltungsklauseln. Preise, Konditionen und Pläne des Kunden an einen Dritten zu übertragen, kann gegen sie verstoßen, auch wenn der Dritte eine Maschine ist.
- Keine Kontrolle. Niemand im Haus weiß, was wann hochgeladen wurde. Wenn ein Kunde fragt, ob seine Unterlagen an einen KI-Dienst gegangen sind, gibt es keine Antwort.
Warum ein Verbot allein nichts ändert
Die naheliegende Reaktion ist ein Verbot per Rundmail. Es ändert wenig, weil der Bedarf bleibt: Der Bauleiter hat weiterhin zwölf Seiten vor sich und zehn Minuten Zeit. Ein Verbot ohne Alternative verlagert das Problem nur auf das private Telefon, wo es noch weniger sichtbar ist. Das gilt auch für den Gegenvorschlag, alles zu erlauben: Dann ist der Umgang zwar sichtbar, aber die drei Probleme oben bleiben.
Was hilft, ist ein erlaubter Weg, der dieselbe Frage beantwortet, ohne dass die Unterlagen das Haus verlassen.
Was ein eigenes System anders macht
Eine Suche in den eigenen Unterlagen beantwortet die Frage des Bauleiters aus dem Vertrag, der ohnehin in der Ablage liegt. Er muss nichts kopieren. Der Unterschied zum öffentlichen Chatbot liegt nicht im Sprachmodell, sondern darin, wo die Daten sind und wer sie sieht:
- Die Unterlagen bleiben, wo sie sind. Verarbeitet wird in einem Rechenzentrum in Deutschland oder auf einem Server im eigenen Haus. Es gibt einen Vertrag zur Auftragsverarbeitung mit einer Liste aller Beteiligten, bevor das erste Dokument gelesen wird.
- Kein Training mit Ihren Daten. Die Dokumente werden durchsucht, nicht zum Trainieren eines Modells verwendet.
- Rechte wie in der Ablage. Jede Person findet nur, was sie auch im Ordner öffnen dürfte. Der Chatbot kennt keine Berechtigungen; das eigene System übernimmt sie aus der Benutzerverwaltung.
- Nachvollziehbar. Wer was gefragt hat, lässt sich protokollieren. Wer von außen fragt, ob Unterlagen an einen KI-Dienst gegangen sind, bekommt eine Antwort.
- Mit Fundstelle. Die Antwort zeigt Dokument und Seite. Der öffentliche Chatbot kann das nicht, weil er die Akte nicht kennt; er kennt nur die Seite, die man ihm gegeben hat.
Was Sie heute tun können
- Eine Regel aufschreiben, die man einhalten kann. Zum Beispiel: In öffentliche Chatbots darf nichts, was Namen, Adressen, Preise oder Text aus Verträgen enthält. Allgemeine Fragen („Was ist eine Vertragserfüllungsbürgschaft?“) sind in Ordnung. Zwei Sätze reichen, wenn sie konkret sind.
- Firmenkonten statt Privatkonten. Wer Chatbots für allgemeine Fragen zulässt, sollte Zugänge mit Vertrag nutzen, bei denen Eingaben nicht zum Training verwendet werden und ein Auftragsverarbeitungsvertrag vorliegt. Das löst den Personenbezug nicht, aber es schafft eine Grundlage.
- Den Bedarf ernst nehmen. Fragen Sie, wofür die Leute den Chatbot nutzen. Meist geht es um die eigenen Unterlagen: Fristen, Klauseln, alte Absprachen. Dafür gibt es den erlaubten Weg, und er beantwortet die Frage besser, weil er die ganze Akte kennt und nicht nur die kopierte Seite.
Dieser Artikel beschreibt den Umgang mit Unterlagen aus praktischer Sicht. Was in Ihrem Fall datenschutzrechtlich zulässig ist, klären Sie mit Ihrem Datenschutzbeauftragten oder Ihrem Rechtsbeistand. Was wir zusagen und welche Unterlagen Ihre IT vorab prüfen kann, steht unter Sicherheit.