Die Vorstellung, eine KI „kenne“ nach dem Anschluss alle Unterlagen der Firma, ist falsch, und zwar auf eine beruhigende Art. Das Sprachmodell einer KI-Suche weiß nichts über Ihre Projekte. Es bekommt zu jeder Frage ein paar Seiten vorgelegt, beantwortet die Frage daraus und vergisst sie wieder. Der eigentliche Trick liegt davor: in der Auswahl der Seiten.
Schritt 1: Die Unterlagen werden vorbereitet
Bevor jemand die erste Frage stellt, liest das System die freigegebenen Ordner einmal durch. Jedes Dokument wird in Abschnitte geteilt, ungefähr absatz- oder seitenweise. Scans laufen vorher durch eine Texterkennung, damit auch das Einschreiben vom Nachunternehmer Text enthält und nicht nur Pixel. Zu jedem Abschnitt merkt sich das System, woher er stammt: Datei, Seite, Position auf der Seite. Das ist später die Fundstelle.
Dann wird jeder Abschnitt in eine Form gebracht, in der sich seine Bedeutung vergleichen lässt. Ein Abschnitt über „Rostschutz an der Stahlkonstruktion“ und einer über „Korrosionsschutz der Träger“ landen dabei nah beieinander, obwohl sie kein Wort gemeinsam haben. Dieser Index ist das, was die Suche am Ende durchsucht. Die Dokumente selbst bleiben unverändert in der Ablage; das System liest nur.
Schritt 2: Zur Frage werden die passenden Stellen gesucht
Jemand fragt: „Wann haben wir bei der Kita Sonnenwiese den Feuchteschaden gerügt?“ Die Frage wird in dieselbe Form gebracht wie die Abschnitte, und das System sucht die Abschnitte, deren Bedeutung am nächsten liegt. Es findet das Schreiben mit der „Aufforderung zur Mängelbeseitigung“, obwohl darin das Wort „gerügt“ nicht vorkommt, dazu vielleicht die E-Mail, in der der Versand bestätigt wird, und den Abschnitt aus dem Vertrag, der die Frist regelt.
Vor dieser Auswahl greift ein Filter: Abschnitte aus Dokumenten, die die fragende Person in der Ablage nicht öffnen darf, kommen gar nicht erst in Frage. Das ist eine feste Regel, keine Entscheidung des Sprachmodells, und sie läuft, bevor das Modell irgendetwas sieht. Am Ende stehen fünf bis zehn Abschnitte, jeder mit seiner Herkunft.
Schritt 3: Das Sprachmodell antwortet, nur aus diesen Stellen
Jetzt erst kommt das Sprachmodell. Es bekommt drei Dinge: die Frage, die gefundenen Abschnitte und eine Anweisung, die sinngemäß lautet: Beantworte die Frage ausschließlich aus diesen Abschnitten. Nenne zu jeder Aussage, aus welchem Abschnitt sie stammt. Wenn die Antwort nicht in den Abschnitten steht, sag das.
Das Modell formuliert daraus die Antwort in ganzen Sätzen. Weil es sagt, welchen Abschnitt es benutzt hat, kann das System die Fundstelle anzeigen: Dokument, Seite, mit einem Klick zu öffnen. Und weil es nur aus den vorgelegten Abschnitten antworten soll, kann es sagen, wenn dort nichts steht.
Beispiel. Das Modell hat den Abschnitt des Schreibens vorgelegt bekommen; aus ihm stammen Datum, Empfänger und Frist.
Was daraus folgt
- Kein Training mit Ihren Daten. Das Modell lernt nichts aus Ihren Unterlagen; es liest sie bei jeder Frage neu. Ein neues Dokument in der Ablage ist nach dem nächsten Einlesen auffindbar, ohne dass irgendetwas „nachtrainiert“ wird.
- Die Antwort ist so gut wie die Auswahl. Holt die Suche in Schritt 2 die falsche Seite, formuliert das Modell in Schritt 3 eine falsche Antwort, und zwar flüssig und überzeugend. Deshalb ist die Fundstelle keine Beigabe: Sie ist der einzige Weg, die Antwort zu prüfen.
- Die Berechtigungen liegen vor dem Modell. Was das Modell nie sieht, kann es nicht verraten. Das ist der Grund, warum der Filter in Schritt 2 sitzt und nicht in der Antwort.
- Das Modell ist austauschbar. Index und Fundstellen gehören zum System, nicht zum Modell. Erscheint ein besseres Modell, lässt es sich tauschen, ohne dass die Unterlagen neu eingelesen werden müssen.
Woran es scheitern kann
Die Technik hat Grenzen, und man sollte sie kennen, bevor man sich darauf verlässt. Ein Scan mit schlechter Texterkennung liefert in Schritt 1 falschen Text, und daraus wird keine richtige Antwort mehr. Eine Zahl in einer Tabelle kann beim Teilen in Abschnitte von ihrer Spaltenüberschrift getrennt werden. Ein Vertrag mit drei Fassungen liefert drei ähnliche Abschnitte, und das System muss erkennen, welcher gilt. Und ein Dokument kann Text enthalten, der das Modell zu einer falschen Antwort verleiten soll; vollständig verhindern lässt sich das nach heutigem Stand bei keinem KI-System, deshalb bleibt die Fundstelle die Prüfinstanz.
Ob diese Fälle bei Ihren Unterlagen eine Rolle spielen, zeigt sich nicht an der Beschreibung, sondern an der Messung mit Ihren eigenen Fragen. Mehr dazu unter Leistungen; wie die Unterlagen angebunden werden, unter Integration.
Die Technik heißt in der Fachsprache Retrieval-Augmented Generation, kurz RAG: erst holen, dann formulieren. Der Name ist unwichtig, die Reihenfolge nicht.