Wie ein lokaler KI-Wissensassistent arbeitet

„Welche Prüfungen muss ich vor dem Import erledigen?“ Die Frage führt zurück zu IMP-01, einer vollständig fiktiven internen Anleitung für den Import von Projektstammdaten. Ihr Dokumentstand 1.0 beschreibt Dateianforderungen, Prüflauf und Freigabe in einer erfundenen Fachanwendung. Sie ist kein KGM-Handbuch, kein Kundenfall und kein tatsächlich eingelesenes Dokument eines KGM-Systems.

Die vollständige fiktive Anleitung finden Sie im aufklappbaren Dokumentkasten in Teil 1 dieser Serie.

Um diese Arbeitsfrage zu beantworten, müssen mehrere Abschnitte zusammenkommen. Ein lokaler KI-Wissensassistent kann dabei mit Retrieval-Augmented Generation, kurz RAG, arbeiten: Er sucht passende Quellenstellen und stellt eine Auswahl davon einem Sprachmodell bereit, das daraus eine Antwort formulieren soll. Suche und Antwortmodell übernehmen verschiedene Aufgaben.

Für technische Büros, Projektverantwortliche und kleine IT- oder Support-Teams lohnt sich der Blick auf diesen Datenweg. Er macht verständlich, welche Dokumente überhaupt berücksichtigt werden können, wo eine Auswahl stattfindet und weshalb auch eine flüssige Antwort noch geprüft werden muss. Die folgende Erklärung zeigt ein vereinfachtes Funktionsprinzip, keine konkrete KGM-Ist-Architektur und keinen ausgeführten Modelltest.

Zuerst den Dokumentbestand festlegen

Am Anfang steht ein bewusst ausgewählter und für die Nutzung freigegebener Dokumentbestand. Welche Anleitungen gehören dazu? Für welchen Arbeitsbereich gelten sie? Welcher Stand ist maßgeblich, und wer darf auf welche Inhalte zugreifen? Diese Entscheidungen bestimmen den verfügbaren Wissensbereich.

Für das Beispiel betrachten wir IMP-01 im Stand 1.0. Die Anleitung regelt die Vorbereitung und Freigabe eines Imports. Sie enthält jedoch weder aktuelle Projektbestände noch den Freigabestatus eines konkreten Vorgangs. Diese Unterscheidung bleibt auch dann bestehen, wenn ihre Abschnitte gut durchsuchbar sind.

Bei der Aufbereitung wird der Dokumenttext in auffindbare Abschnitte gegliedert. Dabei müssen Überschriften, Bedingungen und wichtige Zusammenhänge sinnvoll erhalten bleiben. Eine isolierte Zeile kann ihren Geltungsbereich verlieren. Zu jeder Textstelle gehört deshalb eine nachvollziehbare Quellenzuordnung, im Beispiel etwa „IMP-01, Stand 1.0, §4 – Freigabe“.

Suchrepräsentation, Text und Quelle haben verschiedene Aufgaben

Eine mögliche Grundlage der Suche sind Embeddings: Zahlenfolgen, mit denen ein Modell Texte für Ähnlichkeitsvergleiche darstellt. Sie dienen als Suchrepräsentation. Inhaltlich verwandte Formulierungen können dadurch auch dann als Kandidaten gefunden werden, wenn sie nicht dieselben Wörter verwenden. Das Grundprinzip solcher Ähnlichkeitsvergleiche erläutert die Forschungsarbeit Sentence-BERT.

Drei Dinge sind auseinanderzuhalten: Der Suchindex organisiert die Suche über diese Repräsentationen. Die Textpassagen enthalten die tatsächlich lesbaren Regeln. Die Quellenzuordnung macht kenntlich, aus welchem Dokumentstand und Abschnitt sie stammen. Ein Ähnlichkeitswert ersetzt weder den Wortlaut noch einen fachlichen Beleg.

Diese Vorbereitung erfolgt bei der Aufnahme des Bestands und bei einer geeigneten Aktualisierung geänderter Dokumente. Für jede neue Frage werden nicht sämtliche Dokumente erneut aufbereitet. Die Fragebeantwortung greift auf den vorbereiteten Suchbestand zu.

Die Grafik trennt die Aufbereitung des Bestands von der Bearbeitung einer einzelnen Frage. Die Quellenkennung am Kontext illustriert die für unser Beispiel benötigten Abschnitte. Sie stellt weder einen gemessenen Treffer noch eine bereits geprüfte Antwort dar.

Von der Arbeitsfrage zur Auswahl passender Stellen

Nun kommt die Frage: „Welche Prüfungen muss ich vor dem Import erledigen?“ Bei einer Suche mit Embeddings wird auch die Frage in eine zur Dokumentseite passende Suchrepräsentation überführt. Damit lassen sich Kandidaten im vorbereiteten Bestand finden und für die weitere Verarbeitung auswählen.

Ähnlichkeit allein sagt jedoch nicht, ob die Auswahl fachlich vollständig ist. Eine Stelle zum Prüflauf kann zur Frage passen, obwohl zusätzlich Anforderungen an die Datei und die Freigabe benötigt werden. Fehlt einer dieser Bereiche, kann die Grundlage für eine vollständige Antwort zu schmal sein.

Für unsere Illustration leiten wir die erforderliche Auswahl deshalb direkt aus IMP-01 ab. Die folgenden Stellen müssten gemeinsam verfügbar sein; diese Auswahl ist redaktionell hergeleitet und kein Nachweis, dass ein System sie tatsächlich oder bei jeder Frage abruft:

• §2 – Datei vorbereiten: Die Spalten Projekt-ID, Projektname und Projektverantwortlicher müssen vorhanden sein; jede Zeile muss alle drei Angaben enthalten. Projekt-IDs dürfen innerhalb der Datei nicht doppelt vorkommen. Das sagt noch nichts darüber aus, ob eine ID bereits im Zielsystem existiert.
• §3 – Prüflauf auswerten: Vor jedem Import ist ein Prüflauf in der Fachanwendung erforderlich. Er übernimmt keine Daten. Sein Protokoll unterscheidet Fehler und Warnungen; bei einem Fehler darf nicht importiert werden. Nach einer Dateikorrektur ist ein neuer Prüflauf nötig.
• §4 – Freigabe: Erforderlich sind ein fehlerfreier Prüflauf und die Prüfung aller Warnungen. Verbleibende Warnungen muss der Projektverantwortliche mit dokumentierter Begründung akzeptieren. Außerdem muss er den Import ausdrücklich freigeben. Fehlerfreiheit allein genügt nicht.

Damit wird sichtbar, was die Suche liefern müsste, bevor eine Antwort alle Bedingungen zusammenführen kann. Keine dieser Regeln besagt, dass sie für einen konkreten Import bereits erfüllt oder dessen Freigabe erteilt ist.

Ausgewählter Quellenkontext als Grundlage der Antwort

Die ausgewählten Textstellen bilden zusammen mit ihren Quellenbezügen den Quellenkontext. Gemeint ist die begrenzte Zusammenstellung von Auszügen, die dem Antwortmodell für diese Frage bereitgestellt wird. Der Kontext ist weder der gesamte Dokumentbestand noch lediglich eine Liste von Dateinamen.

Das Antwortmodell erhält die Frage und diesen Kontext. Seine Aufgabe ist, eine darauf gestützte verständliche Antwort zu formulieren; die Suche hat zuvor die passenden Stellen ausgewählt. Die Verbindung von Abruf und Antworterzeugung beschreibt die ursprüngliche RAG-Forschungsarbeit. Unser Beispiel legt dabei keine bestimmte Modell- oder Suchimplementierung fest.

Für die Importfrage müsste eine tragfähige Antwort die Dateianforderungen aus §2, den Prüflauf samt Wiederholung nach Korrekturen aus §3 und sämtliche Warnungs- und Freigabebedingungen aus §4 erhalten. Die Zuordnung zu IMP-01, Stand 1.0, ermöglicht das Nachlesen. Eine Antwort kann dennoch eine Bedingung auslassen oder den Sinn einer Stelle verändern. Hier wird deshalb keine künstliche Modellantwort als erfolgreicher Lauf vorgeführt.

Nicht vorhandene Angaben werden durch die Formulierung nicht zu Wissen: Maximale Dateigröße, Zeilenzahl, Laufzeit, aktueller Projektbestand und konkrete Freigabe stehen nicht in IMP-01. Dafür wären andere zuständige Quellen oder aktuelle Fachsystemdaten erforderlich. Nach §1 erläutert der Assistent die Anleitung; er bedient die Fachanwendung nicht und führt weder Prüf- noch Importläufe aus.

Was lokale Verarbeitung bedeutet

„Lokal“ beschreibt eine Entscheidung über Datenweg und Betrieb: Wo werden Dokumente aufbereitet, wo liegen Suchbestand und Textstellen, und wo wird die Antwort erzeugt? Für einen konkreten Einsatz muss geklärt sein, welche Komponenten innerhalb der vorgesehenen Umgebung arbeiten und welche Daten sie verarbeiten dürfen.

Der Begriff allein gewährleistet weder richtige Antworten noch vollständige Belege, geeignete Zugriffsrechte oder Datenschutz- und Sicherheitskonformität. Auch ein lokal betriebenes System benötigt einen passenden Quellenbestand und eine fachliche Prüfung seiner Antworten. Die dokumentierte KGM-Arbeitsweise mit ihren eigenen Grenzen ist beim RAG-Referenzsystem eingeordnet; sie ist vom fiktiven IMP-01-Beispiel zu unterscheiden.

Die eigene Arbeitsfrage durch den Datenweg verfolgen

Wählen Sie eine wiederkehrende Frage aus Ihrem Team. Notieren Sie den zulässigen Dokumentbestand, die benötigten Abschnitte mit ihrem Stand und alle Angaben, die dort fehlen. Prüfen Sie anschließend, welche Bedingungen eine Antwort unbedingt erhalten müsste und welche Auskunft eine aktuelle Fachsystemquelle benötigt. So entsteht eine konkrete Grundlage, um Dokumentpflege, Suche und Antwortunterstützung zu beurteilen.

Der nächste Teil „Antworten mit Quellen: Warum Nachvollziehbarkeit wichtiger ist als Sprachgewandtheit“ vertieft, ob eine konkrete Aussage tatsächlich von ihren Quellen getragen wird. Die Serienübersicht führt zu den jeweils veröffentlichten Beiträgen; Teil 1 ordnet das ursprüngliche Suchproblem ein.

Für einen begrenzten Anwendungsfall erläutert KGM Knowledge RAG die Voraussetzungen und Leistungsgrenzen. Weitere fachliche Einordnungen finden Sie im Wissen-Bereich.