Wie ein KI-Assistent Ihre eigenen Dokumente nutzt

Stellen Sie sich vor, Ihre Mitarbeiter könnten einer KI eine Kundenanfrage vorlegen – und die KI würde bei ihrer Antwort automatisch auf das Wissen Ihres Unternehmens zurückgreifen. Auf Produktbeschreibungen, technischen Datenblättern oder anderen internen Dokumenten. Ohne dass jemand die benötigten Informationen mühsam zusammensuchen und in die Anfrage kopieren muss.

Genau das ermöglichen KI-Anwendungen, die eigene Dokumente als zusätzliche Informationsquelle nutzen. Das zugrunde liegende Prinzip ist erstaunlich einfach. Und es lässt sich schrittweise erweitern – von einer einzelnen PDF-Datei bis hin zu umfangreichen Dokumentensammlungen.

Eine Kundenanfrage, mehrere mögliche Lösungen

Nehmen wir ein Unternehmen, das LED-Beleuchtung für gewerbliche und industrielle Anwendungen vertreibt. Ein Kunde möchte seine Lagerhalle modernisieren und schreibt:

Wir möchten unsere unbeheizte Lagerhalle auf LED-Beleuchtung umrüsten. Im Winter können die Temperaturen auf −15 °C fallen. Die Halle ist sieben Meter hoch. Die Leuchten müssen gegen Staub und Feuchtigkeit geschützt sein. Welche Produkte aus Ihrem Sortiment kommen dafür infrage?

Der Vertriebsmitarbeiter kennt sein Sortiment. Allerdings umfasst dieses zahlreiche Modelle mit unterschiedlichen Eigenschaften. Um eine fundierte Empfehlung abzugeben, müsste er mehrere Datenblätter heraussuchen und technische Angaben miteinander vergleichen.

Stattdessen kopiert er die Kundenanfrage in einen KI-Assistenten, der für das Unternehmen eingerichtet wurde.

Die KI nennt geeignete Produkte, erklärt die Unterschiede und weist auf mögliche Einschränkungen hin. Sie kann beispielsweise erkennen, dass eine bestimmte Leuchte wegen ihrer zulässigen Betriebstemperatur ausscheidet, während zwei andere grundsätzlich infrage kommen.

Woher kennt die KI diese Details? Schließlich handelt es sich möglicherweise um Produkte, die erst vor wenigen Wochen ins Sortiment aufgenommen wurden.

Die Antwort: Die KI muss diese Produkte gar nicht vorher kennen. Sie erhält die benötigten Informationen zusammen mit der Kundenanfrage.

Wie aus einem Dokument zusätzliches KI-Wissen wird

Beginnen wir mit dem einfachsten Fall. Das Unternehmen stellt eine PDF-Datei bereit, in der mehrere Leuchten mit ihren technischen Eigenschaften beschrieben sind.

Die KI-Anwendung liest dieses Dokument und entnimmt ihm die enthaltenen Informationen. Anschließend ergänzt sie diese automatisch zur Kundenanfrage, bevor sie die Anfrage an das KI-Modell übermittelt.

Für den Mitarbeiter bleibt dieser zusätzliche Schritt unsichtbar. Er gibt lediglich seine Frage ein. Im Hintergrund stellt die Anwendung jedoch eine deutlich umfangreichere Anfrage zusammen.

Vereinfacht könnte diese so aussehen:

Kundenanfrage:
Wir suchen LED-Leuchten für eine unbeheizte
Lagerhalle mit Temperaturen bis −15 °C ...

Zusätzliche Informationen:
[Inhalt der bereitgestellten Produktunterlagen]

Aufgabe an die KI:
Vergleiche die Anforderungen mit den Produkten.
Empfiehl geeignete Modelle und begründe die Auswahl.
Nenne Einschränkungen und fehlende Angaben.

Diese gesamte Zusammenstellung wird als Eingabe an die KI übergeben. In der Fachsprache bezeichnet man die übermittelten Anweisungen und Informationen als Prompt.

Sie können sich den Prompt wie eine Aufgabenmappe vorstellen, die einem Mitarbeiter auf den Tisch gelegt wird. Darin befinden sich die eigentliche Aufgabenstellung, die benötigten Unterlagen und Hinweise, wie das Ergebnis aussehen soll.

Der entscheidende Unterschied zu einer gewöhnlichen KI-Anfrage besteht darin, dass die Anwendung diese Mappe automatisch zusammenstellt.

Die KI kann nun Informationen berücksichtigen, die ihr zuvor nicht zur Verfügung standen. Sie vergleicht die dokumentierten Produkteigenschaften mit den Kundenanforderungen und formuliert daraus eine Antwort.

So könnte sie beispielsweise feststellen, dass ein Modell für Temperaturen bis −20 °C zugelassen ist und die erforderliche Schutzart erfüllt. Ein anderes Modell wäre dagegen ungeeignet, weil es laut Datenblatt nur bei Temperaturen über 0 °C betrieben werden darf.

Die Antwort kann zugleich auf noch fehlende Angaben aufmerksam machen, etwa auf die gewünschte Beleuchtungsstärke oder die Größe der Halle. Damit entsteht nicht nur eine Produktauswahl, sondern eine brauchbare Grundlage für den nächsten Schritt im Vertrieb.

Wichtig dabei: Die KI hat nichts Neues über das Sortiment gelernt, was dauerhaft in ihrem Modell gespeichert wäre. Sie verwendet die Informationen, die ihr für diese konkrete Anfrage bereitgestellt wurden. Bei einer späteren Anfrage können andere oder aktualisierte Dokumente verwendet werden.

Wenn aus einem Dokument mehrere Hundert werden

Bei einer einzelnen PDF-Datei lässt sich der gesamte Inhalt häufig problemlos mitgeben. Doch was passiert, wenn ein Unternehmen Produktunterlagen für mehrere Hundert oder Tausend Artikel besitzt?

Alle Dokumente bei jeder Kundenanfrage vollständig an die KI zu übermitteln, wäre weder sinnvoll noch wirtschaftlich. Es würde große Datenmengen verursachen, die Verarbeitung verteuern und könnte die verfügbare Aufnahmekapazität des KI-Modells überschreiten.

Außerdem benötigt die KI für die Frage nach einer Hallenbeleuchtung keine Informationen über Schreibtischlampen, Netzteile oder Außenstrahler, sofern diese für die Anforderungen nicht relevant sind.

Die Lösung besteht darin, die passenden Informationen bereits vor der eigentlichen KI-Anfrage zu suchen.

Dazu werden die vorhandenen Dokumente zunächst aufbereitet. Die Anwendung liest beispielsweise Word- und PDF-Dateien ein, gewinnt daraus den Text und zerlegt längere Dokumente in kleinere, sinnvoll zusammenhängende Abschnitte.

Diese Abschnitte werden für eine spätere Suche erfasst. Dabei lässt sich auch festhalten, aus welchem Dokument und von welcher Seite eine Information stammt.

Wenn nun unser Vertriebsmitarbeiter seine Kundenanfrage eingibt, passiert im Hintergrund Folgendes:

Die Anwendung untersucht die Kundenanfrage und sucht im vorbereiteten Dokumentenbestand nach passenden Textstellen.
Sie findet beispielsweise Angaben zu Betriebstemperaturen, Schutzarten und empfohlenen Einsatzbereichen verschiedener Leuchten.
Nur die relevanten Fundstellen werden zusammen mit der Kundenanfrage an das KI-Modell übermittelt.
Die KI vergleicht die Angaben, formuliert eine begründete Produktempfehlung und kann die verwendeten Quellen nennen.

Für den Mitarbeiter bleibt die Bedienung unverändert. Er stellt weiterhin nur seine Frage.

Auch technisch bleibt das Grundprinzip gleich: Die KI bekommt zusätzliche Informationen im Prompt. Der Unterschied liegt in der vorgelagerten Suche, die bei jeder Anfrage entscheidet, welche Informationen benötigt werden.

Vereinfacht lässt sich dieser Ablauf so darstellen:

Kundenfrage = Eingabe des Mitarbeiters

Fundstellen = Suche in den Produktdokumenten(Kundenfrage)

Prompt = Kundenfrage + Fundstellen + Anweisungen

Antwort = KI(Prompt)

Dieses Verfahren heißt Retrieval-Augmented Generation, abgekürzt RAG.

Der englische Begriff beschreibt zwei aufeinanderfolgende Aufgaben: Zunächst werden passende Informationen gesucht (Retrieval). Anschließend erzeugt die KI auf Grundlage der Frage und dieser zusätzlichen Informationen eine Antwort (Augmented Generation).

RAG ist also kein besonderes KI-Modell und auch keine eigenständige künstliche Intelligenz. Es ist ein Verfahren, mit dem vorhandenes Wissen gezielt für die Beantwortung von Anfragen verfügbar gemacht wird.

Der eigentliche Mehrwert: Vorhandenes Wissen produktiv nutzen

Die Stärke einer solchen Anwendung liegt nicht darin, dass Mitarbeiter plötzlich Fragen stellen können, die sie vorher nicht beantworten konnten.

Unser Vertriebsmitarbeiter hätte die Datenblätter auch selbst lesen und vergleichen können. Er verfügt schließlich über die fachlichen Kenntnisse, um geeignete Leuchten auszuwählen.

Der Unterschied liegt im Aufwand.

Statt mehrere Dokumente zu öffnen, Eigenschaften zu vergleichen und mögliche Einschränkungen zusammenzutragen, erhält er eine vorbereitete Auswahl mit nachvollziehbaren Begründungen.

Er kann sich auf die fachliche Prüfung, die Beratung des Kunden und die Ausarbeitung des Angebots konzentrieren.

Das Prinzip lässt sich auf zahlreiche andere Aufgaben übertragen. Überall dort, wo Mitarbeiter regelmäßig Informationen aus vorhandenen Dokumenten benötigen, kann eine solche Anwendung Arbeitsabläufe vereinfachen.

Dabei muss es nicht immer ein Chat sein. Die Suche und die anschließende KI-Auswertung können auch Bestandteil einer anderen Anwendung sein, beispielsweise einer Eingabemaske oder einer bestehenden Unternehmenssoftware.

Für die Einführung ist nicht zwangsläufig eine aufwendige Anbindung an Warenwirtschaft, CRM oder andere betriebliche Systeme erforderlich. Wenn die benötigten Informationen bereits in Word- oder PDF-Dateien vorliegen, kann eine erste Lösung auf dieser Dokumentensammlung aufbauen.

Entscheidend ist allerdings die Qualität der Unterlagen. Veraltete oder widersprüchliche Produktinformationen führen möglicherweise zu falschen Empfehlungen. Deshalb sollte die Anwendung ihre Quellen kenntlich machen und deutlich zwischen belegten Angaben und offenen Fragen unterscheiden.

Die KI liefert eine Arbeitshilfe, keine Garantie für die Richtigkeit jeder Aussage. Gerade technische Empfehlungen müssen bei Bedarf weiterhin fachlich geprüft werden.

Ein kurzer Blick hinter die Kulissen: Wie findet die Suche passende Informationen?

Bleibt eine interessante technische Frage: Wie erkennt eine Anwendung, welche Textstellen zur Kundenanfrage passen?

Eine klassische Textsuche sucht nach bestimmten Wörtern. Sie kann beispielsweise alle Dokumente finden, in denen „Lagerhalle“ oder „LED“ vorkommt.

Moderne RAG-Anwendungen können darüber hinaus nach der inhaltlichen Bedeutung suchen.

Dafür werden die Textabschnitte der Dokumente durch ein spezielles KI-Modell in Zahlenfolgen umgewandelt. Diese Zahlenfolgen heißen Embeddings oder auch Vektoren.

Man kann sie sich wie Koordinaten auf einer Landkarte vorstellen. Texte mit ähnlicher Bedeutung liegen auf dieser gedanklichen Karte häufig nah beieinander – selbst wenn sie unterschiedliche Wörter verwenden.

So kann eine Anfrage nach „Beleuchtung für eine kalte Lagerhalle“ auch relevante Dokumentstellen zu „Industrieleuchten für niedrige Umgebungstemperaturen“ finden.

Bei der sogenannten Vektorsuche wird die Anfrage ebenfalls in eine solche Zahlenfolge umgewandelt. Anschließend werden die gespeicherten Dokumentabschnitte gesucht, deren Vektoren besonders gut zur Anfrage passen.

In der Praxis wird diese Technik häufig mit einer klassischen Stichwortsuche kombiniert. Das ist beispielsweise bei exakten Modellnummern oder technischen Kennzeichnungen hilfreich.

Die gefundenen Textstellen werden danach ganz normal als lesbarer Text in den Prompt übernommen. Die KI muss also weder die Vektoren verstehen noch selbst die Dokumentensammlung durchsuchen.

Was bedeutet das für Ihr Unternehmen?

Der Einstieg in KI muss nicht bedeuten, komplette Geschäftsprozesse neu zu gestalten oder eine umfangreiche Softwareplattform einzuführen.

Oft lohnt es sich, mit einer einfachen Frage zu beginnen: Bei welchen wiederkehrenden Aufgaben müssen Ihre Mitarbeiter Informationen aus vorhandenen Unterlagen suchen, vergleichen und auswerten?

Liegt das benötigte Wissen bereits in Dokumenten vor, kann es eine gute Grundlage für eine KI-Anwendung sein.

Ein überschaubares Pilotprojekt kann zeigen, wie zuverlässig sich passende Informationen finden lassen, wie brauchbar die erzeugten Antworten sind und wie viel Zeit die Mitarbeiter tatsächlich sparen.

Rausch IT unterstützt Unternehmen dabei, solche Einsatzmöglichkeiten zu bewerten und passende KI-Anwendungen zu entwickeln – abgestimmt auf die vorhandenen Informationen und die tatsächlichen Arbeitsabläufe.