Insights · AI
Verlässliche Antworten kommen aus Ihren Quellen, nicht aus den Vermutungen des Modells. Retrieval, Regeln und menschliche Kontrolle senken das Risiko.
Ein Sprachmodell schlägt beim Antworten nicht in einem Archiv nach: Es erzeugt die im Kontext wahrscheinlichste Wortfolge. Berührt eine Frage Informationen, die nicht in seinen Trainingsdaten stehen oder sich nach dem Training geändert haben, hält das Modell nicht inne und sagt nicht „Ich weiß es nicht“. Es produziert weiter plausiblen Text, im selben überzeugten Ton, den es auch für eine korrekte Antwort verwenden würde. Das ist der Mechanismus hinter den sogenannten Halluzinationen: Sie sind kein gelegentlicher Fehler, den man ausbessern könnte, sondern das natürliche Verhalten eines Werkzeugs, das auf Sprachfluss optimiert, nicht auf Wahrheit.
Das größte Risiko ist nicht die offensichtlich falsche Antwort, die man sofort erkennt. Es ist die glaubwürdige: ein Normverweis, den es nicht gibt, eine selbstbewusst zitierte, aber erfundene Vertragsklausel, ein Datum oder eine Zahl, eingefügt, um den Satz zu vervollständigen. Im Unternehmenskontext macht das aus einem nützlichen Werkzeug eine Quelle operativer und reputationsbezogener Risiken. Das Modell zu bitten, „genau zu sein“, löst das Problem nicht, denn das Modell kann nicht unterscheiden, was es erinnert und was es im Moment konstruiert.
Der Durchbruch besteht nicht darin, ein größeres Modell zu wählen, sondern zu ändern, woher die Antwort kommt. Statt das Modell aus seinem statistischen Gedächtnis schöpfen zu lassen, gibt man ihm das relevante Material im Moment der Frage und verlangt, nur auf dieser Grundlage zu antworten. Das Modell hört auf, das Archiv zu sein, und wird zum Leser, der zusammenfasst. Das ist die Idee hinter RAG, Retrieval-Augmented Generation: erst abrufen, dann generieren.
Wenn eine Frage eintrifft, reicht das System sie nicht direkt an das Modell weiter. Zuerst durchsucht es Ihre Dokumente – Seiten, Verträge, Verfahren, Produktblätter – nach den Passagen, die für genau diese Anfrage am relevantesten sind. Diese Retrieval-Phase ist das Herz des Mechanismus: Findet sie das richtige Material, hat die Antwort ein Fundament; findet sie ungenaues oder fehlendes Material, kann kein Modell das ausgleichen. Die Qualität des Abrufs zählt mehr als die Stärke des Modells.
Erst jetzt kommt das Modell ins Spiel, und es erhält eine präzise Anweisung: Antworte ausschließlich anhand der bereitgestellten Passagen; wenn die Information fehlt, sag es. Der Unterschied zum freien Einsatz ist deutlich. Das Modell muss nicht mehr raten: Es muss lesen, auswählen und umformulieren, was vor ihm liegt. Sein sprachliches Talent steht im Dienst Ihrer Dokumentation, nicht seiner Fantasie.
Eine seriöse Antwort zeigt, woher sie kommt. Jede wichtige Aussage sollte auf die Dokumentpassage zurückführbar sein, aus der sie stammt, sodass ein Mensch sie in Sekunden überprüfen kann. Das Zitat ist kein kosmetisches Detail: Es macht die Antwort prüfbar. Ohne Nachvollziehbarkeit bleibt selbst eine korrekte Antwort ein Akt des Vertrauens; mit Nachvollziehbarkeit wird sie zu einer überprüfbaren Aussage.
Das System antwortet nur aus einem definierten, aktuellen Bestand an Dokumenten – nicht aus dem gesamten Web und nicht aus dem internen Gedächtnis des Modells. Den Kreis der Quellen einzugrenzen ist der erste Weg, um zu verhindern, dass Antworten in unbestätigte Informationen abgleiten.
Enthaltung muss angewiesen und belohnt werden: Wenn die Quellen die Antwort nicht enthalten, muss das System das sagen, statt die Lücke zu füllen. Ein „Das steht nicht in den verfügbaren Dokumenten“ ist mehr wert als eine erfundene Antwort.
Ändert sich eine Richtlinie, aktualisieren Sie das Dokument, und die Antwort ändert sich mit – ohne das Modell anzufassen. So bleibt das System an der aktuellen Realität des Unternehmens ausgerichtet, und Antworten auf Basis überholter Informationen werden seltener.
Jede Antwort trägt ihre Quellenangaben, sodass die lesende Person eigenständig prüfen kann. Überprüfbarkeit verwandelt blindes Vertrauen in informiertes Vertrauen und macht es möglich, das System zu korrigieren, wenn es irrt.
Dem System Zugriff auf Unternehmensdokumente zu geben, wirft eine Kontrollfrage auf: Nicht alles, was abrufbar ist, sollte für jeden abrufbar sein. Die Berechtigungen der fragenden Person müssen auch für den Abruf gelten. Ein Teammitglied darf über eine zusammengefasste Antwort keine Informationen erhalten, die es beim Öffnen des Originaldokuments nicht lesen dürfte. Zugriffs-Governance ist keine Schicht über dem System: Sie ist Teil des Systems.
Enthalten die Quellen personenbezogene Daten, gelten die Grundsätze der DSGVO wie bei jeder anderen Verarbeitung: Rechtsgrundlage, Datenminimierung, festgelegter Zweck, begrenzte Speicherung. Das bedeutet, bewusst zu entscheiden, was in den abrufbaren Bestand gelangt und was nicht, und besondere Kategorien mit besonderer Sorgfalt zu behandeln. Die Frage ist nicht nur „Antwortet das System gut“, sondern „Nutzt es Daten, die es nutzen darf – für den Zweck, für den sie erhoben wurden“.
Ein gut geführtes System hinterlässt eine Spur: welche Quellen konsultiert wurden, welche Antwort gegeben wurde, wann. Das dient der Überprüfung, der Korrektur und dem Nachweis der Konformität – muss aber selbst geregelt werden, denn auch Protokolle können personenbezogene Daten enthalten und brauchen eine Aufbewahrungsrichtlinie. Reife Governance bringt das System nicht nur zum Laufen: Sie legt fest, wer wofür verantwortlich ist und wie lange Informationen verfügbar bleiben.
Bevor über Modelle gesprochen wird, wird entschieden, auf welche Dokumente das System zugreifen darf, wem sie gehören und wie oft sie aktualisiert werden. Ein klarer Rahmen ist die Voraussetzung jeder verlässlichen Antwort.
Es wird geprüft, wer was sehen darf und wo personenbezogene Daten liegen. Der Zugriff des Systems wird am realen Zugriff der Menschen ausgerichtet, und die Grundsätze der Datenminimierung gelten schon in der Entwurfsphase.
Das System wird so konfiguriert, dass es nur aus dem abgerufenen Material antwortet und das Fehlen von Informationen erklärt, wenn die Quellen nicht ausreichen. Enthaltung gilt als korrekte Antwort, nicht als Versagen.
Bei den Fällen mit der größten Tragweite ist die Antwort des Systems ein Entwurf, den eine Person prüft, bevor er endgültig wird. Menschliche Kontrolle bremst nicht alles aus: Sie konzentriert sich dort, wo ein Fehler am teuersten wäre.
Reale Antworten werden beobachtet, Zitate überprüft, Schwachstellen des Abrufs identifiziert und die Quellen angepasst. Das System verbessert sich durch aktualisierte Dokumente – nicht durch die Jagd nach immer größeren Modellen.
Ein geordneter Weg, kein Schalter zum Umlegen
Beseitigt RAG Halluzinationen vollständig?
Nein, es reduziert sie erheblich, bringt sie aber nicht auf null. Das Modell an Ihren Quellen zu verankern macht Erfindungen deutlich schwieriger und jede Antwort überprüfbar, doch eine Fehlermarge bleibt: Ein ungenauer Abruf oder eine erzwungene Zusammenfassung können weiterhin Ungenauigkeiten erzeugen. Deshalb zählen menschliche Kontrolle bei kritischen Fällen und die Möglichkeit, Zitate zu überprüfen.
Müssen wir das Modell mit unseren Daten neu trainieren?
Fast nie, und es ist selten der erste Schritt. In den meisten Fällen ist es wirksamer und sicherer, die Dokumente im Moment der Frage bereitzustellen: Sie aktualisieren eine Quelle, und die Antwort ändert sich – ohne Eingriff am Modell und ohne Ihre Daten dauerhaft einzubetten. Das ist auch der datenschutzfreundlichere Ansatz, weil die Daten in den Quellen bleiben, die Sie kontrollieren.
Was passiert, wenn ein Dokument falsch oder veraltet ist?
Das System antwortet gemäß diesem Dokument, weil es den Quellen vertraut, die Sie ihm geben. Genau das ist der zentrale Punkt: Die Qualität der Antworten hängt von der Qualität und Aktualität des Bestands ab. Deshalb ist die Pflege der Quellen – Veraltetes zurückziehen, Geändertes aktualisieren – integraler Bestandteil des Systems und kein optionales Extra.
Können wir steuern, wer welche Informationen sieht?
Ja, und das ist eine Anforderung, keine Option. Der Abruf muss die Berechtigungen der fragenden Person respektieren: Niemand darf über eine Antwort erhalten, was er nicht direkt lesen dürfte. Zusammen mit der Minimierung personenbezogener Daten und einer Aufbewahrungsrichtlinie für Protokolle macht genau das das System mit der DSGVO und Ihren internen Regeln vereinbar.