Warum "einfach alle PDFs reinwerfen" nicht funktioniert
Der häufigste Fehler beim Aufbau einer Wissensbasis für einen KI-Assistenten: Man kippt alles rein, was das Unternehmen je produziert hat — 400 PDFs, drei Jahre E-Mail-Verlauf, das gesamte Wiki — und wundert sich, dass die Antworten trotzdem schwammig oder falsch sind.
Retrieval-Augmented Generation, kurz RAG, ist mächtig, aber kein Magie-Trichter. Das Modell antwortet auf Basis der Textstücke, die der Retriever als relevant zurückgibt. Ist der Datenbestand widersprüchlich, veraltet oder schlecht geschnitten, holt der Retriever Müll — und das Modell formuliert diesen Müll überzeugend aus. "Garbage in, confident garbage out."
Prinzip 1: Kuratieren schlägt Vollständigkeit
Eine kleine, gepflegte Wissensbasis liefert bessere Antworten als eine große, chaotische. Die entscheidende Frage lautet nicht "was haben wir alles?", sondern "was ist die aktuell gültige Antwort auf die häufigen Fragen?".
Praktisch heißt das: Beginnen Sie mit den 20 bis 30 Fragen, die Ihr Team am häufigsten beantwortet. Schreiben Sie zu jeder eine klare, aktuelle Antwort. Das ist Ihr Kern. Er ist in einem Nachmittag erstellt und deckt 80 % der realen Anfragen ab.
Prinzip 2: Chunking ist eine inhaltliche Entscheidung
RAG zerteilt Dokumente in "Chunks", die einzeln in Vektoren übersetzt und abgerufen werden. Naives Chunking schneidet stur alle 500 Zeichen — mitten im Satz, mitten im Gedanken. Das Ergebnis: abgerufene Fragmente, die ohne Kontext nichts bedeuten.
Besser ist semantisches Chunking entlang natürlicher Grenzen:
- Ein Chunk = eine abgeschlossene Frage-Antwort-Einheit.
- Überschriften bleiben beim zugehörigen Absatz.
- Tabellen und Listen werden nicht mitten drin zerschnitten.
Ein guter Chunk sollte für sich allein lesbar sein. Testfrage: Wenn ich diesen Textblock isoliert lese — verstehe ich, worum es geht? Wenn nein, ist er falsch geschnitten.
Prinzip 3: Metadaten sind die halbe Miete
Reines Ähnlichkeits-Retrieval reicht selten. Wenn ein Kunde nach "Öffnungszeiten" fragt, wollen Sie die aktuellen, nicht die von 2023. Jeder Chunk sollte deshalb Metadaten tragen:
- Gültigkeitsdatum / letzte Aktualisierung
- Kategorie (Preise-frei: Abläufe, Produkt, Rechtliches, FAQ)
- Sichtbarkeit (intern vs. kundengeeignet)
- Quelle (welches Dokument, welche Version)
Mit diesen Metadaten kann der Retriever filtern bevor er nach Ähnlichkeit sucht — nur gültige, nur kundengeeignete Chunks. Das reduziert Fehlgriffe drastisch.
Prinzip 4: Widersprüche töten Vertrauen
Nichts untergräbt eine Wissensbasis schneller als zwei Chunks, die sich widersprechen. Version A sagt "Lieferung in 3 Tagen", Version B sagt "5–7 Werktage". Der Retriever zieht mal den einen, mal den anderen — der Assistent wirkt unzuverlässig.
Führen Sie deshalb ein Single-Source-of-Truth-Prinzip pro Faktum ein. Wenn sich eine Angabe ändert, wird die alte gelöscht, nicht ergänzt. Ein regelmäßiger "Widerspruchs-Check" (auch halbautomatisch über das Modell selbst) findet konkurrierende Aussagen.
Prinzip 5: Antworten müssen zitieren dürfen
Ein digitaler Mitarbeiter, der aus der Wissensbasis antwortet, sollte belegen können, woher die Antwort stammt. Das hat zwei Vorteile: Der Mensch, der die Antwort freigibt, kann die Quelle prüfen. Und wenn eine Antwort falsch ist, führt die Quellenangabe direkt zum fehlerhaften Chunk, der korrigiert werden muss.
In der Praxis: Jede generierte Antwort trägt intern die IDs der herangezogenen Chunks. Im Freigabe-Schritt sieht der Mensch nicht nur die Antwort, sondern auch, worauf sie sich stützt.
Prinzip 6: Die Wissensbasis ist ein lebendes System
Der teuerste Irrtum ist, die Wissensbasis als einmaliges Projekt zu behandeln. Sie ist ein Produkt, das gepflegt wird. Ein einfacher Kreislauf:
- Der Assistent beantwortet Anfragen (mit Freigabe).
- Fragen, die er nicht gut beantworten konnte, werden markiert.
- Wöchentlich schaut ein Mensch auf diese Lücken und ergänzt die Wissensbasis.
- Veraltete Chunks werden entfernt.
Nach wenigen Wochen dieses Kreislaufs deckt die Wissensbasis den Alltag zuverlässig ab — nicht weil sie riesig ist, sondern weil sie auf die echten Fragen kalibriert wurde.
Fazit
Eine gute RAG-Wissensbasis ist keine Frage der Datenmenge, sondern der Datenpflege: kuratiert statt vollständig, semantisch geschnitten, mit Metadaten gefiltert, widerspruchsfrei, zitierfähig und lebendig gehalten. Wer diese sechs Prinzipien beachtet, bekommt einen digitalen Mitarbeiter, der belastbare Antworten gibt — statt eines, der überzeugend danebenliegt.