Wissensdatenbank mit KI: NotebookLM, Claude Projects oder eigenes RAG?

Die Kurzantwort: Die meisten Betriebe brauchen kein RAG-Projekt, sondern gepflegte Ordner. Wenn Sie Firmenwissen für KI zugänglich machen wollen, fangen Sie mit NotebookLM oder Claude Projects an — beides ist in Tarifen enthalten, die Sie vermutlich schon zahlen, und beides ist in einer Stunde eingerichtet. Eine eigene RAG-Lösung lohnt sich erst, wenn Sie sehr viele Dokumente haben, die sich ständig ändern, oder wenn die Daten Ihr Haus nicht verlassen dürfen.

Stand: Oktober 2026.

Offenlegung: Ich baue beruflich RAG-Systeme und verdiene daran. Deshalb ist die Kernaussage dieses Beitrags — dass die meisten Betriebe keines brauchen — gegen mein kurzfristiges Interesse formuliert. Sie steht trotzdem da, weil ich zu viele teure Projekte gesehen habe, die eine Ordnerstruktur hätten sein können.

Das Wichtigste in Kürze

• Die häufigste Fehldiagnose: „Wir brauchen RAG“ heißt meistens „Unsere Ablage ist unaufgeräumt“.
• NotebookLM und Claude Projects lösen 80 Prozent der Fälle — ohne Projekt, ohne Entwicklung.
• Eigenes RAG lohnt sich bei sehr großen, sich ständig ändernden Beständen oder wenn Daten das Haus nicht verlassen dürfen.
• Der teure Teil ist nie die Technik, sondern die Pflege der Inhalte.
• Testen Sie mit 20 Dokumenten, bevor Sie 20.000 einplanen.

Was die drei Ansätze unterscheidet

Die aussagekräftigste Zeile ist die erste. Der Unterschied zwischen „Minuten“ und „Wochen bis Monate“ ist so groß, dass er jede Diskussion über Funktionsdetails erschlägt. Fangen Sie oben an, und gehen Sie nur dann nach unten, wenn Sie einen konkreten Grund haben.

Die Fehldiagnose, die teuer wird

Das Gespräch läuft fast immer gleich. Jemand sagt: „Wir haben so viel Wissen im Haus, das findet keiner. Wir bräuchten so eine KI, die unsere Dokumente kennt.“ Und dann kommt die Frage, was ein RAG-System kostet.

Meine Gegenfrage lautet: Wenn ein neuer Mitarbeiter am ersten Tag die Preisliste sucht — findet er sie? Und in welcher von den vier Versionen, die im Umlauf sind?

In den meisten Fällen ist das eigentliche Problem nicht, dass die Suche zu schlecht ist. Es ist, dass niemand sagen kann, welches Dokument gilt. Ein RAG-System löst das nicht — es beantwortet Fragen dann eben schnell und selbstbewusst aus einer veralteten Version. Das ist schlechter als keine Antwort, weil es glaubwürdiger aussieht.

Die unbequeme Reihenfolge lautet: erst festlegen, welche Dokumente gelten und wer sie pflegt. Dann ein Werkzeug daraufsetzen. Wer die Reihenfolge umdreht, kauft sich ein System, das Unordnung mit hoher Geschwindigkeit reproduziert.

NotebookLM

Wofür es gedacht ist: ein abgegrenztes Thema mit einer überschaubaren Zahl von Quellen. Sie legen ein Notizbuch an, laden Dokumente hinein und stellen Fragen dazu — mit Belegen, welche Quelle die Antwort stützt.

Wo es glänzt: Einarbeitung in ein Thema, Auswertung einer Ausschreibung, Vorbereitung auf ein Projekt. Alles, was einen klaren Anfang und ein klares Ende hat.

Wo es an Grenzen stößt: als dauerhaftes Firmengedächtnis. Die Aktualisierung ist manuell — jemand muss neue Dokumente einpflegen und alte entfernen. Bei einem Bestand, der sich wöchentlich ändert, wird das schnell zur Pflichtaufgabe, die niemand übernehmen will.

Claude Projects

Wofür es gedacht ist: laufende Arbeit an einem Bereich. Sie hinterlegen einmal die Unterlagen, die immer gelten — Richtlinien, Textbausteine, Produktinformationen, Ton-und-Stil-Vorgaben —, und jedes Gespräch in diesem Projekt kennt sie bereits.

Wo es glänzt: wiederkehrende Arbeit mit gleichbleibenden Vorgaben. Angebotserstellung, Kundenkommunikation, Fachtexte in einem festen Rahmen. Der Nutzen liegt weniger im Nachschlagen als darin, dass Sie den Kontext nicht jedes Mal neu erklären müssen.

Wo es an Grenzen stößt: bei sehr großen Beständen und ebenfalls bei der Aktualisierung. Es ist ein Arbeitskontext, kein Archiv.

Ein Hinweis aus der Praxis: Der größte Gewinn entsteht nicht beim Hochladen vorhandener Dokumente, sondern beim Aufschreiben von Wissen, das bisher nur in Köpfen steckte. Wie man das strukturiert herausholt, habe ich in Wissen aus dem Kopf ins System beschrieben.

Eigenes RAG

Wann es sich wirklich lohnt — meiner Erfahrung nach müssen mindestens zwei dieser Punkte zutreffen:

• Sehr großer Bestand, der die Grenzen der fertigen Werkzeuge deutlich übersteigt.
• Ständige Änderungen, sodass manuelles Nachpflegen ausscheidet und die Aktualisierung automatisch laufen muss.
• Daten dürfen das Haus nicht verlassen — der häufigste harte Grund, und der einzige, der allein schon reicht.
• Anbindung an Fachsysteme, deren Inhalte nicht als Dateien vorliegen, sondern in einer Datenbank.
• Viele Nutzer mit unterschiedlichen Rechten, die jeweils nur ihren Teil sehen dürfen.

Was Sie einplanen müssen: Entwicklung, Betrieb, und vor allem die laufende Pflege der Inhalte. Der letzte Punkt ist der, an dem diese Projekte scheitern — nicht an der Technik. Ein RAG-System, dessen Inhalte ein Jahr alt sind, ist eine Haftungsfrage, keine Arbeitserleichterung.

Warum einfaches RAG oft nicht reicht und welcher Ansatz in der Praxis besser trägt, habe ich in Agentic RAG in n8n ausgeführt. Einen konkreten Aufbau ohne Programmierung zeigt RAG-Agent ohne Code.

Der Weg, den ich empfehle

1. Nennen Sie die zehn Fragen, die im Betrieb am häufigsten gestellt werden. Konkret, nicht als Kategorie.
2. Suchen Sie die Dokumente, die diese Fragen beantworten. Wenn Sie dabei feststellen, dass es die Dokumente gar nicht gibt, haben Sie Ihr eigentliches Problem gefunden — und es ist kein Technikproblem.
3. Legen Sie fest, welche Version gilt, und wer sie pflegt. Mit Namen.
4. Laden Sie diese 20 bis 50 Dokumente in NotebookLM oder Claude Projects und stellen Sie Ihre zehn Fragen.
5. Bewerten Sie das Ergebnis. Wenn es gut ist, sind Sie fertig — und haben ein paar tausend Euro gespart.
6. Nur wenn es scheitert, und Sie verstehen warum, reden Sie über eine eigene Lösung.

Häufige Fragen

Was, wenn wir zehntausende Dokumente haben?

Dann haben Sie mit hoher Wahrscheinlichkeit nicht zehntausend relevante Dokumente. Der erste Schritt ist nicht ein größeres System, sondern die Frage, welche zweihundert davon tatsächlich Fragen beantworten. In fast jedem Projekt, das ich begleitet habe, war die Antwortmenge um eine Größenordnung kleiner als der Gesamtbestand.

Ist Copilot nicht schon ein RAG-System über unsere Ablage?

Funktional in eine ähnliche Richtung, ja — und deshalb gilt dort dasselbe: Es ist nur so gut wie die Ordnung in Ihrer Ablage. Mehr dazu im Vergleich Copilot gegen Claude.

Wie halten wir die Inhalte aktuell?

Mit einer benannten Person und einem festen Termin — etwa einmal im Quartal eine Stunde. Das klingt banal und ist der Punkt, an dem die meisten Wissenssysteme sterben. Ohne diesen Termin ist jedes System nach einem Jahr eine Sammlung veralteter Aussagen mit sehr überzeugendem Auftreten.

Dürfen wir überhaupt alle Dokumente hochladen?

Das hängt an Tarif und Datenart. In den Geschäftstarifen findet kein Training auf Ihren Inhalten statt — Details im DSGVO-Vergleich. Bei Personaldaten und besonders schützenswerten Kategorien führt der Weg über Ihren Datenschutzbeauftragten, nicht über einen Blogbeitrag.

Was kostet ein eigenes RAG-System realistisch?

Die Spanne ist zu groß für eine seriöse Pauschalzahl — sie hängt an Datenmenge, Anbindungen und Rechtestruktur. Was ich sagen kann: Die Entwicklung ist selten der größte Posten. Betrieb und inhaltliche Pflege über drei Jahre übersteigen die Erstellung regelmäßig. Wer nur die Erstellung budgetiert, budgetiert die Hälfte.