Ein LLM-Wiki ist eine strukturierte Markdown-Wissensbasis, die speziell für die Verarbeitung durch Language Models optimiert ist. Im Gegensatz zu traditionellen RAG-Systemen wird das gesamte Wissen direkt in das Kontextfenster des LLMs geladen. Dadurch entfällt eine Retrieval-Pipeline vollständig, der Token-Verbrauch kann gegenüber naiven Dokumentenansätzen um bis zu 95 % reduziert werden, und die Zuverlässigkeit steigt, weil das Modell immer den vollständigen Wissensbestand sieht.
Das Konzept wurde von Andrej Karpathy geprägt und als Alternative zu RAG für kleine bis mittelgroße, stabile Wissensbasen beschrieben. Es bildet das Herzstück von Karpathys „Second Brain"-Ansatz, der Rohdaten (/raw) von verdichtetem Wissen (/wiki) trennt.
/raw — rohe, zeitgestempelte Notizen; werden nie verändert/wiki — destillierte Wissensseiten, ein Konzept pro Dateiagents.md — Regeln, nach denen ein KI-Agent das Wiki lesen und befüllen solllog.md — Protokoll aller Operationen und Updatesindex.md — Inhaltsverzeichnis als zentraler Startpunkt| Eigenschaft | Beschreibung |
|---|---|
| Prägnant aber vollständig | Kein Fülltext; jedes Wort trägt zur Bedeutung bei |
| Gut strukturiert | Klare Ăśberschriften, konsistente Formatierung, logische Hierarchie |
| Faktenbasiert | Definitionen, Beispiele, Beziehungen zwischen Konzepten |
| Kuratiert | Bewusste Auswahl: Was gehört rein, was bleibt draußen? |
| Wartbar | Wächst wie ein lebendes Dokument, nicht als statischer Dump |
Moderne LLMs besitzen große Kontextfenster (Claude 3.5 Sonnet: 200 000 Tokens; GPT-4o: 128 000 Tokens). Für die meisten kleinen bis mittelgroßen Wissensbasen passt der gesamte Bestand bequem in den Kontext. Das Modell muss dann nichts mehr „abrufen" — es liest alles und schlussfolgert direkt darüber. Das ist zuverlässiger als Embedding-Retrieval, weil kein Chunk verloren gehen kann.
Das LLM-Wiki ersetzt nicht RAG, sondern ergänzt es. Es eignet sich für stabile, kompakte Wissensbasen (<50 000 Tokens); RAG bleibt die richtige Wahl für große, dynamische Bestände. Ein häufig eingesetztes Muster ist der Hybridansatz: LLM-Wiki für die stabilen Grundlagen im System-Prompt, RAG für lange Schwanzdaten und Echtzeitupdates. → Siehe llm wiki vs rag für den detaillierten Vergleich.