stabil   Quelle: 20260618-110101.md, 20260618-111521.md, 20260618-105835.md, 20260618-110615.md, 20260619-044121.md   Aktualisiert: 2026-06-22

LLM-Wiki-Konzept

Kurzfassung

Ein LLM-Wiki ist eine strukturierte Markdown-Wissensbasis, die speziell für die Verarbeitung durch Language Models optimiert ist. Im Gegensatz zu traditionellen RAG-Systemen wird das gesamte Wissen direkt in das Kontextfenster des LLMs geladen. Dadurch entfällt eine Retrieval-Pipeline vollständig, der Token-Verbrauch kann gegenüber naiven Dokumentenansätzen um bis zu 95 % reduziert werden, und die Zuverlässigkeit steigt, weil das Modell immer den vollständigen Wissensbestand sieht.

Details

Herkunft und Einordnung

Das Konzept wurde von Andrej Karpathy geprägt und als Alternative zu RAG für kleine bis mittelgroße, stabile Wissensbasen beschrieben. Es bildet das Herzstück von Karpathys „Second Brain"-Ansatz, der Rohdaten (/raw) von verdichtetem Wissen (/wiki) trennt.

Bausteine eines LLM-Wikis

Eigenschaften eines guten LLM-Wikis

Eigenschaft Beschreibung
Prägnant aber vollständig Kein Fülltext; jedes Wort trägt zur Bedeutung bei
Gut strukturiert Klare Ăśberschriften, konsistente Formatierung, logische Hierarchie
Faktenbasiert Definitionen, Beispiele, Beziehungen zwischen Konzepten
Kuratiert Bewusste Auswahl: Was gehört rein, was bleibt draußen?
Wartbar Wächst wie ein lebendes Dokument, nicht als statischer Dump

Warum es funktioniert

Moderne LLMs besitzen große Kontextfenster (Claude 3.5 Sonnet: 200 000 Tokens; GPT-4o: 128 000 Tokens). Für die meisten kleinen bis mittelgroßen Wissensbasen passt der gesamte Bestand bequem in den Kontext. Das Modell muss dann nichts mehr „abrufen" — es liest alles und schlussfolgert direkt darüber. Das ist zuverlässiger als Embedding-Retrieval, weil kein Chunk verloren gehen kann.

Abgrenzung zu RAG

Das LLM-Wiki ersetzt nicht RAG, sondern ergänzt es. Es eignet sich für stabile, kompakte Wissensbasen (<50 000 Tokens); RAG bleibt die richtige Wahl für große, dynamische Bestände. Ein häufig eingesetztes Muster ist der Hybridansatz: LLM-Wiki für die stabilen Grundlagen im System-Prompt, RAG für lange Schwanzdaten und Echtzeitupdates. → Siehe llm wiki vs rag für den detaillierten Vergleich.

Grenzen

Verwandte Gedanken