Glossar: KI-gestützte Entwicklung
In meinen Artikeln zur KI-gestützten Entwicklung verwende ich eine Reihe von Fachbegriffen, die zwar im Text kurz erklärt werden, aber schnell wieder aus dem Kopf rutschen können. Hier findest du sie alphabetisch sortiert in einer kompakten Form zum Nachschlagen. Jeder Eintrag ist so gehalten, dass ein Einsteiger versteht, worum es geht, und ein Senior trotzdem nicht die Augen verdreht.
A
Attention / Self-Attention
Der Mechanismus, mit dem ein Sprachmodell beim Verarbeiten eines Prompts jedes Token in Beziehung zu jedem anderen Token setzt. Self-Attention ist der Kern der Transformer-Architektur, auf der aktuelle große Sprachmodelle basieren. Der entscheidende Punkt für die Praxis: Der Rechenaufwand skaliert quadratisch mit der Länge des Prompts. Ein doppelt so langer Prompt ist im Prefill nicht doppelt, sondern rund viermal so aufwendig. Das ist der eigentliche Grund, warum lange Kontexte nicht nur teurer, sondern auch spürbar langsamer sind.
C
Cache-Präfix
Der Teil eines Prompts, der über viele Requests hinweg unverändert am Anfang steht — typischerweise Systemregeln, Projektregeln und Memory-Dateien. Wenn ein API-Anbieter wie Anthropic Prompt-Caching unterstützt, zahlst du für diesen Präfix-Teil nach dem ersten Request nur noch einen Bruchteil des normalen Input-Preises. Bedingung: Der Präfix muss über die Requests hinweg Zeichen für Zeichen gleich sein. Ein einziger Datumsstempel am Anfang reicht, um den Cache zu zerbrechen — der Rest dahinter wird dann wieder zum Volltarif berechnet.
Cache-Read / Cache-Write
Die zwei Operationen, aus denen Prompt-Caching bei Anthropic und anderen Anbietern besteht. Beim ersten Request, der einen Präfix cachen soll, fällt ein Cache-Write an — einmalig teurer als normale Input-Tokens. In jedem folgenden Request, der denselben Präfix trifft, zahlst du nur noch den Cache-Read-Preis, der deutlich niedriger liegt. Die genauen Faktoren stehen in der offiziellen Anthropic-Dokumentation zum Prompt-Caching, sie verschieben sich gelegentlich. Als Größenordnung reicht: Cache-Reads sind etwa auf ein Zehntel reduziert, Cache-Writes sind einmalig teurer als der Volltarif.
Claude Code
Ein Kommandozeilen-basierter KI-Assistent von Anthropic, der in einem Projektverzeichnis arbeitet und dort Dateien lesen, schreiben und Shell-Befehle ausführen kann. Technisch gesehen ist er eine Anwendung, die bei jedem Request einen Prompt aufbaut, die aktuelle Sitzung und Projektdateien einbezieht und an ein Claude-Modell schickt. Der Kern-Punkt für die Praxis: Claude Code ist stateless wie jeder andere API-Client auch — was er „weiß“, weiß er, weil es in einer Datei wie CLAUDE.md oder memory.md steht, die bei Sitzungsbeginn geladen wird.
F
Frontmatter
Ein kurzer Metadaten-Block am Anfang einer Markdown-Datei, meist zwischen zwei ----Zeilen, der maschinenlesbare Angaben zu Name, Beschreibung und Typ der Datei enthält. Im Kontext von Memory-Dateien hat Frontmatter einen konkreten Token-Vorteil: Der Assistent kann anhand der Beschreibung entscheiden, ob eine Datei für die aktuelle Aufgabe relevant ist, ohne sie vollständig laden zu müssen. Eine gute Beschreibung spart einen ganzen Lesevorgang.
K
Kontextfenster
Die maximale Sequenzlänge, die ein Sprachmodell pro Request verarbeiten kann — gemessen in Tokens. Wichtig zur Abgrenzung: Das Kontextfenster ist kein Speicher und kein Gedächtnis. Es wird bei jedem Request neu befüllt, und was in der letzten Sitzung darin stand, ist in der nächsten weg, sofern die Anwendung es nicht erneut mitschickt. Größere Kontextfenster erlauben längere Prompts, lösen aber nicht das Problem, dass ein Modell zwischen Requests stateless ist.
KV-Cache
Der Key-Value-Cache innerhalb der Transformer-Architektur, in dem während der Token-Generierung die bereits berechneten Aufmerksamkeits-Zwischenergebnisse gespeichert werden. Trotz des Namens ist der KV-Cache nicht dasselbe wie Prompt-Caching. Der KV-Cache ist ein implementierungsinternes Detail der Modell-Inferenz und beschleunigt die Ausgabe-Erzeugung, während Prompt-Caching ein API-Feature ist, das stabile Prompt-Präfixe über Requests hinweg günstiger macht. Wer beide Begriffe vermischt, hat schnell einen falschen Eindruck davon, wofür welcher Mechanismus zuständig ist.
L
LLM (Large Language Model)
Ein sehr großes neuronales Netz, das auf Text-Verarbeitung trainiert ist und Tokens auf Basis der bisherigen Sequenz vorhersagt. Aktuelle Modelle wie Claude, GPT oder Gemini sind LLMs. Die für die Praxis entscheidende Eigenschaft: Ein LLM ist stateless. Es hat zwischen zwei API-Anfragen keinen inneren Zustand, der irgendetwas aus der vorherigen Sitzung „weiß“. Jeder Eindruck von Gedächtnis entsteht dadurch, dass die Anwendung den bisherigen Verlauf bei jedem Request erneut mitschickt.
Lost in the Middle
Ein in der Fachliteratur dokumentierter Effekt (Liu et al., 2023), nach dem Sprachmodelle Inhalte am Anfang und am Ende eines Prompts stärker gewichten als Inhalte in der Mitte. Je länger der Prompt wird, desto stärker verdünnen sich relevante Informationen irgendwo dazwischen. Das ist kein Ausreißer bei einem einzelnen Modell, sondern ein robust beobachtetes Muster. Praktische Konsequenz: Ein vollgepackter Kontext liefert oft messbar schlechtere Antworten als ein verdichteter — selbst wenn die theoretische Informationsmenge identisch ist.
M
Memory-Datei (memory.md)
Eine versionierte Textdatei, die der Assistent beim Start einer Sitzung in den Prompt lädt, um Projektkontext, Nutzerpräferenzen und stabile Erfahrungswerte zur Hand zu haben. Kein proprietärer Mechanismus, kein Tool-Feature — schlicht Text, der an einer bekannten Stelle liegt und gelesen wird. Abgrenzung zum Langzeitgedächtnis: Das Modell „lernt“ nichts aus der Memory-Datei, es liest sie. Was in der Datei steht, ist für die aktuelle Sitzung präsent; was nicht drinsteht, ist nicht präsent. Diese Klarheit ist der Unterschied zwischen einer korrigierbaren Ablage und einer Black Box.
P
Prefill
Der erste Verarbeitungsschritt eines Prompts, bei dem das Modell die gesamte Eingabesequenz einmal durchläuft, bevor es mit der Token-Generierung der Antwort beginnt. Das Prefill ist der Schritt, in dem die Self-Attention über alle Input-Tokens läuft — und damit der Schritt, dessen Aufwand quadratisch mit der Promptlänge skaliert. Lange Kontexte werden nicht nur teurer, sondern auch spürbar träger, und diese Trägheit sitzt genau hier.
Prompt-Caching
Ein API-Feature, bei dem ein stabiler Prompt-Präfix auf der Server-Seite zwischengespeichert wird, sodass folgende Requests diesen Teil nicht mehr neu berechnen lassen müssen. Bei Anthropic wird dafür ein cache_control-Breakpoint gesetzt, und der gecachte Teil hat eine TTL — standardmäßig im Bereich weniger Minuten, optional eine längere Variante, die mehr kostet, aber länger hält. Der Vorteil entsteht nur, wenn der Präfix über die Requests hinweg wirklich stabil bleibt. Ein Datumsstempel oder ein Test-Zähler am falschen Ort macht den Cache unwirksam.
R
RAG (Retrieval-Augmented Generation)
Ein Pattern, bei dem eine Anwendung Wissen nicht vollständig in den Prompt packt, sondern bei Bedarf aus einer Vektordatenbank abruft und den relevanten Ausschnitt zum aktuellen Request dazugibt. RAG ist die richtige Wahl, wenn du Hunderte von Dokumenten hast, aus denen pro Frage jeweils ein kleiner Teil gebraucht wird. Für kompaktes projektspezifisches Meta-Wissen — Arbeitsweise, Konventionen, laufende Entscheidungen — ist dagegen eine Memory-Datei die passendere Ebene, weil sie ohne Vektorsuche auskommt und immer präsent ist.
S
Stateless
Ein System ist stateless, wenn es zwischen zwei Anfragen keinen eigenen Zustand hält. Sprachmodelle sind in diesem Sinn stateless: Sie haben zwischen zwei Requests kein inneres Gedächtnis, das irgendetwas aus der vorherigen Interaktion weiß. Was dennoch wie Gedächtnis wirkt, ist immer das Ergebnis davon, dass die Anwendung bei jedem neuen Request den bisherigen Verlauf erneut mitschickt. Diese Wiederholung ist der wichtigste Grund, warum Token-Disziplin überhaupt ins Gewicht fällt — alles, was in einer Sitzung einmal gesagt wurde, wird bei jedem Folge-Request erneut bezahlt.
Subagent
Eine vom Hauptgespräch abgetrennte Assistenten-Instanz, die eine spezifische Teilaufgabe bearbeitet und am Ende einen zusammengefassten Bericht an den Hauptkontext zurückliefert. Der praktische Gewinn liegt in der Kontext-Trennung: Die oft umfangreichen Zwischenschritte — gelesene Dateien, Suchvorgänge, Rohdaten — landen im Kontext des Subagenten und nicht im Hauptgespräch. Wer grosse Recherchen an Subagenten delegiert, spart im Hauptkontext sowohl Tokens als auch das Lost-in-the-Middle-Rauschen.
System-Präfix
Der Teil eines Prompts, der vor dem eigentlichen Gesprächsverlauf steht und typischerweise Systemregeln, Rollenbeschreibung, Projektregeln und Memory-Dateien enthält. Er wird bei jedem Request mitgeschickt — in genau dieser Reihenfolge. Der System-Präfix ist der Ort, an dem Prompt-Caching am meisten Sinn ergibt, weil er sich selten ändert und bei jeder Interaktion geladen wird. Umgekehrt ist er auch der Ort, an dem eine einzige flüchtige Zeile den größten Schaden anrichten kann.
T
Token
Die Verarbeitungs- und Abrechnungseinheit eines Sprachmodells. Ein Token ist nicht gleichbedeutend mit einem Wort — der Tokenizer zerlegt Text in Einheiten, die mal aus einem ganzen Wort, mal aus einer Silbe, mal nur aus einem Leerzeichen oder einem Sonderzeichen bestehen. Faustregel: Im Englischen entsprechen rund drei bis vier Zeichen einem Token, im Deutschen wegen der längeren Wörter und der Umlaute eher weniger. Input- und Output-Tokens werden getrennt gezählt und unterschiedlich teuer berechnet.
Tokenizer
Die Komponente eines Sprachmodells, die Text in Tokens zerlegt, bevor das eigentliche Modell ihn verarbeitet. Der Tokenizer ist modell-spezifisch — zwei verschiedene Modelle können denselben Satz in unterschiedlich viele Tokens zerlegen, und Deutsch wird in vielen Tokenizern ungünstiger kodiert als Englisch. Für die Praxis heißt das, dass Token-Schätzungen immer relativ zum konkreten Modell zu sehen sind und kleine Unterschiede bei Umlauten und Sonderzeichen größere Effekte haben können, als man erwartet.
TTL (Time to Live)
Die begrenzte Haltbarkeit eines gecachten Werts. Im Kontext von Prompt-Caching hat der gecachte Präfix eine TTL — wird er innerhalb dieser Zeitspanne nicht erneut benutzt, verfällt er, und der nächste Request muss den Präfix wieder frisch schreiben. Anthropic bietet typischerweise eine kurze TTL im Bereich weniger Minuten als Standard und eine längere Variante als Option, die mehr kostet, dafür aber über längere Phasen gültig bleibt. Die genauen Werte stehen in der offiziellen Dokumentation und verschieben sich gelegentlich.
V
Vibe-Coding
Ein Arbeitsmodus mit einem KI-Assistenten, bei dem eine Anforderung eingegeben und der gelieferte Code ohne tiefere Prüfung übernommen wird — solange er läuft, ist er gut genug. Für Prototypen, Wegwerf-Skripte und Feasibility-Checks ist dieser Modus völlig legitim, manchmal der einzig sinnvolle. Das Lernen ist dabei allerdings nahe null: Der Code geht durch den Entwickler durch, nicht in ihn hinein. Die Abgrenzung zum ernsthaften Pair-Programming mit einer KI ist keine Frage des Werkzeugs, sondern des Umgangs damit.