Kontextfenster: Definition und Bedeutung
Definition
Das Kontextfenster ist die Menge an Text, die ein Sprachmodell pro Anfrage gleichzeitig berücksichtigen kann, gemessen in Tokens. Es umfasst Eingabe und erzeugte Antwort zusammen. Passt mehr Text hinein, kann das Modell mehr Zusammenhang beachten, kürzere Fenster erzwingen Auswahl. Das Kontextfenster begrenzt, wie viel ein Modell in einem Durchgang überblickt, und beeinflusst damit Ergebnis und Kosten.
Warum der Begriff zählt
Denk an einen Schreibtisch, auf dem nur eine bestimmte Zahl an Seiten gleichzeitig liegen kann. Legst du zu viel auf, fällt Älteres herunter und wird nicht mehr beachtet. Das Kontextfenster ist genau diese Tischgröße. Der Begriff zählt, weil er entscheidet, ob ein langes Dokument am Stück verarbeitet werden kann oder aufgeteilt werden muss. Als neutrale Beratung schneiden wir Anwendungen so zu, dass sie zuverlässig innerhalb der Grenzen bleiben.
Wann es relevant ist
- Lange Dokumente oder ganze Vorgänge sollen in einem Durchgang verarbeitet werden.
- Ein Chat soll sich über viele Nachrichten hinweg an den Verlauf erinnern.
- Die Wahl des Modells hängt an der benötigten Textmenge pro Anfrage.
- Ergebnisqualität leidet, weil relevanter Kontext nicht mehr ins Fenster passt.
Wann nicht
Bei kurzen Anfragen spielt die Fenstergröße keine Rolle, da passt ohnehin alles hinein. Und ein größeres Fenster ist nicht automatisch besser, denn mehr Text bedeutet mehr Tokens und höhere Kosten. Die Fenstergröße ist eine Randbedingung, kein Qualitätsversprechen, und sollte am Bedarf ausgerichtet sein.
Branchen, die das nutzen
- Rechtsberatung: lange Verträge möglichst am Stück auswerten, statt sie fehleranfällig zu zerteilen.
- Wirtschaftsprüfung: umfangreiche Berichte im Zusammenhang prüfen, ohne den Überblick zu verlieren.
- Gesundheitswesen: lange Fallverläufe zusammenhängend berücksichtigen, unter Beachtung des Datenschutzes.
- Technische Redaktion: große Handbücher in sinnvollen Abschnitten verarbeiten, die ins Fenster passen.
Typische Anwendungsfälle
- Ein langes Dokument wird an das Modell übergeben, sofern es ins Fenster passt.
- Zu große Inhalte werden in Abschnitte geteilt und einzeln verarbeitet.
- Ein Wissensabruf über RAG liefert nur die relevanten Stellen statt des ganzen Bestands.
- Ein Chatverlauf wird zusammengefasst, damit er im Fenster bleibt.
- Die Modellwahl richtet sich nach der benötigten Textmenge pro Anfrage.
Entscheidungshilfe
| Signal | Kontextfenster zählt | Alternative |
|---|---|---|
| Lange Dokumente am Stück | Modell mit passendem Fenster wählen | Zerteilen erhöht Fehlerrisiko |
| Sehr große Wissensbasis | nur Relevantes ins Fenster holen | RAG statt alles hineinlegen |
| Kurze Anfragen | zweitrangig | Standardmodell genügt |
| Kosten im Blick | Fenster nicht unnötig füllen | mehr Tokens kosten mehr |
Beispiel
Eine Rechtsberatung will lange Verträge auswerten lassen. Wir prüfen, ob der Vertrag komplett ins Kontextfenster passt, und wählen ein Modell mit ausreichend großem Fenster. Für die umfangreiche Vertragssammlung nutzen wir zusätzlich einen Wissensabruf, der nur die relevanten Klauseln übergibt. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.
Verbindung zu Services
Wie viel Kontext ein Fall braucht und welches Modell passt, klären wir in der KI-Potenzialanalyse. Den passenden Zuschnitt samt Wissensabruf begleitet die KI-Implementierung, Datenschutzfragen die EU-AI-Act-Beratung.
Verwandte Begriffe
Quellen
Diese Einordnung beschreibt gängige Praxis im Umgang mit Sprachmodellen. Konkrete Fenstergrößen unterscheiden sich je Modell und ändern sich schnell und sollten im Einzelfall gegen die aktuelle Anbieterdokumentation geprüft werden.