Kontext als Budget
Vor drei Monaten kamen 30 thematisch verwandte Abschnitte zusätzlich in den Kontext — das könne nur helfen. Heute liegt die Trefferquote 6 Punkte niedriger, ohne Modellwechsel und ohne Prompt-Änderung. Der Anteil des Relevanten fiel von 100 % auf 9 %, und die drei Abschnitte, auf die es ankam, rutschten in die schwächste Position des Fensters.
~30 Min · 12 Abschnitte Einführung · 9 Übungen (davon 2 Missionen)
Modul starten →
Fortschritt wird gespeichert — du kannst das Modul später jederzeit fortsetzen.
Das kannst du danach
- ✓Danach kannst du ein Kontextbudget explizit aufteilen: reservierte Pflichtteile, variable Posten mit Obergrenze und Priorität, und was gar nicht hineingehört.
- ✓Du erkennst den Positionseffekt und den Unterschied zwischen beanspruchter und effektiv nutzbarer Kontextlänge.
- ✓Du weißt, warum ein Zeitstempel im System-Prompt den Cache lautlos entwertet und wie du das nachprüfst.
Übungen
- 1. EntscheidungWas änderst du zuerst?
- 2. EntscheidungWie ist der Befund einzuordnen?
- 3. EntscheidungWas ist die naheliegendste Erklärung und Gegenmaßnahme?
- 4. EntscheidungWie gehst du mit dem Block um?
- 5. MissionEin Prompt-Aufbau, der den Cache lautlos entwertet
- 6. EntscheidungWie baust du die Kontextzusammenstellung um?
- 7. MissionDas Fenster aufteilen
- 8. EntscheidungWas ist die richtige Konsequenz?
- 9. EntscheidungWie führst du die Untersuchung?
Quellen & Aktualität5 Primärquellen · zuletzt geprüft:
- 01Liu et al., Lost in the Middle: How Language Models Use Long Contexts, TACL 2024
- 02Hsieh et al., RULER: What's the Real Context Size of Your Long-Context Language Models?, 2024
- 03Anthropic — Prompt caching (Präfix-Abgleich, Reihenfolge tools, system, messages, Cache-Kennzahlen)
- 04Anthropic — Prompting best practices: Structure prompts with XML tags
- 05Maynez et al., On Faithfulness and Factuality in Abstractive Summarization, ACL 2020
Verfasst von Julian Zentgraf