LLM Production Ops

Release & Rollout

Das Image lässt sich zurückrollen, aber Prompt und Modell zeigen weiterhin auf veränderliche Aliasse. Als die Ausgabequalität kippt, existiert deshalb kein früherer Gesamtzustand. Ein LLM-Rollback ist nur so vollständig wie sein Releasevertrag.

~25 Min · 10 Abschnitte Einführung · 8 Übungen (davon 2 Missionen)

Modul starten →

Fortschritt wird gespeichert — du kannst das Modul später jederzeit fortsetzen.

Nur den Lehrtext lesen →

Das kannst du danach

  • Danach kannst du alle verhaltenswirksamen Bestandteile unter einer unveränderlichen Release-ID zusammenführen.
  • Du unterscheidest Shadow, Canary, Kill-Switch und Rollback nach Nutzerwirkung und Beweisziel.
  • Du weißt, wie Kontrollgruppe, Stop-Grenzen und hermetische Referenzen einen reversiblen Rollout ermöglichen.

Übungen

  • 1. EntscheidungWas brauchst du, um das entgleiste Feature sofort zu entschärfen?
  • 2. EntscheidungWie strukturierst du Releases dieses Features künftig?
  • 3. EntscheidungWie referenzierst du das Modell in Produktion künftig?
  • 4. EntscheidungWie bringst du die Variante in Produktion?
  • 5. EntscheidungWie validierst du die neue Variante vor dem ersten Nutzerkontakt?
  • 6. EntscheidungWie definierst du den Rollback-Auslöser für diese Qualitätsregression?
  • 7. ReihenfolgeEine Prompt-Änderung kontrolliert ausrollen
  • 8. MissionEin Rollback, das nur den Container kennt

Arbeitsartefakte

Quellen & Aktualität5 Primärquellen · zuletzt geprüft:
  1. 01Google SRE Workbook, Canarying Releases
  2. 02Google SRE Workbook, Configuration Design
  3. 03Kubernetes Deployments
  4. 04Kubernetes Rolling Update and Rollback
  5. 05NIST AI RMF Core

Verfasst von Julian Zentgraf