LLM Production Ops

Guardrails im laufenden Betrieb

Der Filter blockiert mehr Anfragen, doch niemand weiß, ob Angriffe oder legitime Nutzer betroffen sind. Unter Last wird ausgerechnet die Schutzschicht zur Engstelle. Ein Guardrail ist erst dann belastbar, wenn auch sein Ausfall und Kollateralschaden betrieben werden.

~25 Min · 10 Abschnitte Einführung · 8 Übungen (davon 2 Missionen)

Modul starten →

Fortschritt wird gespeichert — du kannst das Modul später jederzeit fortsetzen.

Nur den Lehrtext lesen →

Das kannst du danach

  • Danach kannst du Ein- und Ausgabeprüfungen an der fachlich wirksamen Stelle platzieren.
  • Du entscheidest Fail-open oder Fail-closed anhand der konkreten Wirkung statt eines globalen Defaults.
  • Du weißt, wie Schwellen, Policy-Versionen, SLIs, Deadlines und Kapazitätsgrenzen gemeinsam betrieben werden.

Übungen

  • 1. EntscheidungWie platzierst du die beiden Prüfungen?
  • 2. EntscheidungWas tust du zuerst?
  • 3. EntscheidungWelche Instrumentierung macht die Änderung entscheidbar?
  • 4. EntscheidungWelche Regelung führst du ein?
  • 5. EntscheidungWie reagierst du im laufenden Betrieb?
  • 6. ReihenfolgeEine neue Filterpolicy ohne Blindflug ausrollen
  • 7. MissionEine Schutzprüfung ohne eigenes Budget
  • 8. EntscheidungWelche Maßnahme stabilisiert Schutz und Nutzverkehr gemeinsam?

Arbeitsartefakte

Quellen & Aktualität5 Primärquellen · zuletzt geprüft:
  1. 01OWASP LLM01 Prompt Injection
  2. 02OWASP LLM10 Unbounded Consumption
  3. 03NIST AI RMF Core
  4. 04Google SRE Book, Addressing Cascading Failures
  5. 05Google SRE Workbook, Managing Load

Verfasst von Julian Zentgraf