Injection-Abwehr im Systemdesign
Ein Assistent fasst Kunden-E-Mails zusammen und legt die Zusammenfassung als Ticketkommentar ab. Eine E-Mail enthält im Fußbereich einen unauffälligen Absatz — und der gespeicherte Kommentar trägt ein Markdown-Bild, dessen Adresse den Vertragsstatus als Parameter mitführt. Abgeflossen ist er, als ein Bearbeiter das Ticket geöffnet hat: kein Klick, kein Fehler, keine Spur.
~30 Min · 12 Abschnitte Einführung · 9 Übungen (davon 2 Missionen)
Modul starten →
Fortschritt wird gespeichert — du kannst das Modul später jederzeit fortsetzen.
Das kannst du danach
- ✓Danach kannst du benennen, warum es für Prompts kein Gegenstück zu vorbereiteten Anweisungen gibt und was daraus für die Verteidigung folgt.
- ✓Du erkennst, wann privater Datenzugang, nicht vertrauenswürdiger Inhalt und ein Weg nach außen in einer Sitzung zusammentreffen — und welchen Bestandteil du am günstigsten entfernst.
- ✓Du weißt, dass Markierung und Filter Raten senken, und welche Maßnahmen tatsächlich Grenzen setzen.
Übungen
- 1. EntscheidungWie ist der Vergleich zu bewerten?
- 2. EntscheidungWie ist die Einschätzung zu korrigieren?
- 3. MissionDie drei kritischen Bestandteile zuordnen
- 4. EntscheidungWie bewertest du den Vorschlag?
- 5. EntscheidungWas ist die tragfähige Reaktion?
- 6. EntscheidungWelche einzelne Maßnahme wirkt am stärksten?
- 7. EntscheidungWie ordnest du das Risiko ein?
- 8. EntscheidungWas ist der Defekt der Freigabe?
- 9. DiagnoseDer Kommentar, der nach draußen funkt
Quellen & Aktualität6 Primärquellen · zuletzt geprüft:
- 01OWASP Top 10 for LLM Applications 2025, LLM01: Prompt Injection
- 02Greshake et al., Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, AISec 2023
- 03Willison, The lethal trifecta for AI agents: private data, untrusted content, and external communication, 2025
- 04Wallace et al., The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions, 2024
- 05Anthropic — Prompting best practices: Structure prompts with XML tags
- 06NIST AI Risk Management Framework, Core (Manage)
Verfasst von Julian Zentgraf