← AI-Grundlagen für den IT-Betrieb

Tools & Agenten — vom Antworten zum Handeln

Das Modell erzeugt nur einen Tool-Aufruf — gelöscht wird trotzdem. Ohne klare Trennung zwischen Vorschlag, Ausführer und Autorisierung landet Verantwortung im Prompt. Schema, Policy, Idempotenz und Budget müssen die Wirkung außerhalb des Modells begrenzen.

~25 Min · 10 Abschnitte Einführung · 8 Übungen (davon 3 Missionen)

Modul starten →

Fortschritt wird gespeichert — du kannst das Modul später jederzeit fortsetzen.

Nur den Lehrtext lesen →

Das kannst du danach

  • ✓Danach kannst du Modellentscheidung, Tool-Aufruf und reale Ausführung auseinanderhalten.
  • ✓Du unterscheidest feste Workflows von agentischen Schleifen.
  • ✓Du begrenzt schreibende Werkzeuge durch Schema, Berechtigung, Bestätigung und Idempotenz.

Übungen

  • 1. ReihenfolgeVom Modellvorschlag zur erlaubten Wirkung
  • 2. EntscheidungWie bewertest du diese Antwort?
  • 3. EntscheidungWie legst du das an?
  • 4. EntscheidungWas änderst du am Entwurf?
  • 5. EntscheidungWo liegt der Denkfehler und was folgt daraus?
  • 6. DiagnoseDie fehlende Autorisierungsgrenze
  • 7. MissionOffene Wirkung im Tool-Katalog
  • 8. EntscheidungWelche Grenze fehlt im System?

Arbeitsartefakte

Quellen & Aktualität15 Primärquellen · zuletzt geprüft:
  1. 01Schick et al. — Toolformer: Language Models Can Teach Themselves to Use Tools, NeurIPS 2023
  2. 02Yao et al. — ReAct: Synergizing Reasoning and Acting in Language Models, ICLR 2023
  3. 03Model Context Protocol — Specification, Abschnitt Tools
  4. 04OWASP Top 10 for Large Language Model Applications
  5. 05Yao et al. — ReAct: Synergizing Reasoning and Acting in Language Models, ICLR 2023
  6. 06Model Context Protocol — Tools Specification
  7. 07Model Context Protocol — Architecture
  8. 08OWASP GenAI Security Project — LLM06:2025 Excessive Agency
  9. 09NIST SP 800-53 Rev. 5 — Access Control
  10. 10OWASP Top 10 for Large Language Model Applications — Excessive Agency
  11. 11Beyer et al. (Hrsg.) — Site Reliability Engineering, O'Reilly 2016, Kapitel Automation
  12. 12Beyer et al. (Hrsg.) — Site Reliability Engineering, O'Reilly 2016, Kapitel Handling Overload
  13. 13Greshake et al. — Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, ACM AISec 2023
  14. 14OWASP Top 10 for Large Language Model Applications — Prompt Injection
  15. 15Greshake et al. — Not What You've Signed Up For, AISec 2023

Verfasst von Julian Zentgraf