AI Governance wird erst mit Evidenz und Rückwegen operativ
Einführung · 4 Abschnitte · ~8 Min Lesezeit · Stand
Risiko beginnt beim Nutzungskontext
Dasselbe Modell kann bei einer Textidee, einer Empfehlung oder einer automatisierten Entscheidung sehr unterschiedliche Schäden verursachen. Governance startet deshalb mit Zweck, Betroffenen, Wirkung, Grenzen und einem verantwortlichen Besitzer — nicht mit einer allgemeinen Modellbewertung.
Evidenz ist ein Release-Artefakt
| Vor Freigabe | Risikohypothesen, Eval-Fälle, Grenzen und Verantwortliche festhalten. |
|---|---|
| Während Betrieb | Qualität, Fehlermuster, Beschwerden und Eingriffe nachverfolgbar beobachten. |
| Bei Änderung | Modell, Prompt, Daten- oder Tool-Änderung erneut gegen den Risikokontext beurteilen. |
Menschliche Kontrolle braucht Entscheidungsmacht
Ein Mensch im Prozess ist nur dann eine Kontrolle, wenn er ausreichend Kontext, Zeit, Kompetenz und die echte Möglichkeit zum Stoppen oder Eskalieren hat. Reines Abnicken nach einer automatischen Wirkung ist keine wirksame Oversight.
- Risiko und Wirkung einordnen
- Kontrollen und Eval definieren
- Begrenzt freigeben
- Betrieb beobachten
- Bei Abweichung eingreifen und lernen
Gleich im Check
- Eine Modell- von einer Nutzungskontext-Risikoaussage unterscheiden
- Evidenz so wählen, dass sie eine Freigabe tatsächlich stützt
- Schein-Oversight von einer wirksamen Stop- oder Eskalationsentscheidung trennen