Die Führungsfrage
Wenn ein KI-Agent Werkzeuge aufrufen, auf Daten zugreifen oder Prozesse anstoßen kann, wird Architektur zur Delegation von Befugnissen. Führungskräfte müssen wissen, was erlaubt ist, wer das Ergebnis verantwortet und wie Aktivitäten überprüft werden können.
Drei Gestaltungsentscheidungen
Das Ziel des Agenten von seinen Befugnissen trennen. Die Grenze zwischen Empfehlung und Ausführung definieren. Bedingungen festlegen, unter denen menschliche Prüfung oder Intervention erforderlich ist.
Nachweise vor Autonomie
Ein Prüfpaket verbindet den Anwendungsfall mit einem Verantwortlichen, Werkzeugbefugnissen, Datengrenzen, Entscheidungsspuren und einem Vorfallprozess. Die Prüftiefe sollte die Konsequenzen eines Fehlers widerspiegeln.