La question des dirigeants
Lorsqu’un agent IA peut appeler des outils, accéder aux données ou lancer un processus, l’architecture devient une délégation d’autorité. Les dirigeants doivent connaître ses permissions, le responsable du résultat et les moyens d’examiner son activité.
Trois décisions de conception
Séparer l’objectif de l’agent de ses autorisations. Définir la frontière entre recommandation et exécution. Établir les conditions exigeant une revue ou une intervention humaine.
Des preuves avant l’autonomie
Le dossier de revue relie l’usage à un responsable, aux permissions des outils, aux frontières des données, à une trace décisionnelle et à un processus d’incident. La profondeur de l’assurance doit refléter les conséquences d’une erreur.