Pytanie dla liderów
Gdy agent AI może wywoływać narzędzia, uzyskiwać dostęp do danych lub inicjować proces, architektura staje się formą delegowania uprawnień. Liderzy muszą wiedzieć, co system może zrobić, kto odpowiada za wynik i jak można zbadać jego działania.
Trzy decyzje projektowe
Oddziel cel agenta od jego uprawnień. Wyznacz granicę między rekomendacją a wykonaniem. Ustal warunki wymagające przeglądu lub interwencji człowieka.
Dowody przed autonomią
Pakiet przeglądu powinien łączyć zastosowanie z właścicielem, uprawnieniami narzędzi, granicami danych, śladem decyzji i procesem incydentowym. Głębokość weryfikacji powinna odpowiadać skutkom błędu.