Un agent IA poate combina un model cu instrumente și un proces pentru îndeplinirea unei sarcini. Limitele autorității sale contează la fel de mult ca raționamentul: citirea informațiilor, pregătirea unei modificări și aplicarea ei afectează lumea în moduri diferite.
O proiectare utilă începe cu limite explicite. Ce poate accesa sistemul? Ce acțiuni necesită aprobare? Cine îl poate opri și cum poate fi anulată o greșeală? Sunt întrebări practice pentru cei care implementează și folosesc un sistem.
Cadrul NIST de gestionare a riscurilor IA este o referință pentru examinarea riscurilor pe întregul ciclu de viață al sistemului. Perspectiva noastră editorială este la fel de concretă: descriem sarcina, persoanele afectate, dovezile disponibile și responsabilitățile. Capacitățile mai mari nu elimină nevoia acestor alegeri.
Surse și lecturi suplimentare
Linkurile duc la relatările originale sau la cercetarea primară.


