Ein KI-Agent kann ein Modell mit Werkzeugen und einem Ablauf zur Bearbeitung einer Aufgabe verbinden. Der Umfang seiner Befugnisse ist ebenso wichtig wie sein Schlussfolgern: Informationen lesen, eine Änderung vorbereiten und sie ausführen wirken unterschiedlich auf die Welt.

Eine sinnvolle Gestaltung beginnt mit ausdrücklichen Grenzen. Worauf darf das System zugreifen? Welche Handlungen brauchen Zustimmung? Wer kann es unterbrechen und wie lässt sich ein Fehler rückgängig machen? Das sind praktische Fragen für die Menschen, die ein System einsetzen und nutzen.

Das NIST AI Risk Management Framework bietet einen Bezugspunkt für Risiken über den gesamten Lebenszyklus eines KI-Systems. Unser redaktioneller Blick ist ähnlich konkret: Aufgabe, betroffene Menschen, verfügbare Belege und Verantwortlichkeiten benennen. Höhere Leistungsfähigkeit ersetzt diese Entscheidungen nicht.

Quellen & weiterführende Lektüre

Die Links führen zu Originalberichten oder Primärforschung.

  1. NIST · AI Risk Management Framework
  2. Yao et al. · ReAct (2022)
Einen Fehler entdeckt? Lesen Sie unsere Redaktions- und Korrekturrichtlinie.