Un agente de IA puede combinar un modelo con herramientas y un proceso para realizar una tarea. El alcance de su autoridad importa tanto como su razonamiento: leer información, preparar un cambio y ejecutarlo afectan al mundo de formas distintas.

Un diseño útil empieza por límites explícitos. ¿A qué puede acceder el sistema? ¿Qué acciones requieren aprobación? ¿Quién puede interrumpirlo y cómo se revierte un error? Son preguntas prácticas para quienes implementan y utilizan un sistema.

El marco de gestión de riesgos de IA del NIST es una referencia para considerar riesgos durante todo el ciclo de vida de un sistema. Nuestra mirada editorial también es concreta: describir la tarea, las personas afectadas, las pruebas y las responsabilidades. Una mayor capacidad no elimina la necesidad de tomar esas decisiones.

Fuentes y lecturas adicionales

Los enlaces llevan a la información original o a investigaciones primarias.

  1. NIST · AI Risk Management Framework
  2. Yao et al. · ReAct (2022)
¿Has visto un error? Consulta nuestra política editorial y de correcciones.