Agentes de IA que ejecutan procesos con control humano

Un agente de inteligencia artificial es un sistema que interpreta un objetivo, mantiene el estado de una tarea, selecciona herramientas autorizadas y ejecuta varios pasos dentro de límites definidos. A diferencia de un chatbot, no se limita a producir una respuesta de texto; puede consultar un CRM, buscar un documento, preparar un registro o solicitar una aprobación. A diferencia de una automatización tradicional, puede elegir entre rutas cuando la entrada no es totalmente predecible. Esa flexibilidad introduce riesgo: un agente puede equivocarse o intentar una acción fuera de contexto. Por eso necesita identidad, permisos mínimos, registro de actividad, evaluaciones, límites de coste y escalado humano. “Autónomo” no significa sin supervisión. Los registros, las rutas de recuperación y la responsabilidad humana forman parte del servicio para que cada acción pueda revisarse, corregirse y atribuirse con responsables definidos.

La arquitectura de un agente fiable separa cinco capas: modelo, conocimiento, herramientas, estado y control. El modelo interpreta; RAG recupera información autorizada; las herramientas exponen acciones; el estado registra lo ocurrido; y el control decide si una acción está permitida. El Model Context Protocol estandariza conexiones con herramientas y datos, pero no concede seguridad automáticamente: cada servidor, credencial y operación debe limitarse. Agent2Agent permite interoperabilidad entre agentes cuando existen sistemas separados. La trazabilidad conserva entradas, llamadas y resultados para investigar fallos. Las evaluaciones prueban casos normales, extremos y adversos antes de ampliar alcance.

Los controles combinan prevención, detección y recuperación. La prevención limita credenciales, herramientas, importe, frecuencia y datos. La detección usa validaciones, evaluaciones y alertas. La recuperación detiene el flujo, revierte acciones cuando es posible y entrega contexto a una persona. Ningún guardrail garantiza ausencia de errores; reduce probabilidad e impacto. Para acciones sensibles aplicamos aprobación previa y reglas deterministas. También separamos prueba y producción, protegemos secretos y minimizamos datos. La Comisión Europea detalla obligaciones de transparencia aplicables a determinados sistemas desde agosto de 2026.