¿Quién es responsable del trabajo cuando participa un agente de IA?
Respuesta corta: una persona sigue siendo responsable del resultado. La herramienta puede investigar, redactar, clasificar o ejecutar pasos acotados, pero alguien debe definir el objetivo, revisar excepciones, aprobar efectos importantes y corregir errores.
Respuesta corta: una persona sigue siendo responsable del resultado. La herramienta puede investigar, redactar, clasificar o ejecutar pasos acotados, pero alguien debe definir el objetivo, revisar excepciones, aprobar efectos importantes y corregir errores. Si nadie puede decir quién recibe el reclamo cuando falla, todavía no tienes un proceso: tienes un experimento con calendario.
Separa cuatro papeles
- Dueño del proceso: decide qué resultado cuenta como terminado, qué reglas se aplican y cuál es el límite de riesgo.
- Operador o revisor: inspecciona salidas, aprueba acciones que afectan terceros y atiende excepciones.
- Equipo técnico: configura accesos, integra sistemas, registra actividad y mantiene el control para detener el flujo.
- Patrocinador: revisa costo, calidad y si el piloto merece crecer o cerrarse.
Una persona puede ocupar varios papeles en una empresa pequeña. Lo que no puede pasar es que todos crean que la revisión le toca a otro.
Antes de agregar un agente, escribe las decisiones
Para un caso hipotético de seguimiento de pedidos, el agente puede reunir estado y redactar una actualización. El revisor confirma fechas y destinatario antes de enviarla. Un cambio de precio, promesa contractual o devolución se escala a quien tiene esa autoridad. Aclara también qué hacer si un sistema no responde: detenerse y mostrar el caso, no inventar una respuesta plausible.
Microsoft presentó Autopilot para trabajo recurrente en su entorno y Work IQ para conectar contexto de aplicaciones de negocio con acciones y aprobaciones. Son descripciones de proveedor; la distribución de responsabilidad en tu empresa no viene instalada con el producto. Microsoft Autopilot; Microsoft Work IQ.
Sobre cuánta autoridad darle a esa clase de herramienta escribí una guía: cuánta autoridad debes darle a Copilot Autopilot en tu negocio.
Entrena al equipo en límites, no solo en prompts
Enseña qué datos no deben compartirse, cómo verificar una respuesta con su fuente, cuándo rechazar un borrador y cómo reportar una falla. Prueba casos adversos: una instrucción escondida en un documento, un registro viejo y un permiso demasiado amplio. OWASP recomienda mínimo privilegio, aprobación explícita para acciones de alto impacto y trazabilidad. OWASP. NIST propone gobernar y medir riesgos a lo largo del ciclo de uso. NIST.
Una regla de escalamiento simple
Verde: borradores internos y trabajo reversible con control. Amarillo: respuestas inciertas o datos incompletos, revisión obligatoria. Rojo: dinero, datos sensibles, compromisos externos, cambios irreversibles, pausa y persona autorizada. Los colores son una propuesta de gestión, no una clasificación oficial de ninguna plataforma.
La pregunta de seguridad tiene su propio mapa: quién debe encargarse de la seguridad cuando la IA empieza a actuar.
Acción práctica: nombra a un dueño de un flujo y escribe quién aprueba su salida. Luego pregunta al equipo: "Si la IA se equivoca a las 5:00 p.m., ¿a quién llamamos?" Si hay silencio, ya sabes por dónde empezar.
Fuentes
- Microsoft: Copilot announcement (25 sep 2026).
- Microsoft: Work IQ (25 sep 2026).
- OWASP: AI Agent Security.
- NIST: AI RMF.
¿Te fue útil este artículo?