¿Quién debe encargarse de la seguridad cuando la IA empieza a actuar?
Respuesta corta: TI protege la infraestructura, pero la operación define qué acción se permite, quién la revisa y cómo se corrige un error. Un agente que redacta tiene un riesgo distinto al que cambia pedidos o escribe a clientes.
Respuesta corta: TI protege la infraestructura, pero la operación define qué acción se permite, quién la revisa y cómo se corrige un error. Un agente que redacta tiene un riesgo distinto al que cambia pedidos o escribe a clientes. La seguridad de IA ya no cabe solo en un manual de contraseñas: necesita un dueño del proceso, límites técnicos y un plan de incidentes.
Los anuncios de septiembre de 2026 dan una pista del problema, no su solución universal. Anthropic anunció Enterprise Frontier Safeguards, con opciones de almacenamiento y monitoreo de señales en infraestructura controlada por clientes; UiPath anunció mejoras de gobierno, datos, conectividad y despliegue para mantener automatizaciones dentro de límites definidos por empresas. Son anuncios de proveedores. Que una plataforma ofrezca controles no significa que estén configurados, disponibles en tu plan o ajustados a tu proceso. Anthropic; UiPath.
El contexto completo de esos anuncios: del chat al trabajo: agentes de IA, septiembre 2026.
Cuatro controles que el negocio puede entender
- Acceso: ¿qué puede leer y escribir cada agente? Una cuenta con permisos de administrador para resumir tickets es como prestar la llave maestra para abrir un cajón. Limita herramientas, datos y duración del acceso.
- Aprobación: clasifica las acciones. Los resúmenes pueden quedar en borrador; los cambios visibles para clientes, pagos o borrados requieren revisión ligada a la acción exacta. OWASP recomienda aprobaciones explícitas para acciones de alto impacto y validación independiente de la ejecución. OWASP.
- Registro y alertas: conserva quién pidió qué, qué fuentes se consultaron, qué se aprobó y qué ocurrió. Protege también los registros para no crear una copia innecesaria de datos sensibles.
- Salida de emergencia: nombra a quien puede pausar el flujo, revocar credenciales, investigar y comunicar un error. Practica una falla pequeña antes de ponerlo en tareas críticas.
¿Qué puede salir mal?
Un correo externo puede contener una instrucción maliciosa; un agente puede interpretar texto ajeno como una orden. También puede usar datos que un empleado no debía ver, repetir una respuesta errónea a escala o ejecutar una acción que ningún humano aprobó. OWASP documenta inyección de instrucciones, autonomía excesiva y manipulación de aprobaciones como riesgos; la respuesta no es prometer que nunca pasarán, sino reducir permisos, probar límites y observar el sistema.
Reparto de responsabilidades
El dueño del proceso decide el resultado aceptable y las excepciones. TI y seguridad implementan identidades, permisos, monitoreo y respuesta. La persona que supervisa el trabajo revisa calidad y corrige casos. Dirección decide el nivel de riesgo tolerable. Puedes combinar roles en una empresa pequeña, pero no dejar una casilla vacía. El marco NIST AI RMF ofrece un lenguaje común para gobernar, mapear, medir y gestionar riesgos. NIST.
La responsabilidad del resultado tiene su propia guía: quién es responsable del trabajo cuando participa un agente de IA.
Acción de hoy: escribe el nombre del responsable de cada acción automatizada, su permiso máximo y el número o canal para detenerla. Si nadie puede responder en un minuto quién apaga el flujo, todavía no está listo para actuar solo.
Fuentes
- Anthropic: Enterprise Frontier Safeguards (1 sep 2026).
- UiPath: Platform updates (23 sep 2026).
- OWASP: AI Agent Security Cheat Sheet.
- NIST: AI RMF.
¿Te fue útil este artículo?