Sentinel OS
Un humano coordinando 50 agentes de IA autónomos. La interfaz que hace eso posible.
Sentinel OS es un sistema de supervisión por excepción para flotas de agentes de IA. Fue diseñado para un escenario donde decenas de agentes autónomos toman decisiones operativas en paralelo —ventas, gestión de activos, mantenimiento y evaluación de inquilinos— mientras un único operador humano mantiene el control estratégico.
Contexto
Sentinel OS es un sistema de supervisión por excepción para flotas de agentes de IA. Fue diseñado para un escenario donde decenas de agentes autónomos toman decisiones operativas en paralelo —ventas, gestión de activos, mantenimiento y evaluación de inquilinos— mientras un único operador humano mantiene el control estratégico.
La interfaz nace de una pregunta concreta: ¿cómo puede una persona coordinar, confiar y corregir a 50 agentes de IA sin perderse en el ruido?
El problema
A medida que los agentes de IA toman más decisiones operativas, los equipos humanos pierden visibilidad sobre el porqué de cada acción. Sin una interfaz de confianza trazable, los operadores no pueden saber qué agente está tomando qué decisión en este momento, entender por qué un agente cambió de estado, intervenir a tiempo sin detener toda la operación ni auditar el origen de una decisión crítica.
Fricciones detectadas
- Exceso de autonomía opaco: los agentes actúan sin mostrar su confianza ni sus fuentes.
- Falta de jerarquía de atención: todo alerta con la misma intensidad, nada prioriza al operador.
- Sin trazabilidad operativa: cuando algo falla, no se puede reconstruir el camino de la decisión.
- Intervención binaria: solo se puede dejar correr o parar todo; no existe un control gradual.
- Riesgo en cascada invisible: un agente con datos corruptos puede propagar errores a toda la flota.
Investigación
Hice una investigación orientada a entender el modelo mental de un operador humano en sistemas de IA autónoma. El objetivo no era diseñar una consola más compleja, sino una superficie de confianza: la interfaz debe decirle al operador dónde mirar, por qué importa y qué puede hacer.
Acciones de research
- Mapeo de los 6 estados operativos del agente y sus transiciones posibles.
- Análisis de los 4 perfiles de agente y sus umbrales de riesgo diferenciados.
- Diseño de reglas de escalación por confianza, riesgo económico y dependencias cruzadas.
- Definición de 3 escenarios críticos de demo para testear intervención humana.
- Estudio de patrones de supervisión por excepción (exception-based monitoring) y circuit breakers.
- Revisión de necesidades de auditoría XAI: pasos, fuentes, confianza, impacto.
Proceso
Diseñé un sistema de estados y tokens que traduce la incertidumbre de la IA en señales visuales claras. Cada decisión se mide por confianza, riesgo económico y radio de impacto, y la interfaz prioriza automáticamente lo que requiere atención humana.
Decisiones clave
- Estados operativos diferenciados: idle, running, monitoring, intervention_required, circuit_open, suspended.
- Autonomy dial global: un control para ajustar cuánta autonomía delega el operador.
- Circuit breakers individuales: 4 niveles de contención por agente (solo leer, congelar, sin acceso, suspender).
- Supervisión por excepción: solo se muestran decisiones que cruzan el umbral de confianza o riesgo.
- Audit trail visual: cada decisión se descompone en pasos, fuentes, tokens y confianza histórica.
- Diseño oscuro técnico: paleta de alto contraste, componentes de alta densidad, micro-feedback con Framer Motion.
La solución
Diseñé una interfaz de coordinación con 6 secciones interconectadas que mantienen un mismo lenguaje visual.
Secciones interconectadas
- Panel principal: lectura inmediata del estado de toda la flota.
- Mis agentes: flota visualizada por tipo, estado, confianza y riesgo económico.
- Para revisar: cola de excepciones priorizada por impacto económico, con aprobación en un clic.
- Historial de decisiones: línea de tiempo de cada paso, fuentes consultadas y confianza histórica.
- Configuración: control de autonomía, circuit breakers, escenarios de demo y parada de emergencia.
- Cómo lo construí: documentación del proceso dentro del producto.
Funcionalidades destacadas
- Monitoreo en tiempo real de 12+ agentes con simulación de ticks cada 2 segundos.
- Score de confianza por agente con sparklines y umbrales visuales.
- Gestión de excepciones con aprobación individual y revertido.
- Decision audit / XAI: trazabilidad completa del porqué de cada decisión.
- Circuit breakers por agente y parada de emergencia por scope.
- Escenarios de riesgo en vivo: price loop, screening bias, retry storm.
- Intervención human-in-the-loop sin detener la flota completa.
Impacto
Sentinel OS reduce la incertidumbre del operador al gobernar una flota de IA. La atención se concentra en lo que realmente necesita revisión, mientras el sistema mantiene trazabilidad y control granular sobre cada agente.
Reflexión
Sentinel OS me recordó que el diseño de IA no se trata de hacer que la máquina parezca humana, sino de hacer transparente lo que la máquina está haciendo. La confianza en sistemas autónomos no nace de la autonomía total, sino de la capacidad de recuperar el control en el momento justo.
Una interfaz clara en AI Governance no es solo un dashboard: es el contrato visual entre el operador y la flota.