Propietario del sistema
Responde por rendimiento, versión desplegada y límites de operación. Mantiene la ficha técnica del modelo y autoriza los cambios de umbral que afectan a la salida productiva.
Gobernanza algorítmica / Marco operativo
Gobernanza algorítmica: roles, controles y trazabilidad
Un modelo de IA opera bajo carga, latencia y presión de decisión. La gobernanza algorítmica fija tres condiciones mecánicas: quién ejecuta cada control, con qué umbral se autoriza y qué registro queda en disco. Sin las tres, la decisión existe pero no es atribuible.
Ciclo de control · trazabilidad de extremo a extremo · registro firmado
Bucle de gobernanza
Preguntas frecuentes sobre el bucle de control
El bucle se ejecuta en cuatro fases encadenadas: definición de política, asignación de rol, ejecución del control y escritura del registro. Cada fase consume la salida de la anterior y produce una entrada verificable. Si una fase no deja traza en el sistema, el bucle se interrumpe y la decisión del modelo queda sin responsable asignable, lo que invalida cualquier auditoría posterior. La secuencia completa se describe en la metodología de evaluación de sistemas de IA.
¿Con qué frecuencia se revisa una política de gobernanza?
+
La revisión se dispara por evento, no por calendario: cambio de versión del modelo, cambio de fuente de datos, desviación del umbral por encima del 5 % o apertura de un incidente de severidad alta. En ausencia de eventos, se aplica una revisión fija semestral para mantener vigente la firma de aprobación.
¿Quién firma la autorización de despliegue?
+
Dos firmas: el propietario del sistema responde por el rendimiento y el propietario del riesgo por la exposición residual. Ninguna firma se sustituye por silencio administrativo; la ausencia de respuesta equivale a denegación y el pipeline de despliegue se bloquea en la etapa de aprobación.
¿Qué campos se escriben en el registro de decisión?
+
Marca temporal con zona, identificador y versión del modelo, hash de la entrada, umbral aplicado, resultado, identificador de la política vigente y firma criptográfica del rol que autorizó. El registro es append-only: la corrección se hace por anotación posterior, nunca por sobrescritura del evento original.
¿Cómo se mide la eficacia de un control?
+
Con tres indicadores operativos: tasa de excepciones aprobadas sobre total de ejecuciones, latencia media de aprobación entre solicitud y firma, y porcentaje de eventos con registro completo. Un control sin estos tres números no es un control, es una intención documentada. Los umbrales y las pruebas asociadas están recogidos en los estándares técnicos de IA.
Matriz de roles
Cuatro funciones con salida verificable
Cada rol del sistema produce un artefacto concreto: una política firmada, un conjunto de datos certificado, un informe de control o un registro de incidente. La matriz evita la ambigüedad de responsabilidad: un rol sin artefacto asignado no existe en el organigrama operativo y no puede figurar en el log de decisión.
Responsable de datos
Certifica el origen, la licitud y la calidad del conjunto de entrenamiento. Documenta transformaciones, sesgos medidos y ventanas de retención antes de cada reentrenamiento.
Auditor de control
Ejecuta pruebas sobre el registro de decisiones y emite el informe de conformidad. Su salida es binaria y trazable: control eficaz o no eficaz, con evidencia adjunta por cada muestra.
Operador de incidentes
Activa el protocolo de contención cuando la salida del modelo cruza el umbral de daño. Congela la versión afectada, abre el expediente y fija el plazo de resolución con cierre firmado.
Ciclo de riesgo
Cuatro etapas, una vuelta cerrada
El ciclo de riesgo se repite con la misma secuencia mecánica cada vez que cambia una entrada del sistema: identificar la fuente de exposición, medir su magnitud sobre la salida, aplicar la mitigación y monitorizar el resultado hasta la siguiente vuelta. La vuelta no se cierra por tiempo transcurrido, sino por evidencia registrada. El detalle de las pruebas se publica en los artículos técnicos de IA.
Etapa 01
Identificar y medir
Inventario de vectores: envenenamiento de datos, evasión de entrada, extracción de modelo y deriva de distribución. Cada vector recibe probabilidad e impacto en una escala de 1 a 5.
Etapa 02
Mitigar con control
El control se elige por mecánica: filtrado de entrada, límite de tasa, validación cruzada de salida o aislamiento del modelo. Todo control tiene propietario, umbral y prueba de eficacia asociada.
Etapa 03
Monitorizar y cerrar
Telemetría continua sobre tasa de excepciones y latencia de decisión. La vuelta se cierra cuando el registro demuestra que la exposición residual está por debajo del umbral aprobado.
Registro de decisiones
El log como única prueba válida
Una decisión automatizada se considera gobernada cuando puede reconstruirse fuera del sistema que la produjo. Eso exige un registro inmutable con entrada, versión, umbral y firma. Si el evento no se puede reproducir con esos cuatro campos, el control existió en el discurso pero no en la máquina.
La política de retención fija un mínimo de doce meses para eventos de decisión con impacto sobre personas y de veinticuatro meses para incidentes cerrados. El almacenamiento se separa del plano de ejecución para que una caída del servicio no arrastre la evidencia.
- 01Identificador único de evento y hash de la entrada original.
- 02Versión exacta del modelo, del conjunto de datos y de la política aplicada.
- 03Resultado, umbral y firma del rol que autorizó la ejecución.
Trazabilidad de auditoría
De la muestra al informe, sin saltos
La cadena de auditoría se recorre en sentido inverso al de la operación: se parte de una salida concreta, se recupera su evento de registro, se identifica el rol que firmó y se comprueba que el control aplicado era el vigente en esa fecha. Cualquier eslabón ausente invalida la muestra y obliga a repetir el muestreo ampliando el lote. Los criterios de conformidad y el procedimiento completo están descritos en la auditoría y cumplimiento de sistemas de IA.
El resultado se entrega como informe firmado con tres secciones fijas: alcance del muestreo, hallazgos con evidencia adjunta y plan de corrección con plazos. La corrección se verifica en la siguiente vuelta del ciclo, no se acepta por declaración del equipo responsable.
Un control sin registro no reduce riesgo: solo desplaza la incertidumbre hacia la siguiente auditoría. La trazabilidad se mide en eventos completos, no en documentos redactados.
Criterio de cierre del observatorio