Human-in-the-loop.
Arquitectura técnica donde una decisión de un sistema de IA pasa por revisión humana antes de ejecutarse. Solo es efectiva si la persona humana puede bloquear la decisión del modelo, opera sobre muestra estadísticamente significativa, y documenta la intervención con trazabilidad consultable.
Tres versiones operativas frecuentes. HITL efectivo · la persona revisa, puede bloquear, y la trazabilidad de la intervención queda registrada. HITL nominal · la persona figura como revisor en el procedimiento documentado pero en operación efectiva no puede bloquear o solo revisa muestra no representativa. HITL ausente · el procedimiento no contempla revisión humana o la contempla solo en casos extremos que rara vez ocurren. Solo el primer caso cumple con la cláusula de supervisión humana de ISO 42001:2023.
Sistema de scoring crediticio · si el modelo aprueba o deniega directamente sin que ningún funcionario pueda intervenir, no hay HITL. Si la revisión humana opera sobre el 1% del flujo sin criterio de muestreo y nunca bloqueó decisiones, es HITL nominal. Si la revisión opera sobre muestra estadísticamente significativa, puede bloquear, y documenta sus intervenciones, es HITL efectivo.