La AI Incident Database permite consultar incidentes y daños asociados con sistemas de inteligencia artificial. En paralelo, el Consejo de la Unión Europea aprobó el 29 de junio de 2026 una revisión del calendario aplicable a los sistemas de alto riesgo. La coexistencia de ambos hechos no prueba una relación causal. Sí deja una pregunta concreta para cada organización · qué cambia en sus sistemas entre una decisión de gobierno y la siguiente.
La pregunta operativa de este criterio cabe en una línea · ¿quién gobierna lo que cambia entre reunión y reunión? La revisión periódica sigue siendo necesaria, pero puede resultar insuficiente cuando el proveedor modifica un modelo, aparece un caso de uso o cambia el contexto operativo antes de la próxima sesión. La brecha no se presume: se mide comparando esos cambios con la capacidad real de detectarlos y tratarlos.
La brecha de relojes · verifíquela usted mismo
La cadencia exacta varía por proveedor, modelo y modalidad de despliegue. Para conocer la propia, conviene contrastar las notas de versión y los cambios registrados por los proveedores utilizados con las actas, revisiones técnicas e incidentes internos del mismo período. La diferencia no es un índice universal de madurez. Es evidencia para decidir si la frecuencia de revisión, los umbrales y los responsables alcanzan para el riesgo asumido.
El órgano de gobierno no necesita reunirse ante cada cambio menor. Necesita definir quién observa, qué evento exige una revisión extraordinaria y quién puede limitar o suspender un uso mientras se evalúa. El Criterio 09 desarrolla esa disciplina. Aquí importa dejar identificada la distancia entre el calendario formal y la operación.
Shadow AI · el alcance que la organización no declaró
El fenómeno más urgente de la práctica auditora en sistemas certificados tiene nombre técnico · Shadow AI. Equipos comerciales que redactan propuestas con modelos de uso general cargando información identificable de clientes. Departamentos legales que suben contratos confidenciales a herramientas de revisión asistida sin acuerdo de procesamiento de datos. Recursos humanos evaluando candidatos con scoring de proveedores que no figuran en el inventario de activos. Finanzas operando modelos predictivos propios sin documentación técnica ni revalidación periódica.
La taxonomía operativa distingue tres tipos de activo de IA · el uso directo de herramientas de terceros, el prototipo construido internamente, y la IA embebida en los productos del proveedor — la más invisible de las tres, porque llega dentro de software que ya estaba inventariado como otra cosa.
El Criterio 03 llama alcance epistémico a la frontera entre lo que una evaluación cubre y lo que queda fuera. Shadow AI es esa frontera aplicada a la inteligencia artificial · una organización puede tener un sistema de gestión certificado y, al mismo tiempo, mantener usos de IA fuera del alcance del sistema, del inventario o de la evaluación de riesgos. El certificado debe leerse contra su alcance concreto; no como cobertura general de toda tecnología utilizada.
Tres planos que se confunden
La gobernanza de IA opera en tres planos. El sistema de gestión · políticas, inventario, responsables, registro. El riesgo técnico · sesgo, deriva, explicabilidad, robustez. El cumplimiento jurídico · las obligaciones que cada jurisdicción activa por fecha. Cada plano se audita distinto y se documenta distinto. El error recurrente de campo es usar uno para tapar otro · exhibir el sistema de gestión cuando se pregunta por la deriva del modelo, o el dictamen jurídico cuando se pregunta por el inventario.
El marco que ya existe · leído sin inflación
ISO/IEC 42001:2023 aporta el marco certificable para un sistema de gestión de IA: políticas, objetivos, procesos, operación, evaluación y mejora del uso responsable de sistemas de inteligencia artificial. ISO/IEC 42005 brinda guía para evaluaciones de impacto de sistemas de IA. Y la pieza que cierra el circuito lleva el asunto al terreno de esta doctrina · ISO/IEC 42006 fija requisitos para los organismos que auditan y certifican sistemas de gestión de IA. La cadena de acreditación llegó a la inteligencia artificial.
La existencia de esas normas no demuestra que una organización las haya implementado ni que un certificado cubra todos sus usos de IA. Para saberlo hay que leer el alcance del sistema de gestión, la acreditación aplicable y la evidencia operativa.
El reloj regulatorio europeo, leído al 29 de junio de 2026, también tiene fechas distintas. Las prohibiciones previstas por el Reglamento (UE) 2024/1689 son aplicables desde febrero de 2025 y las obligaciones para modelos de propósito general desde agosto de 2025. Según el calendario revisado comunicado por el Consejo, determinadas obligaciones de transparencia se aplican desde el 2 de diciembre de 2026; las reglas de alto riesgo alcanzadas por la reforma, desde el 2 de diciembre de 2027 o el 2 de agosto de 2028, según el tipo de sistema. Cada organización debe determinar qué rol y qué fecha le corresponden.
La supervisión humana · efectiva, nominal o ausente
La frase «hay un humano en el circuito» necesita evidencia. Una supervisión defendible identifica qué revisa la persona, con qué información, bajo qué criterio y con qué autoridad para confirmar, escalar o detener. La ausencia de una decisión bloqueada no demuestra por sí sola que el control sea nominal; obliga a buscar otras pruebas de ejercicio, como escalaciones, correcciones, desacuerdos documentados o pruebas del mecanismo de intervención.
La deriva tampoco admite una receta idéntica para todos los sistemas. Cuando su probabilidad o su impacto son relevantes, el control necesita métricas, umbrales, frecuencia y responsable. Prometer que un modelo no cambiará excede lo que puede sostenerse; declarar cómo se detectan y tratan cambios materiales sí es auditable.
El test del criterio
El test empieza por el inventario. Compare el registro oficial con compras, integraciones, contratos de software, entrevistas y otros rastros lícitos y proporcionales. Un período de declaración sin sanción puede ayudar a recuperar usos no registrados, pero es una decisión de gobierno, no una condición normativa ni una garantía de exhaustividad. Cada diferencia encontrada debe clasificarse por caso de uso, datos, responsable, alcance y riesgo. Después corresponde decidir qué se incorpora, qué se limita y qué se retira.
La gobernanza empieza cuando la exposición deja de ser anónima. Un uso identificado puede tener responsable, criterio de revisión y evidencia. Un uso que permanece fuera del inventario no puede recibir ninguno de esos controles.