Sesgo algorítmico en LATAM: el 64 % de los modelos auditados presenta sesgo verificable no gestionado

La auditoría de 78 modelos de IA en producción en organizaciones de Argentina, Brasil, Colombia y México encontró que el 64 % presenta al menos un tipo de sesgo verificable no gestionado. Los sesgos más frecuentes son: subrepresentación de poblaciones rurales en datos de entrenamiento (51 % de los modelos con datos demográficos), disparidad en tasas de aprobación crediticia por género (hasta 23 puntos de diferencia en modelos financieros), y resultados de selección laboral correlacionados con código postal como proxy socioeconómico (38 % de los modelos de RRHH). El 82 % de las organizaciones auditadas no cuenta con ninguna métrica de equidad en operación. Solo el 11 % realizó una evaluación de impacto de IA conforme a ISO 42001 Anexo B. El framework desarrollado establece 6 métricas de equidad adaptadas al contexto regulatorio latinoamericano, un protocolo de auditoría aplicable sin interrumpir producción, y umbrales de alerta por sector que permiten monitoreo continuo.