El sesgo algoritmico es la tendencia sistematica de un sistema de IA a producir resultados injustos o discriminatorios debido a datos, diseno o implementacion deficientes.
El sesgo algoritmico ocurre cuando un sistema de IA reproduce, amplifica o introduce patrones discriminatorios. Puede originarse en datos de entrenamiento no representativos, variables proxy que correlacionan con atributos protegidos, o decisiones de diseno que favorecen ciertos grupos. ISO 42001 e ISO 23894 abordan su gestion como riesgo critico de IA.
No. La mayoria es no intencional y emerge de datos historicos que reflejan desigualdades existentes. Por eso es critico evaluar los datos de entrenamiento antes del despliegue.
Mediante metricas de equidad (paridad demografica, igualdad de oportunidad, calibracion), auditorias de modelos por terceros independientes y monitoreo de resultados en produccion.
¿Necesitas una evaluacion en este ambito?