Vies algoritmico e a tendencia sistematica de um sistema de IA de produzir resultados injustos ou discriminatorios devido a dados, design ou implementacao deficientes.
Vies algoritmico ocorre quando um sistema de IA reproduz, amplifica ou introduz padroes discriminatorios. Pode originar-se de dados de treinamento nao representativos, variaveis proxy que correlacionam com atributos protegidos, ou decisoes de design que favorecem certos grupos. ISO 42001 e ISO 23894 abordam sua gestao como risco critico de IA.
Nao. A maioria e nao intencional e emerge de dados historicos que refletem desigualdades existentes. Por isso e critico avaliar os dados de treinamento antes da implantacao.
Mediante metricas de equidade (paridade demografica, igualdade de oportunidade, calibracao), auditorias de modelos por terceiros independentes e monitoramento de resultados em producao.
Precisa de uma avaliacao nesta area?