Inteligência artificial · Definição técnica
Human-in-the-loop.
Também conhecido como HITL · Humano no ciclo · Supervisão humana
Definição
Projeto em que uma pessoa intervém no fluxo de decisão de um sistema de IA. A supervisão é efetiva quando existe autoridade real para agir, informação suficiente e rastreabilidade da intervenção.
Natureza
Definição operacional
Aprofundamento
A presença de uma assinatura ou de uma tela de aprovação não demonstra supervisão. É preciso observar se a pessoa pode interromper ou modificar o resultado, quais casos analisa, com quais informações e que registro deixa. A adequação do controle depende do risco e do uso.
Exemplo aplicado
Em um sistema de avaliação de crédito, a revisão humana é nominal se ninguém pode modificar o resultado ou se a amostra não tem critério. É efetiva quando o papel, a capacidade de intervenção e o registro podem ser demonstrados.
Publicações relacionadas assinadas