人工智能 · 技术定义

人在回路中.

又称 HITL · 人在回路中 · 人工监督

定义

一种由人员介入人工智能系统决策流程的设计。当人员拥有真正的干预权限、充分的信息，且干预过程可追溯时，监督才是有效的。

性质

操作性定义

深入解读

存在签名或审批界面并不能证明存在监督。必须查看人员能否停止或修改结果、审查哪些案例、依据什么信息，以及留下什么记录。控制措施是否适当取决于风险和用途。

应用示例

在信用评估系统中，如果无人能够修改结果，或抽样缺乏准则，人工复核就只是名义上的。只有能够证明角色、干预能力及记录时，人工复核才是有效的。

引用或嵌入此术语

将定义嵌入你的网站（保留来源链接并自动更新），或使用术语表的开放数据。

<iframe src="https://fernandoarrieta.org/glosario/human-in-the-loop/embed" width="100%" height="190" style="border:0" loading="lazy" title="人在回路中 — 技术信任术语表"></iframe>

开放数据（JSON）→

人工智能管理体系 · AIMS

算法治理

欧盟人工智能法案

NIST AI RMF

模型风险

应用此定义。