01 · 范围
系统决定什么
首先必须知道 AI 涉及什么流程、影响什么决策，以及哪些人会受到影响。
负责任的 AI · 人工监督 · ISO/IEC 42001
由人承担责任的 人工智能.
当有人能够解释 AI 使用什么数据、有什么局限、由谁负责以及如何纠正时，AI 就能帮助做出更好的决策。
使用准则
治理良好的 AI 会留下 痕迹 ，可供审查。
重点不是为了使用 AI 而使用 AI，而是能够解释它涉及什么决策、留下什么证据，以及谁能够介入。
公开矩阵
对照证据审视 一项声明.
通过交互式模块，展示一句话如何转化为关于风险与责任的问题。
辅助解读 · 负责任的 AI
有用的 AI 不会取代判断，而是帮助提出更好的问题。
选择一个场景，矩阵会显示在相信该声明之前应当具备哪些证据。
证据矩阵 v0.1
场景
待审视的声明
用于确定敏感决策优先级的 AI 系统。
机构风险 如果缺少版本信息、人类负责人、可追溯性和复核准则，风险就高。
最低证据要求 模型登记、影响评估、偏见指标、变更日志和人工申诉机制。
理清思路的问题 当系统出错时，谁能够解释、叫停或纠正决策？
公开演示，不上传个人数据。不能替代技术、法律或监管分析。
算法治理
组织在使用以下技术时必须证明什么： AI.
02 · 控制
谁负责
没有明确负责人的 AI 会让效率变成不透明性。人工监督必须真实存在、有据可查，并且能够介入。
03 · 可追溯性
留下什么证据
决策之后，必须能够还原使用了哪个版本、哪些来源、哪些测试，以及有哪些例外。