AI与算法治理

拉美地区的影子AI:73%的认证组织在无监管情况下运行AI

public

对阿根廷、巴西、哥伦比亚、墨西哥和秘鲁的140家拥有有效ISO 27001认证的组织进行的调查发现,73%的组织在没有安全部门正式批准的情况下,至少在运营中使用了一种生成式AI工具。未经授权采用率最高的部门是市场营销(89%)、人力资源(71%)和财务(54%)。最常见的工具是ChatGPT(直接使用企业API)、未授权的Copilot以及嵌入电子表格的语言模型自动化。ISO 27001:2022附录A中与资产管理和访问控制相关的61%的控制措施被证明不足以检测这些工具,因为它们未将AI资产识别为一个类别。确定了四个主要的数据泄露载体:包含客户机密数据的提示词(42%)、将内部文档上传到公共AI平台(38%)、使用AI生成包含敏感数据的代码(12%)以及未记录日志即向外部API发送数据的自动化(8%)。开发的补救模型将影子AI分为三个风险等级,并提出了与ISO 27001和ISO 42001兼容且不限制生产力的控制措施。

关键问题

  • 有多少员工在未经授权的情况下使用生成式AI?— 73%的受访组织存在未经授权的使用情况;在市场营销部门,这一比例达到89%。
  • 影子AI会产生哪些数据泄露载体?— 四个主要载体:包含客户数据的提示词(42%)、内部文档上传(38%)、包含敏感数据的代码(12%)、未记录的外部API(8%)。
  • 哪些附录A控制措施失效?— 61%的资产管理和访问控制措施未将AI资产识别为一个类别,导致它们无法有效检测影子AI。

方法论

规范框架

ISO/IEC 27001:2022(附录A — 访问控制、资产管理和通信安全);ISO/IEC 42001:2023(AI系统清单和治理);NIST AI RMF 1.0(风险概况和治理功能);欧盟AI法案(2024/1689,第4条和第6条)。

研究方案

对拉美5个国家的140家ISO 27001认证组织进行的调查(问卷 + 流量分析). 按部门识别和分类23种未经授权使用的AI工具. 按类型量化频率的4种数据泄露载体分析. 57项附录A控制措施针对AI资产的有效性评估. 开发具有特定控制措施的3级风险补救模型.

想应用这些发现?

安排评估,我们将数据转化为具体行动。

预约评估