17.c1起草的9.1 - 内容要点深度剖析及实践落地指导

解读17.c1起草的9.1：透明性要求总览

第一次接触到17.c1起草的9.1是在年初的一次合规评审会上，当时团队对这条新增的透明性条款几乎毫无准备。它要求所有基于机器学习的自动化决策系统，必须向用户披露决策逻辑的基本要素，并且要用普通人能理解的方式呈现。这种要求表面上看起来简单，但在复杂的模型链路里，落地难度其实非常大。我们后来花了将近两个月，才把这条规范拆解成可执行的技术项，这里先把最核心的几个认知误区摊开讲清楚。如果你也在做算法合规自查清单，这一条几乎绕不过去。

9.1条款的具体要求与适用范围

很多人以为只有面向消费者的推荐系统才需要遵守这条，实际上17.c1工作组在注释里把范围划得很宽。任何通过自动化方式对个体产生法律效果或类似重大影响的决策，都在约束之内——比如信贷审批、简历筛选、保险定价，甚至企业内部的绩效评估模型。我们需要先理解它到底在管什么。

• 决策逻辑的要素披露：不是开源全部代码，而是列出模型用到哪些关键特征、这些特征的权重方向、以及是否存在人为设置的阈值。比如一个风控模型必须说明“近6个月逾期次数”是其核心参考因素。
• 自然语言解释：禁止只给SHAP值或矩阵，必须生成一段无障碍文本，可解释性输出模板可以作为起步参考。
• 反对渠道：必须提供可追溯的人工复核入口，而且要确保这个入口不会被系统自动驳回。
• 数据来源声明：训练数据的主要来源、时间范围和筛选标准需要打包成标准化说明，这部分最容易在审计时被忽略。

实施前的风险评估与准备

在动手改系统前，先做一个影响评估会发现很多隐性代价。我所在的项目组当时就踩过一个坑：以为把旧模型简单封装一个解释模块就能过审，结果在用户测试时发现解释文本的准确率只有六成多，反而引发更多质疑。因此，至少要把下面三个维度摊开看。

做完评估后，再按照《自动化决策合规实施路径》里的步骤去拆解，会避免很多返工。尤其是已经跑了一年以上的存量模型，千万不要直接套模板。

落地操作的具体步骤与时间表

从我们实际推进的经验来看，如果把合规当成一次性的技术攻坚，很容易虎头蛇尾。更稳妥的做法是嵌入到现有的研发流程里，分阶段实现。

1. 现状盘点（2周）：列出所有涉及自动化决策的业务场景，标注每个场景的模型类型、使用特性和所涉用户数量。
2. 解释能力设计（4周）：根据模型透明性设计规范，为每个场景设计解释文案的生成逻辑，优先覆盖高频决策项。
3. 用户反馈机制搭建（2周）：在应用中嵌入“对该决策有疑问”按钮，并确保后续人工复核链路可启用，不能变成摆设。
4. 审计日志改造（3周）：所有解释输出、用户反馈及处理结果必须完整记录，且保留至少三年。这部分存储成本要提前核算。
5. 内部培训与灰测（2周）：让客服、法务和产品经理都跑一遍流程，灰测用户选择对文字敏感的人群。

自动化决策

指在没有人工干预的情况下，通过算法模型对个人数据进行分析并产生具有法律效力的结果的过程。

可解释性

指模型的决策依据能够被人类以自然语言或直观形式理解的程度，不是简单的特征重要性数值。

数据血缘

记录数据从源头到最终使用的全过程，包括采集、清洗、标注、训练等环节，是合规审计的关键证据。

常见疑问

9.1条款是否适用于纯规则引擎？

如果规则是基于人工编写且不依赖于数据驱动的学习过程，通常不直接落入9.1的范围。但若规则来源于历史数据的统计分析，即便是简单的阈值分割，也建议按照9.1的精神提供解释，以减少后续争议。

解释文本需要有多详细才算合规？

目前没有统一的字数标准，但核心判断标准是“一个普通用户阅读后能否理解决策的主要原因”。我们在内部测试中使用高中文化水平的测试者，理解正确率超过85%即为通过。

对客输出时，技术细节可以省略吗？

可以省略深度技术细节，但必须准确。不得因为简化而产生误导，例如将“逻辑回归组合特征”简单写成“系统觉得你不合适”，这会被认定为不合规。建议技术团队与文案团队共同起草模板。

持续监控与迭代优化的思路

合规不是终点，而是进入了一种新的运营模式。我们在上线后的头三个月，每周都会抽样分析用户反馈，发现大约12%的用户认为解释不够清晰，主要集中在多模型组合决策的场景。后续我们把解释模块从单模型解读升级为全链路决策拆解，用户争议率下降了近四成。这个过程中，用户反馈驱动的迭代方法给了我们很大的启发。如果你也正在面对17.c1起草的9.1的落地压力，不妨把首次上线视为一个用来收集真实用户理解的实验版本，而不是最终答卷。定期复盘、和同行交流，会是这条路上成本最低的纠偏方式。