《基于个人信息的自动化决策安全要求》解读：含义与安全要求篇

合规

要点

具体要求

算法影响评估

评估前

1. 明确自动化决策算法所用于的目的或场景；

2. 明确自动化决策算法所支持的具体任务。

评估中

1. 自动化决策算法影响评估内容：

• 预期的自动化决策算法的行为表现及相应的效率或收益的提升；

• 明确非预期或错误的自动化决策算法的行为表现及相应的成本；

• 根据预期的自动化决策算法的使用情况、过去在类似情况下对自动化决策算法的使用、事件报告或其他数据，了解自动化决策算法可能产生负面影响的风险，特别是对个人权益的影响。

1. 如果可能对个人权益造成重大影响，通过独立第三方或组建专家委员会开展自动化决策算法影响评估。

评估后

根据评估结果明确与算法支持的具体任务相适配的算法安全目标。

算法安全

技术原则

准确度、可靠性、稳健性、复原力。

逻辑原则

可解释性、可理解性、隐私性、非歧视性、公平性。

人工介入

干预控制

开发支持人机交互的界面和工具，并能够让自然人：

1. 了解自动化算法能力和限制，并监测运行状况；

2. 正确解释自动化决策算法的输出；

3. 在任何特定情况下决定不使用自动化决策算法及其计算机程序，或忽略、推翻或撤销自动化决策算法的输出；

4. 能干预自动化决策算法及其计算机程序的运行。

训练和测试数据

选择

1. 准确性、均衡性、相关性、充分性、可靠性、规范程度符合要求；

2. 相关数据在最初选择、标注等环节不存在缺乏公平、包含偏见与歧视或者范围与算法目标不匹配的问题；

3. 不存在被攻击或污染的情况。

使用

具备合适的合法性基础。

算法开发技术文档

公开

开发自动化决策算法应当形成配套的技术文档以供相关方查阅。

内容

对自动化决策算法的一般描述、对自动化决策算法的要素及其开发流程的详细说明、对自动化决策算法训练过程的记录、使用的验证和测试程序的相关信息、对为符合人工介入要求所采取措施的评估情况。

算法安全运行

运行监测

1. 明确针对技术特征、逻辑特征、人工介入要求的定量或定性监测指标和监测方法；

2. 明确对应各个负面影响的定量或定性监测指标和监测方法。

影响处置

1. 建立有效的影响追踪机制，外部人员可在必要时协助；

2. 基于监测结果定期开展算法影响评估，对个人权益有重大影响的自动化决策算法应每半年开展一次算法影响评估；

3. 根据算法影响评估结果采取减轻负面影响的措施；

4. 事先建立负面影响应对方案和机制。

合规

要点

具体要求

个人信息处理要求

基本

要求

选择和收集与特定业务目的相匹配的个人信息类型。

收集要求

真实

1. 个人信息来源真实；

2. 个人信息未经篡改；

3. 必要的情况下开展身份验证；

4. 人信息收集透明，可审查和可验证。

准确

1. 能反映个人信息主体的实际情况；

2. 个人信息的相关性与典型性；

3. 个人信息为最新状态。

合法

1. 根据收集个人信息的不同阶段以及不同场景考虑选择适当的合法性基础；

2. 在最小范围和数量内收集为实现特征生成所必需的具有直接关联的个人信息；

3. 确保公开透明，通过清晰易懂的方式主动披露存在特征生成的动作，并宜事先告知处理逻辑。

计算安全要求

特征

提取

1. 预先对所收集的个人信息进行有效的预处理；

2. 排查所收集的个人信息的缺失值、异常值、重复值，规范个人信息的格式、结构、类型等要素；

3. 确保提取的数据特征的一致性、有效性和可用性；

4. 确保所提取的特征不存在不公平、偏见的情形。

特征

选择

与

计算

1. 选择对实现特定业务目的最有预测能力的特征；

2. 考虑到选择特征之间的相关性，避免过多的相关性冗余；

3. 避免选择可能引入不公平或歧视性待遇的特征；

4. 确保选择数据特征时的平衡性，避免因偏重或缺失某一类型的个人信息导致特征计算和输出存在错误的情形；

5. 开展进一步的特征计算，如发现选取的数据特征与实现特定业务目标之间存在不足关系时。

特征

输出

1. 确保输出的对个人信息主体特征的描述不应表达对性别、民族、种族、年龄、宗教、残疾、疾病、性取向歧视的内容；

2. 对特征生成所使用计算机程序中的函数机制、网络结构机制、数据机制、模型评价机制等进行审慎评估与测试，并采用特定的机制削弱程序输出可能带来的偏见与歧视，保障输出的准确性、适当性与公平性。

合规

要点

具体要求

基本要求

公序良俗

1. 不应侵害公民、法人和其他组织的合法权益；

2. 不应危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视；

3. 不应传播暴力、淫秽色情信息，编造、传播虚假信息扰乱经济秩序和社会秩序。

告知要求

内容

1. 易于理解的自动化决策处理说明指引，包括但不限于自动化决策处理动作所基于的个人信息以及处理逻辑；

2. 个人对自动化决策行为及结果享有的权利以及行使方式；

3. 便捷有效的反馈渠道与机制。

个人权益保障要求

响应解释请求

适当地说明决策逻辑、价值权重、个人数据利用情况等。

响应干预请求

1. 提供选择或者删除用于算法推荐服务的针对其个人特征的标签的机制；

2. 在信息推送、商业营销场景，提供不针对其个人特征的选项，或向个人提供便捷的拒绝方式；

3. 提供拒绝仅通过自动化决策的方式作出决定的机制。