12月19日,韩国个人信息保护委员会(The Personal Information Protection Commission,PIPC)发布了一种用于安全使用人工智能和数据的人工智能隐私风险管理模型(AI Privacy Risk Management Model for the Safe Use of AI and Data,以下简称“风险管理模型”),系统性地提出了隐私风险管理的方向、原则、风险类型及缓解措施,旨在应对人工智能数据处理机制带来的传统隐私风险(如数据泄露)及新兴风险(如深度伪造),为企业自主管理隐私风险提供指导。

0主要内容

风险管理模型的主要内容包括四个方面:

一是人工智能隐私风险管理程序:这是模型的核心组成部分。模型建议以识别特定类型的人工智能及其用例作为框架化和管理风险的起点,然后根据类型和使用情况确定相关的隐私风险,并测量潜在风险的概率、严重性、优先级和可接受性。最后,根据上述程序制定基于风险的防护措施。

二是人工智能隐私风险类型:列举了可能的隐私侵权和违反《个人信息保护法》(PIPA)的风险类型,这些风险贯穿于人工智能生命周期的规划、开发和部署阶段。特别是,针对生成式人工智能和判别式人工智能在部署阶段的不同用途进行了具体分类。

三是人工智能隐私风险缓解措施:提出了行政和技术上的防护措施来减少与人工智能相关的风险,允许各人工智能企业根据自身需求和利益利用这些建议,制定适应各自背景的最佳防护方案。

行政防护措施层面:

  • 1.管理训练数据集的来源和历史记录:提高透明度,保持关于训练数据来源的详细文档,确保可以追溯到原始出处;进行合法性验证,确认所有使用的数据都符合法律要求,并且已经获得了适当的授权或许可。

  • 2.建立适用的使用政策:明确规则,制定清晰的指南来规定哪些数据可以被用来训练AI,以及如何正确处理这些数据;持续监控,定期审查并更新使用政策,以适应不断变化的技术环境和法律法规。

  • 3.执隐私侵入测试:进行红队演练,设立专门的团队模拟攻击者行为,尝试找出系统中的弱点或可能侵犯隐私的地方;建立快速响应机制,一旦发现潜在问题,立即采取行动修复漏洞,并防止进一步损害。

  • 4.提供用户反馈渠道:允许用户举报不当内容,为用户提供简便的方式报告由AI生成的任何不适当内容,例如错误信息或敏感话题;利用用户的反馈作为改进AI系统的依据,提高其准确性和安全性。

  • 5.进行隐私影响评估:进行高风险场景下的评估,当训练数据集可能包含大量个人信息或敏感数据时,应提前进行隐私影响评估;定期进行合规性检查,确保评估结果能够满足相关法律法规的要求,减少法律风险。

技术防护措施层面:

  • 1.进行数据预处理:坚持最小化原则,仅收集和保留实现特定目的所需的最少数据量,避免不必要的数据积累;删除重复数据,消除冗余的数据副本,减少存储需求同时降低泄露风险。

  • 2.微调模型时添加防护措施:增强鲁棒性,优化模型架构和参数设置,使其更能抵御对抗样本和其他形式的攻击;限制输出范围,控制AI输出的内容类型,避免生成可能导致隐私侵犯的信息。

  • 3.应用提示和输出过滤:强化上下文感知,让AI在生成回复之前考虑当前对话背景,从而避免产生不合时宜的回答;进行敏感词过滤,自动筛查并阻止输出中可能出现的敏感词汇或个人信息片段。

  • 4.实现差分隐私:使用扰动(Perturbation)技术,在数据中加入适度噪声,降低对个人数据的直接关联性;使用剪枝(Pruning)技术,减少模型中的参数数量,从而降低模型对隐私数据的记忆能力。

四是人工智能隐私风险管理框架:提出需要重塑现有的隐私治理框架,强调首席隐私官(CPO)的角色及建立专业团队的重要性,以多角度评估相关风险并制定系统性的风险管理政策。

0相关背景

韩国政府近期高度重视人工智能发展及治理。

12月17日,韩国国会通过了《促进人工智能产业和建立可信人工智能框架法案》(Act on Fostering the AI Industry and Establishing a Foundation for Trustworthy AI),是欧盟《人工智能法》(AI Act)之后全球第二部人工智能立法。该法规定了人工智能的定义、人工智能经营者应遵循的原则和义务,同时将对人权和安全有重大影响的人工智能系统归类为“高影响人工智能”,并概述了对其的透明度要求、风险管理和人工监督的必要性。

早在2019年,韩国科学技术信息通信部在发布了《人工智能国家战略》,提出了韩国从“IT强国”向“AI强国”发展的愿景,及到2030年要实现的三大目标:国家数字竞争力世界第三、人工智能创造455万亿韩元(约合人民币2.4万亿元)的智能经济效益、国民生活质量世界第十。

同时,韩国的大型企业(如三星、LG、NAVER、Kakao等)在AI研发方面投入巨大,并形成了从基础研究到产品化的完整链条。尤其是NAVER和Kakao,这两家公司不仅在搜索引擎和社交平台上应用AI,还开发了自己的大语言模型。

来源|综合PIPC官网等网站

编译|尚健

审核|唐巧盈

声明:本文来自上海市人工智能与社会发展研究会,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。