随着深度学习和神经网络等信息技术的进步，以Deepfake为代表的人工智能造假技术日益醇熟，视频中的人脸替换、人类声纹模拟等几乎已达到以假乱真的程度。虽然该技术在图像分析、弥补人类听力缺陷等方面具备正向应用价值，但其对个人隐私、媒体信任、经济发展和公共安全等领域的潜在威胁，引起全球的极大关注。
目前，各国都在推动相关Deepfake鉴假技术的发展，同时，也在努力通过法律手段来防范人工智能造假技术可能对公民和国家安全产生的危害。对全球人工智能造假技术的相关立法情况进行梳理，有助于我国在推动前沿技术应用过程中，从法律层面预防和应对相关风险。
美国
美国是最早提出对深度伪造技术进行立法的国家，与深度伪造技术直接相关法案最多，而且从联邦和各州政府层面均有部署行动。
（一）联邦层面
2018年12月，美国参议院提出《2018年恶意伪造禁令法案》（Malicious Deep Fake Prohibition Act of 2018），对制作深度伪造内容引发犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的社交媒体平台，进行罚款和长达两年的监禁。如果伪造内容煽动暴力、扰乱政府或选举，并造成严重后果，监禁将长达10年。
2019年6月，美国众议院提出《深度伪造责任法案》（Deepfakes Accountability Act），要求任何创建深度伪造视频媒体文件的人，必须用“不可删除的数字水印以及文本描述”来说明该媒体文件是篡改或生成的，否则将属于犯罪行为。
2019年6月，美国众议院提出的《2020财年Damon Paul Nelson和Matthew Young Pollard情报授权法案》中提出，建议针对深度伪造技术的鉴别开展相关技术竞赛，以刺激鉴伪技术的研究和商业化。
2019年6月，美国两党议员分别在众议院、参议院同时提出《2019年深度伪造报告法案》（Deepfakes Report Act of 2019），明确了“数字内容伪造”的定义，规定国土安全部定期发布深度伪造技术相关报告。该法案将国土安全部作为主管协调部门，规定报告的制作由国土安全部分管科学和技术事务的副部长负责，其分管的司局也参与深度伪造技术研究，如科学技术局、网络安全司、国土安全高级研究计划局等。
（二）各州立法
2019年6月，美国德克萨斯州通过《关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》，该法案将利用Deepfake等技术制作深度伪造视频企图干扰选举的行为定义为刑事犯罪。法案于2019年9月1日正式生效。
2019年7月，美国弗吉尼亚州颁布一项反色情复仇修正法案，将“制作、传播虚假的裸体或性视频或图像”以胁迫、骚扰或恐吓他人的行为认定为刑事犯罪，把深度发布和传播深度伪造视频视为实施色情报复的手段之一，违法者将面临最高12个月的监禁和2500美元的罚款。该法案于2019年7月1日生效，是美国首个生效的覆盖深度伪造内容的州立法。
2019年10月，美国加州州长加文·纽森签署《AB 730》法案，该法案将发布虚假、恶意音视频，对政客产生负面影响的行为定义为犯罪行为。该法案适用于处于60天选举期内的任何候选人，意在打击具有误导性的深度伪造视频，以防对选举造成不利影响。
（三）其他相关法律法案
2019年3月，美国参议院提出《2019年商业人脸识别隐私法案》，是美国关于人脸识别隐私保护的第一部法案，被认为是联邦监管的重大举措。该法案规定，商业公司在使用人脸识别技术时需要经过用户的明确同意，同时要求对投入市场应用的人脸识别技术进行第三方测试，以确保其符合准确性标准，避免对消费者可能造成的损害。
法案禁止在未经用户同意的情况下，将用户数据提供给第三方实体。法案还明确定义了数据控制者以及数据处理者，以便明晰两类主体在研发或销售人脸识别产品或服务、存储人脸识别数据中的具体要求。法案还要求人脸识别运营商应满足联邦贸易委员会和国家标准与技术研究院确定的数据安全性、最小化、留存等标准。
2019年4月，美国参议院提出《隐私权利法案》，旨在从立法层面全面保护个人数据。该法案明确定义了个人数据，还要求联邦贸易委员会出台立法，赋予个人若干权利，包括：接收关于数据控制者收集、使用、存储和共享其个人数据通知的权利；被收集和使用个人信息时的选择加入权；访问个人数据处理活动有关细节的权利；访问可携式电子表中个人数据的权利；纠正不准确的个人数据的权利；要求删除个人数据的权利等。
2019年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。在此次专门讨论深度伪造及其他类型的人工智能合成技术的听证会上，专家认为深度伪造技术的滥用可能导致公民权利、经济和公共安全等方面的危害。
欧盟及德国
（一）欧盟
在应对深度伪造技术上，欧盟主要通过个人信息保护和虚假信息治理等法律法规来从法律层面限制人工智能造假技术的应用。
欧盟委员会于2018年4月26日发表致欧洲议会、欧盟理事会、经济和社会委员会以及地区委员会的长篇公开信《应对线上虚假信息：欧洲方案》。《方案》集中阐释了欧盟委员会面对线上虚假信息挑战的基本观点，提出改进信息来源及其生产、传播、定向投放和获得赞助方式的透明度，改善信息的多样性，提高信息的可信度，制定包容性的解决方案等原则，以实现全面防范视频、图像和文字等虚假信息，避免信息发布者违法操纵舆论等状况。
2018年5月，欧盟正式实施《通用数据保护条例（GDPR）》，把个人数据置于现行欧盟法律保护之下，包括可能被用于制作深度伪造内容的公民图片等数据，并适用于社交媒体平台和软件公司发布的换脸软件产品等可能引发的个人隐私泄露问题。未来，GDPR还将通过进一步确立“数据保护法案”进行补充。
2018年9月，欧盟发布其历史上首份《反虚假信息行为准则（Code of Practice on Disinformation）》，旨在加强互联网企业对平台内容的自我审查，从源头打击网络虚假内容。2020年1月，欧盟委员会发布消息称，将于年初启动对《反虚假信息行为准则》实施效果的全面评估。本次评估主要针对签署了《准则》的互联网企业，以检验社交媒体和搜索平台在打击网络谣言方面的行动力度，包括针对深度伪造等音视频文件的管控。
（二）德国
德国是西方国家中第一个对网络危害性言论进行专门立法的国家,在防范人工智能造假技术危害方面，其现行法律也可从公民脸部图像数据等信息保护、限制网络服务商和打击网络虚假视频信息等方面进行解释。
1997年6月,德国立法者通过《信息和传播服务法》 (ICSA,又称《多元媒体法》),涉及互联网服务商的责任、保护个人隐私、数字签名、网络犯罪和保护未成年人等方面, 是一部全面的综合性的法律。
作为欧洲第一个全面规制网络内容的立法,《多元媒体法》在三个主要方面对德国的互联网控制产生影响。第一,它对互联网服务提供商加强了对非法内容传播的责任;第二,它通过法令设定特定的“网络警察”监控危害性内容的传播;第三,《多元媒体法》将在网上制作或传播对儿童有害内容的言论视为一种犯罪。
2000年以来，德国相继出台了十多部与网络舆情相关的法律法规，对虚假信息治理在《刑法典》《民法典》《信息自由法》《电信服务法》等多部法律中均有体现。《刑法典》中明确规定，散布谣言危害公共秩序、造成社会不安定的，将受到6个月的监禁或罚款，一旦出现死亡事件，则要受到5年的监禁处罚。
2018年，德国通过《社交媒体管理法》，凡是超过200万注册用户的网站公司都必须遵守。该法案要求社交媒体公司必须设立有关程序，检查自己网站上被提出投诉的内容，并在24小时之内删除明显违法的信息。违法个人可能面临高达500万欧元的罚款，公司如果未能符合监管标准将可能面临高达5000万欧元罚款。
其他国家
海外其他国家尚无针对人工智能造假技术的直接立法，但在公民信息保护、虚假信息治理、社交媒体平台管控和网络审查等方面的法律法规，也可适用于造假技术相关犯罪案件的审理。
（一）新加坡
新加坡《广播法》明确规定，新加坡三大电信服务供应商要遵从《互联网操作规则》，承担屏蔽、封堵特定网站和信息言论的义务，以便及时发现虚假信息并依法查处。政府有权要求供应商删除网站中宣扬色情内容的言论，严重造谣者将以诽谤罪被起诉。若供应商不能履行义务，将会被罚款或被暂时吊销营业执照。
2019年5月，新加坡议会通过《防止网络虚假信息和网络操纵法案》（Protection For Online Falseas And Manipment Act），使政府有权要求个人或网络平台更正或撤下对公共利益造成负面影响的虚假内容，法案适用于利用深度伪造技术制作的虚假音视频。根据该法案，新加坡政府可以责令发出虚假信息的网站对信息进行更正或撤下，不愿遵守指示的网络平台最高可被判罚100万元新加坡元，“恶意”散播假信息的个人将面临最长达10年的监禁。
（二）英国
英国对个人脸部图像等信息保护的法律主要是《数据保护法》。该《数据保护法》所保护的对象为可以被识别的与个人相关的数据，既包括自动化处理的数据以及为自动化处理而记录的数据，也包括人工记录的存档系统以及为了相关存档系统而记录的数据。
无论是自动处理还是人工记录的个人数据,如果以某种方式影响个人隐私的信息就足以认定为个人数据。《数据保护法》适用对象既包括组织也包括个人,而且适用领域既包括公权力领域,也包括私权利领域,并且二者的适用不作区别。
（三）韩国
人工智能造假技术发布的音视频、图片可归于网络舆情，韩国现行法规也涵盖了造假技术可能引发的法律争议。韩国是第一个有专门的网络审查法规的国家,早在1995年就出台了《电子传播商务法》,由韩国信息传播伦理办公室对“引起国家主权丧失”或“有害信息”等网络舆情内容进行审查,而信息部可以根据需要命令信息提供者删除或限制某些网络舆情内容。
从2002年起,韩国政府推动实施网络实名制。为杜绝虚假互联网舆情信息，韩国网站要求信息发布者填写详细的用户资料，即真实姓名、身份证号、住址等信息，经对每个发布者的姓名和身份证号核实无误并备案后，才提供邮箱或账号，通过邮箱和账号才能建立、访问博客和论坛等网页并发言，能够对信息发布者进行很好的溯源管理。
2005年10月,韩国政府发布和修改了《促进信息化基本法》、《信息通信基本保护法》等法规,为网络实名制提供法律依据。2007年,韩国颁布的《促进使用信息通信网络及信息保护关联法》规定,各主要网站在网民留言之前,必须对留言者的身份证号码等信息进行记录和验证,否则对网站处以最高金额达3万美元的罚款。
为保护个人数据，韩国自2011年9月起实施《个人信息保护法》，禁止有关机构在未经本人同意的情况下收集与使用个人信息，并禁止把个人信息提供给其他机构。法律规定，如果未经本人的同意，将个人信息提供给其他机构，将被处以5年以下的有期徒刑或5000万韩元以下的罚款。
（四）俄罗斯
俄罗斯与韩国情况类似，其现行法律法规也可从网络舆情监管角度对造假技术进行管理。
为了保护俄罗斯网民免受不良信息的侵害，俄政府规定，其境内所有网站都有迅速清理非法信息的义务。如果执法部门发现非法信息，将立即通知有关网站予以删除，如该网站拒绝配合，执法部门将发出警告。两次警告无效后，执法机关将通过法律程序关闭该网站。
2011年4月，俄罗斯政府拨款100万卢布，用于起草有关网络监管专门法律的前期调研。2011年5月，莫斯科市政府率先颁布地方性法规，赋予安全局、内务局等强力部门更大权力，以加强对新兴媒体的监管力度。
2016年7月，俄罗斯颁布《网站黑名单法》，限制网络传播非法内容。网站如果传播淫秽、鼓励自杀或自残、毒品等内容，会被主管部门纳入黑名单并关闭，甚至面临法院的裁决。
2019年3月，俄罗斯国家杜马通过打击假新闻和阻止亵渎国家标志的两项法案，限制网上对俄罗斯政府发表批评言论，并授权对发布有关政府虚假信息的公民处以监禁或罚款。此外，俄罗斯也正在考虑两项新法案，拟要求社交平台必须在受到警告后24小时内删除有危害信息，违规者将面临高额罚款。
中国
作者丨李鹏飞
声明：本文来自全球技术地图，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
