2019年4月17日,欧洲议会通过了《关于解决在线传播恐怖主义内容的规则》(Tackling the dissemination of terrorist content online),旨在解决为了恐怖主义目的而滥用互联网托管服务的问题,按照该法规的规定,公司有组织地、持续地不遵守法律,成员国主管部门最高可能会对其处以全球营业额4%的罚款。目前,欧盟内部还将对法规文本的最后内容和形式进行讨论。

一、出台背景和目的

(一)出台背景

恐怖主义分子利用互联网传播恐怖主义内容的情况愈演愈烈。互联网平台为整个欧盟及其他地区的经济和社会福祉带来了巨大的利益,但是,以较低成本接触如此庞大的用户群的优势也吸引了试图滥用互联网用于非法目的的不法分子。最近几个月欧盟领域内发生的恐怖主义事件表明,恐怖主义分子往往会滥用互联网来培训、招募支持者,准备、促进恐怖活动,美化其暴行和怂恿其他人效仿,并向公众灌输恐惧。为了达到这些目的,恐怖主义内容通过允许上传第三方内容的互联网托管服务提供商进行传播,这些内容不仅会对个人和整个社会产生显著的负面影响,而且还会降低用户对互联网的信任,影响受牵连的公司的商业模式和企业声誉。

目前,恐怖主义分子不仅滥用大型社交媒体平台,而且越来越通过小型互联网托管服务提供商来传播恐怖内容,这凸显了互联网平台在保护用户免受恐怖主义内容侵害中具有特殊的社会责任。2015年12月启动的欧盟互联网论坛已经促成了成员国和托管服务提供商之间的自愿合作和一致行动,以减少在线访问恐怖主义内容的可能性。2017年6月22-23日,欧盟理事会号召互联网行业应当“开发新的技术和工具,提高自动检测和删除煽动恐怖主义行为的内容”,为了增强对恐怖主义内容的处理并对欧盟层面的相关立法措施进行必要的补充,2018年6月,欧盟理事会要求欧盟委员会提交了关于提高检测和删除恐怖主义内容的立法提案,该提案于2019年4月17日经欧洲议会投票通过。

(二)主要目标

该法规旨在建立一个处理滥用托管服务传播恐怖主义内容的明确法律框架,以保证数字单一市场的顺利运作,确保互联网的可信性和安全性,同时明确托管服务提供商在确保其服务安全,采取适当、合理和合法的处理措施,并能迅速有效地发现和删除恐怖主义内容方面应当承担的责任。

一是提高法律的确定性,建立跨境提供服务的统一法律框架,确保托管服务提供商在提供服务时处理恐怖主义内容的义务是可预测的,从而使得公司能够简化流程,减少合规成本;

二是提高检测、识别、删除恐怖主义内容的有效性,确保减少欧盟境内恐怖主义内容的数量,确保服务提供商和主管部门共同合作,采取适当、有效和合理的行动防止恐怖主义内容的传播;

三是提高托管服务的透明度和责任感,确保公民,特别是互联网用户和成员国主管部门能够获得足够的信息对托管服务提供商检测、识别和删除恐怖主义内容的行动进行评估;

四是提高成员国主管部门在线处理恐怖主义内容和打击犯罪的能力,确保主管部门能够采取有效行动制止非法内容的传播;

五是防止错误删除合法内容的风险,提供适当的救济措施,确保合法内容提供者能够有效维护其基本权利。

二、主要内容

该法规明确了主要的适用对象、适用内容和在发现恐怖主义内容时的处理程序。

(一)明确了该法规的适用范围

该法规规制的是在欧盟境内提供服务的托管服务提供商,无论其所在地或规模如何。

第一,适用于所有信息社会服务,为了监管到所有能够传播恐怖主义内容的在线托管服务提供者,该法适用于根据用户要求而存储用户提供的信息并将这些信息公之于众的信息社会服务,该法规并不区分这些行为是技术触发的、自动的、还是被动的,信息社会服务的范围包括社交媒体平台,视频流服务,视频、图像和音频共享服务,文件共享和其他云服务。

第二,适用于欧盟境外成立但在欧盟境内提供服务的托管服务提供商,考虑到恐怖主义分子上传恐怖主义内容的大部分托管服务提供商是在第三国建立的,因此该法规还适用于在欧盟以外建立但在欧盟内提供服务的托管服务提供商,这一要求确保所有在数字单一市场开展业务的企业,无论是在哪个国家成立的,都应当遵守同样的要求。确定服务提供商是否在欧盟境内提供服务需要评估服务提供商是否允许一个或多个成员国的法人或自然人使用其服务,但在一个或多个成员国内单独访问服务提供商的网站、电子邮件地址或其他联系方式都不应成为适用该法规的充分条件。

第三,除外情况,该法规不适用于一些云服务,如商业云服务,这类云服务提供商对于存储什么内容或如何处理这些内容以及是由其客户还是客户的终端客户将这些内容进行公开都没有合同权利,在这种情况下,服务提供商也不具备将其用户或终端用户所存储的特定内容进行删除的技术能力。

(二)明确了恐怖主义内容的范围

该法规针对的恐怖主义内容是指包含以下内容的所有资料(包括文字、图片、音频、视频等)煽动、要求参与或实施恐怖主义行为,为实施恐怖主义行为提供工具,要求参与恐怖主义集团的活动,指导如何为恐怖主义目的制造和使用爆炸物、枪支及其他武器。另外,欧盟议会明确,对敏感政治问题的辩论或对有争议观点的表达不应被视为恐怖主义内容。

(三)明确托管服务提供商删除恐怖主义内容的程序

为了确保清除恐怖主义内容,该法规引入了删除令,可以由成员国主管部门作为行政或司法命令进行发布。该法规规定,一旦托管服务提供商收到了成员国主管部门关于删除其用户提供的内容的删除令,应当在一个小时的时间内将该内容删除或禁止所有欧盟成员国的访问。但是,该法规并没有规定托管服务提供商应当具有监控其传输或存储的信息的义务,托管服务提供商也不具有积极寻找显示非法活动的事实。另外,为了帮助小型托管服务提供商,欧盟议会决定,如果公司以前没有收到过删除令,主管部门应当主动与其进行联系,提供关于删除的程序和日期,小型托管服务提供商可以在删除令发出后12小时内删除有害内容。

三、主要影响

该法规能够帮助中小企业处理在线恐怖主义内容,提高社会管理的透明度,确保欧盟境内的安全,并能减少全球范围内的恐怖主义内容。

(一)强化中小型企业和欧盟外企业处理恐怖内容的责任

该法规涉及企业众多,包括了在欧洲建立的10500多家托管服务提供商,以及同时在欧洲、美国和加拿大设立的近两万家托管服务提供商。其中,90%的欧洲托管服务提供商均为中小型企业,由于在部署最先进的内容审核工具或对员工进行专业培训方面的能力有限,这些提供托管服务的中小企业特别容易受到非法活动的控制。另外,据欧盟刑警组织报道,目前已有超过150家托管服务提供商被确定为传播恐怖主义内容,其中很大一部分都是在欧盟以外建立而在欧盟境内提供服务。该法规的制定即有助于提高中小型企业在打击恐怖主义内容方面的警惕性,加强其责任感,并能对欧盟境外的企业进行监管,对其形成威慑。

(二)提高社会管理的透明度

该法规通过提供统一的法律框架明确了欧盟成员国的行政和执法当局在应对恐怖主义内容时可以采取的检测、识别和消除措施,并通过提供必要的救济和保障措施充分尊重了个人和企业的基本权利。各个成员国通过将这些要求进一步转化为国内法的做法能够提高社会管理的透明度和可预测性,为社会的公共管理做出积极性贡献。

(三)提高整个欧盟社会的安全度

该法规确保欧盟境内外的托管服务提供商遵守有关要求,采取措施防止恐怖主义分子滥用其平台,有助于全面、有效地减少恐怖主义内容在网上进行传播,将对社会安全带来积极显著的影响;该法规同时增强了成员国主管部门和欧洲刑警组织打击网上恐怖主义内容的能力,其规定的删除令能够提高政府和企业的响应速度,执法部门能够更快、更迅速获得信息,对相关事项进行调查、分析和取证。

(四)减少恐怖主义内容在全球范围内的传播

该法规适用于在欧盟境内提供服务的所有托管服务提供商,无论其设立在哪个国家。鉴于互联网的全球性特征,该法规要求删除恐怖主义内容的这一规定不仅能保证减少欧盟境内传播的恐怖主义内容,而且能够有效减少全球范围内传播的恐怖主义内容,提高整个互联网的安全性。

作者简介:刘耀华,中国信息通信研究院互联网法律研究中心研究员。

声明:本文来自CAICT互联网法律研究中心,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。