一、建立学生数据隐私保护体系的动因

学生数据隐私保护体系的建构肇始于智能化设备及大数据分析技术的无序发展,技术的颠覆必然导致信息主体与信息控制者之间关系的失衡,信息主体在复杂技术面前“缄默不语”,互联网平台则相比以往拥有了更大的话语权和技术操控权,进而诱发传统的学生隐私保护架构的不适应。技术失序、关系失衡、制度失灵成为建构学生数据隐私保护体系的主要动因。

1、智能设备与数据系统追踪学生轨迹,技术应用僭越隐私规范

以数据和算法为技术支撑的人工智能,凭借其高性能计算系统、逻辑推理及自主决策能力,深度学习能够在较短时间内生成认知结果,使学习系统与学习者展开情境交互,并利用机器学习算法进行问题诊断、精准反馈。

但区别于传统的机器学习,深度学习因其所具有的自主决策和自适应特征,甚至可能做出超乎学习者认知范畴的损害性行为。智能数据系统在“静默”中全方位收集学习者数据,在市场趋利模式的支配下侵犯用户隐私,进一步给教育用户造成精神压迫和财产损失。

Piazza Technology是美国一家专门为师生提供免费协作式问答的网络公司,能够有效整合众多学习管理系统并提供多种移动终端服务,其用户遍布美国各大名校。尽管获得了巨大的市场份额,该公司却没有提供明确的隐私保护声明,致使用户在不知情的情况下将个人信息泄露给公司的另一种在线产品,并把学习者的个人数据出售给招聘公司,招致师生的强烈反对,在积极公关并修改条款声明的基础上才挽回了损失。

智能系统和数据分析技术的应用,必须以维护学习者的合法权益为前提,以法律法规和道德规范为设计准则。

2、学生隐私安全边界愈加模糊,智能网络平台信息垄断风险骤增

就智能网络平台控制者而言,教育用户的数据信息以聚合的存储特征分布于各大互联网公司的平台,如Coursera、Udacity、EdX等慕课学习网站,需要警惕的是这些集技术与资本优势的互联网企业更有可能实现数据信息垄断。

由于个人数据信息的挖掘处理与关联性分析成为创造学习价值的重要形式,网络平台往往以限制用户转移通用数据格式或结构的途径,达到占有用户信息资源的目的。这些企业聚拢的学习者相关信息在深层次加工后,超出了最初的数据收集形态,用于无法预知的盈利需要乃至其它非法目的。

Edmodo是一家为学校和教师提供交流、协作学习与课程辅导的教育技术公司。截止到2017年7月,Edmodo声称该公司在全球已有超过7800万用户,被PC Magazine列入“教师顶级应用”榜单。同年5月,该平台内置的Double-click广告服务被发现能够智能跟踪用户数据流,包括浏览的网络页面、停留时间、IP地址与电子邮箱,这些信息经过排列组合足以识别用户个人的详细信息。由此可见,信息垄断不仅降低了数据共享的价值,造成数据壁垒与鸿沟,还严重削弱了学生对个人隐私及自身数据的控制权。

3、“知情同意”信息保护架构背离设计初衷,适时性监管形同虚设

完善的制度供给是教育技术应用的基本保障,我们必须探究人工智能背景下学生隐私保护的适应性规制与规范要素。在传统的信息社会,“告知与许可”系统是确保信息拥有者自主决定隐私信息任谁处理、如何处理的有效规章。

欧盟《数据保护指令》为代表的“知情同意”架构(Notice-and-consent Framework),是指系统开发者在设计应用软件时,主动将隐私声明内嵌于应用系统之中,告知用户将要收集用户哪些数据、数据将用于何种目的,用户在此前提下决定是否授权个人信息。但在智能技术的冲击下,该架构面临的问题日益凸显。

首先表现在教育用户权利被剥夺,在多数情况下,用户不得不选择同意才可以使用相应软件,明显是架空了用户的选择权。如前所述,在多途径、全方位收集学生数据的教育网络生态环境中,用户对于个人数据是否被收集的情况并不知晓,勿论对数据被再次开发使用的监督。

另外,“知情同意”的网络架构给学生带来沉重的时间负担,为了保证法律上的合法性,软件设计方通常列举出冗长晦涩的隐私声明,学生在节约时间成本的考量下,多数情况下忽略隐私声明的详细条文而直接点击同意,背离了“知情同意”架构的设计初衷。

二、欧美应对智能环境下学生隐私侵犯的核心策略

隐私技术设计成为保护学生数据隐私的首要之举,辅助以社会组织、市场主体的自律机制,政府制度统筹、学生数据隐私机构设置,成为欧美等发达国家适应智能背景下学生数据隐私保护的核心策略。

1、借助设计隐私权及限制识别技术,嵌入教育产品与软件开发

世界经济合作与发展组织最初提出设计隐私权(Privacy by Design)的技术手段,该技术与人工智能支持的教育设备隐私设计方式相契合。具体而言,在阐述学生隐私保护的前提下,总结出在教育产品设计之前,就应该有明确的隐私保护技术原理与程序,使隐私保护自动嵌入教育互联网产品架构和应用操作中,学生隐私保护应当成为商品设计的核心问题。

美国的大型教育互联网公司在设计产品的过程中,就将隐私保护的要求嵌入其中。另外一种是限制识别技术,即对互联网应用的数据访问和信息输出进行隐匿化的技术处理,使供应商不能根据学生网络痕迹和遗留数据判断出具体可识别的自然人。

欧盟《一般数据保护条例》(General Data Protection Regulation)中提出一系列数据保护的技术手段。就教育智能设备而言,在不采用附加信息的情况下,采用匿名化处理方式使学生数据不可归类为特定的个体;并且规定数据控制者应该采用适当的技术和组织措施,确保学生资料不会受到其他自然人的干预。

2、社会组织协同设置教育行业自律条例,提出学生隐私保护“安全港”计划

教育行业自律机制是在国家法律规制之外,由社会组织团体协同设置教育行业发展的自律条例,进而规范自身行为。统一的国家信息保护法律法规借助于强制手段维护公民隐私权益,但执行起来往往缺乏针对性和灵活性,过于严格的教育互联网信息保护立法可能会削弱人工智能技术的正常发展;教育行业自律机制则是在多方社会群体利益协商后,达成对学生信息保护的共识。

在整合政策立法和行业自律规范的基础上,美国联邦贸易委员会提出学生数据隐私保护的安全港计划,“行业组织团体可以提出约束自身行为的规范准则,该准则经过委员会批准就可以称之为用户隐私保护的安全港,组织团体要在安全港规定范围内开展商业活动”。

萨米特公立学校集团(Summit Public Schools)联合了加利福尼亚和华盛顿等州的近100所学校,组成庞大的宪章管理和学校合作组织。该组织提供了清晰的学生数据收集清单,仿照学生数据隐私联盟(Student Data Privacy Consortium)的合同条框增加隐私补充协议(Data Privacy Addendum)。

协议要求供应商提高运营的透明度,包括Web托管、软件工程及其它服务设施,主动公开智能设备信息收集的透明度,规定学生个人信息只可用于教学目的,学生和家长可以随时要求学校删除他们的信息,平台也绝对不能以营利为目的出售学生数据,持续评估学校组织政策与运行方式,提高智能系统的安全性能。

3、隐私制度供给辅以机构设立,细分学生数据保护法规条例

(1)“被遗忘权法案”与“橡皮擦法案”主导下的学生隐私制度

被遗忘权源自“谷歌诉冈萨雷斯案”,欧盟法院根据《欧洲数据保护指令》,认定谷歌公司作为数据控制者,对公民发布的带有个人数据的信息负有法律责任,有义务对不适的、无关联的、过分的信息进行删除。

与欧洲不同,美国出台的类似于被遗忘权法案局限于个别州。2013年,加利福尼亚州颁布了“橡皮擦法案”,特别提出为保护未成年人的正当权益,应当允许未成年人删除Facebook、Twitter等社交网站上的网络痕迹,避免未成年人在日后要面对这些信息被泄露时所遭受的困扰。

《学生数字隐私和家长权利法》(Student Digital Privacy and Parents Rights Act)进一步明确了学生个人信息免受网站侵犯的具体条例,规定运营商需要在网站上公布收集学生数据的具体范围,并通过电话、邮件等方式,及时向学生父母告知使用数据的情况,给予父母修改学生信息的权力,保证学生不会受到网上历史搜索痕迹等不良记录的影响。

(2)欧洲、美国分别设立数据隐私保护机构及专员制度

欧盟在《一般数据保护条例》(General Data Protection Regulation)明确提出建立数据保护专员组成机构,指出数据保护专员应当具备专业的数据保护素养与法律知识,对履行本条例的数据控制者提供数据保护条款、监督事项及相关政策咨询;对于侵犯个人信息安全的违法行为进行及时调查,介入法律诉讼案件保证权力的正常实施。

英国政府则成立了“未成年人网络安全委员会”(UK Council for Child Internet Safety,UKCCIS),负责未成年人网络安全政策的制定。

美国非营利性组织“数据质量行动”(Data Quality Campaign),积极倡导各州学区、学校、运营商等部门建立数据隐私保护机构。

联邦教育部于2011年建立首席隐私保护官(Chief Privacy Officer,CPO)制度,下属部门隐私技术援助中心(Privacy Technical Assistance Center)为各州提供学生隐私保护的数据安全、信息保密的技术手段及服务咨询,协助各级各类教育主管部门的人员分辨应用程序的保密程度,避免与存在侵犯学生隐私风险的供应商展开合作。

(作者:侯浩翔,华东师范大学教育学;来源:《现代教育技术》。本文系节选。)

声明:本文来自河南教育信息化,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。