数据安全技术研发中心
摘要
2026年11月10日,英国教育部就建立教育科技(EdTech)与AI产品安全认证方案(Introducing a certification scheme for assuring EdTech and AI product safety,以下简称“方案”)公开咨询。方案适用于英格兰,拟通过独立第三方评估,为教育机构判断相关产品是否符合安全要求提供依据,并为供应商证明产品符合相应标准提供清晰、适度的路径。本次咨询重点涉及认证范围、安全标准、评估方法、实施主体、持续监督及采用机制等事项。按照现有提案,产品认证拟采取非强制安排。公开咨询将于2027年2月4日结束,方案的最终设计及实施安排仍待咨询后确定。
提出背景
本次咨询将教育科技产品对儿童可能造成的风险归纳为不当处理个人数据、接触有害内容及对认知、社会性和情感发展及心理健康产生不利影响这三个主要方面。随着产品功能和技术结构趋于复杂,缺乏专业知识的教育工作者难以充分判断产品的安全性。部分设计还可能诱导儿童超出教育需要持续使用产品、削弱自我调节能力,或者未能充分考虑年龄、发展阶段及特殊需要之间的差异。
英国教育部此前已通过过滤与监测核心标准(Filtering and monitoring: core standard)及生成式AI产品安全标准(Generative AI: product safety standards)提出教育场景中的相关安全要求。教育科技供应商还可能因服务类型和功能而受到《2023年在线安全法》(Online Safety Act 2023)的约束,并应履行适用的数据保护义务。但咨询材料指出,现有标准尚缺少以核验教育科技产品是否实际符合要求的应对机制。
在此情况下,教育机构需要在安全证据不足的条件下作出采购和使用决定,供应商也缺少清晰、一致的途径证明产品符合安全要求。方案拟通过明确认证条件、证据要求和评估程序,减轻教育机构自行判断产品安全性的负担,同时为供应商提供能够预先了解和准备的符合性证明路径。
主要内容
(一)界定安全认证的目的与适用范围
方案拟通过独立评估,核验产品是否符合规定的安全要求,包括降低儿童在情感或发展方面受到损害的风险、支持履行适用法律义务,以及保障系统和数据的安全与完整性、保护用户安全。产品的实际运行应与其声明的安全相关功能一致,不得对这些功能作出误导性表述。认证原则上不评价产品整体质量或教育效果;只有当产品有效性与安全直接相关,即产品未能发挥相应作用可能使儿童受到伤害时,才将这部分有效性纳入认证评估。
此外,方案拟覆盖英格兰的学前教育、学校及有未成年学生就读的继续教育等场景。具体措施拟结合儿童年龄和发展阶段、教育机构类型、产品用途及配置、已有保护措施等因素作出区分。英国教育部拟按风险确定产品范围,将下列四类产品纳入认证,同一产品可以同时属于多个类别,具体分类如下表所示:

方案拟排除部分风险较低的产品,包括不对儿童个人数据进行高风险处理的一般办公和通信工具、不具有个性化功能的静态内容,以及计算机、平板电脑、交互式白板等硬件与基础设施。面向教职人员且不进行上述高风险处理的生成式AI工具和行政管理系统,也在排除范围之列。因此,是否纳入认证仍需结合具体功能和数据处理方式判断。
方案初期拟不单独设置以技术监测为主要目的的产品类别。监测工具主要通过信息和警报支持儿童保护工作,其实际效果还取决于教育机构如何审查、解释、上报和处置警报,单独认证技术功能难以充分反映整体保护成效。但此类产品如对儿童数据进行高风险处理,仍可能依据其他类别纳入认证。
(二)围绕儿童数据及发展风险明确安全标准
对面向学生的生成式AI产品,方案拟从既有生成式AI产品安全标准中选取八项标准作为认证依据。评估既涉及产品如何响应用户输入,也涉及界面和交互设计,以及治理、文档和组织程序,具体要求如下表所示:

方案拟进一步将上述安全目标转化为公开、有证据支持且能够客观评估的具体要求。方案拟要求在认证中标明产品版本、适用年龄范围、相关配置、评估方法、已知局限及使用条件,使认证结论与具体产品及其预定用途相联系。
在认证分类上,方案还拟将面向学生的生成式AI产品一并纳入高风险数据处理类别,按相应条件评估。该类别拟以《英国通用数据保护条例》(UK General Data Protection Regulation)、《2018年数据保护法》(Data Protection Act 2018)及英国信息专员办公室(Information Commissioner’s Office)适用的实务守则和指引为依据。方案拟要求供应商提供已开展数据保护影响评估(Data Protection Impact Assessment)等证据,相关条件还涉及知识产权及网络安全要求。
为避免重复评估,生成式AI类别将不再单独认证既有生成式AI产品安全标准中的三项数据标准。取得产品认证不构成免受监管行动的依据,也不会替代英国信息专员办公室的独立监管职能,或将执法责任转移给英国教育部。此外,对过滤产品,英国教育部在既有标准之外征询是否增加有效过滤实时、动态、个性化及AI生成内容的能力要求。对个性化学习工具,方案拟调整既有生成式AI安全标准,使其适用于不包含生成式AI功能的产品,重点关注设计和测试、治理、认知发展及操纵性设计,以及缺乏教学依据的延长使用、不必要的压力等问题。相关细则仍需根据咨询意见进一步制定。
(三)明确产品供应商责任及评估证据
对生成式AI工具,拟议认证对象是儿童实际使用的应用、聊天机器人或辅导产品,而非单独的底层模型或应用程序接口(Application Programming Interface)。方案拟由产品供应商承担确保产品取得认证的责任,包括产品使用第三方模型或应用程序接口的情形。其依据是供应商能够控制模型集成方式、产品配置及儿童保护功能。供应商如依赖平台或教育机构层面的控制措施实现安全目标,还需证明有关措施如何运行,以及认证要求能否在实践中持续得到满足。
方案拟对教师、学校或继续教育学院自行创建、且仅在该教育机构内部使用的智能体、定制AI工具或封装工具免予产品认证。教育机构仍应确保此类工具的设计和使用安全、合法,上述安排不免除其相应责任。对于需要认证评估的产品,方案提出可结合文档审查、技术审查、基准测试、儿童保护情景测试及红队测试等方法,判断其是否符合认证条件。
其中,文档审查涉及风险评估和治理程序,技术审查涉及产品设计、配置及安全控制;儿童保护情景测试用于检验安全控制、风险上报处置流程及儿童保护功能在贴近实际的情境下能否有效运行;红队测试则通过有意尝试误用或挑战产品,识别开发者未预见的损害、漏洞及失效情形。对于仍处于研发或测试阶段的产品,自评或文档审查可作为认证前的准备路径,但本身不构成认证。完整认证应从何种部署规模起成为通常的安全保障方式,仍属本次公开咨询事项。
(四)建立认可与认证分工及公开查询机制
方案区分机构认可与产品认证两个层次。英国认可机构(United Kingdom Accreditation Service)拟对合格评定机构(Conformity Assessment Bodies)的能力和公正性进行认可。经英国认可机构认可并由认证方案所有者指定的合格评定机构负责评估产品并作出认证决定。拟参与认证的合格评定机构需符合合格评定——产品、过程和服务认证机构要求ISO/IEC 17065(Conformity assessment — Requirements for bodies certifying products, processes and services)及方案所有者规定的其他要求,并在评估和认证决定中保持独立、公正。产品供应商向合格评定机构申请认证并支付费用,英国认可机构不直接承担产品认证工作。
在方案归属与实施安排方面,英国教育部比较了自行持有并管理方案、持有方案并授权第三方实施,以及由合格评定机构自行持有并运行认证方案三种模式,并将第二种模式列为优先选项。在该模式下,英国教育部拟保留对标准、评估条件及治理的控制,具体认证仍由经认可的合格评定机构负责。获授权实施方案的第三方如同时承担合格评定机构职责,还需符合相关认可要求,并通过适当的组织结构和信息隔离保障公正性。
通过认证的产品可使用相应标识。英国教育部拟维护公开的认证产品名录,供教育机构查询和选择。标识及名录可显示已评估的产品类别、发证机构和认证到期日等信息,使教育机构了解认证所覆盖的具体范围。
(五)通过重新认证和持续监督核验标准符合性
方案拟要求产品在首次认证后持续符合安全标准。对过滤、高风险数据处理及个性化教育科技产品,英国教育部提出可考虑每三年进行一次完整重新认证,同时考虑由合格评定机构在三年期间开展年度针对性监督检查。对变化较快、相关风险较高的生成式AI工具,重新认证可能需要更频繁,咨询材料以每年一次为例征询意见。上述周期均属拟议安排,尚未最终确定。
供应商拟被要求及时向合格评定机构通报产品潜在的重大变更,由合格评定机构判断是否达到完整重新认证或针对性重新评估的条件。如果认证周期内的重大变更已使产品不再符合认证条件,则需重新认证。方案所有者还拟根据技术、基础标准或安全风险的变化审查认证要求;要求调整后,已认证产品需在规定期限内重新评估,英国认可机构应核验合格评定机构是否具备继续开展评估所需的能力。
对认证后的投诉或不符合要求报告,合格评定机构拟承担调查责任。供应商未满足要求、审计发现问题或未按期采取必要纠正措施时,合格评定机构可暂停或撤销认证,并向供应商说明决定及理由,给予其回应、申请复核或申诉的机会。教育机构将收到通知,并可能被建议立即停用产品;如果立即停用将造成更大的儿童保护或运行风险,则可能被建议在一定期限内继续使用,并视情况提供适当的临时保障措施。认证被暂停或撤销后,供应商不得继续声称符合方案标准或使用认证标识,产品也将从公开名录中移除。
(六)通过法定指导及采购安排推动采用
英国教育部拟在保障儿童教育安全法定指引(Keeping children safe in education)中明确相关要求,并在学前教育基础阶段法定框架(Early years foundation stage statutory framework)中作出相应安排:教育机构采购或使用范围内较高风险产品时,应取得与风险相称的依据,证明产品符合英国教育部的相关安全标准。按照拟议安排,产品认证通常将成为取得此类依据的途径。
教育机构也可依赖其他可信证据,但需说明其等效性,并设置预定用途所需的附加保护措施。例如,较大年龄学生在技术、职业或应用学习中确需使用未认证产品时,可以在具备相应证据和保障的情况下考虑替代路径。教育机构还需持续审查有关情况,并在认证暂停、撤销或到期时及时采取行动。
咨询材料明确指出产品认证拟采取非强制安排,英国教育部目前无特定职权强制教育机构使用已认证产品,或要求供应商取得产品安全认证。未来如转为在特定情形下强制使用已认证产品,需有新的立法依据并开展进一步影响分析。将认证作为相关采购框架中的通常符合性证明途径,乃至未来作为进入相关采购框架的条件,亦均属于公开咨询的内容。
(七)统筹供应商负担及实施进度
英国教育部拟了解不同规模供应商达到认证条件的可行性,以及证据收集、产品修改和持续符合要求所需的成本。对小型供应商、新进入市场的企业及早期产品,咨询材料征询了分阶段评估、技术支持、费用减免或资金支持、延长准备时间等措施是否适当。具体认证费用拟由合格评定机构确定,咨询材料尚未设定统一收费标准,上述支持措施亦为公开咨询的选项。
此外,英国教育部计划于2027年春季公布政府回应。根据咨询材料,如决定推进,建立认证方案至少需要18个月,此后还拟设置过渡期,供供应商和教育机构作出准备。相关安排将考虑教育科技产品通常的采购和合同周期,且咨询材料尚未确定认证启动日期。
总结
总而言之,方案保留了明确的适用边界。安全认证原则上不评价产品整体教育效果,不替代数据保护监管,也不免除教育机构对实际使用及本地自建工具的责任。等效证据、本地自建工具豁免及重新认证等安排,均有相应适用条件。最终标准、评估程序、认证周期及是否需要进一步立法,仍需结合本次公开咨询结果确定。
资料来源:英国教育部(DfE)2026年11月10日公开咨询材料
撰稿|合规部
责编|卢蔷
声明:本文来自三所数据安全,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。