当地时间3月11日，西班牙政府批准了一项人工智能治理法案，要求企业在采用AI生成的内容时必须明确标识，否则将可能遭受高达3500万欧元或全球年营业额7%的罚款。此举旨在规范AI技术的健康发展，遏制潜在不良行为，并对关键行业内的高风险人工智能系统施加严格的监管措施，确保公民权益和社会安全得到有效保护。
法案草案将人工智能应用细分为不同的风险等级，并对高风险人工智能系统施加更为严格的规定。高风险系统必须遵循风险管理、透明度、人工监督以及数据治理等关键标准，并受到相关行业监管机构的严格监督。法案草案明确禁止了若干有害的人工智能实践，主要包括：
运用潜意识技术操纵决策过程：例如，通过不易察觉的图像或声音诱导用户作出非理性选择；
基于敏感数据的歧视性分类：严禁依据种族、政治立场、宗教信仰或性取向等敏感信息对人群进行分类和歧视；
缺乏人工监督的生物识别监控：例如，仅依赖AI系统监控员工出勤情况，而缺少必要的手动干预和审核程序。
为确保法案得到有效执行，西班牙政府将成立专门的人工智能监管机构AESIA，负责监督AI系统的开发和应用，并对违规行为进行调查、处罚。
西班牙数字化转型部长奥斯卡·洛佩斯表示，法案借鉴了欧盟《人工智能法案》的相关规定，对高风险AI系统实施了严格的透明度要求。同时，洛佩斯强调，AI技术既是一把双刃剑，能够提升生活质量，也可能成为传播虚假信息的工具。任何人都可能成为“深度伪造”攻击的受害者，这类技术利用AI算法生成或篡改视频、照片、音频，使其看似真实，可能被用于误导、欺诈公众。
随着AI技术的快速发展，建立健全的法律法规体系，引导AI向善发展，已成为全球共识。值得注意的是，与美国依赖企业自我规范和州级分散法规的监管模式不同，欧盟正在建立一套统一、全面的AI监管框架。作为欧盟成员国中最早实施AI监管规则的国家之一，西班牙AI新法案的出台，预示着全球AI治理进程又一次加速。
参考来源 | dataguidance、路透社
声明：本文来自赛博研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
