2023年10月30日，美国白宫发布拜登签署的最新行政令——《关于安全、可靠和可信地开发和使用人工智能的行政命令》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence），旨在确保美国在把握人工智能的前景和风险管理方面处于领先地位，同时也对美政府下一步行动措施与职责分工进行了安排与划分。
值得关注的是，美国部分智库专家评论指出，“此次行政令代表了美国对技术监管方式的转变”，一定程度上反应了美政府对社交媒体平台监管的失败；美政府“似乎要回避开放式创新模式，而这种模式曾使美国公司在几乎所有计算和数字技术领域处于全球领先地位。” 本文就此摘编其要，仅供学习参考。
美国总统拜登发布关于安全、可靠和值得信赖的人工智能的行政命令
作者：辛勤耕耘者
全文摘要与关键词
1.美智库专家如何评论此次行政令？政府“身体力行”与安全是核心问题；行政令作用有限，内容仅触及表面，前路艰难；政府“观望”策略行不通；是对开放式创新模式的回避；最终难以阻止AI的恶意使用
2.美政府下一步打算怎么干？
①国土安全部（领导）：管理关键基础设施和网络空间中的AI、促进全球AI安全标准的采用、降低AI可用于制造大规模杀伤性武器的风险等
②商务部（落实具体工作）：NSIT，工业与安全局，国家电信和信息管理局，美国专利商标局
3.《行政令》八个行动目标
①建立人工智能安全和安保新标准
②保护美国民众隐私
③促进公平和公民权利
④保护消费者、病患和学生权益
⑤支持劳动者
⑥促进创新和竞争
⑦提升美国在海外的领导力
⑧确保政府负责任且有效地使用AI
2022年10月，美国白宫发布《人工智能权利法案蓝图》（Blueprint for an AI Bill of Rights） ，从科技、经济以及军事等方面为美国人工智能发展提供指引。提出五项原则：（1）安全有效的系统（2）算法歧视保护原则（3）数据隐私原则（4）通知和解释原则（5）人工选择、考虑和退出原则。
2023年5月，美国国家人工智能咨询委员会（NAIAC）发布《国家人工智能咨询委员会》（National Artificial Intelligence Advisory Committee）报告，围绕4大主题：（1）可信人工智能的领导力（2）人工智能研发的领导地位（3）支持人才培养并提供机会（4）国际合作，提出了AI发展的14项目标和24项行动建议。
2023年10月，美国总统拜登签署的《关于安全、可靠和可信地开发和使用人工智能的行政命令》作为美国政府负责任创新综合战略的一部分，该行政令以美国总统之前采取的行动为基础，包括促使15家领军企业自愿承诺推动AI的安全、可靠和可信的发展工作。
*****
美国在人工智能创新方面已经处于领先地位，2022年在美国筹集首次资金的人工智能初创公司数量超过了其后七个国家的总和。
*****
美国人工智能治理已进入到国内国际并行，强势争夺人工智能领域治理主导权的层面。
*****
01 智库评论
专家们对该命令表示肯定，但警告其潜在影响将取决于其实施方式，以及为各种举措提供资金支持的能力。该命令的关键条款，例如呼吁解决人工智能模型的隐私风险，将要求国会根据联邦隐私立法采取行动，而这一立法优先事项仍处于停滞状态。
1.1 最突出的是AI对美国政府的影响
格雷厄姆·布鲁克（Graham Brookie）
大西洋理事会数字取证研究实验室副总裁兼高级主任
该项行政命令设定了一个重要的政策议程，供其他机构（包括国会和结盟的国际合作伙伴）考虑下一步行动。最引人注目的不是为行业或更广泛社会制定的规则，而是政府本身将如何开始考虑部署AI，其中安全是核心。随着政策的制定，政府机构也必须 “身体力行”。
1.2仅靠行政措施无法完成工作
劳埃德·惠特曼 (Lloyd Whitman)
大西洋理事会地质技术中心高级主任
受到行政部门现有权力和拨款的限制，该行政命令作用有限。虽然联邦AI领域的优先事项设定、原则和最佳实践、框架和指导都很重要，但该命令的大部分内容都需要制定规则并采取其他行政措施，而这些都需要时间，并会受到司法审查，也可能会被政府撤销。美国在AI方面的领导地位需要两党认识到AI给经济安全和国家安全带来的机遇和挑战，并通过立法确保以平衡、透明和负责任的方式促进和保护这一关键新兴技术。
1.3 美国仍必须就人工智能进行艰难对话
罗斯·杰克逊 (Rose Jackson)
大西洋理事会数字取证研究实验室民主和技术计划主任
这项行政命令通过要求每个政府机构检查AI如何以及在哪些方面与其政策和监管管辖范围相关，美国在推进AI治理的部门方法方面迈出了重要一步。随着对数据隐私行动的认可并明确呼吁国会通过立法，这为采取有意义的行动提供了大量的契机。这是一项实质性举措，为美国进行必要的艰难对话做好了准备，以确保利用AI创造更美好的未来。
1.4 其中许多内容只是触及表面，尤其是在医疗保健和竞争政策等领域
马克·沃纳（Mark Warner）
弗吉尼亚州民主党参议员
美国需要额外的立法措施，确保优先考虑安全，打击偏见和有害滥用，并负责任地推出技术。该行政命令代表了华盛顿对技术监管方式的转变，部分原因是社交媒体平台监管失败。由于未能解决社交媒体平台对从选举到青少年心理健康等各个方面的影响，华盛顿的政策制定者希望在制定AI规则时不要再次措手不及。
1.5 “观望”策略行不通
克里斯·维索帕尔（Chris Wysopal）
Veracode首席技术官兼联合创始人
这种积极主动的做法与政府过去监管新技术的方式截然不同。政府在监管互联网和社交媒体所采取的“观望”策略在这里是行不通的。
1.6 美国对待数字技术市场的方式可能发生巨大变化
亚当·提雷（Adam Thierer）
自由市场智库R Street的高级研究员
政府在AI政策上采取了一种无所不为的做法。这项命令代表着美国对数字技术市场的态度可能发生巨大变化，因为联邦政策制定者似乎准备回避开放式创新模式，这种模式曾使美国公司在几乎所有计算和数字技术领域处于全球领先地位。
1.7 这感觉就像杀毒软件的早期发展
戴维·布鲁姆利（David Brumley）
卡内基梅隆大学网络安全教授兼网络安全公司ForAllSecure 首席执行官
“当我看到它时，我就知道它是恶意的，我可以防止同样的恶意事件发生，但很难阻止其他人创建更多的恶意软件。”布鲁姆利警告说。
02 下一步落实措施
国土安全部领导负责任的AI发展，商务部主要实行具体重要工作。根据行政命令指示，由国土安全部（DHS）领导AI的负责任发展，商务部在实施行政命令上发挥关键作用，其中，美国国家标准与技术研究院（NIST）、工业与安全局（BIS）、国家电信和信息管理局（NTIA）以及美国专利商标局（USPTO）将负责开展重要工作。
2.1 国土安全部
国土安全部将：
管理关键基础设施和网络空间中的AI
促进全球AI安全标准的采用
降低AI可用于制造大规模杀伤性武器（WMD）的风险
打击与AI相关的知识产权盗窃
并帮助美国吸引并留住技术人才
国土安全部成已立人工智能工作组。2023年4月，DHS成立了该部门的第一个AI工作组，以推动AI的具体应用，并制定了有关AI技术的获取和使用以及负责任地使用人脸识别技术的指南。
2.2 商务部
美国国家标准与技术研究院（NIST）将领导美国政府的AI安全技术工作。他们将在现有工作的基础上，为前沿AI模型的安全和负责任的开发制定行业标准，创建测试环境来评估这些系统，并制定隐私和AI生成内容时的身份验证标准。
工业与安全局（BIS）将援引《国防生产法》制定措施，在开发下一代前沿AI模型时增强安全性，包括要求开发人员报告他们为测试模型而采取的步骤并防止模型被盗。这些措施建立在白宫对安全、安保和信任的自愿承诺的基础上，并将促进AI的安全开发和使用。
国家电信和信息管理局（NTIA）将准备一份报告，以评估模型权重在线发布或“开源”时的风险和收益。
美国专利商标局（USPTO）将澄清知识产权和AI交叉点的关键问题。
03 行政令：八个行动！
3.1 建立人工智能安全和安保新标准
总统指示采取全面行动，以保护美国人免受AI系统潜在风险的影响：
共享关键信息。根据《国防生产法》（Defense Production Act），该命令将要求开发任何对国家安全、国家经济安全或国家公共健康安全构成严重风险的基础模型的公司在训练模型时通知联邦政府，与其共享所有红队安全测试结果
制定标准、工具和测试，以帮助确保AI系统安全、可靠和可信。政府为推进人工智能安全领域采取重要行动
生物合成筛选新标准。通过制定强有力的生物合成筛选新标准，防范利用AI设计危险生物材料的风险
建立AI检测最佳实践。通过建立检测AI生成的内容和验证官方内容的标准和最佳实践，保护美国人免受AI带来的欺诈和欺骗
建立先进的网络安全计划。在美国政府正在进行的 "人工智能网络挑战"（AI Cyber Challenge）的基础上，建立先进的网络安全计划，开发AI工具来查找和修复关键软件中的漏洞
制定国家安全备忘录。下令由国家安全委员会和白宫办公厅制定一份国家安全备忘录，指导有关AI和安全方面的进一步行动
3.2 保护美国民众隐私
为了更好地保护美国人的隐私，免受AI带来的风险，总统呼吁国会通过两党数据隐私立法，并指示采取以下行动：
支持并加快开发和使用隐私保护技术
增强隐私保护研究和技术，为研究协调网络（Research Coordination Network）提供资金，以推动快速突破和发展
评估各机构如何收集和使用商业可用信息
为联邦机构制定评估隐私保护技术的指导方针
3.3 促进公平和公民权利
为业主、联邦福利计划和联邦承包商提供明确指导，防止AI算法被用来加剧歧视
解决算法歧视问题。通过培训、技术援助，以及美国司法部和联邦民权办公室之间就与AI有关的侵犯民权事件进行协调工作
确保整个刑事司法系统的公平性。通过制定量刑、假释和缓刑、审前释放和拘留、风险评估、监控、犯罪预测和预测性警务以及法医分析中使用AI的最佳实践
3.4 保护消费者、病患和学生权益
为了保护消费者，同时确保AI能让民众生活得更好，总统指示采取以下行动：
推动在医疗保健领域负责任地使用AI，研发负担得起的药物
通过创建资源支持教育工作者部署AI教育工具
3.5 支持劳动者
为减轻工作场所监视、偏见和工作岗位流失等风险，总统指示采取以下行动：
制定原则和最佳实践，通过解决工作岗位流失问题，减轻AI对劳动者的伤害并最大限度地提高其权益
编写关于AI对劳动力市场潜在影响的报告，研究并确定加强联邦政府对面临劳动力中断的劳动者的支持方案
3.6 促进创新和竞争
该行政命令确保通过以下行动继续引领创新和竞争：
通过“国家AI研究资源”（National AI Research Resource）的试点，促进全美的AI研究，并扩大对医疗保健和气候变化等重要领域AI研究的资助
为小型开发者和企业家提供技术援助和资源，帮助小型企业实现AI突破的商业化
现代化和简化签证标准、面试和审查，扩大在关键领域拥有专业知识的高技术移民和非移民在美国学习、居留和工作的能力
3.7 提升美国在海外的领导力
AI的挑战和机遇是全球性的。美国政府将继续与其他国家合作，支持在全球范围内安全、可靠地部署和使用AI。为此，总统指示采取以下行动：
扩大双边、多边和多利益相关方参与，就AI开展合作。国务院将与商务部合作，领导建立强大的国际框架，以利用人工智能的优势、管理其风险并确保安全
与国际合作伙伴和标准组织一起加快重要AI标准的开发和实施，确保技术安全、可靠、可信和可互操作
促进AI在海外安全、负责任和明确权利的开发和部署，以解决全球挑战
3.8 确保政府负责任且有效地使用AI
为确保政府负责任地部署AI并使联邦AI基础设施现代化，总统指示采取以下行动：
发布各机构使用AI的指南，包括保护权利和安全的明确标准、改进AI采购、加强AI部署
更高效地签订合同，帮助各机构更快、更经济、更有效地获取指定的AI产品和服务
加快招聘AI专业人才，作为由人事管理办公室、美国数字服务部、美国数字军团和总统创新奖学金领导的全政府AI人才激增计划的一部分，各机构将为相关领域的各级员工提供AI培训
强有力的国际框架管理AI的发展与使用。在推进这一议程时，政府将与国外盟友和伙伴合作，建立一个强有力的国际框架来管理AI的发展和使用。在过去的几个月里，政府已经就AI治理框架进行了广泛磋商，与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国等国家进行了接触。该行政令所采取的行动是对日本领导七国集团的“广岛AI进程”、“英国AI安全峰会”、印度作为AI全球伙伴关系主席国所发挥的领导作用，以及联合国正在进行讨论的支持和补充。美国政府将继续与国会合作，寻求两党立法，以帮助美国在负责任的创新方面处于领先地位。
参考文献：
1.https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/
2.https://www.atlanticcouncil.org/blogs/new-atlanticist/experts-react/experts-react-what-does-bidens-new-executive-order-mean-for-the-future-of-ai/
3.https://cyberscoop.com/white-house-ai-executive-order-cybersecurity/
4.https://www.dhs.gov/news/2023/10/30/statement-secretary-mayorkas-president-bidens-executive-order-artificial
5.https://www.commerce.gov/news/press-releases/2023/10/department-commerce-undertake-key-responsibilities-historic-artificial
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
