来源 | Medium，编译 | 四月
编者按：「我是亚马逊的员工，我们不应向军方出售人脸识别技术。」
这是一封字句之间充满震撼、愤怒以及失望的员工自白信。追随谷歌员工、微软员工的脚步，亚马逊内部正在积极联名劝阻公司停止向美国军方和政府出售 AI 技术项目。
当下，致贝佐斯的百名员工联名信现在已经获得超过 450 名员工的签名。但是，亚马逊「坚定」支持政府项目的表态却仍未见松口。在谷歌不抵员工「起义」刚刚放弃五角大楼百亿美元云计算合同之后，亚马逊已经成为该项目的最佳候选人。只是，在亚马逊员工看来，这一切已经与亚马逊所倡导的价值观背道而驰。
「如果我们要成为具备领军力的公司，我们必须在民众利益与公司利润之间做出选择。我们可以向军方和政府出售具备威胁性的监控系统，或者，我们也可以坚持正确的做法。但是，我们永远做不到两者兼顾。」
该匿名身份的真实性由Medium的编辑进行确认。
当一家公司将新技术带进这个世界时，它就有责任和义务权衡这项技术可能带来的后果。我所供职的公司亚马逊正在允许美国各地的执法部门购买其面部识别产品 Rekognition，我和其他员工要求这项业务立即停止。
几周前，我和我的同事们向杰夫·贝佐斯及其他高管发出了一封联名信，包含 450 多名亚马逊员工的签名。这封信还呼吁停止对数据分析公司 Palantir 提供支持，并建立员工监督公司道德决策机制。
Palantir 通过亚马逊的云服务业务与 ICE （Immigration and Customs Enforcement，美国移民和海关执法局）签订了大量合同，为 ICE 大部分的人员驱逐和追踪项目提供技术支持。（Palantir 是一家在 2003 年创立的大数据公司，主要为美国执法部门提供预测性警务工具。）
贝佐斯清楚地知道这些项目的用途以及存在的风险，他正在积极地与行业各界进行对话。面向公众舞台，贝佐斯承认新型科技产品可能被独裁者多度使用，甚至被滥用。但在公司内部，他仍然建议我们静观其变，等待民众接受这种担忧的「免疫反应」，而不是有意识地解释亚马逊将如何采取行动防止我们的技术被滥用。
如果亚马逊继续无所作为，我们认为「伤害」在所难免。
毕竟，这种担忧不只是「将来时」。现在，亚马逊正在研发、营销和销售危险人物监控系统（类似于国内的「黑名单监控系统」）。亚马逊官方宣传称，该系统一次能够存储和搜索数千万张人脸。执法部门已经开始使用该套系统，却几乎没有成形的监管机制对该系统的使用进行限制。
佛罗里达州的奥兰多市正在通过城市监控摄像头的实时视频输入测试 Rekognition 项目。俄勒冈州的治安官部门目前正在使用 Rekognition 项目，现场执法的官员将照片与数据库的人脸图像进行比对。这不再是一个对于未来假设情况的探讨。
如果我们要成为具备领军力的公司，我们必须在民众利益与公司利润之间做出选择。
从过往的案例中可以看到，因为缺乏监督机制，国家将手中的强大监视工具用来瞄准那些可能是无辜的人。在美国，缺乏公共问责制已经导致有色人种、移民和那些正在行使美国宪法权利的人们遭受过度监控和过度干扰。
当政府和执法机构在部署强大先进技术的同时，却忽略了这些亟待解决的社会问题是危险和不负责任的。
当亚马逊 AWS 全球公共部门副总裁 Teresa Carlson 公开表态，亚马逊将会「坚定不移地支持」为美国国防和情报客户执法时，我们感到失望。即使我们还不知道「他们所知道的一切」。
亚马逊还建议将 Rekognition 项目与军用人体摄像头系统进行联结，这将把军方用于问责罪犯的工具变成转向普通民众的移动监控设备。
我们为什么要这样做？
我们都有权在不受政府监控的情况下生活。像我们这样的公司不应该去协助专制和监控，现在没有理由这样做，未来也没有理由。但是看看当下，Rekognition 项目正通过从单帧视频中提取数十个面部人脸特征，并将其存储起来供以后使用或立即将它们与数百万张图片的数据库进行比对。
亚马逊出售这套系统和其所倡导的价值观背道而驰。
我们称自己是一家以客户为中心的公司，贝佐斯表明过对于移民不公平政策的态度：他直接反对针对移民的不道德政府政策，如穆斯林禁令。
我们无法以牺牲社会利益为代价来换取从部分大客户中获利，我们也无法避开内部员工对于这种行为的审视。我们销售的产品隐含缺陷技术，因为它可以被强加上既成的偏见。
研究表明，面部识别更容易误认皮肤较黑的人。最近一项针对 Rekognition 项目的测试清楚地证明了这一点。该测将每一位国会议员的人脸与罪犯照片进行比对，其中有 28 项错误匹配，在错误识别的结果中有色人种不成比例地过高。
退一步说，即使这些不准确性得到解决，允许政府使用人脸识别软件仍然是不负责任、危险和不道德的。产生种族偏见等的更底层偏见实际上存在于更广泛的社会架构和司法体系中，而人脸识别系统的使用只会不断放大和推进这种偏见生成机制。
考虑到美国目前的政治环境，警方加大了对黑人家庭的监控力度，特朗普政府正在继续对移民进行全面管制，这使向政府出售人脸识别项目的做法更加令人反感。
我们不想以任何方式加入到快速推进的监控安防政策中。对于亚马逊来说，尽管我们要求 Rekognition 客户遵守法律，但这并不能完全保证保护公民的自由。所以，不参与是避免对该技术负面影响担责的一种方式。
我们跟随 Google 员工的反对 Maven 项目和正在反对 JEDI 项目的微软员工的脚步。无论我们对军队的看法如何，都不应该从「增加军队的杀伤力」这件事中获利。
无论是在我们国家还是在其他国家，我们都不会对于制造压迫和杀害人的技术保持缄默。在亚马逊所倡导的领导力价值中，「如果我们要成为具备领军力的公司，我们必须在民众利益与公司利润之间做出一个选择。」
我们可以向军方和政府出售具备威胁性的监控安防系统，或者，我们也可以坚持正确的做法。但是，我们永远做不到两者兼顾。
原文链接：https://medium.com/s/story/im-an-amazon-employee-my-company-shouldn-t-sell-facial-recognition-tech-to-police-36b5fde934ac
声明：本文来自机器之能，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
