因担心应用不当,IBM宣布不再开发、提供任何人脸识别相关技术。

IBM CEO阿尔文德·克里什纳 (Arvind Krishna) 昨天在递给美国国会议员的一封信中下了这个决定。

他说:“IBM反对使用任何技术来监视大众、种族定性、侵犯基本人权和自由、以及从事任何与我们价值观及原则不一致的事情。”

其实,人脸识别业务在 IBM 整体营收中的占比并不大,相关技术实力、研发进程也平平无奇。

但考虑到蓝巨人IBM是强ToG公司,政府部门又是这项技术的高频采购方,全面停止这项业务也引发了不少讨论。

1

一项技术的研发、落地,通常在同一象限内基本能让全球的从业者达成初步共识,譬如5G、IoT等等。

人脸识别技术却是个例外,它一直经历着史无前例的冰火两重天。

作为人脸识别等AI技术停栖的天然深水港,安防市场过去几年热闹非凡。

在各类技术相互交织的时代,摄像头既是终端商用落地场景,又是数据驱动源头之一,战略制高点地位非同一般。

大背景下,这条赛道也吸引了海康、大华等传统安防企业外,包括PATH(平安、阿里、腾讯、华为)等无数大小企业的密切关注。

谁也没有想到的是,在人脸识别等AI技术发展方兴未艾时,大洋彼岸的一些地区、企业却试图狙击。

2

去年,继旧金山之后,美国马萨诸塞州的萨默维尔市议会以11票赞成、0票反对的结果通过了《反面部识别条例》(anti-facial recognition act)。

该法案认为这项技术有可能影响到言论自由。

法案相关条例指出:“在公众地方广泛应用人脸监控,其功能相当于要求每个人在任何时候都必须携带并出示一张个人照片身份证。”

该法案还指出,面部识别技术可能会出现误判,尤其是女性和非白人。

“许多应用人脸监控技术的数据库都受到种族和其他偏见的困扰。”

该市议员Ben Ewen-Campen说,公众越来越担心新技术将影响社会和谐,这是一场侵犯隐私的攻击,作为个人和家庭,在社会中获得自由越来越困难。

政府法案之下,部分企业也随之响应。

紧接着,警用执法记录仪制造商 Axon 发表声明,自家所产摄像头产品将不带面部识别功能。

在Axon CEO Rick Smith看来,人脸识别技术对于执法类应用而言还不够准确、可靠。

他说,“这类技术方案还没有做好真正通过人脸识别做出行动决策的准备。其中可能出现的技术故障或将带来灾难性的后果,大家不应急于将其部署至实际场景当中。”

“这项决定是在道德委员会认定面部识别技术不够精确后作出的。”Axon相关负责人说道。

此前,Axon还专门设立了AI伦理道德委员会,以研究人脸识别技术可能带来的危害。

Axon之外,一些国际型大企业对此也做出了反应。

去年6月6日,英国《金融时报》报道,微软已经悄然删除其MS Celeb人脸识别数据库。

微软称该数据库是全球最大的公开人脸识别数据库。该数据库于2016年公开,含有约10万人的1000万张照片,这些照片未获得本人许可,并用于商业场景。

另外,谷歌高管也曾表态,人脸识别技术存在巨大社会风险。

此前,谷歌公司全球事务高级副总裁Kent Walker在一篇博文中写道:谷歌将不会通过Google Cloud提供“通用型”的人脸识别API。除非相关“挑战”得到明确“认定与解决”。

Walker解释,“与众多具有多种用途的新技术一样,人脸识别的应用同样需要被慎重考量,从而确保其使用方式符合我们的原则与价值观,同时避免滥用与可能出现的危害性结果。”

不久之前,谷歌方面还正式决定中止为美国国防部提供对无人机拍摄内容进行分析的人工智能方案。

3

凡是都辩证存在着。

微软、谷歌等公司对人脸识别技术表现出了超常的谨慎态度外,也有一些公司正积极落地,用以人脸识别为代表的AI技术赋能百业,降本增效。

去年夏天,亚马逊便将Rekognition交付至佛罗里达州奥兰多市以及俄勒冈州华盛顿县警长办公室作为执法工具。

此外,华盛顿县还决定利用该项功能构建一款应用程序,利用一套包含30万人脸信息的数据库对可疑犯罪分子的照片进行扫描比对。

Rekognition是亚马逊于2016年末推出的人脸识别系统,它作为亚马逊云业务的一部分,一直与政府合作,向后者提供基于“人”的安防服务。

用户可以通过标记存储在其服务器上的图像来教该服务从人群中找出个人,其面部识别技术可以扫描其他照片和视频来检测特定的个人。

之后的时间里,亚马逊还在一直更新 Rekognition服务,包括实时人脸识别,图像识别文本以及改进人脸检测。

比如通过 Amazon Rekognition,用户现在可以对数以万计的面孔进行实时面部搜索。和之前相比,搜索延迟缩短了5到10倍,同时允许存储的人脸数量增加了10到20倍。

当然,亚马逊的AI赋能之路也遍布荆棘。

不久后,该项目就被美国公民自由联盟盯上,他们呼呼:亚马逊应该停止向美国政府提供强大且“危险”的人脸识别系统-Rekognition。

该联盟认为,“亚马逊以十分低廉的价格向美国警方提供人脸识别服务。像Rekognition这样的面部识别系统,可能会导致美国公民的私人数据被滥用及隐私遭到侵犯”。

在他们看来,将人脸识别技术应用到前端视频监控摄像机上,可能会打破隐私及实用性之间的平衡。

假设美国警方有若干台这样的安防摄像机,同时拥有可疑人员的“黑名单”照片库,那么其他任何人如果与这些可疑人员有一些相像,一旦进入警察的安防摄像机的镜头之内,都有可能受到警务人员的盘问,而大多数美国人不希望生活在那样的世界里。

对于该自由联盟的呼吁,亚马逊发言人表示,该公司要求客户在使用其服务时要“遵守法律并对其行为负责”。同时亚马逊强调了该技术的积极用途,比如帮助寻找走失儿童等。

与此同时,他们还表示“如果我们因为有人可能会选择滥用技术而禁止一些新的科技,我们今天的生活质量会变差很多。”

作为系统的甲方客户,美国俄勒冈州华盛顿县发言人Jeff Talbot也表达了他们的看法,“我们已经利用这项技术抓捕了很多嫌疑人,将嫌疑犯的识别时间从2到3天缩短至几分钟”。

“我们不是批量采集,我们不会把摄像机放在任何一个街角。”

Jeff Talbot补充道,“我们希望社区成员能够意识到我们在做什么,我们可以利用这个系统来解决犯罪问题。这个系统的应用能够保障社区安全,同时在事发之后可以获得足够的信息并迅速采取行动,在破案过程中,节省几秒的时间对于拯救生命来说都意义重大”。

其实,除亚马逊之外,其他很多科技公司也与美国警方保持合作,将人脸识别技术应用于视频监控和警察穿戴的相机镜头。

例如,摩托罗拉解决方案公司正在与人工智能初创公司Neurala Inc,合作制造警察穿戴的相机镜头,用以识别嫌疑人或失踪儿童,并可以在人群中发现他们。

4

“人脸识别技术是无罪的,钢铁可以被用来制造枪支,也可以被用于制造婴儿保育箱。”

对于人脸识别技术落地所遭遇的困境,亚马逊 CTO Werner Vogels如是说。

他认为,所有的技术都是双面性的,可以有很好的应用,也可以被恶意利用。

决定技术发展的走向,取决于监管部门的选择。

当然,所有的技术从0到1,从1到N的过程都是不断补全自身短板的过程,在这方面,众多公司也开始了攻坚之路。

去年5月,Facebook便发布了Fairness Flow,该工具会自动警告某种算法是否根据检测目标的种族、性别或者年龄,做出了不公平的判断。

去年6月,通过与人工智能公平性专家们开展合作,微软公司修改并扩展了其用于模型训练的Face API数据集。

Face API是一项微软Azure API,主要提供用于检测、识别及分析图像中人脸内容的算法。

通过与肤色、性别以及年龄相关的大量新数据,Face API如今能够将深肤色男性与女性的错误判断率降低至原本的二十分之一,对女性的错误判断率则降低为原先的九分之一。

与此同时,初创企业Gfycat公司也于去年年末表示,其将引入更为严格的检测阈值,从而努力提高其人脸识别算法在判断亚裔人士面部方面的准确性。

过去一段时间,以人脸识别为代表的AI技术在部分地区的发展的确遭遇了一些挑战,但我们也绝不能因此去否定它所有的光环。

毕竟技术的正向革新往往都是伴随着阵痛匍匐前行的。

声明:本文来自AI掘金志,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。