美国用户最广泛的关注集中在算法决策的公平性和有效性上。

11月16日,美国著名智库皮尤研究中心(Pew Research Center)发布《公众对计算机算法的态度》(Public Attitudes Toward Computer Algorithms)调查报告。报告显示,有58%的美国人认为算法和其他计算机程序总是包含某种程度的人类偏见,63%的50岁以上受访者不相信计算机算法可以完全保持中立。

对于算法的态度取决于算法使用的场景和使用者的特征。就算法应用的重要场景而言,美国人最不能接受的次序是:通过多种类型数据进行个人财务评估(68%)、求职面试时采用自动视频分析(67%)、自动筛选求职简历(57%)、犯罪风险评估(56%),其中每一项都超过了一半。而为什么无法接受?报告归纳出4项突出的主题:1. 侵犯个人隐私;2. 算法不够公平;3. 算法去除了重要决策中人性的因素;4. 人类是很复杂的,系统无法捕捉到细微的差别。

就使用者特征而言,四分之一(25%)的白人认为通过各类数据进行财务评估是公平的,这一比例在黑人中上升为45%。而通过算法评估犯罪风险,有61%的黑人受访者认为这对申请假释不公,但这一比例在白人当中下降到49%。年轻人(18-29岁)觉得网上有趣的内容(54%)是让其愤怒的内容(27%)的两倍,但是年长群体看到的内容则相差没有那么大。年龄组50岁以下的受访者大约有三分之二(66%)可以接受社交媒体使用他们的数据来给自己“推荐”想要认识的朋友,这一比例在年长群体(65岁以上)中却只有36%。但大家都很反感将自己的个人数据用于目标广告尤其是政治广告。

究其原因,这与用户的社交媒体使用具有重要关联。有74%的受访者不认为社交媒体可以准确地反映社会情况,但在一定程度上能够引发自己的情感波动。有71%的受访者会因网上内容感到愤怒,58%认为经常会遇到夸大其词的内容,59%的受访者会经常参与激烈的讨论,尽管有时他们并不了解事情的真实情况。

此次调查是于2018年5月29日至6月11日对4594名美国成年人进行的调查。皮尤指出,除非可以证明算法背后的代码足够合理,目前公众还是希望避免基于算法做决策。但即便如此,该报告也显示出,至少还有44%的受访者有时会因为社交媒体的内容开心,有40%的受访者相信通过精妙的设计可以做到去偏见(bias-free),以及相比较年长群体,年轻人更加认同算法决策服务。

编译:方师师

声明:本文来自互联网研究前沿,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。