甘肃晋龙护栏制品有限公司您好!欢迎访问甘肃晋龙护栏制品有限公司网站!

请您登录网站后台查看! 您暂无未读询盘信息!

甘肃晋龙护栏制品有限公司

新闻资讯
当前位置 当前位置:首页 > 新闻资讯 > 时事热点

面部识别对黑人错误率较高,人工智能有搞“种族歧视”吗?

所属分类:时事热点    发布时间:2021-10-19   作者:南方周末
  分享到:   
二维码分享

优步公司在英国又“摊上大事”了。这事大致上是这样的:公司要求员工把自拍照上传到人事系统,与系统存储的参考照片进行匹配。如果匹配不成功,那么系统会提示员工实时自拍,并面临解雇风险。而员工一旦被解雇,也将面临被自动吊销其私人出租司机和车辆执照的处罚。这样的倒霉事在两位优步前员工身上发生。

这本来是一起普普通通的劳资纠纷。但是,英国工会可不会那么轻易放过这样的机会,诉讼的理由中赫然出现了“种族歧视”。

因为据一些技术人员和相关组织称,“面部识别系统……天生就有缺陷,对有色人种进行识别时准确度会变得很差”。涉及“种族”,事件性质立刻升级到“种族歧视”的高度了,技术问题升级为政治问题,敏感度倍增。

其实,人工智能面部识别系统对有色人种的识别精度不佳,不是新问题。2015年,谷歌就闹过笑话。一名黑人软件开发人员在Twitter上说,谷歌照片服务把他和一个黑人朋友的照片打上了“大猩猩”的标签。当时也有一些“进步”组织和人士借机发难,指责谷歌“种族歧视”。但“进步”的谷歌不大可能是故意为之。“受害者”可能是猩猩,因为谷歌的应对措施是把“猩猩”和其他灵长类动物的标签移除了,“猩猩”在“谷歌..”中成了“查无此人”的黑户。

比起2015年的谷歌,优步可能就没那么幸运了。一则“种族问题”的敏感度远远超过了2015年;二则涉及劳资纠纷,索赔的想象空间巨大。就在2021年10月5日,因“旗下工厂存在种族歧视问题”,美国旧金山法院判决某电动汽车厂商向前黑人员工赔付1.37亿美元。

那么,到底人工智能的识别误差能不能被视为“种族歧视”呢?这就涉及误差产生的原因。众所周知,人工智能是在特定模型下自我学习形成算法的,训练模型所依据的数据集和模型本身的设计都有可能带来偏差。数据集和模型本身哪怕只是出现了人力难以察觉的细微偏差,人工智能的海量运算也会将其放大到失真的程度。这样的问题在现有的技术条件下并不罕见。2013年谷歌人工智能预测流感暴发就“大翻车”了,预测数据比实际数据高了两倍。原因是经媒体报道后,很多没得流感的人也搜索了相关内容,导致人工智能的误判。

造成“有色人种面部识别率误差大”的技术因素甚至更为单纯——光学现象。2015年“黑猩猩标签”事件后,技术人员分析发现,识别错误率的不是非裔,而是亚裔(黄种人)女性,识别错误率高达20%。而“黑人”的识别错误率为5%——此处的“黑人”并不局限于所谓“非裔”,而是纯粹意义的深肤色,也包括印度裔、拉丁裔等等。

造成这一现象的原因其实不难理解,亚裔女性的肤色普遍偏白,不仅比亚裔男性白,甚至可能比大部分白人更白,更高的反光度更强造成了面部成像的对比度下降,造成了识别度偏低。而“黑人”的肤色偏黑,吸收了更多的光,同样造成了识别困难。其实,理解这一现象不需要高深的知识,日常生活经验就够了。观察各类摄像头监视画面里就可以发现,肤色更黑和更白的人,面部细节会更模糊一些。

这一纯粹的光学难题,人工智能很难完全克服,确实存在技术局限性。但是,没有理由认为这是人为设置的“歧视”。硅谷没有理由专门为难亚裔女性,却“放过”亚裔男性。也不会刻意针对“黑人”——在硅谷,深肤色的印度裔可是优势人群。更何况人为降低人工智能的面部识别精度,对这些企业的商业利益毫无帮助。

当然,不可否认,人工智能技术确实会产生“歧视”。2014年亚马逊开始建立人工智能程序,以审查求职者的简历,以实现自动化招聘功能。但是,一年之后亚马逊就放弃了这一尝试,因为他们发现“AI不喜欢女性”。这种差别对待当然符合“歧视”的标准定义,但是这种“歧视”恰恰是因为“过于真实”才造成了麻烦。亚马逊有很多岗位是体力有一定要求的,男性确实比女性强壮,因此AI计算形成了性别偏好。这到底算不算AI犯错了呢?

引入人工智能自动招聘是为了提..率,AI确实做到了。但是,这种真实的效率改进,却因“性别歧视”的敏感性而搁浅。复杂的人类社会中,真相并不总是受到欢迎,AI没有学到这重要的一课。

如果是护士、教师等女性优势岗位也用人工智能自动招聘,出现“重女轻男”的结果,又会如何?多半是波澜不惊,甚至成为一段佳话。这种微妙的心态,或许已经超出了AI的理解能力。

归根结底,围绕“人工智能”的是是非非再复杂,也是技术问题,不应将其政治化、意识形态化。即使存在技术局限,那就改进技术,而不是挥舞“歧视”的政治大棒去限制和扼杀。如果因此导致人工智能学会撒谎,那更是危险的倾向。

(作者系历史、经济学者)

(本文仅为作者个人观点,不代表本报立场)

关不羽

甘肃晋龙护栏制品有限公司     备案号:陇ICP备17002360号-3

地址:甘肃省兰州市榆中县来紫堡乡方家泉村工业园25号

联系人:武先生 电话:0931-8495201  手机:13919791899  邮箱:582882418@qq.com

网站地图 | RSS XML

甘公网安备 62012302000207号

Copyright © 甘肃晋龙护栏制品有限公司 版权所有

技术支持:    万家灯火