董栋殊
2019-05-26 10:01:27
  • 大约80%的人工智能教授都是男性,而女性在Facebook的人工智能研究人员中占15%,在谷歌则占10%。
  • 对于主要科技公司的黑人员工,这一比例甚至更低,谷歌只有2.5%,Facebook和微软只有4%。
  • 一项新研究表明,当人工智能项目由大多数白人男性工作者构建时,偏见渗透,这些白人男性工作者强调“对'正常'人的狭隘观念”。

根据纽约大学AI Now研究所的一份新报告,科技行业大多数白人男性编码人员正在制造“多元化危机”,其偏见渗透到面部识别程序和聊天机器人等产品中。 该报告重点介绍了Google,Facebook和微软等主要科技公司的劳动力性别失衡如何帮助人工智能中的偏见。

AI用于从面部识别到聊天机器人的各种产品。 但该报告指出,在Facebook上只有15%的人工智能研究人员是女性,而对谷歌来说,它甚至更低,为10%。

这强调了该研究的作者所说的反映多元化社会的多元化劳动力的重要性。 他们认为,科技行业的大多数白人男性人工智能编码器与技术产品中的偏见有关。 他们表示,对问题进行补救将需要更广泛的多样性方法,包括从精英校园以外的大学招聘,以及提高AI产品的透明度。

趋势新闻

“到目前为止,人工智能行业的多样性问题以及它所构建的系统中的偏见问题都倾向于单独考虑,”作者Sarah Myers West,Meredith Whittaker和Kate Crawford写道。 “但我们认为这些是同一问题的两个版本:劳动力和制度建设中的歧视问题深深地交织在一起。”

“'正常'人的狭隘观念”

研究人员写道,不仅人工智能可能会歧视某些类型的人,而且它“对他人有利,加强了对'正常'人的狭隘观念”。

人工智能的未来成为世界经济论坛的关键主题

该报告强调了人工智能计划为已经遭受偏见的群体创造有害环境的几种方式。 其中包括:

  • 亚马逊人工智能招聘工具扫描申请人的简历依赖于之前的招聘简历,为理想的招聘设定标准。 然而,人工智能开始参加女子学院的申请人的 ,或者在简历中加入“女性”一词。
  • 亚马逊的Rekognition面部分析计划黑皮肤的女性。 根据一份报告,该计划误认为他们是男性,虽然该计划没有任何问题识别男性的任何肤色。

“深切关注”

对于人工智能内部的偏见问题,纽约大学并不是第一个发出警告的人。 诸如麻省理工学院技术评论和ACLU等团体已经记录了影响招聘和等问题的问题结果。

麻省理工学院技术评论 ,问题源于深度学习阶段,当编码员通过培训数据“教授”一个项目时。 程序员可以依靠不能准确反映世界的数据集来向系统添加偏见,例如依赖包含极少数黑人的面部图像。

程序员还可以通过确定哪些属性很重要来增加偏见 - 例如性别。 如果一家公司以前的雇员大多是男性,该计划可能会学习排除女性,如亚马逊的招聘计划,加强了招聘的偏见模式。

“人工智能系统用于种族和性别的分类,检测和预测是迫切需要重新评估的,”纽约大学的研究人员指出。 “这些工具的商业部署引起了人们的深切关注。”