AI的多元化危机：研究报告吐槽人工智能领域过于“白人直男癌”

2019-04-18 09:27

AI Now 研究所在今日发布的一份报告中称，人工智能行业面临着“多样化危机”，并且直指该领域方向的“关键问题”。报告发现，女性和有色人种在 AI 领域的比例严重不足，约 80％人工智能教授性别为男性。即便是 Facebook 和 Google 这样的大公司，也只有大约 10％的女性 AI 研究人员，更别提有色人种只占其中的一小部分了。

报告截图（来自：AI Now ｜ PDF ，via TheVerge ）

AI Now Institute 联席主管 Meredith Whittaker 一针见血地指出，在打造影响其他人群的工具上，AI 领域缺乏多样性、过于“白人直男癌”了。

更糟糕的是，通过修复潜在求职者“渠道”来改善问题的方案，很大程度上也都失败了。研究人员写到：“经过数十年的管道研究、评估了从学校到行业的各类求职者流动，AI 领域在多样性上并未取得实质性进展”。

为此，AI Now Institute 提出了一些改善问题的建议，比如企业能够发布更多按照种族和性别划分的补偿数据，以及通过公布骚扰／歧视报告，来提升透明度。

有观点指出，尽管多样性是科技行业难以逾越的鸿沟，但其在 AI 领域埋下的风险却要大得多，尤其是某些潜在含有偏见的技术（比如面部识别），可能会不成比例地影响历史上被边缘化的那部分群体。

其实早在 2017 年，就有面部扫描识别程序存在不公正现象的批评。但除了更加严格的测试，AI 工具的制造商们，也必须切实最好风险规避，将这些系统打造得既安全又公平。

早前亚马逊因 Rekognition 面部识别技术存在偏见而遭到炮轰，谷歌也在各界压力传导下成立了人工智能审查委员会。

研究人员指出，“ 人工智能中领域的多样性危机，已有详细记录且造成了广泛的影响，涉及行业／学术领域的不平等、招聘／晋升差异、反映和扩大有偏见的观念、以及自动化系统中的生物识别等方面”。