IBM将不再开发用于大规模监视的面部识别技术

2020-06-10 15:43

听客跨境

关注

IBM昨日表示，它将不会提供或开发通用的面部识别技术，以鼓励执法部门负责任地使用该技术。多年来，该公司一直是该领域的佼佼者，提供多种解决方案。

在致国会的一封信中，IBM首席执行官 Arvind Krishna谈到了George Floyd，Ahmaud Arbery和Breonna Taylor的去世，并表示公司希望与官员合作以实现种族平等。

IBM将不再开发用于大规模监视的面部识别技术

克里希纳建议，需要通过警察改革，负责任地使用技术以及扩大技能和教育机会来对主要政策进行改变。为此，他说IBM将不会提供通用的面部识别技术，因为它可能会用于大规模监视：

IBM坚决反对并且绝不容忍将任何技术（包括其他供应商提供的面部识别技术）用于大规模监视，种族歧视，侵犯基本人权和自由或任何与我们的价值观和信任原则不符的目的和透明度。我们认为，现在是时候开始关于国内执法机构是否以及如何使用面部识别技术的全国对话。

用于监视的面部识别一直是隐私专家所担心的。今年早些时候，《纽约时报》的报告揭露了Clearview AI公司，该公司通过抓取数百万个网站并将该解决方案出售给数百家执法机构来开发面部识别系统。该公司对准确性的错误主张可能导致了一些错误肯定。

IBM将不再开发用于大规模监视的面部识别技术

今年3月，印度承认其使用面部识别技术来识别在美国总统唐纳德·特朗普（Donald Trump）访问该国时在新德里首都发生骚动的骚乱者。去年，《印度快报》报道说，德里警方记录了抗议印度有争议的《公民身份修正法》（CAA）的镜头，并通过面部识别软件进行了处理。除此之外，中国还以通过多种监视技术（包括面部识别工具）窥探其公民而闻名。

美国国家标准技术研究院（NIST）在2019年发表的一项研究表明，与高加索人脸相比，面部识别系统对亚洲和非裔美国人脸部的误报率更高。

所有这些例子都指出了潜在的偏见，大规模监视的危险以及通过面部识别进行有针对性的分析。去年，IBM发布了一个庞大的数据集，其中包含来自Flickr 的各种面孔，以减少AI的偏见。但是NBC的一份报告发现，该公司未能通知那些照片中的人其图像已被用于此目的。

尽管IBM为种族平等而退出通用AI是值得称赞的一步，但它要做的还远远不止这些。有许多公司提供IBM解决方案的替代方案。因此，这家科技巨头将需要积极参与减少偏见和政策制定，这将阻止面部识别技术被用于监视。