Facebook开发新型AI系统，可检测仇恨性言论

2018-09-13 08:33

今日，Facebook宣布其开发出了一款新型人工智能系统，能够用来检测仇恨性言论。有美国科技媒体认为，这款AI系统对于Facebook面临的内容审查困境将会大有用处。

一直以来，无论海内外的社交媒体平台都面临着内容审查艰难、容易有“漏网之鱼”的局面，作为社交巨头的Facebook也无法避免。之前，Facebook曾被指责需要对缅甸、斯里兰卡和印度的暴力事件负有一定程度上的责任。于是，近几个月，Facebook正在采取行动，组织缅甸宣传仇恨内容的传播。但目前，缅甸国内针对罗新亚穆斯林的种族暴力依旧在持续，尽管Facebook删掉了18个账户与52个与缅甸军方相关的网页。

本次，Facebook推出的这款AI系统代号为“Rosetta”，能够帮助计算机阅读理解每天发布到Facebook上的数十亿张图像和视频。这将促使Facebook能够更加容易发现平台上有哪些内容是仇恨言论。该系统适用于Facebook和Instagram，并且，还能够用于改进照片搜索和新闻流表面的内容。据悉，该系统是通过十多亿个图像和视频帧中实时提取不同的语言文本，对平台内容进行监控。

近期，Facebook首席运营官雪莉·桑德伯格和Twitter首席执行官杰克·多尔西共同到国会作证，就是因为需要对其公司为保护用户所设立的内容审查政策和安全措施进行阐述。这也足以看到，其在内容审查方面面临的困境。

与此同时，Facebook针对的内容的审核也越来越严格。此前，其只禁止暴力内容，今年7月份开始，Facebook已经开始删除旨在煽动或者加剧暴力的虚假信息。该系统的推出意味着Facebook在针对内容审查方面更进一步的完善。

最后，Facebook还表示，其正在向自动翻译工具添加新的语言。新近增加的24种新语种包括豪萨语、乌尔都语和尼泊尔语等。