对抗网络霸凌人工智能成Instagram首选武器

2017-08-19 10:19

DeepText的优缺点

尽管如此，这些努力还远不能够完全阻止网络霸凌。

谢菲尔德大学的博士生Zeerak Waseem专注于辱骂语言检测和Twitter上的仇恨言论，他表示，“这些尝试没有效果”。

为什么？虽然Twitter和Facebook在抑制网络霸凌方面都取得了长足进展，但Instagram是第一个使攻击性评论自动消失的社交网站。Systrom的博文和Wired都解释了人工智能目前在Instagram帐户上的运行情况。如果用户发布令人反感或骚扰的语言，DeepText会捕获并立即删除它。Wired报道说，为了防止霸凌者试图戏弄该系统，攻击性的言论仍然可以被犯罪者看到。用户还可以手动输入要阻止的单词或短语，通过阻止每个用户设定的独特的触发词，使DeepText更加有效。

然而，DeepText并不完美。

Instagram的机器学习算法自动集成在平台上，但一些不良言论仍然可以绕过该工具。Waseem说，隐含的侮辱，如昵称或诽谤的代号会让DeepText难以发现。而且，该功能可以轻松关闭。只要用手指点击“隐藏攻击评论”就可以切换关闭状态，如果它的任务是消除网络霸凌，这似乎是违反直觉的。言论自由与创造一个摆脱仇恨言论的环境之间的界线是不容易找到的。Davidson补充表示，“机器学习不是一个能够阻止网络霸凌或网络不良言论的万能药。”机器学习可以帮助被欺负的用户体验更好，但没有技术会阻止个人说坏话。

对抗网络霸凌战争人工智能成Instagram首选武器