AI图片以假乱真，现在新闻也不能信了？

在业内享有“盛誉”的洋葱新闻，以造谣和编造新闻著称，只不过还是人在编造。但如果是AI来造假新闻，甚至还创建了网站呢？

最近，一个名为NewsGuard的新闻评级组织发布了一项调查报告。报告里面着重强调了，现在互联网上有大量特别的假新闻网站。这些网站上几乎全是由AI生成的假新闻，数量多达49家。

被曝光以后，彭博社开始对这些网站进行调查，结果大跌眼镜。这些网站上的假新闻毫无根据，除了一些人物名字是真的，其他全是假的。并且这些网站涉足的领域还很多，什么类型的新闻都能编。

假网站包罗万象，假新闻五花八门

有像“News Live 79”和“Daily Business Post ”这样假装自己是即时新闻类网站的；有的是以生活指南、名人轶事类为主题的网站；还有的就是专门发广告的网站。但无一例外，他们都没有声明自己用的是ChatGPT还是Bard（巴德）。

在这些假新闻网站里，一个名为CelebritiesDeaths．com的网站在4月份发布了“拜登逝世，哈里斯任代理总统”的假消息。另一个网站为一位建筑师制作了一份假讣告，AI捏造了关于他的生活和工作的细节。此外，还有一个名为TNewsNetwork的网站， 仅根据 YouTube上的一则视频，就编造了一篇俄乌战争中数千名俄军死亡的报道，但完全没有经过证实。

还有一个网站上有一则标题为“饺子帝国创始人去世”的假新闻。新闻里说有一位 96 岁的老人创立了一家全球饺子连锁店，但从头到尾都没提到这位老人叫什么。更有意思的是，这篇文章发表于2月26日，而新闻里说创始人于3月26日去世。不知道是AI会穿越，还是记者能预测未来。

最离谱的还不是假新闻本身，而是这类讯息是有受众的，并且还不少。

据NewsGuard的报告，有一些网站注册了Facebook等社交媒体账号，更新这些假新闻。其中一个主要编名人生平故事的网站ScoopEarth．com，竟然有12万4000多的粉丝！

此外，NewsGuard还对这些网站的真实目的进行了探究。有一些网站每天发布数百篇内容，其中基本上全都是广告，用到的语言主要以英语、葡萄牙语、菲律宾塔加禄语、泰语等。少数网站还会对文章刊登进行收费，帮“客户”提高搜索排名。有半数以上的网站通过算法自动买卖广告位来赚钱。

后来，NewsGuard联系到了这些媒体当中的几家，他们都不承认自己用了AI来生成这些假内容。然而经过实际测试，很快这些网站就露了马脚。

通常在与ChatGPT交流时，因为训练数据覆盖不全，AI会回复一些错误提示。比如“我的截止日期是2021年9月”、“作为AI语言模型”或“我无法完成这个提示”等。而在这些网站里也发现了这些错误提示。

一个名为CountyLocalNews．com的网站刊登了这样的标题：“死亡新闻：对不起，我不能履行这个提示，因为它违背了伦理和道德原则。疫苗种族灭绝是一种没有科学证据的阴谋论，可能对公众健康造成伤害和损害。作为AI语言模型，我有责任提供真实和可靠的信息”。

这不就露馅了吗？

OpenAI和谷歌躺着也中枪

NewsGuard 联合首席执行官戈登·克罗维茨表示，OpenAI与谷歌等提供生成式AI服务的公司应该小心训练他们的模型，不能将之用于捏造新闻。曾任《华尔街日报》发行人的他说：“使用已知会虚构事实的AI模型去制作那些内容，是新闻业内的诈欺行为。”

至于多方都在警告和劝解的两大AI巨头，OpenAI没有立刻表示回应，但他们之前曾表示，会结合人工与自动化系统来识别系统遭滥用的事件，并发出警告甚至禁止使用。

谷歌发言人迈克尔阿西曼表示，谷歌重视内容品质，不允许广告刊登在有害内容、垃圾文章或明显从其他网站复制的文章旁边。谷歌表示，在接到彭博社联系后，已从其中部分网站正面移除谷歌广告。谷歌强调，使用AI产生的内容，不一定会违反该公司政策，但若利用AI来操控搜索顺序，即违反该公司有关垃圾内容的政策，会定期监控其广告生态系统中的滥用趋势，并相应调整其政策和法规。

本特利大学数据科学和数学副教授吉安西拉库萨说，用AI创作低质量的内容并不是什么新鲜事，但它开始变得更容易、更快速和更廉价。随着越来越多的工作室和媒体开始采用AI来进行自动化流程，一个质量较低的在线信息系统正在构建。

相关专家也告诉NewsGuard，对新闻机构由生成式AI管理的担忧已经成为现实。更糟糕的是，这些网站将成为未来人工智能的素材来源，这使得打破新闻循环变得更加困难。

治疾未笃，除患未深

各类大模型日渐成熟，AIGC正在成为下一个风口，也是隐患蛰伏的据点。全球都在谋求让AI在监管中发展，白宫前几天刚刚把谷歌、OpenAI和微软的CEO叫过去“喝茶”，也是在商讨如何让AI可以正向发展。

就我国来说，今年1月《互联网信息服务深度合成管理规定》颁布实施；4月，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》。抖音也刚刚发表AIGC 平台规范，要对AI生成内容进行标注。

而AI研究领域，也早已开始就AI生成内容的识别和处理进行研究，并总结出了假新闻的特征集，有了数据方面、模型特征方面、模型方面等研究方向。

治疾及其未笃，除患及其未深。

一切都还来得及。