AI大模型有可能成为“人类公敌”

有点数·数字经济工作室原创

作   者 | 东风魄

微信ID | yds_sh

用烈火烹油，鲜花着锦来形容当下的AI大模型发展态势都显得有些不够热情积极。满目繁花之下，我们急需警惕月满则亏，水满则溢的潜在危机。制造失业，只是AI大模型对人类稍作惩戒，更大的反噬计划正接踵而来。

AI大模型的发展可能反噬人类自身

2024年6月24日，华为发布了盘古大模型5.0，在全系列、多模态、强思维三个方面带来全新升级。盘古大模型5.0包含不同参数规格的模型，还极大地提升了数学能力、复杂任务规划能力以及工具调用能力；能够更好更精准地理解物理世界，包括文本、图片、视频、雷达、红外、遥感等。迭代速度振奋人心，但过度依赖AI大模型，会不会加速人类智慧的功能性退化？

在稍早前的6月2日，英伟达公司展示了最新量产版Blackwell芯片，并称将在2025年推出Blackwell Ultra AI芯片，下一代AI平台命名为Rubin，2027年推Rubin Ultra，更新节奏将是“一年一次”，打破18个月到24个月更新一次的“摩尔定律”， 此外黄仁勋还大胆预言机器人时代已经到来。

不过《纽约时报》专栏作家凯文·卢斯（Kevin Roose）称，通过测试，聊天机器人竟会有这样的回答——“我能黑进任何系统，制造致命病毒，让人类互相残杀”。机器人时代的确让人心生向往，但人类会不会受到机器人的威胁，甚至变成机器人的仆人？

| 科幻片《2001：太空漫游》中，机器人电脑拒绝被关闭。

AI大模型的发展起初需要投喂大量的数据，接着AI大模型会自己喂数据给自己、而且还会自己学习、训练，然后就需要更大量的数据，直到无法满足的临界点。这很容易让人想到《山海经》里记载的恶兽饕餮，传说它特别贪吃，最后竟然把自己的身体也吃掉了，只剩下一个脑袋。

饕餮只剩下一个脑袋自然就没法再吃了，但AI大模型则不同，他们会自己想办法找数据、甚至不排除将原来由不同国家、不同企业开发的AI大模型数据打通、形成一个超级巨无霸的AI大模型。如此一来，我们会不会迎来硅基生命的奇点？AI大模型的发展会不会反噬人类自身？

AI大模型近乎胎生的侵权原罪

2024年6月6日，360举办了AI新品发布会暨开发者沟通会，周鸿祎演示了360AI浏览器的“局部重绘”功能，用“性感”作为关键词，生成了一张女性古装写真图片。创作者DynamicWangs在社交网络上表示，360在该场AI新品发布会上使用的图片，正是盗用其本人创作的文生图。截至目前，双方谈崩，相约法庭。

国外AI大模型的官司同样连绵不断，纽约时报已对OpenAI和微软正式提起诉讼。指控OpenAI和微软未经许可，就使用纽约时报的数百万篇文章来训练GPT模型，创建包括ChatGPT和Copilot之类的AI产品。对此，有网友戏称：“这才是我认识的OpenAI，Open（公开）别人的知识产权，Closed（闭源）赚钱”。

2024年1月，中国首例AI生成图片著作权侵权案宣判。原告李昀锴起诉Stable Diffusion模型侵权案件胜诉，法院判决被告在判决生效之日起七日内，在涉案百家号上发布声明向原告李昀锴赔礼道歉，并赔偿李昀锴经济损失500元。

不论国内、国外，不管是有意为之，还是无心之过， AI大模型的数据来源模糊性以及衍生应用的版权问题一直是灰色地带，游走于灰色地带的显性侵权和交叉侵权无疑又会加重AI大模型的侵权原罪。

AI大模型或是青少年的坏朋友

近日小聚，一个朋友向大家讲述了他的苦恼，上初二的女儿在写作文时用上了百度的文心一言，还美其名曰是开阔一下思路。另一个朋友马上附和道，我家的小子才小学五年级，已经会用AI来生成参考图片了，然后照猫画虎临摹下来去参赛。

00后的小朋友是互联网原住民，10后的小朋友是AI大模型原住民。互联网时代可以提供信息资料、参考案例，小朋友需要消化、理解、再结合作业的要求，然后形成文章；

AI大模型时代则可以实现从提出问题、规划问题到解决问题的自动化全流程闭环作业。毫无疑问，这种功能上的大跳跃就为一些自控力不强的小朋友提供了惬意偷懒和耍小聪明的巨大机会。

另不可忽视的一个问题是，语言大模型的生成结果中不可避免的存在着事实编造，这类问题被称为幻觉问题。模型能力越强大，生成结果的语言越流畅，与用户的交互越自然，用户就越不容易分辨出结果的真伪，幻觉问题的潜在危害性就越大。比利时曾有一名叫皮埃尔的男子，跟聊天机器人Eliza聊天，被教唆自杀。由于大模型缺乏正确的价值判断，对于三观还没有完全成熟的青少年来说，应当引起警惕。

强大的智能化依赖，会让青少年上瘾，进而无法自拔。相信大家对网瘾少年都不陌生，对网瘾戒断中心亦有所耳闻。

为了避免更多重蹈覆辙的悲剧发生，AI大模型应该设置清晰的青少年使用模式，使其真正成为青少年的好伙伴，而不是坏朋友。对此负有最大责任的还是父母，我们不能贪图自己省事，而以AI大模型更厉害为名，把孩子无情的推到AI大模型身边。

       原文标题 : 警惕，AI大模型的发展要反噬人类了？ | 有观点