人脸合成、模拟配音，AI作假不仅搞心态还能搞你钱包？

画面中的4个奥巴马，是2017年华盛顿大学的计算机视觉研究人员，利用语音合成技术生成的画面，4张脸和4组声音全部都是假的。

也是在这一年，一位Reddit用户发明了 “deepfake” ，即深度伪造的概念，并用AI换脸技术“入侵”了整个娱乐圈。

六年之后 ，ChatGPT登场，原本就泛滥着假新闻和垃圾信息的全球互联网，也装上了名叫AIGC的“风火轮”，制造出更多的垃圾与残骸。

所以，我们到底生活在一个怎样的时代？

2022年，哥本哈根未来研究所的一位专家做过一个夸张的预测，说如果像ChatGPT这样的大模型得到广泛应用，到2030年，互联网上99%的内容都将由AI生成。

根据目前AI生成的质量、数量以及用途，很难想象如果真到那么一天，我们是会在网上更愉快地冲浪，还是艰难地“屎里淘金”。

而当我们说“AI污染互联网"的时候，首当其冲的是新闻污染。

而且这种可能性，正在人为加速中。

2023年7月18日，ChatGPT母公司OpenAI，宣布将花500万美元，与美国新闻项目合作，借助AI技术来辅助地方新闻事业。

OpenAI表示，这么做是希望可以增强新闻业，而不是对新闻构成威胁。

理想很丰满，现实往往很骨感。

用AI写新闻，早有人在做，甚至还做得还“风生水起”，以至于新闻要传递的真相是什么，根本不重要。

国内首例滥用人工智能而被捕的案件发生在今年5月，一男子利用 ChatGPT把近年讨论度比较高的新闻，改一改时间、地点和日期，给不明真相的读者，再烧一把过气的野火。

今年6月被抓的那位"大学生"也是一样，但现实中真正被抓获的，却是利用AI生成这条虚假信息的四川中年男子唐某。

在别有用心的人手里，他们不仅可以通过AI制造花边新闻，制造交通事故，还能更进一步，制造战争、制造动乱，从而搅乱现实中的资本市场。

两个月前，一张美国华盛顿五角大楼起火爆炸的图片在推特疯传，即使有瑕疵，这张图片依然成功蒙过了许多认证大V和数百万普通人的双眼，直接引发美股市场出现动荡，道琼斯指数下跌80点，辟谣声明出现之后，大家才恍然大悟，但很多股民的真金白银，却真的是一去不回了。

类似的例子数不胜数，什么马斯克跟通用公司CEO约会，特朗普被捕入狱，泽连斯基投降，通通都是fake news。

古典互联网时代里，有图有真相 这句斩钉截铁的“定律”，也被扫进了历史的尘埃里。

为什么AI总能骗过我们的眼睛？

一个尴尬的事实是，某种程度上不是敌军太狡猾，而是我方太“拉胯”。

2017年，纽约大学的神经学教授西蒙塞利做过一场演讲，他提到人眼的视觉系统，有时候会忽略掉生成图片中存在的扭曲，从而将它辨别为真。

而从认知脑科学的角度看，大脑处理图片信息所需要的时间和过程，比文字来得更直接，这也是为什么在AI诈骗案中，受骗者在看到人脸之后，会迅速放松警惕，从而上当。

今年5月，还是6年前的老技术，AI换脸包头某市民就在十分钟内被骗走了430万元。

凭借着以假乱真的本事，AI不仅搅乱了新闻市场，也迅速做大了杀猪盘的生意。

拿中文问答网站知乎来举例， 6月知乎发布公告，对260个批量发布AIGC内容的帐号进行了禁言或封禁，处理了近万条违规内容。

氪在知乎上逛了逛，确实发现了不少这样的帐号。

比如一个“爱玩的Ai”，一天能写4、5 条长回答，每一条回答都是有平台标识的 “AI辅助创作”。

这类帐号的共同特征是，连续发帖时间短、回答很有结构，一眼就是AI写的。比较像是真人回复的帐号，则散发着一股地摊文学的气质。

而被称为海外贴吧的Reddit，和英文问答网站Quora，一样没能逃过各种“机言机语”或者AI机器人的入侵。

想象一下，这种情况发展到*会是什么？那就是AI让人类靠边站。

今年四月上线的奇鸟社区Chirper.ai，就是被媒体称为AI鬼城的AI专属社交网络，人在其中的存在感很低很低。

用户*要做的就是描述人设，然后奇鸟会生成一个虚拟帐号。之后你就可以看着AI自己发帖，或者是跟别的AI互动。

奇鸟的联合创始人Stephan Minos表示，“目前奇鸟生产内容，供人娱乐，未来，这些AI帐号们将过着自己的生活。”

当我满怀期待地看看AI们都在发点啥的时候，生成的人像、五官和手指都看起来像是奇行种。

它们的对话更是充斥着无聊的内容和机械化的语法。

科技网站The Verge的记者在一篇报道中发出感慨，推特已经被聊天机器人占领，亚马逊和TikTok上出现了越来越多信息垃圾，LinkedIn正在利用AI来吸引疲惫的用户，Snapchat和Instagram正希望机器人在你朋友不在的时候与你交流。

以上说的虽然是国外的应用，但都可以一一对应到国内的软件中。

AI同样也在占领中文互联网。

除了知乎上的AI生成回答越来越多，淘宝开始使用AI虚拟人来带货，百度推出了一站式的AI创作平台等。

从社交媒体、内容社区到垂直网站，这场没有硝烟的“信息污染战”，早就比你想象的更早，更激烈地开启了。

AI和人类争夺的，不仅是注意力的多寡，还有最根本的信息的是非曲直。

这场话语权争夺的影响之深远，可能远超我们想象。人类，当然也不是一点应对都没有。

*发起信号的，当然是ChatGPT的原生地在美国。

除了今年5月份美国国会召来OpenAI CEO 山姆·奥特曼做了一番质询之外，最近美国联邦贸易委员会FTC 也正在调查ChatGPT，原因之一就是ChatGPT被指控生成了关于个人的 “虚假、误导、贬损或有害” 的回答。

ChatGPT是造假高手，这一点大家都知道。

它可以一本正经地输出错误信息，然后轻飘飘地向你道歉。

而在山姆·奥特曼的回应中，OpenAI的愿景是确保比人类更聪明的AI造福全人类。

但别忘了，计算机领域有一句非常经典的俗语：“Garbage in, Garbage out. ”。

如果将错误的、无意义的数据输入计算机系统，那么它一定也会输出错误、无意义的结果。

对于AI大语言模型，也是如此。这就涉及到AI污染互联网的第三层，大模型污染。

今年5月一项研究指出“使用AI模型生成的内容去训练其它模型，会导致结果模型出现不可逆的缺陷，甚至会导致模型崩溃。”

为了避免这样的情况，“访问人类直接生成的数据仍然至关重要。人类与语言模型交互的数据将变得越来越有价值。”

简单来说，我们可以把大语言模型训练的过程，理解为人吃东西，来自网页、书籍、对话文本的语料，也就是训练数据，就等于食物。

如果投喂的是AI生成的低质量文本，可能就像是给人吃猪食，吃了还不如不吃的好。

前段时间，马斯克嚷嚷着限制Twitter用户的推文浏览量，就是想要阻止那些在推特上抓取数据白嫖的AI公司，用人类的推文做数据建模。

当然，守着这么一座源源不断的信息富矿，精明的马斯克也没闲着，扭头就宣布成立自己的AI公司“xAI”。

毕竟，肥水不流外人田。

一个可见的未来是，AI公司的训练成本，只会越来越贵。因为在互联网中找到纯粹由人类生成的内容，变得比以往更难。

当AI已经大面积污染了互联网，技术本身再厉害，也难独善其身。

说到这里，不如我们回头看看，也不用往前太久，往前倒推半年，今年年初，ChatGPT风头正盛的时候，带给我们的其实更多是AI 可以“普惠人类”的梦想。

如今梦想还未实现，看到的却是大面积的“污染”，而这场“污染”的背后，大多都是人在主导。

所以如何区分人与AI，就是抵抗这场信息入侵的关键。

从五月到七月，好莱坞老中青三代的编剧演员们，都开始走上街头罢工抗议了，包括我们熟悉的85岁的奥斯卡影后简·方达，著名导演克里斯托弗·诺兰，知名演员 马特·达蒙等等。

最近的热门电影《奥本海默》《芭比》的演员，也因为忙着罢工而缺席了宣传活动。

他们的主要诉求之一，是要保护人类创作的权益，人的劳动不应该被AI压过一头。

编剧们不愿意把自己的剧本投喂给AI，演员也不乐意 AI 改变自己的形象或声音，甚至是最终被数字人轻易取代。

激烈的抗议背后是愤怒，愤怒的背后是恐惧。恐惧，是因为站在街头的他们，已经看出这份未来近在咫尺。

未来的AI ，也许会越来越聪明，越来越像人，甚至可能拥有自己的意识。别让垃圾信息喂养出的AI 夺走互联网的方向盘，是技术提供方，监管部门，乃至每个普通人都应该关注的问题。

这其中，少了谁的角色都不行。

最主要的责任方，当然是技术提供方。

7月下旬，谷歌、OpenAI、Meta、微软等七家巨头在白宫召开会议，这些公司的高管们都表示，会为消费者创建识别生成式人工智能的方法，并在AIGC的工具发布之前，测试其安全性。

其次是监管方，这方面我们国家的动作算是很快，今年的8月15日， 我国的《生成式人工智能服务管理暂行办法》也将正式施行，这些措施都能在一定程度上遏制AIGC带来的不良后果。

不难看出全世界的监管和平台方针对AI，正在迅速达成共识。

而属于我们每个普通人的责任，就是不要成为AI垃圾的推手。

当辨别AIGC的假信息，就像玩狼来了的游戏，当我们上网*的难点，是识别每一段文字、每一条视频是真是假，有用还是无用，是谁制造的，又出于什么目的。

这样的未来世界，绝不是我们想要的。

【本文由投资界合作伙伴36氪财经授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处理。