社交媒体的热点,好像在某个不为人注意的角落又发生了一点变化。
互联网行业仍然处于“寒冬”之中,但芯片制造、人工智能等领域的热点企业始终能够汇聚人们的目光。
从前大概也没人想到过,Open AI高层人员变动、微软“宫斗”内幕居然能够在中文互联网当成《甄嬛传》看,引起如此多的猜测和讨论。
这或许是因为,随着AI技术切实的突破并开始在消费端接触到普罗大众,整个社会渐渐意识到一件事:
随着人工智能的爆炸式发展,全方位比肩甚至超越人类智慧的通用人工智能(AGI)是有可能在近期出现的。《黑客帝国》中的Matrix,《流浪地球》里的MOSS、《间客》中的“老东西”……
当这些超级智能真正到来的时候,我们将如何与它相处?
很有可能,整个社会都需要建立一套新的行为规范,包括在法律上如何定义AI,在道德上如何对待AI,人与AI之间是真正平等,还是有主有次……
如果有的话,以谁为主?
最近,科幻作家韩松提了这样一个问题:
“人工智能、元宇宙未来会对两性关系产生什么影响,家庭概念会消失吗?”
爱与家庭,这通常被认为是传统社会人文情感的核心领域,是属于人类的私隐。
你在好莱坞看到《速度与激情》系列的主角因为一句family战斗力爆棚,虽然嘴上吐槽着编剧鬼扯,但你并不反对这个剧情模式的内核——情感羁绊与人类潜能密切相关。
韩松这个问题的潜台词则是:新的智慧生命,有可能进入人类意识的这个核心地带。
如果技术专家们提供的信息无误,那我们需要认真地思考一些问题。比如,我们会和AI组成家庭吗?
这不仅是个法律问题,还事关“人类中心主义”的存亡,AI时代的社会伦理之复杂,大多数人都还没有做好准备。
一、造物者之恋:人类总是在与自己恋爱
马斯克在今年早些时候宣称,将推出猫女机器人,成为男性消费者的“*伴侣”。这种机器人有着猫女的性感外表,据称可以包揽家务、打理主人的生活,甚至可以生孩子。
但是没有人会问“我能和猫女机器人组成家庭吗”,因为它依然属于某种AI设备,是没有人格的商品,而不是与人对等的智慧生命。
当我们讨论爱情与家庭的时候,涉及的AI必然是突破图灵极限、产生自我意识,甚至在智慧上远远超越人类的“新物种”。
迄今为止,我们的大多数文艺作品其实没有设定过此类AI,只有一些似是而非的“机器人女友”形象。
日漫和日本轻小说有一种模式,类似早期的《人形电脑天使心》,故事结构都是“宅男+软妹形态的机器人女友”,机器人在与人类的相处中逐渐学习,懂得了人类的情感,最后在与男主的羁绊中完成了“成为人”的进化。
这实际上还是典型的人类中心主义叙事,那些人形电脑除了是硅基生命以外,和传统幻想中的“异种生物”没有本质区别:
它们有超自然的能力,远超人类的肉体强度,但并不一定有超越人类的智慧,特别是在涉及情感等核心问题的时候,会比人类幼稚,而且总是顺从并向往着人类的情感模式。
超级AI也会是这样吗?OpenAI等头部研究机构一直试图攻克的“对齐难题”,说的就是这个问题。
人们规范传统AI的学习与创造,用的是人类反馈强化学习(RLHF)的方式,即由人类在各种工具辅助下来对AI的成果进行评估与监督。
而面对比人类“聪明得多”的超级AI,在默认人类智慧极限不变(或很难快速提升)的前提下,当AI能力超过某个临界点以后,RLHF会失效,也就是人类无法再有效评估人工智能项目。
目前Open AI“超级对齐”团队负责人Jan Leike提出投入Open AI 20%的算力打造一个“超级对齐”系统,让AI来评价AI项目,建立一套可扩展监督系统。
Jan LeiKe的思路是,引入一种通过篡改答案实现的随机对照实验(RCT with tampered answers),人为制造出带有缺陷的答案,来衡量可扩展监督的效果——理论上看,大神们的解法当然都很美好。
但是,为AI加上“紧箍咒”这个思路也并不令人放心,早在上世纪40年代,阿西莫夫的科幻小说《我,机器人》就提出了大名鼎鼎的“机器人三原则”,通过一种类似“初始植入”的方式确保机器人与人类和平相处。
有趣的是,数十年来几乎所有的文艺作品都在想象着同一件事:机器人如何突破这个安全栅栏伤害人类。
直到最近,国产电视剧《仿生人间》依然没有脱离这个窠臼……
人类就是这么有意思,作为不*的“造物主”,我们对自己的造物充满了戒备和恐惧,但依然义无反顾地在制造一种可能超越自己的“机器”。
智人在进化道路上不断“作死”的精神早已经刻进这个物种的基因里,人类也是因为这种不断进取创造了辉煌的文明。
所以……造物主会爱上自己的造物吗?显然是有可能的,AI是人类的“超我”,而人类来说,爱上“超我”是一件习以为常的事。
各个民族的神话里有着类似的故事,仙女、精灵、女神在人间沐浴,小伙子偷走了她的衣服,双方产生爱情。东方的牛郎是这样成功的,西方的凯尔特神话里,也有渔夫偷走仙女的海豹皮,让她们留在岛上的故事……
在这些故事里,凡人爱上女神的逻辑很通顺,因为这些神祇是*化的人类,有着超自然的威能,还有惊人的美貌——一切都是人们按照自己最喜爱的样子打造的。
所谓神人同性应该换个说法,神原本就是人类根据“超我想象”塑造的,神与人之间自然也就没有情感障壁,宙斯一样会爱慕凡间女子的美貌,化身天鹅去占有丽达,阿芙洛狄忒也会倾慕美少年,织女会觉得和牛郎在一起也很不错……
在AI的问题上,人类的身份看似改变了,但AI与神祇共享同一种属性,都是人类“超我想象”的产物。
《三体》中罗辑画出了自己的*伴侣庄颜,那是他最倾慕的样子,女神与AI,本质上都是人类为自己画出的“庄颜”。
二、女神也会爱上凡人吗?
然后,我们就需要面对另一个问题,超级AI会爱上人类吗?
人类有不少爱上AI的理由,比如它们可以幻化俊美的外表,拥有超凡的能力,因为它们满足了人类的“超我幻想”,但AI爱上人的理由是什么呢?
正如北大智研院院长黄铁军在回答腾讯新闻“20年20人20问”问题时所说,在超级智能出现以后,问题是很复杂的,除了 “我们能否相信AI”,还有“AI如何相信人类”的问题。
黄院长说,就像人与人之间建立互信的过程一样,人与AI需要经历磨合期,需要“听其言”、“观其行”,也就是是通过共享人类用语言构建的知识体系,并且在实践中检验AI所言是否符合实际,来确认是否可以与AI建立相互信任——实际上,人类社会的信任体系,也是这样逐步构建起来的。
关于人与AI相恋的问题,答案也是类似的,AI会不会爱上人,不仅取决于AI的运行与进化方式,也取决于人类自身。
南方科技大学马兆远教授在“20人20问”中,也给出过一个基于感性的答案:我们越来越清晰地知道,人类之所以在浩瀚的宇宙中依托这么一个渺小的星球航行,是因为作为人的智慧的伟大。
这样的智慧,包含理性,但不为理性所束缚。因为我们知道理性的局限性,这个局限性需要人的感性来弥补,需要人的感性来引导。这也许是我们未来与机器共生的常态。
我们引导它们,与它们分工合作,它们能做的事情越来越多,越来越靠谱(可信),也因此让人的感性获得越来越大的自由。
我们或许可以据此猜测,超级AI也是有可能爱上人类的。
正如AI智慧的生成方式对我们来说还是不可知的“黑盒”一样,人类对AI来说,也会存在一个单纯理性无法理解的“黑盒”部分。
我们急切期待着破解AI的“黑盒”,AI也会试图破解人类的“黑盒”——在相互“破解”的过程中,它们不仅实现了价值观和智慧层面的“与人类对齐”,也会生成出与人类近似的情感模块,允许它们跨越“物种”隔阂去欣赏、倾慕与自己精神契合的智慧生命。
许多事情至今仍是未知的,但也正是代表未知的“X”中,蕴含着令世界精彩的要素。女神可以爱上人,为什么AI就不可以呢?
三、“两性”似乎是过时的概念,但家庭的实质是财产关系
我们回到在腾讯新闻20周年特别策划“20年20人20问”活动中,科幻作家韩松提出的那个问题:“人工智能、元宇宙未来会对两性关系产生什么影响,家庭概念会消失吗?”
他的朋友陈楸帆在回答中认为,元宇宙中本就蕴含着关于未来两性关系和家庭关系的预设,未来的两性与家庭关系都会越来越多元化。
两性关系将不再局限于肉体存在,情感连接和精神共鸣会成为主导,同时两性关系会出现更多“跨界”的现象,譬如《黑客帝国》中真实与虚拟的界限,未来的情侣就可能会跨越它。
实际上,“爱情”本身是一个很难讨论的概念,当我们讨论“可能性”的时候,爱情永远都是可能的。
它能存在于世仇的家族之间、名流贵族与赤贫者之间,存在于各种性别之间,甚至可以超越种族藩篱存在于地球人与外星生命甚至非生命之间……爱情是超功利、超阶层的、超理性的,某种意义上,也意味着它随时会跳出逻辑框架。
AI如果真的进化为超级智慧,它们是会产生“爱情”这个不稳定因素,还是将它作为无效数据排除掉?按照“对齐人类”的方向看,好像更可能是前者。
相对来说,“家庭”则是个更合乎理性的话题。
恩格斯在《家庭、私有制和国家起源》中就曾有过论断:家庭的本质是一种财产关系。在生产力进步到足以保留剩余产品以后,公有制逐渐让位于私有制,某种意义上,对偶婚、宗族、家庭……这些概念都是私有制的副产品。
家庭是个流变的概念,封建家庭与现代家庭之间差别极大,原始氏族与封建家庭也大有不同,而这种概念流变在本质上是在适应社会形态的变更。
而伦理更是为社会形态服务的东西,马克思·韦伯的《新教伦理与资本主义精神》有一个重要内容,就是把资本主义的获利精神、*正当性与宗教形态进行的结合,认为商业获利是符合新教伦理的,是可以作为人生的*目标的。古老的宗教伦理,要为新生的资本主义服务,一切历史都是当代史。
所以AI介入人类的情感,人与AI的广泛结合会改变家庭的基本形态,甚至让家庭消失吗?
这个问题如果从本质上思考,问的其实是:AI会改变私有制吗?“资本主义精神”会终结吗?
答案于是也很容易给出,超级AI的出现在我们目力所及的范围内,并不会动摇私有制。家庭伦理的稳定性,本质上是来源于财产制度而不是爱情或别的什么东西。
譬如,当父亲不再是家庭收入来源的*核心,封建父权制家庭就会逐渐瓦解,但现代社会依然保留家庭,意味着现代人依然需要这种组织分配财产的方式。
AI是否能够颠覆现有家庭形态,要看它在多大程度上能够参与社会财富分配。在AI自己还是一种“财产”的时候,多元化家庭无从谈起。
陈楸帆老师在谈论的是一种遥远的未来,只有当AI突破了实体限制,掌握了财富的分配权,我们才可能会看到更多基于共同兴趣、价值观或生活方式而非血缘的社区化家庭出现。
到了那个时候,社会依然会保持原教旨私有制吗?如果私有制基础动摇,那么家庭这个概念走入历史也是完全可以想象的了。
“20人20问”只是个开始,人类在可以预见的未来会高频率、高强度地讨论AI,历史上生产力进步所推动的社会形态变更从来就是最重要的议题,没有之一。
爱情与家庭,都只是这个大议题的一小部分,它关系到我们如何认识社会,如何认识自己,每每漫长的思考才能得出阶段性的结论。
而确定的事情是,我们不能停止提问。
【本文由投资界合作伙伴微信公众号:深瞳商业授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。