陈一舟：奇点临近，机器有无慈悲之心？

人类的未来

　　看起来，人工智能一旦超越人类，一方面会继续按指数成长，一方面要以人类看待细菌的视角俯视我们，按照智能体的共同特点，它会消耗能源和信息，追求其*的未来可能性。对待人类，它应该没有特别的恶意，但是应该也没有特别的慈悲之心。慈悲之心，是人类这种社会型生物特有的能力，它很美，很人性，它有助于人类合作，是人类在进化过程中经过群体选择形成的优秀品质。但是，很遗憾的是，慈悲并不是宇宙中所有智能体的共同之处，因为，这些智能体的进化可能不是群体选择而是个体选择。即使是合作型的智能体，如果它们和人类一样，它们对待技术能力远逊于自己的其它智能体，弱肉强食的思考方式应该是最有可能的。

　　人工智能，是离我们最近，并且几十年以后应该大幅超越人类的智能。对于它的担心，国外很早就有专门的研究机构研究人工智能的各种危险。Elon Musk也非常关注这个问题，甚至提出要在火星上殖民，增加人类生存机率。 最近通过学习引力波，深知宇宙航行之不易。同时，人类外星殖民者能到的地方，比人类更高级的智能也能到。所以人类长期生存及人机共存问题，必须在地球上解决，跑是跑不掉的。

　　在《奇点临近》书里，库兹韦尔大胆提出了宇宙中智能进化的六个纪元。根据这个体系，人类社会目前处在从以技术进化的第四纪元到以技术控制生物学方法进化的第五纪元的跃迁当中。

　　在阿尔法狗虐人的时代，我们应该开始研究这些哲学问题。作为人类，我们当然需要关注人类未来。但是答案得来的途径也许在于研究宇宙，研究宇宙中智慧的进化方式和生存方式。

　　机器是否有慈悲之心，通过这篇分析，我们到底学到了什么？

　　1. 作为人类目力能及范围内的*一个高级智能体，如果我们真正在追求未来的多种可能性，也许我们应该更加爱护我们的环境。和发达国家的智能部落相比，在环境的问题上，生活在中国的智能部落也许应该想的更加长远一些。

　　2. 作为一个有悠久社会化历史的智能体，人类在长期的群体自然选择过程中选择出了小部分富有慈悲和博爱之心的个体。这些个体非常难能可贵，在面对比人类更高级智能的时候，这种特点也许是人类*的可爱之处。所以，我们对人群的利他行为要更加珍惜，鼓励和支持。

　　3. 我们目前所处的时代，这个人工智能的时代，是人类历史上最有戏剧性，变化最快，变化最深刻的一个时代。作为一个智能物种，我们希望保留我们未来的各种可能性。而这似乎只能通过深刻的思考才有可能。希望这篇文章，能够吸引更多的有识之士来共同关注和研究因为人工智能，奇点临近所产生的，只有在我们这个时代才会提出的哲学问题。

　　最后，祝大家脑洞大开，思想愉快！

【本文由投资界合作伙伴腾讯科技授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处理。