首页产业 ai 正文

苏茨克维要跟奥特曼打擂台

如今苏茨克维打破沉默，在正式离开OpenAI一个月后就成立以“安全”为己任的AI公司，似乎是在和OpenAI公开叫板，也在一定程度上“实锤”了其与奥特曼不和的传闻。

2024-06-29 16:51 · 微信公众号：字母榜毕安娣

“OpenAI叛军”迎来一名大将：伊利亚·苏茨克维（Ilya Suzskever）。

6月20日，OpenAI前首席科学家苏茨克维在社交平台发文称，自己成立了一家新公司“安全超级智能（Safe Superintelligence）”。安全是公司*的目标和*的产品，而资金问题，他不愁。

此举一出，舆论哗然。要知道，作为去年11月“OpenAI宫变”中的关键人物，苏茨克维一直被传与OpenAI CEO山姆·奥特曼（Sam Altman）之间存在分歧，并最终导致他站在了奥特曼的对立面，在将奥特曼踢出的奇袭行动中推波助澜。

而在奥特曼回归后的半年多时间里，苏茨克维退出董事会，却没有离开OpenAI，他始终保持沉默。

“苏茨克维在哪儿”成了硅谷乃至全球津津乐道的话题。

苏茨克维并不是对着OpenAI“贴脸开大”的*人。早在2021年，也就是ChatGPT正式问世之前，就有7名OpenAI核心成员出走，其中主要推动者是曾担任OpenAI研究副总裁和安全政策副总裁的阿莫迪兄妹。后来，他们创办了Anthropic，也强调“安全性”，名叫Anthropic。

就在苏茨克维放出成立新公司消息的同一天，Anthropic发布了新一代模型Claude 3.5 Sonnet，官方称其在覆盖阅读、编程、数学和视觉等领域的多项性能测试中，性能基本全面超越了OpenAI当下最强模型GPT-4o。

奥特曼自己就曾说，OpenAI有一种很自由的创业氛围，离开公司另起炉灶的不在少数。也因此，在去年时，就曾有过“OpenAI黑帮”的讨论。类似以埃隆·马斯克（Elon Musk）为代表人物的“PayPal黑帮”，OpenAI的成员与投资者也渐渐在硅谷形成了错综复杂的关系网络。

但“OpenAI叛军”又有些不同，它们与OpenAI关系密切，却观念相左。在奥特曼巨大的投资地图中，也没有Anthropic的身影，想必未来也很难有苏茨克维的SSI。

一个很容易被忽略的细节是，在去年那场震惊世界的“OpenAI宫变”中，Anthropic扮演着重要的角色——它是导火索上的燃料。

而点燃这根导火索的，是OpenAI前董事会成员海伦·托纳。

根据托纳前不久在TED AI播客节目中的讲述，以及各方媒体的报道，“OpenAI宫变”起于托纳发表的一篇论文。

作为乔治城大学安全与新兴技术中心的研究员兼战略和基础研究资助主任，托纳在2023年10月与人合写了一篇论文。在论文的末尾，托纳等人将OpenAI与Anthropic进行了对比，基本上直言Anthropic更安全。

大众所熟知的下一个时间节点，是一个多月之后，OpenAI董事会突然解雇奥特曼，理由是“不够坦诚”。事后人们试图填补那一个多月的空白，想搞清楚究竟发生了什么。

根据彭博社等媒体的报道，奥特曼对托纳的论文感到非常生气，以至于他想将她踢出董事会。他开始在公司内“运作”，告诉不同的人不对等的信息，比如告诉某位董事会成员，称其他人已经答应将托纳踢出。不幸的是，董事会成员在相互“通气”后发现，这并非事实。

正因此，董事会最终作出决定：他们是要踢人了，但被踢出的不是托纳，而是奥特曼本人。

为什么被拿来和Anthropic比较且输给对方，会让奥特曼如此愤怒？

诚然，Anthropic是OpenAI的*竞争者之一。当时这家成立2年的公司，估值已经达到50亿美元，是仅次于OpenAI的AI独角兽公司。而就在托纳论文发表的前后，Anthropic先后拿到亚马逊40亿美元和谷歌的20亿美元投资承诺。

但这并不是奥特曼忌惮Anthropic的全部原因，甚至可能不是关键因素。

Anthropic身上更大的一个标签，是“OpenAI叛军”。以非营利性组织成立的OpenAI，在2019年迎来了一次转向，成立了营利性子公司，但设置了利润上限。也就是说，OpenAI的营利性子公司可以像其他商业公司一样融资、追求利润，但由非营利母公司董事会拥有最高话事权，且对投资者的回报并非无尽，超过上限的部分仍旧归于非营利主体。

这一转变也导致了很多OpenAI老员工的不满，一些人陆续离开，其中最出名的就是阿莫迪兄妹。

2021年，达里奥·阿莫迪（Dario Amodei）和丹妮拉·阿莫迪（Daniela Anodei）兄妹出走OpenAI，他们曾分别是负责OpenAI研发的研究副总裁，和安全政策副总裁。他们还一并带走了5个成员，个个是关键员工，如GPT-3论文的*作者汤姆·布朗（Tom Brown）、政策主管杰克·克拉克（Jack Clark）。就这样，7人另起炉灶，成立Anthropic。

从一家公司出走，创办自己的企业，这并不足以让Anthropic成为“OpenAI叛军”。

更引人注目的，是Anthropic以安全的AI为核心使命：“我们需要以某种方式使这些模型安全，并且确保这些原则从上至下真正融入我们的信念。”。Anthropic的目标是构建一套可靠、可解释、可控的“以人类（利益）为中心”的AI系统。

虽然达里奥并未指着鼻子斥责OpenAI不顾安全，但其言辞之中暗指OpenAI并非那个可以达成这一使命的地方。

此外，Anthropic的公司形式也颇值得玩味，它采用了公益公司加长期利益信托基金的治理方式。简而言之，公益公司首先还是一家营利公司，但是同时要求股东平衡财务利润与公共利益。这与OpenAI为营利主体套上非营利的“壳”的做法有所不同。

成立之后的Anthropic深受投资方喜爱，几乎从一开始就成为估值达10亿美元的独角兽企业。而它也不负众望，成立次年便发布大模型Claude，并且屡次更新，并在今年3月份拿满了亚马逊的40亿美元投资承诺，这也是亚马逊三十年间*的对外投资。Anthropic一年之中的融资额，一下就超过了100亿美元。

论“上价值”，Anthropic不输OpenAI，强调安全，高喊为全人类负责的使命。论业务，Anthropic和OpenAI高度重合，还做得相当不错。论融资和估值，Anthropic也吸引着想与微软抗衡的硅谷巨头，热钱一笔接着一笔到手，成了仅次于OpenAI的硅谷新贵。

它就像OpenAI出走成员组建的一个“平行宇宙”，其每一寸前进，都是对OpenAI的一种刺痛。

如今，OpenAI再次分裂出“平行宇宙”，而这一次足以让奥特曼更伤神。

苏茨克维于5月正式离开OpenAI，这个消息并不令人意外，人们只是好奇，这位硅谷奇才究竟经历了什么。

在整个OpenAI的公司史上，苏茨克维是*的关键人物。2015年，在一家豪华酒店的晚餐会上，四个人聚在了一起，并很快达成共识，成立了OpenAI，每个人都发挥着自己的专长。他们分别是：埃隆·马斯克（Elon Musk），格雷格·布洛克曼（Greg Brockman），苏茨克维，以及奥特曼。

● 马斯克是特斯拉CEO，AI威胁论布道者，可以提供资金，他承诺向这家新公司注入10亿美元；

● 布洛克曼曾任Stripe的CTO，有丰富的运营经验，而且是个工作狂；

● 苏茨克维师从现代“AI教父”杰弗里·辛顿（Geoffrey Hinton），加入OpenAI之前曾在谷歌效力，是AI领域颇具声望的先驱；

● 奥特曼当时还是创业加速器Y Combinator总裁，年仅28岁的他擅长促成交易，人脉过硬。

这是四个并不缺钱的硅谷“老人”，他们或管理着利润丰厚的企业，或已经从其他公司的股票中实现财务自由。OpenAI的创立充满着某种“英雄主义”：守护人类，对抗巨头。

OpenAI起初就像一家典型的硅谷初创企业，人不多，办公灵活，行事大胆。在成立的头一年，OpenAI甚至没有固定的办公室，员工在布洛克曼位于旧金山的公寓中工作。马斯克和奥特曼不经常露面，工作狂布洛克曼和技术狂人苏茨克维基本上包揽了公司的事务。

也是在苏茨克维的带领下，OpenAI成为最早采用Transformer AI架构的公司之一。这一架构由谷歌大脑的研究人员提出，也是如今主流的AI架构。在Transformer架构下，AI大模型允许接收混乱的、未标记的数据，也就是说，可以“大力出奇迹”，喂给AI的信息多多益善，AI会自行学习。

在Transformer架构下，OpenAI实现了喜人的突破，GPT系统展现了不俗的表现，紧接着，GPT-2、GPT-3陆续推出，直至OpenAI于2022年底上线基于GPT-3.5的聊天机器人ChatGPT，AI军备战爆发。

与此同时，OpenAI的“英雄主义”和“理想主义”在这一进程之中遭受着严峻的挑战。非营利组织不再能支撑OpenAI前行，模型的不断壮大要求OpenAI需要更多算力，更多资金，于是，营利子公司成立。

成立营利子公司后，OpenAI获得了微软数十亿美元的投资，从“对抗巨头”的紧迫感中诞生的公司，成为另一家巨头的“干儿子”。

在创立之初，“开放（Open）”是公司品牌的关键要素，奥特曼彼时告诉媒体：“这将是开源的，任何人都可以使用。”然而，从GPT-3之后，OpenAI就渐渐不再广泛地分享模型。

一些人出走，Anthropic几乎公开与OpenAI作对，但苏茨克维没有。他仍然在OpenAI的内部，试图寻找一条出路。

虽然和奥特曼一样，苏茨克维也对“后AI时代”表现出敬畏。在纪录片《iHuman》中，苏茨克维说：“AI的出现是一件伟大的事，因为AI将解决我们今天面临的所有问题。它将解决就业、疾病和贫困问题。”

但对于AI的威胁，苏茨克维表现出比奥特曼更为沉重的担忧：“并不是说它会主动憎恨人类并想伤害他们，而是它将变得太强大了。我认为一个很好的类比就是人类对待动物的方式。我们不憎恨动物，但当我们需要在两座城市之间建一条高速公路时，我们不会征求动物的意见。”

在2023年的夏天，OpenAI成立“超级对齐（Superalignment）”团队，由苏茨克维和杨·莱克（Jan Leike）带队，计划在四年内利用OpenAI 20%的算力解决超级对齐的问题，设计高性能、可拓展、通用且符合人类意图的机器学习算法。

然而，在半年之后，2023年11月，苏茨克维站在了奥特曼的对立面。彼时OpenAI有六名董事会成员，其中奥特曼、布洛克曼和苏茨克维是内部董事，另外三名（包括托纳）是外部董事。

四位董事会成员先是解雇了奥特曼，又踢出了布洛克曼。苏茨克维是其中*一位内部董事，也是他亲自在线上会议中向奥特曼宣布董事会的决定。

没有人知道苏茨克维的内心究竟发生了什么变化，以至于他想要赶走曾与其并肩作战的奥特曼和布洛克曼。不论是工作还是私交，几个人的联系都相当紧密，苏茨克维甚至是布洛克曼的证婚人，那场婚礼在OpenAI的办公室里举办。

但他显然低估了OpenAI员工对奥特曼的“忠诚度”。一场为期5天的“OpenAI宫变”大戏上演，OpenAI员工几乎全员在请愿书上签字，要求奥特曼回归。微软适时出现，表示愿意接收奥特曼、布洛克曼和所有OpenAI员工。

苏茨克维在经历了一个周末之后，凌晨发帖“忏悔”，表示“深深后悔参与董事会的行动，我从未打算伤害OpenAI”。他的表态也成了OpenAI董事会奇袭行动失败的号角，很快，奥特曼回来了，布洛克曼也回来了，苏茨克维留了下来，但退出了董事会。

而苏茨克维则陷入了长达半年的沉默，没有人知道他究竟在哪里、在做什么。他成了这场闹剧中一个彻头彻尾的悲剧人物。奥特曼在事后接受采访时，甚至调侃称自己没有将苏茨克维关在某个秘密设施里。

直至苏茨克维打破沉默，加入“OpenAI叛军”。

如果说Anthropic是奥特曼眼中的一根刺，那苏茨克维的新公司堪比奥特曼心头的一把利刃。

英雄主义还在继续，只不过有不同的人在不同的叙事中扮演着不同的英雄。

奥特曼自然成了英雄，是他为OpenAI拉来最重要的资金。一场闹剧，也让人们见识了OpenAI员工对其的忠诚度有多高。回归之后，奥特曼还是CEO，重回董事会，并且透露未来可能会让OpenAI营利主体脱离非营利母公司的董事会。他的权力*，OpenAI还在高速发展，年预估收入已经翻倍，达到34亿美元；公司完成允许员工出售股票的交易，估值860亿美元，员工的荷包也鼓了。

马斯克觉得自己是英雄，因为他反对OpenAI转向营利性质，反对OpenAI违背初心，反对OpenAI成为巨头的附庸。虽然OpenAI反驳称马斯克只不过是在2018年前后试图掌控这家公司而失败。

托纳也在履行某种英雄主义，她写了一篇论文，批评了OpenAI的安全性，然后被CEO“穿小鞋”，并且在权力斗争中出局。在前不久的播客中，托纳重申了自己的立场，并且首次公开指责奥特曼撒谎。

苏茨克维和Anthropic的阿莫迪兄妹一样，几乎不提OpenAI，却身体力行打造自己理想中的“OpenAI”，让后者难堪。他们是“出走的英雄”，亲自践行最初的信念。

但英雄难当，惊人亮相总是简单，就像OpenAI手握“使命”横空出世，Anthropic一出场就估值10亿美元。

真的改变世界，却道阻且长。

Anthropic已经获得了亚马逊、谷歌等巨头的支持。尤其是亚马逊，向Anthropic注资超过40亿美元，获得了其部分所有权，而后者主要使用AWS作为其关键工作负载的主要云提供商。Anthropic如何避免走上OpenAI的老路，成了外界的困惑。

此外，虽然以“安全性”为主要特点，也在大模型中施加“宪法”，也就是给大模型灌输一套价值观，将“是否可以做某事的问题”与“是否应该做某事的问题”分开。但Anthropic依然没有免受侵权争议。

去年10月，环球音乐集团等唱片公司起诉AI初创企业Anthropic，指控该公司使用受版权保护的歌曲训练大模型，要求其支付7500万美元的赔偿金。

在离开OpenAI一个月后，苏茨克维带着他参与创办的新公司“超级安全智能（Safe Superintelligence）”重回大众视野，这也是其在“OpenAI宫变”后鲜有的新闻。

在新公司的声明中，OpenAI的名字并未出现，其宣称公司只有“一个目标和一个产品：一个安全的超级智能”，这几乎是与OpenAI的公开叫板。

“这家公司特别之处在于其*个产品将是安全超智能，在此之前不会做其他任何事情，”苏茨克维告诉彭博社，“它将完全隔离于处理大型复杂产品和陷入竞争激烈的困境的外部压力。”

苏茨克维曾在OpenAI内部尝试做“超级对齐”，但随着他和杨·莱克的离开，这个团队已经分崩离析。杨·莱克后来加入了Anthropic。