旗下微信矩阵:

10人团队融了10亿美元,Ilya最新访谈:Scalling Law并非一成不变

现在,尘埃初定。一向低调的Ilya本人,也在这个时间点上,同外界分享了更多有关他的公司SSI,以及他本人对AGI思考的信息。
2024-09-09 07:55 · 微信公众号:量子位 鱼羊

公司刚10人,种子轮融资就融了10亿美元

这种惊掉人下巴的事儿,也只有发生Ilya Sutskever身上,才稍显“正常”。

Ilya,在大模型席卷全球的当下,他的贡献被公认为达到了改变世界的级别:

他是AlexNet三位作者之一,和恩师Hinton一起被挖到谷歌之后,又深度参与了震惊世界的AlphaGo项目。

2015年,他参与了OpenAI的创立,出任首席科学家。ChatGPT再次改变世界,他被认为是背后最关键的人物之一。

从去年11月至今,Ilya的一举一动更是被推到台前,受到全球科技圈的瞩目:

由他发动的OpenAI董事会内讧揭开大模型发展路线之争,而他在今年5月与OpenAI彻底分道扬镳之后,所有人都在等待他的下一步创业动向。

现在,尘埃初定。一向低调的Ilya本人,也在这个时间点上,同外界分享了更多有关他的公司SSI,以及他本人对AGI思考的信息。

在与路透社的交流中,Ilya回答了关键的6个问题。以下,原文奉上:

为什么创立SSI?

我们已经发现了一座与我之前的工作有些不同的“大山”……一旦你登上这座山的顶峰,范式就会改变……我们所知的关于人工智能的一切都将再次改变。

到那时,超级智能安全工作会变得非常关键。

我们的*个产品将会是安全的超级智能。

在超级智能之前,会发布和人类一样智能的AI吗?

我认为关键在于:它是否安全?它是否是世界上一股向善的力量?我认为,当我们做到这一点时,世界将会发生很大的变化。因此现在就给出“我们将要做什么”的明确计划是相当困难的。

我可以告诉你的是,世界将会变得非常不同。外界对AI领域正在发生的事情的看法将会发生巨大变化,并且很难理解。这将是一场更加激烈的对话。这可能不仅取决于我们的决定。

SSI如何判定何为安全的人工智能?

要回答这个问题,我们需要开展一些重要的研究。特别是如果你和我们一样,认为事情会发生很大变化……很多伟大的想法正在被发现。

很多人都在思考,当AI变得更加强大时,需要对其采取哪些测试?这有点棘手,还有很多研究要做。

我不想说现在已经有了明确的答案。但这是我们要弄清楚的事情之一。

关于尺度假设和AI安全

每个人都在说“尺度假设”,但每个人都忽略了一个问题:我们在scaling什么?

过去十年深度学习的巨大突破,是一个关于尺度假设的特定公式。但它会改变……随着它的改变,系统的能力将会增强,安全问题将变得最为紧迫,这就是我们需要解决的问题。

SSI会开源吗?

目前,所有人工智能公司都没有开源他们的主要工作,我们也是如此。但我觉得,取决于某些因素,会有很多机会去开源超级智能安全工作。也许不是全部,但肯定会有一些。

对其他AI公司安全研究工作的看法

实际上,我对业界有很高的评价。我认为,随着人们继续取得进展,所有公司都会意识到——可能是在不同的时间点——他们所面临的挑战的本质。因此,我们并不是认为其他人都做不到,而是说,我们认为我们可以做出贡献。

10亿美元用来干什么

最后,补充一些Ilya话外的背景信息。

SSI的消息最早在今年6月释出,目标很明确,搞Ilya在OpenAI没干成的事:构建安全超级智能。

目前SSI只有10名员工,融完资后,计划利用这笔资金买算力并聘请*人才——

认同他们的理念,已经做好AI有一天会超越人类智能的心理准备的那种。

联合创始人Daniel Gross还透露,他们并不过分看重资历和经验,反而会花好几个小时审查候选人是否具有“良好的品格”。

算力方面,SSI计划和云厂商及芯片公司开展合作,具体和哪些公司合作、怎么合作尚未明确。

除了Ilya本人之外,SSI的联创还有Daniel Gross和Daniel Levy。

左:Daniel Gross;右:Daniel Levy

Daniel Gross毕业于哈佛大学计算机系,此前也是Y Combinator的合伙人之一,也曾创办或参与创办了多家公司,包括Citrus Lane、WriteLaTeX(后更名为Overleaf)等。

他被《时代100》杂志列为“人工智能领域*影响力的人物”之一。

Daniel Levy则毕业于斯坦福计算机系,此前是OpenAI优化团队的负责人。

【本文由投资界合作伙伴微信公众号:量子位授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。