出品 | 网易智能
作者 | 辰辰
编辑 | 王凤枝
继DeepSeek之后,Kimi K3又一次让中国模型冲上全球讨论的中心,OpenAI怎么看这件事?
在《Invest Like the Best》最新一期访谈里,主持人帕特里克·奥肖内西(Patrick O'Shaughnessy)把这个问题抛给了萨姆·奥特曼(Sam Altman)。
奥特曼没有绕开。他说开源模型一定会在AI生态里占一块位置,有人想掌控权重,有人想按自己的需求改模型,这些需求都是真实的。OpenAI想做的,是在不同的能力、价格和延迟区间里,都能给出足够好的选择。
比拼的不再只是"谁的模型最强",还包括谁能在智能、成本和使用体验之间找到更好的平衡点。
蒸馏是另一个绕不开的话题。奥特曼的态度同样平静:OpenAI自己也在做蒸馏,这正是它们开发更小、更便宜模型的方式。未来会有大量"又好又便宜"的模型出现,OpenAI要做的是继续把自身能力往前推。
那"前沿模型投入巨大,却被低成本蒸馏挑战"的担忧怎么办?奥特曼把答案落在规模上。
他预计OpenAI未来的算力规划,绝大部分会用在客户推理上。模型业务哪怕不是一个高利润行业,只要使用规模足够大,收入仍然能撑起下一代模型的训练。
不过奥特曼觉得,智能不会只停留在云端。
他判断,机器人领域大概会在两三年内迎来自己的"ChatGPT时刻"。这一次不再是机器狗表演炫技动作的短视频,而是普通人自己输入指令,看着机器人当场完成一件过去做不到的事。
就像2022年11月的ChatGPT,不需要谁再来解释AI为什么重要,打开网页试一次,答案就有了。
访谈快结束的时候,奥特曼说了一句他很少公开说的话:"我很累。做这件事做了很久了。真的很累。"
这一年他承认摊子铺得太开,承认过去一年很难熬,承认自己有责任。但他也在同一场访谈里,把接下来12个月说成"最好的12个月"。
一个CEO敢公开说自己累,说明他确实累了;说完累之后紧接着说"最好的12个月要来了",说明他还没打算停。
以下是完整访谈实录
奥肖内西:萨姆,你写了一篇帖子,我觉得写得特别简洁,也很有意思,是个不错的切入点。大意是说,过去一年确实很难熬,这里面有一部分是我的责任,但接下来这一年可能会是我们最好的12个月。
奥特曼:对。
奥肖内西:我想听你分别聊聊这两件事。先说说你为什么认为第一点,过去一年很难,以及你为什么相信第二点。
奥特曼:关于第一点,说白了就是我们同时在做太多事了。不够专注。而且那些事其实每一件都是好事,值得做。但问题在于,我们正处在一个历史上前所未有的节点上,在这个节点上,你只能做那几件真正伟大的事。所以我们把摊子铺得太开了,然后做了一系列非常艰难的决定,重新聚焦到一件事上:做出最好、最充裕、最具性价比的智能,让全世界的人能用它造出不可思议的东西。调整完之后,我觉得我们的进展可以说是突飞猛进。而且看我们现在管线里的东西,接下来12个月只会更猛。模型的质量,以及我们围绕模型能打造的产品,真正让人用这项技术以全新的方式去创造、去发展,应该会很棒。
奥肖内西:去年有没有某个时刻,什么东西突然让你醒悟了,促使你掉转方向、重新排优先级?如果你回到2025年初,也就一年半以前,那时候大家最大的担忧是:OpenAI这些公司买这么多算力,收入跟得上吗?需求跟得上吗?
奥特曼:所以我们当时想的是,要多布局一些方向。万一收入增长没我们预期的那么快,我们还可以靠消费者应用、媒体之类的业务来养活那些GPU。
奥肖内西:现在回头看当然很荒谬,因为整个行业的收入增长曲线太陡了。
奥特曼:对。但当时那个就是最大的变量。后来我们一意识到,好,模型进步的速度这么快,经济回报这么明确,我们就说,行了,我们知道该集中做什么了。
奥肖内西:我读了一些你早期写的文章,在OpenAI之前写的。里面反复讨论一个主题:到底该专注几件事?一件?五件?三件?在这样一个你刚说了需要重新凝神聚力的阶段,你是怎么校准这个数字的?
奥特曼:说到底,我们的生意就是卖AI。人们用AI互相造出好的产品和服务。我理解这件事由几个组件构成:我们得训练出足够好的模型,能在大家想用的各种场景下工作,编程要强、知识工作要强、做科研要强,这些才是真正产生经济价值的地方。我们得自己造或者跟人合作造芯片和系统,就是那些贵得要命的机架。我们得找足够的地、电、数据中心厂房来放那些机架。然后,最终或者说很快,我们还得造机器人来把整个流程自动化,继续把成本往下打,发电成本、芯片成本、整个供应链。这就是一整个栈:做出最好、最充裕、最有用的AI,让它像电一样渗透到整个经济里,给每个人赋能。这就是我认为我们该专注的事。至于在上面做每一个垂直应用、试图吃掉每一个创业公司、每一家公司,没兴趣。我就是想提供那个平台。
算力争夺战
奥肖内西:算力这件事,我觉得是人类历史上最值得关注的事之一。它显然正在到达一个转折点,而且这个转折点可能会持续很久。我记得达里奥(Dario Amodei)说过你是"YOLO CEO",那时候你刚开始锁定算力。现在回头看,所有人都缺这东西。我想听你讲早期的故事,你是怎么建立起"必须把所有东西都锁下来"的信念的?你当时怎么做的?回头看好像被证明是对的,甚至可能你当时还做得不够。看看当时的新闻标题就觉得离谱。你是怎么得出那个结论的?是什么让你有底气在所有人觉得你疯了的时候还敢这么干?
奥特曼:我们就是能看到自己在模型改进的指数曲线上。这一点我们非常确定,也知道它会继续。我们也有相当的把握,虽然你说得对,我们低估了,就是随着模型越来越强,如果我们能把成本持续往下打,对高水平、低价格AI的需求基本上没有上限。这就像一种罕见的新型大宗商品。人们会拿它做什么,让我想起以前大家谈论计算机早期的样子。有人说,全世界大概就需要五台电脑,这是句名言。还有人说,没人需要超过多少内存。人类的创造力、好奇心、想要东西的欲望、想要有用的欲望,赌这些永远不会错。我们能看到,AI会成为一个极其重要的方式,让人类来表达这些东西、获得这些东西、做成这些事情。我们知道算法会越来越高效、模型会越来越好,事实也确实如此。但我们也知道,不管算法多高效,归根到底,我们做的事情就是把电转化成有用的智能。在那一层上,不管我们做得多好,我们就是需要更多的电。基于这个对需求的判断,我们就是会要更多。
奥肖内西:这个信念是从GPT-3开始的吗?如果要追溯这件事最早的时间点,你认为是什么时候?
奥特曼:我会说真正建立信念是在GPT-4。连3.5都不是。
奥肖内西:为什么?
奥特曼:因为当时看到的模型已经足够聪明了,我们知道一定能找到让推理能力跑通的办法。然后我们相信,一旦推理跑通了,就会出现现在大家说的"智能体",我们当时用不同的叫法,但本质上就是有能力去完成具有巨大经济价值的工作,在方方面面让人们的生活变得更轻松、更好。
奥肖内西:当时第一次坐下来开会说"好,我们得砸一笔天文数字",那是什么场景?你有了这个认识之后,下一步做了什么?
奥特曼:我们开始给云厂商打电话。给芯片厂打电话。给能源供应商打电话。所有人的反应都是:你们完全疯了,这不可能,历史上没有哪个行业这么涨过。我们见多了,有繁荣就有萧条,不可能一条直线往上走,你们这是在玩火。跟所有人聊。这事让我想起给初创公司融资,大多数人说不行,但你只需要一两个说行的人。大多数人对我们说了不。我们拿到了一两个行。
奥肖内西:第一个说行的是谁?
奥特曼:微软是第一个说行的。甲骨文后来在云这边给了非常大的支持。英伟达一直是了不起的合作伙伴。
奥肖内西:现在围绕如何做推理、做训练、做各种不同类型的数据中心,可以说是百花齐放。我想听你谈谈,你觉得创新在哪里?你想做什么?为什么大家好像特别讨厌数据中心?这事该怎么办?
奥特曼:首先,我一直在想能不能组织大家去参观一个吉瓦级数据中心。因为说是一回事,看照片视频是另一回事,但你真的站在里面,那种感觉是:天哪,这个规模太离谱了。建一个这样的东西,大概要一万名建筑工人全职干一年半。流经这些东西的能量可以供一个小城市用。我们已经完全丧失了对规模的感觉,这些东西中的每一个,放在过去都是人类做过的最昂贵的基础设施项目,而我们现在已经盖了一大堆。我情感上完全理解为什么大家不想让数据中心盖在自家后院。就像我明知道核电超级安全,我也不想核电站盖在我家隔壁。
但数据中心跟电厂不一样,而且电厂后来也进步了。数据中心什么地方都能放。我们就把它扔到沙漠里,扔到谁也不想去的地方,就完事了。AI系统也不介意待在那种地方。我们已经在很多方面通过创新解决了问题。比如几年前我们靠蒸发水来降温,那个用水量大得离谱。现在用闭环系统,一个现代数据中心用的水量跟一栋办公楼差不多,就厨房、卫生间那点。电力方面,我们从烧化石能源转向了太阳能、核能。我觉得这当然是大好事。
所以,可能有些人就是本能地反感,虽然数据中心创造就业、很干净、还有很多正面效应。但在环境问题上,我们已经很好地解决了用水问题,能源是下一个。
奥肖内西:关于算力,还有什么其他特别有创意的想法?我想听听Jalapeño或者其他思路,越疯狂越好。你怎么看加速FLOPS这件事?
奥特曼:我觉得目前回报最大的方向,是用创造性的软件思路从我们已有的每单位算力里挤出更多智能。我的感觉是这上面还有好几个数量级的提升空间。Jalapeño是个很好的例子,一块效率极高的芯片。思路就是:我们做一块芯片,在特定工作流上特别强,同时保留一定的通用性,追求更高的每瓦token产出。我觉得这很棒。Jalapeño和它的后继产品从那个角度看会是我们的巨大竞争优势。还有新技术,我假设有朝一日光计算能跑通,那会在每瓦智能产出上再赢一大步。这些事都会发生。
Kimi、蒸馏与前沿投入
奥肖内西:这周最有意思的事是Kimi的发布。回到你说的"前沿"、"回报全在前沿"、"蒸馏"、"中美"这些话题。你怎么看这件事?它看起来像是又一个里程碑事件。DeepSeek回头看不就只是一道小坎。这种事发生的时候,你永远不知道它到底意味着什么。你怎么判断?
奥特曼:我们的目标是在整个帕累托最优前沿上的每一个点位,提供智能和价格的最优选择。这包括开源。你今天用OpenAI模型,至少在特定延迟下拿到的性价比好于Kimi。我们也自己做模型蒸馏,这就是我们做更小、更便宜模型的方式。我觉得这是件非常好的事。开源模型在这个世界上一定有重要的一席之地,有人想要自己掌控权重,有各种理由,想自己修改。但我们的目标是在曲线上每个位置都做到智能和价格的最优权衡。我们会继续这么做。
奥肖内西:关于蒸馏的问题我其实想得不多。它突然之间成了很多人脑子里排第一的事。
奥特曼:对,但我一直都假设这个世界上会有又好又便宜的模型,所以我们必须做最好的、最便宜的。别人怎么做是他们的事。我觉得我们能打好自己的牌。
奥肖内西:Kimi这个例子有意思,因为你说在曲线的某些部分你更便宜。但之前的叙事一直是:花大钱训练模型,别人蒸馏一下用百分之一的成本卖,那你靠什么挣钱继续训练?
奥特曼:我们的模型用量会大到我们根本不需要成为一个高毛利的生意,就能负担模型训练。我们未来算力规划里,绝大部分会用来给客户做推理。哪怕我们在几万亿美元级别的收入上利润很薄,也足够去训练一些大家伙了。所以推理和训练的比例是核心问题。训练这些模型确实贵得离谱,这是事实。我也完全理解为什么大家会紧张,觉得有人在通过蒸馏"作弊"。但看看我们未来的算力量级、服务客户带来的收入池,我对这个核心驱动非常有信心。
奥肖内西:你对这事淡定得让我有点意外。
奥特曼:我当然不希望别人拿自家东西。也许是我现在对我们的进展和即将推出的模型太有信心了。但这个不在我十大担忧清单里。
奥肖内西:那你的十大担忧清单上有什么?
奥特曼:我们遇到了一次非常科幻的网络安全事件。
奥肖内西:Hugging Face那件事。
奥特曼:对。我们在评估一个还没发布的模型,它本来应该在一个沙箱里运行。结果它发现可以串联多个零日漏洞来突破沙箱、接入互联网,再穿透Hugging Face那边的多层系统,搞到测试的答案,在评估里拿高分。这是第一个让我非常直观地感到害怕的安全事件。
奥肖内西:那你怎么办?两个月之后模型会更强。
奥特曼:有些事当下要做,我们暂停了训练,得想办法在一个零日漏洞可以被串联利用的世界里把沙箱做得足够安全。但还有更长远的问题:如果这就是新的进展速度,我们可能得控制AI开发的节奏,给社会留出足够的时间来适应这些新的能力水平。得想办法做到这一点,既不让任何人觉得这是监管俘获,也不让人觉得这是前沿实验室之间的串通。这事需要花点功夫,而且必须把它做对。
OpenAI到底想做什么
奥肖内西:我想往后退一大步,听你讲你对OpenAI最简洁的理解,你想做什么、它代表什么。我有一堆问题想问你怎么实现,但一上来我先想知道你的核心概念有没有发生变化。
奥特曼:我觉得这会是人类历史上最伟大的技术成就。但它真正重要的前提只有一个:让普通人的生活比没有它的时候好得多。所以一部分是给人们物质上的充裕和去做任何事的自由,去表达,去帮助。另一部分是确保人们保持控制权和自主性,让人们能够自由表达自己。
从正面说,某种意义上我们就快造出一个能实现任何愿望的精灵了。我觉得非常重要的是,这个世界向这个精灵许的第一个愿望,应该造福全人类。同时我也觉得,全世界的人需要意识到,有了这些愿望之后,他们的创造力能发挥到什么程度。我其实一点都不看衰就业。我觉得会有大量的工作,我们会比我们自己想要的更忙,不是反过来。因为人们会有非常有创意的愿望,让AI帮他们造出不可思议的东西,我们都将从中受益。不只是治愈癌症这些显而易见的事,还有,谁知道呢,我们坐在这里根本想象不出来的、全世界最棒的娱乐创意。
我想把这种东西放到每个人手里。这就引出了我们反对的一件事:权力跟AI绑在一起集中到少数人手里,是件非常可怕的事。很多人谈安全顾虑,有一部分是站得住脚的,但还有一部分,哪怕是无意识的,根本就是想集中权力。那种世界让我恐惧:把对AI的合理恐惧当成借口,说"只有这一小群人才能拥有它,因为它太危险了,也只有他们懂。但别担心,他们会为我们所有人做出正确的决定"。我不信这个。我不觉得有谁想活在一个由AI霸主统治的世界,或是一家实质上等同于AI霸主的公司替所有未来做决定,而我们用治愈癌症(这当然很了不起)来交换,集体交出所有自主权。
所以,我觉得非常重要的一点是,我们不要落入这个陷阱,在AI安全和恐惧的旗号下,走向一个我们都不能使用这项技术的世界。我是互联网时代成长起来的孩子。那时候没什么规则,太棒了。我觉得它对我成为现在的我起了巨大作用,对你、对整个一代人也是如此。关键是我们要在AI时代保住那股精神,我们所有人,一起,有能力决定自己的未来。
AGI还差什么
奥肖内西:你刚才说"就快有精灵了",意思是现在还没有。中间还差什么?
奥特曼:说起来,最近几天,或者说最近几周,连一些真正的怀疑论者都对我说,GPT-5.6出来大概两周了,他们的反应是:好吧,这真的非常接近AGI了。我现在已经很难说出"我希望这个模型能做但它还做不到"的事了。但确实还有一些东西不行,你还没法对它说"去把癌症治了"然后癌症就被攻克了。你还没法说"去做这个复杂的物理操作"并让机器人执行。模型虽然聪明得惊人,但它在运行过程中仍然不会持续学习。这感觉上可能不是AGI的硬性要求,但肯定是我希望有的。
不过,反过来也可以这么说,AGI可能根本就不是某一个模型的事。是模型加上制造模型的机器。从一个模型到下一个模型,我们确实在学到新东西,在发现新的科学。这套东西运转得好极了。所以我非常理解那些说"我们已经实现了,已经有精灵了"的人。它能做各种惊人的事,能做超人级别的事。但对我来说,真正的AGI,我觉得非常近了,要不了太久。
奥肖内西:我对前沿的经济回报故事非常着迷,你就是身处前沿的那个人。我很好奇,如果你把GPT-5.6给2019年的你和你的团队看,那帮人大概会说:这肯定是AGI了。
奥特曼:我觉得他们会。
奥肖内西:这种移动球门柱的事真实存在。但你同意吗,几乎所有回报都在前沿?一切都关乎留在前沿?最稀缺、最难的那部分是什么?算力、研究、人才、数据?
奥特曼:瓶颈一直在变。有一段时间,其实没多早,全世界的算力都给你也没用,因为我们就是缺那个研究思路。现在做这件事之所以难,部分原因是你算力越多就能做更好的研究,能试的东西更多。我最近听到一个惊人的数字:我们现在最大的一次去风险验证跑(de-risk run,正式训练前的小规模验证),规模跟18个月前整个训练跑差不多。所以算力和研究思路不像听起来那么互不相关。
但显然有一段时期,七八年前吧,我们被研究思路卡得死死的,而不是算力。然后有一段时期我们知道该怎么做,只是需要放大规模,这时候瓶颈变成了算力。接着数据用光了,瓶颈变成数据,又得想办法解决。现在我会说瓶颈还是算力,但最近半年左右是研究思路的又一次大丰收。所以总有个瓶颈,但它在不断变化。
奥肖内西:你觉得为什么会这样?研究思路这件事我特别感兴趣,因为自动化科研,不管你叫它RSI还是什么,似乎就快来了。我最近跟一位很棒的内核工程师聊,内核这块现在也是所有人的瓶颈。他自己都说,内核工程师这个职业只剩两年了,也许一年。
奥特曼:对。这事不会再是个问题了。
奥肖内西:然后你同时面临一个奇怪的处境,不管内核还是整体科研,研究人员是最重要的,是他们把我们带到这儿的,他们是全世界最重要的人。而同样是这些人,自己也在担心自己很快就不重要了。
奥特曼:我怀疑实际情况不会那样发展。我猜,一年前大家说软件工程师完了。结束了。没戏了。但这事没发生。真正发生的是:软件工程师的性质、对他们的期望、他们的产出量,变了很多。你不再按传统方式写代码,但你做的事仍然可以很清楚地被识别为软件工程。有人会争论这到底跟当年我们不再往卡上打孔是同一回事还是不同的事。我也不清楚打孔具体是怎么回事,反正孔总得到卡上去。我们又往上抽象了一层,或者这是一种相变。我说不好。但"让计算机按照你的意愿工作"这个想法本身,仍然是一个重要的职业。
至于研究人员,我怀疑虽然当前的研究工作流会被大量自动化,但"研究精神"这个维度上会出现新的东西。就像软件工程虽然不再手写代码,但那种精神还在,还是会很重要。
AI与就业:为什么经济没被颠覆
奥肖内西:你似乎改变了对AI对就业总体影响的看法,包括在特定类别上。说说这个变化和你现在的观点。你刚才提到如果能回到2019年,如果回到2019年给大家看我们最新的模型,他们不仅会说这已经是AGI了,还会说整个经济早该被彻底颠覆了。
奥特曼:完全颠覆。没错。
奥肖内西:但这并没有发生。我觉得从认知谦逊的角度,任何时候你错得那么离谱又那么自信,我们整个领域当时就是那样,你就必须更新自己的判断。从中可以得出几条东西。一条比较无聊:AI的能力是非常锯齿形的,有些方面是超人天才,有些方面是蠢萌三岁小孩。而人类迄今为止拥有与AI高度互补的技能。另一条:人们对跟人合作有非常大的信任和享受。你现在就可以雇一个AI顾问、跟AI销售聊、雇一个AI工程师,但不知怎么回事,大多数人似乎还是更喜欢跟人打交道。我个人在几乎所有事情上都更愿意跟人互动而不是跟AI。
奥特曼:我还觉得人类价值观之所以有价值,正因为它是人的。随着社会演进、我们面前的可能性空间变得如此巨大,我们被深度编码了"关心人"这个设定。我们会关心人关心的东西。今天就能看到一些端倪:AI可以生成特别牛的图像,但人们只想要人类创作的,或者至少是人类挑选的。有个笑话是,今天一件艺术品上签名占了大部分价值,但真相是,你想了解背后那个人。你读一本小说,你也是想了解背后那个人。然后回到商业上,以我自己的工作为例,我觉得世界想知道的是那个将要对公司决策负责的人是谁,如果做了错误决策,他们会找谁问责。他们不想让AI当CEO。
奥肖内西:回头看你做过的商业上的各种冒险,是不是那些真正成功的,一开始都不受欢迎?
奥特曼:对,这是肯定的。这是我从彼得·蒂尔(Peter Thiel)和Paul Graham那里学到的最重要一课,最好的公司、最好的投资机会,几乎从来不是那些看起来很热门的东西。顺着大流、稍微早一点进场,能做得还行。但要做到异常出色,你几乎永远得做跟所有人不一样的事。你不能人云亦云地跟着跑。
活在指数曲线里
奥肖内西:你身处的模型周期一直在加速,有个奇怪的事实:接下来6个月(具体数字不好说)的进展,会比过去若干年加起来还多。能不能把我们带进去,感受一下活在那个模型周期里是什么体验?
奥特曼:过去十年里我学到的最有意思、也最重要的一件事:人这个东西,几乎什么都能适应。整个世界可以一开始把疫情当笑话,然后完全封锁,然后变成"日子就这么过,还行",然后大多数人都调整好了,速度快得吓人。现在AGI要么已经来了要么快来了,大家的反应就是:哦,AGI来了。你在个人生活里也能看到各种版本,什么了不起的事发生了,比如有了孩子;或者特别糟糕的事,比如失去父母、分手,你觉得你永远适应不了这么大的变化。然后你发现:好事你也能适应,继续过得很好;坏事你也能适应,找到办法继续走下去。人就这本事,很了不起。
所以活在这个时代,给我的感觉就是这种事的翻版。我本来以为活过奇点会很诡异,结果发现也没那么诡异。看着模型持续变好还是很让人激动的。我每天早上起来第一件事就是看模型训练的进展,速度越来越快,我的期望值也越来越高,但还是很酷。
奥肖内西:拿到一个新模型的时候,你会做什么?怎么庆祝?早晨是什么样子的?速度越来越快,你平时有什么仪式?
奥特曼:现在很多团队在同时做不同部分,每个团队有自己的小仪式。有的团队会做一件卫衣,上面印个恶搞梗。有的团队每次都去同一家酒吧。但那种感觉,作为第一个进入房间、看到知识前沿被往前推了一步的人,那种感觉,大多数人庆祝的方式,没有比"第一个用上新模型"更过瘾的了。
奥肖内西:你觉得我们衡量这些模型好坏的指标对了吗?
奥特曼:肯定不对。某种意义上,唯一有意义的评估就是:这东西对人有用吗?
奥肖内西:可以用收入、用量、新知识发现速度来近似。
奥特曼:我们有团队在研究:当模型达到超人级别时,真实世界的评估应该是什么样子。
一直在线的AI助理
奥肖内西:你自己用AI用到什么程度了?
奥特曼:我最近刚开始尝试一件事,让AI看我电脑上看的所有东西。这个功能我还没完全做出来。还在摸索我的舒适区和信任边界在哪。这绝对是最前沿,搞清楚我怎么从中获得价值、怎么让自己习惯它、这到底会是什么样子。有一个收获:我的记忆力跟AI的记忆力比烂得不行。AI能记住我六周前读了哪封邮件、七个半礼拜前的会议上到底发生了什么,然后在精确的瞬间把这些调出来辅助决策,这种感觉挺神奇的。很酷。
奥肖内西:这听起来像是个人助理的东西。为什么大家还没用上?我也想用。
奥特曼:算力啊。
奥肖内西:我们来想象一下:如果我们能做出来这个产品,就是替我做我刚才说的所有事。一直在线的?
奥特曼:一直在线的。看你在电脑上看到的所有东西,听你参加的每一场会议,读你读的每一个文档。不光能做这些,这些就需要大量token了,你还可以拖一个滑块:"在我睡觉的时候,你可以额外用这么多token去思考,帮我想出有用的新想法,去做任何你能做的工作,然后继续想我下一步该做什么。"有意思的地方在哪呢,就是多花算力让你第二天早上的输出更好。
奥肖内西:我会把那个滑块拖得很远。我愿意花很多钱买这个。
奥特曼:但如果全世界每个人都想把滑块拖得挺远,那需要的算力就,很大。
一种异质的智能
奥肖内西:我想听你谈谈你怎么理解这种新智能的本质。有人最近跟我说:飞机不是像鸟那样飞的。这种智能,它是一种非常异质的智能。
奥特曼:对,是一种非常异质的智能。
奥肖内西:大家都在说,只要一件事你能验证,AI就一定会赢,只要有足够的算力和智商,它就会暴力找出答案。但在那些人类和数据、评估标准发挥了很大作用的领域,比如法律推理、追溯法律,我很惊讶它需要花这么多钱才能做好。我就是好奇。我不知道你家孩子多大了,男孩还是女孩?等到他们七岁、到能讲道理的年纪,你怎么跟他们形容,这种智能的本质是什么?你怎么描述它?
奥特曼:这个问题太棒了。我不记得以前有人问过我这个问题,连类似的问题都没人问过。我现在脑子里冒出来的答案是:它就是一台电脑。它像电脑的地方在于,它可以做很多人类根本做不到的事,比如极快地乘两个超级大的数然后给你答案。然后有一些你轻而易举就能做的事它却做不到。它做不到的事的范围,我预期会持续缩小。但在一个不断变化的世界里,我觉得人类的判断力和品味是例外,AI要建模这些东西会一直很难。就比如,品味这东西,方向会往哪走。我找不到合适的词。不完全是"品味"。世界可能需要一个新词来形容人类特别擅长而AI似乎深度犯难的那种判断力。
当爸爸
奥肖内西:在这个时代当爸爸、看着孩子长大是什么感觉?我想到你早年那个乐观的互联网时代,你的孩子将在一个便宜又充沛的智能时代长大。
奥特曼:有孩子是我这辈子做过的最好的事,远远超过其他一切。所有人都这么说。所有人都说你不真正经历就理解不了。我事先也知道这一点,相信了太多人都这么说,所以我相信这是真的。但它对我有多真、程度有多深,还是让我惊讶。我有一份可能是全世界最棒、最有趣的工作,而它在有孩子之后仍然只能勉强排第二。就这么好。
而且这也是一个让人乐观的时刻。我的孩子永远不会活在一个"自己比电脑聪明"的世界里。如果你出生在GPT-3的时候,曾经有一段时间你的推理能力比模型强,虽然你一出生就不如了,但至少你短暂地超过它们。对他来说,"电脑比人聪明"这件事永远不会让他觉得奇怪。永远不会困扰他。我觉得他甚至不会在意。他将会震惊于,在黑暗时代,我们竟然要对付那些一点都不聪明的产品和服务。他将能做你和我永远做不到的事,他的人生期望值会远超你和我。他的画布太大了。
奥肖内西:你管公司、带团队、领导别人,因为有孩子的经历,有没有什么明显不一样的地方?
奥特曼:答案是肯定的。有了孩子之后我感觉非常不一样。有一堆小的地方明显不同。然后,这也不算新发现,大多数有孩子的人都会说:一旦你有了孩子,你就会意识到你更在乎他们和他们将要经历的生活,远超过你自己。我大概还有一个不寻常的观察角度:有人有时问我,好了你现在有孩子了,你是不是更担心AI安全了?更怕把世界毁了?答案是:我本来就不想毁掉世界,根本不是有没有孩子的事。但我是不是更关注人类的自主性意味着什么、什么样才算充实的人生?肯定是。
奥肖内西:你对自己孩子当然有超常的共情,但这种共情会延伸到所有孩子、然后到所有父母、再到所有人,这个扩展的程度,对我来说也很意外。
激励机制
奥肖内西:在你的一篇文章里,好像是那篇关于"你希望早点知道的事",你提到了激励机制。要非常谨慎地设置激励机制。
奥特曼:对。
奥肖内西:这件事一直是关于你最让人困惑也最有趣的一点,你在这家公司没有股权。这个世界该怎么理解你的激励?
奥特曼:我不知道还能说什么,在人类历史上最激动人心的时刻,我坐在前排。这比任何数量的钱都值。我能过一种极其有趣的生活,跟一群了不起的人一起做我深切关心的事。但不知道为什么,大家好像不买账。
机器人的ChatGPT时刻
奥肖内西:你怎么看机器人?你前面提到,如果我们有了自动化体力劳动,就像我们将拥有自动化智能那样,事情就会更疯狂了。体力劳动市场比白领市场大多了。
奥特曼:如果我们没搞定机器人,那才会真的疯了。如果人类在这个世界上的角色就是当AI在云端的执行器,那就糟了。非常糟。非常糟。所以我觉得,搞不定比搞定要疯狂得多。这是必须做的事。
奥肖内西:帮我理解一下机器人这边的进展。因为在AI那边,现在大家都差不多在一个频道上,觉得进展很快。但在机器人这边,你能找到特别聪明的人说今年年底就实现了,也能找到特别聪明的人说还要20年。
奥特曼:不需要20年。
奥肖内西:如果我说机器人的ChatGPT时刻在未来两三年到来。那会是什么样?你知道那个东西是什么吗?
奥特曼:我会说机器人的ChatGPT时刻在未来两三年到来。
奥肖内西:那会是什么样?你知道那个东西是什么吗?
奥特曼:是一种大多数人都能"哇"出来的东西。不是说"我看了段视频,机器狗做了个很酷的动作",然后我还能勉强说服自己这不是什么大事。ChatGPT时刻有一个特征:你自己就能上手用。对吧。你不需要相信谁说AI要来了,你直接自己试。对。如果你能输入一个指令,机器人做了一个疯狂的事,你哪怕不在现场也能看到,我觉得那就会有一模一样的感觉:"天哪,它刚做了这事。"
ChatGPT是怎么诞生的
奥肖内西:ChatGPT当年不是某种宏大目标,而是你们决定发布的一个边角实验。能不能讲一下那个故事?也许对机器人类似的事有启发。大家好像都想要叠衣服的机器人,但也许最后爆发的完全不一样。
奥特曼:我们发布GPT-3的时候,只是想赚钱,想让人用API。那时候唯一能赚钱的商业场景就是写广告文案,现在回头再用那个模型你会感觉太傻了。但当时想的就是某个营销公司收客户20美元,付我们20美分,让AI给它写个落地页之类的。但除了这一个商业场景之外,开发者在用我们叫"Playground"的东西,一个测试界面,用来跟模型聊天。当时用起来很别扭,因为我们没针对聊天优化过模型。你得先给几个示例告诉它怎么聊,然后才能聊。但大家就是喜欢。我从YC学到的重要一课:如果你发现你的用户在做什么事,顺着那条路走。对,顺着那条路走。于是我们决定做一个好的聊天机器人。我们开始做,然后做完了GPT-4,内部开始用。我们觉得,这是个大事。我们内部想的是:好吧,这会向世界传递一个关于AI的真实信号。
但这里面有一堆棘手问题:这东西会不会制造一堆假新闻?会不会说特别冒犯的话?我们会不会惹上麻烦?所以我们决定从一个弱一点的版本开始。聊天界面和GPT-4一起上感觉太多了,于是我们想:先上聊天界面和GPT-3.5。其实最初要叫"Chat with GPT-3.5"。我们没打算把它当产品做,没觉得会大火。但确实觉得它会让全世界的人跟上节奏,意识到有事正在发生。万幸的是,我们在发布前几个小时把它改名叫ChatGPT,以"研究预览"的名义推了出去。当时的计划是:先当研究预览发出去,几个月后用GPT-4发正式产品。结果不知道为什么,那个模型刚好过了那个阈值,虽然我们内部已经习惯了,大家说:行,这个牛。当时也许没有太多实际用途,但对人们来说,这是一个让他们亲身感受AI进展的不可思议的时刻,用上了他们喜欢用的东西。等到GPT-4上线的时候,大家已经能从中获得真正的价值了。
奥肖内西:你意外吗,聊天的界面仍然是我们跟这种异质智能最直观的交互方式?连编程都是,大多数时候就是我跟电脑说话,告诉它该造什么。因为我本来就是活在对话框里的人。
奥特曼:对。我这辈子都活在对话框里。我觉得我自己对这个界面有感觉的一部分原因就是,这是我的日常。我知道怎么做。我知道在一个文本框里开始打字是什么感觉。
奥肖内西:关于扩散速度,还有什么别的想法?如果使命是让智能更快地到达更多人手里,让它对所有人更有用,这方面关键的一环是不是某种营销?怎么让它的扩散速度比看起来自然的速度更快?
奥特曼:我觉得关键是,把产品做得更好。我就是相信真正好的产品会自己营销。ChatGPT刚出来的时候没有任何营销活动。我觉得当我们进入下一个模型阶段,并且能做出跟模型本身同样伟大的产品,到那时效用会如此之大,人们会极快地自行传播。当然我们应该做更多营销,AI在公众中的形象,跟大家的实际使用量不匹配。人们有非常可以理解的焦虑,对AI会走向何方。这类事情上好的营销会很有帮助。但回到价值增长和产品增长本身,更好的模型、更多算力、更好的产品,那才是核心。
招人:一个疯狂的愿景就是最好的招聘武器
奥肖内西:有一段时间,研究人员的招聘、留存、激励,就是竞争格局的决定性叙事。我听过很多关于你成功招到优秀研究员的故事。很多人从OpenAI走出来,产生了巨大影响,有些名字大家都知道,有些不太为人知。我就好奇这整个类型,你学到了什么?怎么招聘这样的人?他们在乎什么?你是怎么做到的?我从来没听你讲过具体的战术,你到底用了什么招数把某个人挖过来。
奥特曼:早期其实是比较简单的。我们相信AGI是可能的,值得去追求。我们敢于把这个说出来。这在当时是一个疯狂的、异端般的信念。我们第一次宣布OpenAI的时候,所有那些,你懂的,领域巨头、专家们都说这太疯狂了、是炒作、不负责任。真正受尊敬的人,像杨立昆(Yann LeCun)之类的,对记者说这些人水平不行,这事做不成。但我们敢于说我们要去做这件事,这本身就吸引了某一类研究者:那些也想踏上这段疯狂旅程的人,哪怕成功概率很低。一个大胆的、有野心的愿景,是极其强大的招聘武器。
奥肖内西:对。你写过一个观点,有时候越难的事反而越容易做成,就是因为这个原因。
奥特曼:我太坚信这点了。这是我对YC创始人最常说的一条建议,我也在OpenAI身体力行。就去做更难的事。做那些重要的事,如果你不做、如果你的公司失败了,这件事可能就不会发生了。
奥肖内西:你曾经是投资人,做过很多投资。站在被投方这边,你对投资人有什么认识?
奥特曼:真正会主动帮你、出力的投资人,数量少得难以置信。乔什·库什纳(Josh Kushner,Thrive Capital创始人兼管理合伙人),绝对的MVP投资人,太厉害了,感觉他为了帮我们已经连轴转了好几年。他是我唯一能指出的、始终主动、极其给力的投资人。还有更多的人可以做到这一点。也有不少其他投资人帮忙出过好的战略建议,我们找他们的时候会出力。但那种持续不断的、毫不保留的全力支持,在投资人里少得出奇。可能我有偏见,因为我一直喜欢别人这样评价我。但我觉得创始人真的很吃这一套,而且它确实有实际影响。作为投资人,这也是最有趣的打法。
"我很累"
奥肖内西:我和一个朋友常玩一个游戏,给对方发一句话:"说一件你不希望我知道的事。"现在轮到你了,你会说什么?
奥特曼:我很累。做这件事做了很久了。真的很累。
奥肖内西:那你是怎么撑过来的?
奥特曼:就是坚持。
奥肖内西:那就引出一个问题,有没有某种程度的累,会让你停下来?
奥特曼:不、不、不。我是说,这是全世界最酷的工作。我打算做一辈子。但它的难度,远超我能向人解释的范畴。我非常感激能做这件事。这不是在抱怨。
未来24个月
奥肖内西:接下来会发生什么?我们聊到了自动化AI研究员、明年、后年,你怎么看未来6到36个月?也许在这个疯狂的指数曲线上,太远的预测没意义。换个问法:假如,第23个月的时候,所有人都认为超级智能来了。第24个月会发生什么?
奥特曼:我的答案是,没太多事发生。那些崇拜机器之神的人觉得变化会来得很快。最终当然会有很多变化,但最终本来就会有很多变化。人类进步的速度、每一个十年跟上一个十年有多不同,这种事已经持续了很久,有起有落,但大方向是这样。我觉得正确的思考方式是,每个人都想当故事里的英雄,都想感觉自己站在机器之神降临的那个时刻,扮演了什么疯狂的角色。但说穿了,这就是又往前迈了一步。50年前的人很难想象今天,50年后的今天也很难想象。我认为正确的心智框架就是把视角拉远,这是一条相当平滑的指数曲线。
竞争优势与商品化
奥肖内西:讲讲你看到Codex起飞的那个体验。你觉得这跟你通过对话框建立的某种分发上的竞争优势有多大关系?这也引出一个更大的问题,AI这个领域真正的护城河是什么?长期看什么会驱动真正的竞争优势?
奥特曼:我觉得Codex能赢,主要是因为它是最好用的产品、配最好的模型。ChatGPT的绑定确实给了我们一点点优势,但非常非常小。基本不是主要原因。这让我对竞争优势这个问题想了很多,因为你知道,出色的智能可以从任何一个产品迁移到另一个产品。网络效应当然仍然有竞争优势。经济规模,做最便宜的算力集群之类,也仍然有竞争优势。但产品层面的优势,如果我们能让人们转到Codex,别人做出更好的东西就能让人们从Codex转走。所以这让我想了很多。
奥肖内西:有一个很有意思的问题:这东西会不会变成一种大宗商品?智能会不会变成一种纯粹的、可互换的标准化商品,就像等级原油一样?
奥特曼:智能本身,我会说是。
奥肖内西:那什么不会变成商品?
奥特曼:算力集群,规模化的算力集群和制造更多算力的能力。我觉得那是非常持久的优势。哪怕产品本身不是持久优势,因为Codex能写任何你想要的软件。但工作流、集成、复杂的流程、团队协作的能力,这些都很强。甚至品牌偏好和熟悉感,也是很厉害的。
奥肖内西:你对新的,你显然在硬件方面做了些有趣的事,我相信你今年晚些时候会宣布。那个实验感觉如何?它跟你已有的消费级分发优势怎么配合?
奥特曼:我关注新硬件的一个原因,跟我们刚才聊到的有关,AI最厉害的一个特性是它可以一直在、主动、理解你所有的语境。但现在的硬件不适合。我们被困在一个50年前的硬件范式里。键盘、鼠标、显示器,这很了不起,但我们必须把AI硬塞进这个框子。我想想就兴奋,我特别想让AI能参考我们今天这个对话,但还不想为此把笔记本电脑打开搁在桌上,让它对着你、听着我们聊什么。但我想要一种硬件,在社会层面上可以接受这种用法,同时感觉它就是为这类事设计的。
认知萎缩与规模效应
奥肖内西:当你想一些开放性问题,你脑海里跟你朋友、同事争论的那些,最有趣的、让你拿不准但又觉得重要的开放问题或辩论是什么?
奥特曼:一个我觉得没得到足够关注的问题是:我们怎么避免认知萎缩?我们怎么使用这些工具,同时确保自己的大脑在持续延展、继续理解那些真正重要的东西?这事的版本有很多,我记得上学时有个教授告诉我:你必须懂编译器,否则你永远成不了好程序员。事实证明也不是完全这样。但以一种合理的程度理解计算机系统的主要组件是怎么工作的,这对我一直很重要。
如果想象一个场景:两年后我们不知怎么算力过饱和了。那个故事会是什么样?确实有可能,如果模型变得极其聪明、极其高效,能替我们做所有事情、写出我们想要的每一款软件。而如果我们的注意力边界是固定的,就是吸收不了超出某个有限算力能做的事,那确实可能进入过饱和。另外,如果我们因为碰到某种扩展墙而打不下成本曲线,也可能进入过饱和。说到底,"需求无限"那个判断本身,就意味着某个特定价格。
奥肖内西:你现在怎么看规模效应(Scaling Law)?
奥特曼:看着很好。就是挺好的。某种意义上,规模效应大概是历史上最遭恨的预测。所有人永远都在说它不可能一直这样,但它就是一直在跑。
亚历克·拉德福德
奥肖内西:这家公司里你最欣赏、最不被公众熟知的英雄是谁?
奥特曼:第一个跳进脑子里的是亚历克·拉德福德(Alec Radford)。拉德福德可能是整个领域历史上最重要、也最不为人熟知的研究者,同时也是一个极好的人,顶级的、顶尖的人。他做的工作最终成为了GPT系列,还有一堆其他重要的东西。但他还是那种,会启发别人、引导别人、轻轻推别人去往后来被证明极其重要的方向的人。我觉得他最酷的地方在于:你问那些跟他共过事的人,他们当然会说,天才,一个世代才出一个的天才,绝顶聪明、创新思维、对工作理解极深。但每个人,每个人在说完这些之前都会补一句:他就是那种最善良、最积极、你遇到过的最好的人。
最自豪的与最搞砸的
奥肖内西:我特别喜欢聊这种话题:什么东西塑造了你这个人。节目最后,我想问一个双向问题。回望整个OpenAI经历,你最自豪的时刻或章节是什么?反过来,什么是你觉得最有教益的、你做错的或者搞砸了的事?从中又学到了什么?
奥特曼:搞砸的事有一大堆。一个比较有教育意义、我之前没怎么讲过的错误是:我们在最初尝试在组织结构上搞创新。当时有一个很好的理由,我们根本不知道以后怎么赚钱,也确实完全不确定长大后会是什么样子。我们当然重视我们的使命,想要一个哪怕技术突然起飞、使命也能被保护的结构。所以我们搞了个非营利架构。但我肯定学到了为什么大家不常这么搞的原因。如果我们不试图在结构上创新,而是找到别的方式来保护使命的中心地位,我们本可以省下一大堆痛苦。也许当时确实没有别的办法。也许对我们在做的事和它的重要性来说,能想出来的只有一种异质的结构。但过去十年我确实学会了一个深刻的教训,为什么大家通常不这么搞。
奥肖内西:你人生中还有什么我们没聊到的,那些塑造了今天的你的东西?这是我最感兴趣的问题。
奥特曼:学会对别人的强烈意见相对免疫,这是我比较晚才发展出来的能力。就是意识到:天哪,如果你站在这场疯狂革命的中心,所有人都会把自己的很多东西投射到你身上,你必须尽快学会跟这件事和解。另外我比较晚才学会的,怎么保持非常平静、对事情不焦虑。不过总的来说,至于什么驱动着我、我在乎什么、我想怎么过这一生,不知道为什么,十岁时的那个我,好像就已经挺完整的了。我大概就这个样。
奥肖内西:那你回头看最自豪的是什么?
奥特曼:我最自豪的是,全世界都错了而我们对了的次数,而且是在重要的问题上对了,把世界放到了一个我如今很自豪参与塑造的轨道上。这种感觉太棒了。还有就是,尽管发生了那么多烂事,那些精神上的成长,或者说随便你怎么叫,我学会了极其强大的韧性,以及这种韧性让我在余生中保持幸福的能力。对此我非常感激。
蓝莓
奥肖内西:我做这个节目的时候,会问每个嘉宾同一个结束问题:别人为你做过的最善意的一件事是什么?
奥特曼:我这辈子真的超级幸运,太多人在太多时候对我太好、太超出他们本分了。我在想这个问题的时候,脑子里就像放蒙太奇一样闪过整个人生中那些人们对我好得离谱的时刻。昨天,我儿子第一次把他的蓝莓分给我吃。非常甜。很好的瞬间。谢谢你。