干货32分钟！比尔·盖茨和山姆·奥特曼都说了些什么？

2024-01-17 08:49

如果让你列举人工智能领域的领军人物，有一个名字你可能会听得最多：山姆·奥特曼（Sam Altman）。但如果让你列举软件时代的巨擘，则一定会出现比尔·盖茨（Bill Gates）的大名。

1月12日，OpenAI的CEO山姆·奥特曼（Sam Altman）作为特邀嘉宾，参加了由比尔·盖茨（Bill Gates）主持的播客节目《为我解惑》（Unconfuse Me）。在这期节目中，两位不同时代的先导者，共同探讨了人工智能的现在及未来、对人类社会的影响、人工智能监管的形式，以及各自对个人和团队发展的建议等等。

整场对话长达 32分钟，信息量巨大。其中包括：1、未来两年间，GPT模型的关键里程碑将是多模态，即涉及语音、图像和视频等多个模式的生成和表达；2、大模型将在推理、定制化、个性化、自适应等方面极大发展；3、人工智能将在编程、医疗、教育等领域提高生产力，解放人类创作力；4、未来5到10年，对人工智能的训练效率和准确性理解将取得更多进展，现有的大模型会显得“愚蠢不堪”；5、当前大模型正处于最快速的成本下降曲线上，这将成为社会转型的关键；6、长出了人工智能做“大脑”的机器人产业很可能影响劳动力市场，尤其是蓝领工作等等。

值得注意的是，虽然两位大佬在交谈中没有发生明显的碰撞，但二者的立场态度似乎有所不同。例如，Altman对人类社会适应人工智能保持乐观态度，并暗示——人工智能可以解放人类创造力，而不是抢占人类的工作机会；而Bill Gates似乎更担心人工智能所带来的负面影响。此外，和Altman相对激进的风格不同，Bill Gates更多是作为抛出问题的采访者和倾听者。

适道对完整版访谈进行了简译。为方便大家丝滑阅读，改写、删除了一些不影响原文内容的表达。

01 开场——重提OpenAI政变

Bill Gates：今天的嘉宾是Sam Altman。他是 OpenAI的首席执行官。长期以来，他一直是科技行业的创业者和领导者，包括经营 Y Combinator，这家公司做了很多了不起的事情，比如投资 Reddit、Dropbox、Airbnb。

在我录制节目不久后，Altman被解除了 OpenAI 首席执行官的职务，解雇后的几天内发生了很多事情，包括几乎所有 OpenAI 员工联名支持Sam回归，而现在，Sam又回来了。所以，在你听到我们的对话之前，让我们先来了解一下Sam，看看他现在过得怎么样。

Bill Gates：你还好吗？

Sam Altman：哦，天哪。这真的太疯狂了，我还好。这是一个非常激动人心的时期。

Bill Gates：团队情况怎么样？

Sam Altman：我猜，很多人都注意到了这样一个事实，那就是团队从未如此高效、乐观、出色。这也正是所有事情背后的一丝慰藉。在某种意义上，这是我们成长的真正时刻，我们非常有动力变得更好，变成一个全副武装，迎接挑战的公司。

Bill Gates：太棒了。所以，我们在对话中不会讨论那件事。然而，你会听到Sam致力于建立一个安全、负责任的人工智能的承诺。我希望你喜欢这次对话。欢迎来到《为我解惑（Unconfuse Me）》。我是Bill Gates。

Bill Gates：今天，我们将主要聚焦于人工智能，因为它如此令人兴奋，人们同时也对它感到担忧。欢迎，Sam。

Sam Altman：非常感谢你邀请我来参加节目。

02 回顾——ChatGPT源于结果先行

Bill Gates：我有幸见证了你们的工作进展，但刚开始时，我其实非常怀疑，也没期待过 ChatGPT 能做得这么好。实际上，我们并不懂这种编码形式。我们知道数字，看到它相乘，但如何将莎士比亚的作品编码？你认为我们能对这种表达产生更深的理解吗？

Sam Altman：百分之百可以。要在人脑中做到这一点非常难。可以说，这是一个相似的问题，这些神经元彼此相连。但连接在变化，我们不可能切开大脑来观察，但我们可以完美地透视。

目前，我们在可解释性（interpretability）方面，已经展开了一些非常棒的工作，而且我认为随着时间推移，会有更多的解释出现。我们将能够理解这些（神经）网络，即便我们目前的理解能力还很低。而正如你所乐见的一切，我们凭着目前了解的那一点，已经能很大程度上改进人工智能模型了。

所以，撇开科学好奇心不谈，我们都有动力去真正地了解它们，尽管它们的规模是如此庞大。我们甚至还可以说，莎士比亚的作品是在你大脑的哪个位置编码的，又是如何表现的？

Bill Gates：我们不知道。

Sam Altman：我们确实不知道。可以说，在这些我们本应能够完美透视、观察并进行任何测试的大量数据中，现在我们还是找不到答案，这就让人兴致缺缺。

Bill Gates：我非常确信，在接下来的五年内，我们会理解它（LLMs）。就训练效率和准确性而言，这种理解将让我们未来做的比今天能做的好得多。

Sam Altman：百分之百同意。你会在众多技术的发展历程中看到这一点。即，人们虽然不知道所以然，但在结果上却又行得通。而此后，随着人们对科学理解的加深，这项技术也会变得更好。

Bill Gates：是的，在物理学、生物学中，有时只是随便一通乱试，然后就“哇”的一声——这究竟是怎么实现的？

Sam Altman：在我们以往的案例中，构建 GPT-1 的那个人自己解决了这个“哇”的问题，这令人印象深刻。只不过，我们没有深入理解它是如何工作的，以及为何是有效的。之后，我们才有了拓展规律，借此预测它（GPT）会变得多好。

这就是为什么当我们告诉你可以做演示时，我们相当有信心。虽然当时我们还没有训练模型，但我们信心十足。后来我们做了大量尝试，并对正在发生的事情有了越来越深入的科学理解。但现在从头来看，这（GPT）确实源于实证结果先行。

03 展望——未来两年主旋律：多模态、推理性、可靠性、个性化、自适应

Bill Gates：当你展望未来两年，你认为，在人工智能发展上，会出现哪些重要的里程碑？

Sam Altman：多模态（Multimodality）肯定会很重要。

Bill Gates：你指的是语音输入、语音输出？

Sam Altman：语音输入、语音输出，然后是图像，最终是视频。显然，人们是真的需要这些。我们已经推出了图像和音频，反响比我们的预期要强烈得多。我们将会进一步推进这些功能，但也许，最关键的进步将围绕推理能力展开。

现在， GPT-4 的推理能力和可靠性还非常有限。比方说，对于大部分问题，如果你问 GPT-4 10000 次，这10000 次中可能有一次回答得很好，但 GPT-4不一定知道这是哪一次。而你却希望自己的每次询问，都能得到这 10000 次中最好的回答。因此，GPT可靠性的提升将非常重要。

可定制性和个性化也非常重要。人们对 GPT-4 的需求各不相同：不同的风格，不同的假设集，我们将会让所有的这些成为可能，还能让GPT-4 使用你自己的数据。它会足够了解你、了解你的电子邮件、你的日历、你喜欢的预约方式，并与其他外部数据源连接，所有这些都将是最重要的改进领域。

Bill Gates：在目前的基础算法中，GPT只是在做简单的前馈、乘法。所以，看起来是生成了每一个新词，但它本质上都在做同样的事情。我很感兴趣的点是，如果你们最终能解出复杂数学方程等难题，那么你们可能要做多次应用变换，这时候，用于推理的控制逻辑可能比我们今天所做的要复杂得多。

Sam Altman：至少，我们似乎需要某种形式的自适应计算。现在，我们在每个问题上都花费相同的计算量，无论是做一道简单题还是一道复杂的数学题。

Bill Gates：是的，比如说，「解决黎曼假设……」

Sam Altman：那可要进行大量计算。

Bill Gates：但它所使用的计算量跟写个“The”一样？

Sam Altman：对，我们至少得让它能进行下去。我们还需要在这之上解决更复杂的东西。

04 监管——效仿国际原子能机构（IAEA）

Bill Gates：我们俩都参加过一个参议院的教育会议，很高兴大约有 30 名参议员都参加了那次会议。毕竟（人工智能）是一个如此重大的变革，我不认为我们在吸引政客关注这方面做的太过。当你谈论监管时，你是否清楚要构建哪种类型的监管？

Sam Altman：我们已经开始解决这个问题了。对人工智能领域进行过度监管是非常容易的，你可以看到，过去许多此类事情在发生。如果我们是正确的，并且人工智能能够发展到我们所设想的那样，即——影响社会、地缘政治力量的平衡，以及很多事情。

对于这些仍然是假设性的，但未来极其强大的人工智能——不是说 GPT-4，而是针对计算能力是GPT-4的 10 万倍或 100 万倍的系统，我们已经接受了一个全球监管机构的想法，这个机构将紧盯这些超级强大的系统，因为它们确实会产生如此大的全球影响。

我们谈论的一种模式是类似国际原子能机构（IAEA）。例如，在“核能”方面，我们做出了同样的决定。而由于人工智能潜在的全球影响力，需要一个全球性的机构（监管）。我认为这是合理的。当然，在此期间会出现很多短期问题，比如可以说什么，不可以说什么；我们如何看待版权问题，对此，不同的国家会有不同的考虑，这都没问题。

Bill Gates：一些人认为，如果存在如此强大的模型，我们就会对此感到害怕——全球核监管之所以行之有效，是因为每个人，至少在民用方面，都希望共享安全实践，这一点做得非常好。

而当涉及核武器时，就不会出现这种情况了。因为问题的关键在于，阻止整个世界做危险的事情，就需要有全球政府（合作）。但从目前我们所能看到的众多问题中，例如气候问题、恐怖主义，你可以看到我们（全球政府）很难达成合作。人们甚至援引中美竞争，来解释任何放缓的想法都是不对的。难道说，任何放慢脚步的想法，或者说放慢脚步以求谨慎，都很难实施吗？

Sam Altman：是的，我认为要求放慢发展速度是非常困难的。如果改成“做你想做的事，但任何计算集群都不能超过一个特定、极高的功率门槛”——鉴于巨大的成本，我们可能只会看到五个这样的模型——任何这样的集群都必须接受类似国际武器检查员的审查。该模型必须可供安全审核，在训练期间和部署之前通过一些测试。我觉得这是可能的。

我以前还不太确定以上想法是否可实现，但今年（2023年），我周游世界各地，并和许多需要参与这一活动的国家的元首交谈，几乎得到了普遍的支持。虽然这不能保证我们能够脱离一切风险。毕竟，对于规模小得多的人工智能系统来说，仍然会出现问题。但我认为以上举措可以帮助我们应对人工智能带来的最大风险。

05 应用——解放人类创造力，尤其是编码、医疗、教育领域

Bill Gates：现在，我们看到人工智能带来了很多生产力方面的提升，这是非常棒的事情。你最兴奋的领域是哪些？

Sam Altman：首先，我始终认为，我们正处于一条漫长、连续的发展曲线上。现在，我们拥有了可以执行任务的人工智能。当然，虽然它们不能完成一份完整的工作（一个岗位能做的所有事情），但它们可以完成一些任务，并提高人类员工的生产力。最终，人工智能将能从事更多今天人类所做的工作，而我们人类当然也会找到新的、更好的工作。

我完全相信，如果你为人类提供更强大的工具，人类不仅仅可以工作得更快，还可以做一些质变的工作。比如现在，我们可以将程序员的工作速度提高三倍。这就是我们所看到的，也是我们最兴奋的领域之一，人工智能做得非常好。

但是，如果你能让程序员的效率提高三倍，那么，程序员能做的事情就不仅仅只是（在数量上）多了三倍。因为，人类程序员可以能在更高的抽象层次上，使用更多的脑力去构思完全不同的事情。这就好比从打孔卡（punch card）跃升到更高级的语言，不仅让我们编程速度更快，还能解放人们做高质量的创新事物。大家也看到了这一点。

而当我们将目光投向下一代人工智能时，你可以将它想象成一个小代理（Agent），对它说：“帮我写完整个程序，我会在过程中问你几个问题，不仅仅是一次只写几个函数这么简单”。如此下来，就会诞生很多新生事物。而它（人工智能）也能做更复杂的事情。例如，在未来某天，你可以对人工智能说：“帮我建立并运营这家公司。”“去发现新的物理学。”等等。

我认为，至少在未来的五年或十年内，人工智能技术将处于一条非常陡峭的成长曲线上。而在那个时候，我们现有的这些模型都会变成最愚蠢的模型。

编程或许是我们今天感到最兴奋的一个提高生产力的领域。目前，它已经被大规模部署使用。医疗保健、教育是另外两个我们非常期待的快速发展领域。

06 社会——机器人影响劳动力市场

Bill Gates：令人生畏的是，与以往的技术发展轨迹不同，人工智能的进步速度非常快，而且没有上限。它可以在很多工作领域达到人类的水平，即使做不出独特的科学研究，它至少能打客服、销售电话。尽管人工智能是一件好事，但它迫使我们比以往任何时候都要更快地适应这项技术。

Sam Altman：这才是可怕的地方。并不是说我们必须适应，也不是说人类没有超强的适应能力。在我们经历过的一些大规模技术变革中，人类所从事的大量工作可能是在几代人的时间内发生变化，而在这漫长的时间中，我们可以很好地消化这些变化。

虽然，每次技术革命都会变得更快，但人工智能将是迄今为止最快的一次。这就是我觉得有点可怕的地方——我们的社会到底要以何种速度去适应人工智能的发展，应对劳动力市场将发生的变化。

Bill Gates：人工智能的一个方面是机器人技术，或者说蓝领工作，当机器人具有和人类一样（灵活）的四肢时，我担心人们会不再关注蓝领。你如何看待机器人？

Sam Altman：我对此非常兴奋。我们很早就开始研究机器人，以至于不得不搁置那个项目。我们一直在处理糟糕的模拟器和肌腱断裂之类的问题。

随着时间的推移，我们越来越意识到，（机器人研发）首先需要解决智能和认知问题（机器人的大脑部分），然后才能弄清楚“如何让‘大脑’适应身体的物理特性”的问题。而从我们构建语言模型的过程来看，问题从这里开始就会变得容易解决。

我们一直计划回到这个项目（机器人研发）上来。目前，我们已经对一些机器人公司进行投资。在物理硬件方面，我也终于第一次看到了真正令人兴奋的新平台出现。到时候，我们就能利用自己的模型，就像你刚才说的，利用它们的语言理解能力和未来的视频理解能力，说：“好吧，让我们用机器人做一些了不起的事情吧。”

Bill Gates：如果那些已经把“腿部”做得很好的硬件人员能把手臂、手掌和手指做出来，我们再把它们组合起来，且价格不贵得离谱，那么这将会迅速改变很多蓝领类工作的就业市场。

Sam Altman：是的。当然，如果我们回溯七到十年，大家的共识是机器人先会影响蓝领工作，其次才是白领工作。

创造力工作可能永远不会被影响，要影响也起码是最后一个，因为创造力是魔法，是人类的强项。

显然，现在的情况可能正好相反。我认为这其中有很多有趣的原因能够解释。因为，在创造性工作方面，GPT 模型的幻觉是一个功能，而不是缺陷，它能让你发现一些新事物。

然而，如果你要让机器人移动重型机械，最好能做到非常精确。我认为这是一个必须顺应技术发展的例子。你可能会有一些先入为主的观念，但有时科学并不往那个方向发展。

07 成本——生成式AI使用成本将急速下降

Bill Gates：就公平性而言，技术通常很昂贵，比如PC或互联网，成本下降需要时间。我猜，运行这些人工智能系统的成本可不是小数字，每次评估的成本会下降很多？

Sam Altman：已经降了很多。GPT-3 是我们推出时间最长、优化最久的模型，在推出的三年多里，我们已经将成本降低了 40 倍。对于三年的时间来说，这是一个很好的开始。至于GPT-3.5版，我敢打赌，目前我们已经将其成本降低了近 10 倍。

因为GPT-4 是新产品，我们还没有那么多时间来降低成本，但我们会继续努力。

我认为，在我所知道的所有技术中，我们的成本下降曲线是最陡峭的，远胜于摩尔定律。

这不仅是因为我们想出了如何让模型更高效的方法，还和我们对研究产生了更深的理解有关，我们可以在更小的模型中获得更多知识和能力。未来，我们将会把智能的成本降低到接近于零的程度，而这对社会来说，将是一次前无古人，后无来者的变革。

现在，我的世界基本模型由智能成本和能源成本组成（Bill Gates笑了）。如果你能同时降低这两方面的成本，你能拥有更多的东西，为人们带来更大的改善。我们正处在（降低成本）的曲线上，至少在智能方面，我们将真正实现这一承诺。

即使按照目前20美元/月的价格，你就能获得大量的 GPT-4 访问权限，而（你获得的价值）远远超过了 20 美元。我们已经降得很低了。

08 观察——最佳创始人比以往更老一些

Bill Gates：那竞争呢？很多人一下子挤进这个赛道是不是很有趣？

Sam Altman：既令人生厌，又充满动力和乐趣，我相信你也有过类似的感受。这促使我们做得更快、更好，我们对自己的方法很有信心。有很多人正滑向冰球所在的位置，而我们也将前往冰球要去的地方。感觉还可以。

Bill Gates：我认为人们会对 OpenAI的规模之小感到惊讶。你们有多少员工？

Sam Altman：大约 500 人，我们的规模还比以前稍微大了一些。

Bill Gates：但还是很小，要是以谷歌、微软、苹果的标准来看。

Sam Altman：确实很小，我们不仅要做实验室，现在还要经营一家真正的企业和两款产品。

Bill Gates：你们是一家年轻的公司吗？

Sam Altman：比平均年龄要大一些。这里不是一群 24 岁的程序员。

Bill Gates：的确，我的视角有些扭曲了，因为我已经 60 多岁了，毕竟你比我年轻。但你说得对，你们很多人已经四十多岁了。

Sam Altman：三十多岁、四十多岁、五十多岁（的人）。

Bill Gates：这不像早期的苹果、微软，那时我们真的还是孩子。

Sam Altman：对，我也反思过这个问题。我认为现在公司普遍变老了，我不认为这是件好事。我在YC想到过这个问题。可能随着时间的推移，那些最佳的创始人逐渐变老。就我们而言，比平均水平要老一点，但仍然如此。

Bill Gates：这很有意思。

09 创业——聚集顶尖人才，不急于短期收益

Bill Gates：你在 YC 的经历中学到了很多，我想这对你现在的工作也是很好的锻炼。

Sam Altman：非常有帮助。

Bill Gates：包括看到错误。

Sam Altman：完全正确。实际上，OpenAI 做了很多和 YC 建议相反的事情。我们花了四年半时间，才推出了自己的第一个产品。而在公司成立之初，我们对产品没有任何概念，我们也没有和用户交流（虽然我不建议大多数公司这样做）。但在 YC 学习并看到这些规则后，我才明白了——何时、如何以及为何OpenAI 可以打破这些规则。我们确实做了一些与我见过的其他公司截然不同的事情。

Bill Gates：关键在于你聚集人才，让他们专注于更大的问题，而不是某些短期收益问题。

Sam Altman：我认为硅谷的投资者不会为我们提供帮助，因为我们必须在研发上花费非常庞大的资金才能推出产品。我们只是说：“最终模型会足够好，我们知道它会对人们有价值。”但我们非常感激与微软的合作，因为这种超前投资并不是风投擅长的。

Bill Gates：确实不是，而且资金成本相当可观，几乎达到了风投所能承受的极限。

Sam Altman：可能已经超过了。

Bill Gates：确实可能。我非常赞同Satya“将杰出的人工智能组织融入大型软件公司”的思考，结果是“一加一远远大于二”。

Sam Altman：是的，这很棒。你说到了关键，这也是我从 YC 学到的。我们说过：聘请世界上最优秀的人才，确保自己的目标方向和AGI使命保持一致。但除此之外，我们要让人们做自己的事情。我们意识到这会经历一些曲折，也需要一段时间。

当然，我们的理论被证明是大致正确的，但一路上很多策略又被证实是非常错误的。我们所做的只是尽量遵循科学的规律。

Bill Gates：我记得我看演示时想过，这个项目的收入途径是什么？是什么样的？而在这个狂热的时代，你仍然手握一支令人难以置信的团队。

Sam Altman：是的。优秀的人确实希望和优秀的同事一起工作。

Bill Gates：这是一种吸引力。

Sam Altman：而且还有一个很强大的引力重心。这听起来很老套，每家公司都这么说。但人们确实感受到了深深的使命感，每个人都想参与AGI的创建。

Bill Gates：那一定很激动人心。当你再次用演示震撼我时，我可以感受到那股力量。我看到了新人，新的想法，而你们仍以非常不可思议的速度前进着。