疾病的治愈变得更容易。官僚体制得到简化。未来的工作会是什么样子？OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei发布了一系列文章，阐述了他们对人工智能将为人类带来什么的愿景。在这期播客中，Motley Fool分析师Asit Sharma加入了主持人Mary Long的讨论，内容包括：
- 构建通用人工智能是否是一场赢家通吃的游戏。
- 未来十年内人工智能的发展趋势。
- 对超级智能未来的持续疑问和担忧。
要收听所有The Motley Fool免费播客的完整剧集，请访问我们的播客中心。如果您想开始投资，请查看我们针对股票投资新手的指南。以下是视频的文字记录。
Asit Sharma: 所以，如果你担心人工智能会发展到如此程度，解决了如此多的问题，以至于我们没有什么可做的，他指出，我们在物理学、生物学和实验的定律面前正努力挣扎。因此，变化的速度可能是惊人的，但由于受到许多变量的限制，这可能是我们可以接受的。
Ricky Mulvey: 我是Ricky Mulvey，这是Motley Fool的高级分析师Asit Sharma。OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei都发表了文章，概述了他们对人工智能未来的愿景。一个世界里，疾病更容易治愈，工作变得截然不同，无法解决的数学问题变得可以解决。Mary Long与Asit进行了类似读书俱乐部的对话，讨论了这些愿景，他们对人工智能成为“数据中心里的天才国家”感到兴奋和担忧的地方。
Mary Long: Amodei并不是第一个离开OpenAI的人。值得注意的是，即使在今年早些时候，OpenAI也经历了一连串的高层离职。许多人现在已经开始或据传将开始自己的AI初创公司。我想在这个问题上停留一会儿，因为我认为在我们现在对AI的理解主要通过聊天机器人的背景下，拥有多个不同的聊天机器人是有道理的。也许你有偏好的一个，我有偏好的一个。它们可以在市场上公开竞争，但Altman和Amodei在他们的文章中描述的更大愿景是关于超级智能、通用人工智能或强大的AI。虽然他们各自使用的术语不同，但这种高级AI能做什么。Amodei将其描述为“数据中心里的天才国家”。如果我们置身于那个未来，当AI成为一个“数据中心里的天才国家”，是否可以有多个“天才国家”存在于不同的数据中心？或者，我们能否像现在看到的聊天机器人那样进行开放竞争？或者，这是一个赢家通吃的情况，伴随着这两位领导者的巨大变革？
Asit Sharma: 这是一个很难想象的问题，因为在这背后，这两位领导者都在试图筹集资金，以便在所谓的超级智能或通用AGI方面取得领先。从表面上看，如果你读了他们的作品，他们描绘了一个理想化的未来，看起来非常合作。如果这是一场合作游戏，那么就需要多个数据中心，每个数据中心都有多位诺贝尔奖得主。但即使是更倾向于将其视为合作事业的Amodei，也提到一些思想家认为民主本身与这些概念交织在一起，因此，民主公司应该参与进来，汇集资本和资源来开发他们的AI，并使其比非民主国家的AI更先进。这是胡萝卜，但也有大棒。这里有一个愿景，即可能首先到达并拥有超级智能是很重要的。我喜欢Amodei提出的这个比喻。我要说的是，对我来说，这更像是翻转等式。目前，我们使用聊天机器人或大型语言模型，它们基本上是助手。我们试图实现某个目标。因此，一个聪明的人类与一个非常好的人工智能可以做很多事情。在所有这些愿景中，我看到的一个共同点是，等式被翻转了，我们成为了助手。我们可能控制初始目标或将其放在人工智能前面，但从那以后，它们实际上控制一切。在Amodei的愿景中，超级智能拥有它需要的一切，如机器人、实验室、生产手段等，以解决问题。
Mary Long: Altman和Amodei都认为超级智能的到来将非常迅速。Altman估计我们可能在大约1000天内达到这一目标。他是在9月份发布的这一估计。Amodei的估计是，我们最早可能在2026年看到这一目标。因此，Amodei的文章继续设想，在我们达到超级智能后的5-10年内会发生什么。这并不真的是对文章的价值判断。它比Amodei描述的要模糊得多。Amodei的文章超过14000字，内容详尽。仅提供这些信息作为背景。你认为这些是根本不同的愿景吗，即使其中一个可能比另一个更详细？如果是不同的，你更赞同哪一个？
Asit Sharma: 它们表面看来可能不是根本不同的愿景，尽管我们没有足够的细节来了解Sam Altman的未来愿景是否在谈论同样的事情。他在他的愿景中有一两句话，正如你所说，非常缺乏细节。那里并没有真正试图说服读者任何事情，因为他确实指出，嘿，我们发现深度学习在规模上的变化改变了世界。这就是他所说的。Amodei也有类似的想法，即存在一种奇怪的原则，我认为有一些学术论文讨论过这一点，即仅仅一点点的代理行为，一点点算法或解释序列的能力，一旦大规模应用，实际上就是智能。神经科学家可能一直在欺骗自己，认为人类大脑中发生了一些神秘的事情，这是智能的基础。也许我们的大脑也是通过一些简单的机制，一旦我们从出生到死亡的生活中接触到大量数据，可能那就是智能。从这个意义上说，我认为他们看待世界的方式是一样的。事实上，Altman已经将这一点推向了极端。去年，他去了亚洲进行巡回演讲，试图说服各种芯片制造商和政府筹集约七万亿美元的资金，用于支持芯片、数据中心、网络、能源需求等方面的AI目标，以推动AI向超级智能发展。在我看来，这很有趣，因为这篇文章很大胆，但没有太多细节。我必须指出，他被世界上最聪明的一些人，台积电（TSMC）的工程师和领导层，驳回了。《纽约时报》报道说，他们像对待播客专业人士一样驳回了Altman。我认为，提出大胆愿景而不考虑后果或说服人们你正在考虑后果，这是危险的。我认为对于大多数不像这两位先生那么聪明或没有接触这些资本的人来说，有人试图筹集7万亿美元，考虑到当前计算GPU对能源的需求，这对地球的影响是巨大的。难道你不应该首先尝试减少计算的能源足迹吗？所以我认为这两篇文章有很多相似之处，但它们确实以非常不同的方式接近这个世界。
Mary Long: Amodei几乎提出了与台积电工程师类似的论点，因为在文章的开头，他写道，除非你解释这项技术的希望，否则你无法说服其他人相信这项技术。因此，你需要有一个北极星，让所有投入这项技术或受其影响的人（最终他认为是所有人）都能理解这个北极星。这不仅有助于激励你朝着某个目标努力，即使作为一个外行人，也能让你感到兴奋。作为帮助构建这项技术的一位思想者，它还帮助你确定我们不想要什么和要避免什么。Amodei在文章开头明确表示，他写的是对AI的积极愿景。显然，有许多事情可能会出错，Anthropic非常关注安全。但这不是这篇文章的目的。这主要是他最慷慨的愿景。我想暂时进入哲学层面。[笑] Austin对此非常兴奋。因为在这两位男士对超级智能的构想中，一个共同点是，我认为你称之为代理性。AI代理不仅能够处理数据，还能执行你的命令。Amodei再次更具体地描述了这一点，但在我看来，它们是非常相似的概念。他说，最终这些超级智能AI代理能够发起任务，并具有“诺贝尔奖得主”级别的“脑力”在多个行业中。他提到了几个行业，其中之一是写作。它可以证明和解决数学定理，写出非常优秀的小说；他是这样描述的。当我听到这一点时，我不禁思考技能和艺术之间的区别，以及在这些构想和想象中AI代理是如何思考这一点的。所以我把这个问题交给你，Asit。在我再讲得更长之前，技能和艺术之间有区别吗？这种区别是什么样的？
Asit Sharma: 当然有区别。我认为在这篇文章中有许多值得赞赏的地方，我应该说，谦逊贯穿了Amodei整篇文章。他以很多精彩的修辞手法开始，告诉你他理解写这样的东西可能会显得多么荒谬，他把这一点放在一边。他不想这样做，不想听起来像那样，他列举了他可能听起来像的各种人格类型。因此，尽管这篇文章有很多值得喜欢的地方，但在这一点上我确实不同意。技能和艺术之间的区别在于，技能是艺术的必要条件。你需要某种事物的机制才能创造伟大的东西。你需要某种技艺。如果你正在制作一件美丽的斗篷，你需要能够刺绣。你不能只是想象它。我认为机器在这方面做得很好。但你也需要能够以一种可以与其他事物结合的方式来体验情感，从而创造出某种东西。机器之所以需要很长时间，是因为它们只能模仿。这些神经网络的构建方式使它们已经能够幻想。它们像我们一样做梦。它们的幻想与我们的有点不同，但人类的身体是如此有趣。它既由电信号和化学信号组成。我们在皮肤上有非常精细的感受器。因此，如果你是一个孩子，你的祖父母抚摸你的手掌，你可能会带着这个记忆几十年。作为一名作家，当你描述一个场景时，这个记忆会回到你脑海中。所以，这是一件随着时间的推移可以复制的事情。我们知道Meta AI正在研究非常精细的触觉感知。所以有这一点。我们知道这些代理可以模拟人类思维，但要把这一切结合起来，其中有一种情感的流动，机器只能以自己的方式想象。如果你读了一篇伟大的文学作品，我知道你和我曾经讨论过一些小说。一个共同点是，它们是从作家一生中积累的丰富经验中产生的，以一种独特的方式结合在一起。我们不知道这是如何做到的。因此，机器可能会接近这一点，但它们能否再现阅读一部伟大小说的第一行并带你一路走到底的效果？这还需要很长的时间。所以，当他在讨论AI将在生物学和力学等领域表现出色之后，他提到它们将能够写出诺贝尔水平的小说，但他并没有支持这一论点。我认为这个论点是无法支持的。
Mary Long: 在Amodei文章的结尾部分，他谈到了工作和意义，以及AI将对其产生的影响。这显然是文章五个部分中最短的一部分，前四个部分分别是生物学、神经科学、治理与和平、经济发展与繁荣。然后是工作和意义，这是最短的部分。他甚至提到了这一点。我认为这在很大程度上回到了你所说的，很多也许不是工作，而是人类生活中的意义，都可以追溯到艺术和这种经验的广度，试图表达和连接这些经验，以及AI对人类的潜在影响。即使是他，当他谈到AI能为人类做什么的令人信服的愿景时，他也无法回答：“这一切结束后，我们将走向何方？”所以我认为这是相关的，你提到的这一点很有趣。一旦他提到写作和AI可能具有的创作“艺术”的能力，他就放弃了这一点，只在最后再次暗示，同时说：“我实际上不知道这里会发生什么。”
Asit Sharma: 我同意。我很喜欢他带来的谦逊。他最终并不知道这是否会让我们觉得生活更有意义，尽管他展示了AI可以带来的许多好处。我们可以将其与Sam Altman文章末尾的愿景对比，他在那里说，引用一下，“我们今天所做的许多工作，在几百年前的人看来，可能像是浪费时间，但没有人回顾过去，希望自己曾是一名点灯工。”如果一名点灯工能看到今天的世界，他会觉得周围的繁荣是难以想象的。当然，我们中有很多人可能会不同意这一点，说：“想象一下，如果你能在维多利亚时代的英国成为一名点灯工，每天黎明醒来，晚上在社区巡逻，照亮社会，你会觉得这份工作有多好？”我们中有很多人今天，坐在电脑前或做着我们现有的工作，都在努力寻找生活的意义。所以我认为这些愿景是非常不同的。但你想要谈谈，Mary，Amodei提出的进步以及其中有趣和令人不安的一面吗？
Mary Long: 不，我很高兴。谢谢你让我们回到正题。我陷入了哲学的兔子洞，心想，“我可以整天谈论这个。”但你是对的。Amodei概述了许多可能性，这再次是他设想的在实现超级智能、通用人工智能或强大AI后的5-10年内会发生的事情。再次，他看到这一点最早可能在2026年实现。因此，假设这一点在2026年实现，计时开始。接下来会发生什么？这就是Amodei在这份愿景中所描述的。在这份愿景中，他再次将其分为几个不同的类别。你有生物学和健康，有神经科学和心理健康，有经济发展和繁荣，有治理与和平，然后有工作和意义。这里有很多令人兴奋的内容。很容易让人担忧。我们可以稍后讨论一些可能更令人害怕的事情，但这是一个积极的乌托邦愿景。所以我们来谈谈什么是令人兴奋的。你先说吧，我不会把问题扔回给你。显然，他谈到了根除传染病和遗传病，以及大多数癌症。想到这一点确实非常令人兴奋。他设想的实现方式是，你有一支AI代理团队，拥有世界上顶尖生物学家的集体智慧，能够进行实验，因为它们可以行动和发起任务，可以进行实验。它们甚至可以进行监管测试，加快改进过程。所以我很喜欢Amodei不仅说AI会做什么，还给了你一种感觉，说明它是如何实现这一巨大任务的。他还提到消除严重的精神疾病，这坦率地说是我以前在思考可能性时从未想过的事情。我认为说和建议这一点感觉很疯狂。当我想到AI时，我认为根除疾病是可能的，但这是经常讨论的话题。根除精神疾病并不是我之前读到或想到过的。所以，当考虑到严重的甚至是不太严重的心理疾病时，想象一个没有这些疾病的世界显然是一个积极的进步。我对他谈到在食品安全和气候变化缓解方面的进展感到非常兴奋，食品和农业技术的可能性让我着迷。这是一个有点书呆子气的问题，但在政府与和平视角部分，他提到可以有一个AI帮助公民充分利用可用的政府服务。当把这个提议与根除所有疾病相比较时，它显得微不足道，但我认为“这太棒了。”[笑]
Asit Sharma: 我也很喜欢这一点，Mary。我真的喜欢意识到帮助是困难的，即使政府为你提供了某些东西。官僚体制是困难的，你可能是那个不得不填写无数表格以获得帮助的人，也许是为孩子申请帮助，或者申请失业救济。我们的社会中有太多的官僚体制。如果AI能让你更容易获得帮助，也让另一端的分析更容易，你就能获得所需的公共服务。我觉得这真的很有趣。我的收获非常相似，所以在这里我不会多说。我只是觉得，他一再指出物理限制使得问题不能一夜之间解决，这一点让我感到意外地安心。所以，如果你担心AI会发展到如此程度，解决了如此多的问题，以至于我们没有什么可做的，他指出我们在物理学、生物学和实验的定律面前正努力挣扎。因此，变化的速度可能是惊人的，但由于受到许多变量的限制，这可能是我们可以接受的。他在临床研究等方面给出了很多很好的例子。所以这对我来说很酷。最后，关于神经科学，他讨论或实际上是暗示了Anthropic正在研究为什么他们的模型以这种方式工作。大多数公司似乎对理解黑箱没有多少兴趣。但我要给Anthropic很多赞誉，因为他们发表了关于他们在构建模型时所见的研究论文。他只是提到了他称为可解释性的内容，也就是理解这些大型语言模型如何与我们的大脑工作，这很酷。
Mary Long: 再次，Amodei明确表示这是一个积极的愿景。这是他对强大AI可能实现的最佳情况的设想。强大AI，我应该说。即便如此，我在阅读这些可能性时，仍然有几次感到胃部不适，感到相当紧张。我读到的许多内容让我想说，看看这是多么积极。我在说这句话时皱眉，因为我内心深处的大部分想法是，但这可能太多了。我不知道，对于强大AI可能带来的所有好处，我不知道是否公平或真的可能想象一个没有任何问题的世界。你可以解决很多问题，但有趣的是，问题总是会出现。所以我不想忽视这一点。我想花一点时间指出我们各自认为这个积极愿景中更令人担忧的元素。你想先开始吗？
Asit Sharma: 当然。我有两个点。一个是他在文中提到的所谓生物学自由。他谈到了过去70年在生育、体重管理等方面的所有进展。然后他说，他怀疑加速发展的AI将极大地扩展我们选择的范围，几乎就像可以从自助餐菜单中选择我们想要的样子，我们想要的生物学表现、外貌、生殖等，这是人们在人类基因组研究取得进展时首先担忧的问题。如果可以选择你的孩子会是什么样呢？这听起来像是出生后的事情，这让我感到有点毛骨悚然。另一个让我停顿的是与此相关的一点，我必须引用他的话，以使这一点清楚：“我们不认为是临床疾病的日常问题也将得到解决。”我们大多数人有日常的心理问题，通常不被认为是临床疾病。有些人容易发怒，有些人注意力不集中或常常困倦。有些人害怕或焦虑，对变化反应不佳。然后他提到，有些药物可以帮助解决这些问题，但理论上，这些超级智能的AI系统可以平息我们的个性。我认为，人性与需要治疗的东西之间有一条细线。这回到了你之前说的，Mary，你是否想解决所有问题？我的意思是，如果我们不断选择和选择，直到我们的整个存在都处于中庸状态，这让我感到不舒服，或者非常不舒服。
(全文结束)
