Anthropic 的 TPU 之举与英伟达的 Starcloud
AI 界的惊悚周到了！ 在本周的万圣夜版 Mixture of Experts 上，我们聊了聊 Anthropic 与 Google 云 价值十亿美元的 TPU 新合同。另外，英伟达宣布要把数据中心送上太空。关于 AI 算力的未来，两种截然不同的路径，我们的专家将展开讨论。随后，OpenAI 发布了他们如何加强对 ChatGPT 敏感对话回应的说明。我们聊聊 AI 治理与 AI 安全。最后，我们讨论新论文《承保超级智能》：你会为你的 AGI 投保吗？欢迎收听本周的 Mixture of Experts，主持人 Tim Hwang，嘉宾 Chris Hay、Gabe Goodhart 和 Kate Soule。
01:05 – OpenAI 转向营利、英伟达市值达 5 万亿美元、亚马逊智能眼镜
本播客中表达的观点仅代表参与者个人，并不一定反映 IBM 或其他任何组织、实体的立场。
本集文字稿
Gabe Goodhart： 你知道，这些优势很有说服力，对吧？几乎无限的能源，几乎无限的冷却。有什么理由不喜欢？如果他们能让技术跑通，太好了。当然，后来我冷静下来一想：嗯，这东西的维护听起来简直是场噩梦。
Tim Hwang： 以上内容，尽在今天的 Mixture of Experts。我是 Tim Hwang，欢迎收听 Mixture of Experts 万圣节特辑。每周，MoE 都会请来一组聪明、风趣、还有点阴森的嘉宾，为你提炼人工智能最新新闻里的要点。
Tim Hwang： 今天有三位了不起的嘉宾。热烈欢迎 AI 开放创新首席架构师 Gabe Goodhart、杰出工程师 Chris Hay，以及 Granite 技术产品管理总监 Kate Soule。话题很多。今天我们聊聊 Anthropic 对 TPU 的投入、AI 保险、OpenAI 关于敏感对话的几篇有意思的博客，最后是太空数据中心。不过先请 Illy 播报新闻。大家好，我是 Aili McConnon，IBM Think 的技术新闻作者。
Aili McConnon： 我带来几条你可能错过的本周 AI 头条。OpenAI 完成重组，成为一家更传统的营利性公司。此举让微软获得 OpenAI 高达 1350 亿美元的股份。英伟达成为首家市值达到 5 万亿美元的芯片企业。换个角度看，英伟达现在的市值大约相当于摩根大通、沃尔玛、埃克森美孚和强生四家加起来的两倍。亚马逊发布了面向配送司机的 AI 智能眼镜。这副眼镜在司机行走时提供导航和提醒，帮助他们识别沿途的危险，这样就不必低头看手机。万圣节可能很吓人，对你的狗尤其如此。多伦多一家数字机构制作了一份播放列表，把 AI 与犬类声音科学结合起来，帮助狗狗在万圣节的喧闹和兴奋中保持平静。想深入了解其中一些话题？请订阅节目说明里链接的 Think 通讯。现在回到节目。
Tim Hwang： 首先，我很想从 Anthropic 本周发布的另一篇重量级博客说起。我直接引用一下，内容基本就是宣布他们将扩大与 Google Cloud 的合作，具体说是 Google 的 TPU 这类 AI 芯片。他们说——引用原文：“今天我们宣布，计划扩大对 Google Cloud 技术的使用，包括最多 100 万个 TPU，在我们继续推进 AI 研究与产品开发边界的过程中，大幅提升算力资源。此次扩容价值数百亿美元，预计将在 2026 年上线远超 1 吉瓦的容量。”也就是说，大概 12 个月之后。所以又是一篇这样的博客——你知道，每天都有一篇新文章，让你觉得这些数字简直难以想象。Chris，你能不能给大家一个直观解释：Anthropic 这些年跟英伟达、还有亚马逊合作得挺顺，为什么现在要在 TPU 上大举投入？到这会儿，我觉得他们只是想把英伟达的市值从 5 万亿压到 4.99 万亿。
Chris Hay： 削掉那么几个零头，这就是他们现在的动机。我觉得这其实很合理。对吧。现实是他们本来就在多个云上：在 AWS 上、在 Google 上等等。再说 GPU，你知道现在 GPU 有多难搞。能在这方面把供应来源稍微分散一下，我认为是很聪明的策略，这样推理成本能做到最优。你可以在多个云上跑，可以用 Google 的基础设施。所以我认为这是非常非常聪明的策略。不过从技术上说，我觉得这让事情更难，因为你没法依赖、没法利用 CUDA 的性能优化。你得自己去摸索，跑不同的架构来支持这些芯片。所以他们是在给自己找麻烦。但我完全理解分散供应为什么是好事。
Tim Hwang： 对。我比较感兴趣的是——我的直觉是，在每一个芯片平台上运行，都像在驯服一头各自的野兽。所以 Anthropic 差不多是在说：我们太缺芯片了，愿意为此承担所有这些运维复杂度。这种理解对吗？还是说现在跨平台迁移其实比过去简单得多？
Gabe Goodhart： 我认为肯定比两年前简单。但它也反映出算力需求正在持续转移：过去这些厂商的工作负载非常偏训练，现在则偏推理；而让模型在这些别的芯片上运行，比在上面训练要容易得多。从这个角度看就很合理：Anthropic 想扩大部署规模，而推理模型以及我们所说的测试时计算等方法不断推高推理成本，他们需要找到更新、更便宜的方式来扩展推理。我猜他们训练仍然会用英伟达。
Gabe Goodhart： 部分原因和 Chris 说的一样——CUDA，以及他们无疑已经砸进英伟达技术栈里的各种优化。
Tim Hwang： 对，几乎可以说他们已经投进去了。那为什么还要在某种意义上从头再来？
Gabe Goodhart： 对，我认为这正是英伟达的现金牛。他们真正下功夫优化的就是这些最高端的 GPU，而 TPU、Trainium 之类的芯片走的是另一路。
Tim Hwang： Gabe，我正想聊聊这个，因为据我理解，转向 TPU 是另一回事。对吧。它其实不是 GPU，据我理解它是 ASIC。对吧。它是一种专为 AI 应用设计的芯片。长期以来人们一直说，GPU 有点像历史的偶然，我们最终会走向从第一性原理出发的真正 AI 芯片。所以我不知道这是不是——100 万个 TPU 可是相当多。感觉我们也许终于跨过了那道门槛，进入一个芯片高度专用化的世界。但我不知道。想听听你怎么看。
Gabe Goodhart： 就说 CUDA 和它的在位优势这点，硬件上的在位是一方面，真正黏住人的是所有内核——他们的工程师花了数小时、数天、数月、数周、数年去调优，让这些内核与那套硬件完美契合。我猜他们会做的是：把较旧的模型放到 TPU 上——在那边，非 CUDA 的代码生态在内核实现上已经追上来了；同时继续推进新架构，因为这些模型本质上就是一堆张量运算的集合。但每一个运算都得按步长、批处理和 SIMD 分块仔细调优，才能实际跑起这一大堆数学计算。说到底，就是一堆加法、减法、变换。移位，最后是那些复杂、底层、乱七八糟的东西，你根本读不懂，直到你把脑袋塞进那个网格化的并行视角里才明白。但他们仍会在英伟达上继续创新，以拿到最新、最前沿的能力。如果要实现某个新架构，几乎肯定是 CUDA 优先。但到现阶段，很多其他驱动包——比如 Vulkan，程度稍弱一些的还有 OpenCL 等——在一些已经吃透的张量运算上，性能正在追上来。而你那批创新度较低的模型架构，大概已经准备好随便跑在什么平台上都行，因为不同软件驱动层之间已经拉平了。所以从这个意义上说，我认为这很聪明。如果能把那条走熟的路挪到更便宜、更高效的硬件上，把昂贵硬件留给最前沿，他们就能拿到双重优势。现在的情况是——最初驱动这些新架构的张量运算都是新的，各平台尚未全面跟上。但如今我们已经在这个领域过了几年，按 AI 的时间尺度算是几十年、几百年了。没错。确实开始趋于平缓。总体上看，替代硬件大概会是这样：英伟达在新架构上领跑，替代硬件则接过效率这块的广度。
Tim Hwang： 确实。我想到一点，Chris。对，我正要转向你。你一开始开了个玩笑，说他们也许就是把英伟达市值敲掉几亿美元。我们经常讨论的是：哦，谁来挑战英伟达？但这几乎像是人人都有空间。看起来这里基本上英伟达有自己的角色要演。但对成熟模型做推理所需的那部分容量非常庞大。所以也许未来会是这样一个世界：所有主要模型提供商都在做 Anthropic 现在做的事。你同意吗？
Chris Hay： 我同意。而且说实话，Anthropic 确实需要那部分容量。任何在英国时间半夜试过 Claude 模型的人都懂：API 限流、容量受限、请稍后再试。如果他们要拿到 100 万个 TPU，我没意见。只是别把我那点宝贝抢走。这是个具体举措。没错。那就上吧，Anthropic。我认为这是必要的，分散供应是好事。所以我挺满意。不过我并不感到意外。我是说，这话我说过，但再说一遍：跟着比特币的轨迹走，这事实在太好笑了，对吧？比特币从 CPU 起步，然后转向 GPU，再转向 FPGA，再转向 ASIC，你猜怎么着？我们 AI 走的是完全一样的路。这很合理，对吧？如果你有定制模型，做的事大体固定，而你能拿到更快、通用性更低但专做这活的芯片，成本还更低，那就上。我们已经看到这条路走得很好。比如看 GROK 芯片，跑得极快。所以我完全支持。就为了我能——就为了我半夜能玩 Claude。我要的就这么多。请让 Claude 保持可用。这才是我真正想要的。
Tim Hwang： Kate，最后一个问题。在 OpenAI 这件事的背景下，我们谈了很多他们最终要更垂直整合。对吧。关于 OpenAI 芯片的传闻很多：他们要拿它做什么、会长什么样之类。而至少在我的记忆里——除非你听到别的说法——Anthropic 似乎没这么做，没有说“哦，我们需要一颗 Anthropic 芯片，要大力宣传它”。但我认为两者在某种意义上都是纯粹的竞争者。你认为 Anthropico 迟迟不涉足硬件领域的原因是什么？
Kate Soule： 我认为 Anthropic 的定位一直更侧重于满足企业实际的部署需求，而 OpenAI 显然是在不惜代价追求超级通用智能。所以从 OpenAI 的角度看，他们可能在打一场更长的比赛，目标是真正差异化的 AGI 式智能。是否甚至需要从模型到芯片、贯穿整个技术栈做协同优化？这在更广的范围上会怎样展开？我不是 AGI 信徒，所以更认同 Anthropic 的路子：不管 AGI 如何，今天用 AI 能解决哪些实际用例，我又怎么扩大供给去满足需求？所以这其实涉及这些公司在追求创新方式上的哲学分歧。
Tim Hwang： 这种对 AI 的怀疑态度，正好适合我们接下来要聊的话题。我觉得这几乎成了个笑话：你想让某样东西在 AI 圈里传开、被讨论，就建一个独立网站，上面只放你那篇文章。过去的一周也不例外。这篇论文——我记得是几周前出的——叫《承保超级智能》，作者是几位研究者，还有一位叫 Rune 的人，他经营一家为 AI 平台提供保险的公司。《承保超级智能》的主题，其实是保险在让新技术得以成型中所起的作用。他们重点讲的一个概念叫“激励飞轮”。基本思路是：一旦有人为一项新技术或新领域承保，他们往往希望降低风险，也希望被承保方把风险管理做好。这在某种程度上描述了一种良性循环\n保险公司说你需要采用某些标准这些标准让审计成为可能，而审计既让事情更安全，也有助于给保险定价。我觉得这是一个有趣的想法。它的表述很明确地落在“我们即将进入 AGI 世界”这个前提里。但我认为这背后是个更大、更有意思的问题：AI 领域的保险。Gabe，我想先请你谈，因为你在开放创新、开放模型上做了很多工作。问题是开放模型提供商自身的风险，你们那边会讨论这个吗？比如我要发布一个新的开源模型。作为这个模型的提供商，万一以后出了问题，我要不要担心责任？想知道这在你们的世界里算不算个事。
Gabe Goodhart： 我认为这取决于开放模型怎么定位。很多机构只是想做出点酷东西，让人玩玩、找到些价值。从我们在 IBM 的位置来说——Kate，我不想替你说话——但我们确实很在意其中一些东西，并开始在这个方向上迈小步：提供保证，并在训练过程中加入可验证的溯源，确保模型确实达到训练和安全最佳实践的基准。这篇文章让我印象很深的一点是：这事其实已经零散地在发生了。但把这件事整体框定为保险问题，去对标汽车、火灾、建筑乃至基础设施部件这些对风险敏感的市场和生态，这个视角很有意思。我身上那个科学的部分，一听到“只要拿评估往上砸，问题就都解决了”这种说法，总是会起疑。因为“评估”这个词本身就没有明确定义。但转念一想，如果我是汽车工程师，对各种各样不同的安全标准大概也会有同样的怀疑。你知道，我以前在国防领域工作过，要钻的圈圈五花八门。有个老笑话：别想着给安全讲逻辑，把框打勾就行，对吧？作为一名工程师，这真的很令人沮丧。但对这个复杂领域之外的人来说，要想让这片复杂性可控，这种“简化”几乎是必需的。不管是 AI、国防系统、汽车，大概还有消防，里面都有大量细节我根本不懂。我给孩子买床的时候，也就只看有没有消防安全认证，就是这样。所以这里有些很有意思的问题——可以说，是怎么让这个飞轮转起来。当然，这背后多少也有作者的既得利益：他想成为这个市场的保险公司。但我认为关键在于，消费者要用手里的钱去支持那些认证。对吧。归根结底得从钱的流向开始。这才是让飞轮转起来的东西。而且，如果保险不能真正改善他们的利润、不能带来更多用户使用他们的模型，没人会为模型买保险。所以很值得看。这又回到那个问题。我们怎么把这片复杂性简化到让消费者真能据此决策：“不管开源还是闭源，我选这个模型，因为它有这个认证，我知道可以信任它”，或者“因为它以这种方式提供了赔偿保障”。而且我知道，万一它干了什么可怕的事，我确实能找到人起诉，从模型提供商那里获得救济。
Tim Hwang： 对。我觉得这个问题可能藏在后面。Kate，交给你，因为听起来你们已经在做一些类似形状的事。不过感觉在谈保险之前，人们会先问：你能不能就某些事项给出认证？对吧。比如，你能不能保证某些事——先不说出了问题你会不会赔我。所以随着时间的推移，也许会有这样一个世界：你可能根本不需要第三方保险，至少大多数情况下不需要，因为大多数人只会问：你达到某些标准了吗？好，如果你达到了这些标准，我就乐意采用。对吧。然后就回到你说的那点：企业也高兴，因为生意因此更多了。不过 Kay，听起来你们 Granite 团队也在零散地思考其中一些问题。
Kate Soule： 我认为理解和缓解风险，从一开始就是 Granite 战略的核心。比如，我们很早就做了很多决定，采取预防措施，禁止使用已知的盗版内容。这类内容在美国因为被用于训练，已成为许多诉讼的标的。我们对所用数据非常公开透明，这也正好说明我们在数据选择上有多谨慎。我认为这最终促使我们持续与不同标准机构合作，为此取得认证。也采取步骤帮助教育客户和用户：模型开发中存在哪些差异，为什么某些方面重要。Granite 是首个按 ISO 42001 标准开发的开源模型系列，这很令人振奋。模型提供商很多，但据我所知，另一个达到这些标准的模型开发者只有 Anthropic 的 Claude。追求这项认证的提供商还不多，但我认为至少在美国市场，它的普及度开始上升。不过我对保险在其中扮演什么角色还有疑问。我认为这里面有几件不同的事。其一，文章甚至举了例子，比如针对版权保护的保险。Copilot 最早出来说，如果模型产出受版权保护的内容、你用了它，我们会赔偿，你的产品会受到保护。我担心的是，最能理解真实风险的提供商不会是保险公司，而是模型开发者自己。就因为这项技术太新。文章里某处引用说，美国只有大约 100 名研究者有资格做模型审计。能把这项技术理解到足以评估该风险的细致程度的人很少；同时，足够开放透明、治理开发过程使风险可被良好追踪和理解的公司也很少。所以我看不到第三方保险商进场缓冲的巨大机会。
Kate Soule： 对。你要用我们的模型，如果惹上麻烦，就像版权那件事一样。IBM 也是这样做的。对吧。Granite 模型、watsonx 产品线被使用时，我们提供赔偿保障，因为没有人比我们更清楚这些模型是怎么训练的、可能带来什么风险。所以这可能会阻止第三方保险商进场。这篇文章也让我产生了一些疑问。它确实讨论了快速推进以及与中国竞争的重要性。但保险按定义就不是一个全球性的市场。总是要有一群在特征上相似的人把风险汇集起来、相互提供保障。所以如果中国的这些模型提供商和开发者没有这类标准或保险政策，而他们大概率会在监管比美国更少的环境里继续推进，那他们会快得多。这只会让美国公司不愿在同样的约束下运营以保持竞争力。我认为这篇文章并没有为此提供一个非常好的解决方案。我看不到这个问题会消失，也不认为保险能让我们在那方面更有竞争力。所以它最终给我带来的问题比答案多。
Tim Hwang： Chris，我把你拉进来，因为在以前的 MoE 里，你往往是我们当中最——不是说你是超级智能信徒——但你倾向于对近期能力发展到非常奇幻的程度最为乐观。你在这方面信得更多一点吗？因为如果你信这个，你的算法就不一样了。哦对，我们即将看到这些 AI 做出非常高风险的了不起的事，而第一方模型提供商可能本质上无法自保。所以也许会有压力。如果你的模型要被用于某种疯狂的 DNA 打印之类、生物风险极大的事，你最终可能会想把它外包给第三方保险市场。你对这篇文章稍微更认同一些，还是和 Kate、Gabe 一样怀疑？
Chris Hay： 保险带来条款，条款带来灰色地带，灰色地带带来律师，律师带来黑暗面。这就是我对这个问题的看法。所以我不喜欢这套。世界不需要更多的律师。
Chris Hay： 对，不，我不要这个。你说模型提供商赔不起。谁是模型提供商？它们都是市值数十亿美元的公司。如果一家万亿美元的公司都保不起。对吧。世界上最富的一些公司保不起自己的模型。那他们以为谁来给这些模型承保？我们这是活在哪个星球上？Kate、Gabe，回到你们那点：你觉得 OpenAI、Anthropic 会突然说“请进，我想给你看我模型的内部细节”吗？求你了，求你了。然后你好写进你的保单里之类的。不会的，而且我们知道条款会写成什么样。你必须以安全可靠的方式做这件事。你不得进行提示注入。你不得做这个。而最后总会回到：模型出错是你的错。这永远不会是我的错。他们会说：哦，你没在那儿装安全护栏。我不知道那是——我本来就是那个意思。就像你永远，反正总是我的错。那我在干什么？我在把钱交出去，然后客服中心会来找我。就像：你要不要我给你们的 ChatGPT 实例投保？你知道，一个月 300 美元，奶奶，然后我会说：不，这不是我想干的行业。保险是个坏东西。
Kate Soule： 好，我认为还有一点。对，还有一点。这点你说对了。这篇文章弄错、或者完全没抓住的一点是：AI 相关的风险很大程度上取决于具体用例。所以为通用模型部署、为通用模型本身设计保险，我认为非常天真。如果你说的是这样一个非常具体的生物医学应用，需要 X、Y、Z 三类监管来确保消费者安全与健康。这种情况一直存在不是“一直”，而是已经存在一段时间了，非常重要，也应当继续存在并扩展，把这些新的 AI 应用纳入考虑。但那种全球性保单——它的整个前提又是我们将会拥有人工通用智能和超级智能。因此我们需要“超级智能保险”——我认为这既不切实际，也不符合近期真实的风险和需要解决的问题。
Gabe Goodhart： Kate，回到你那点，我认为关于超级智能到底指什么，争论很多。你可以在某个垂直领域实现超级智能，机器做得比试图解决该问题的顶尖个人更好。那倒很可能成为保险保单一个很好的、非常具体的细分市场；但一旦从“AI”这两个字母就跳到“给这东西上保险”，我同意。那真是漫无边际。最后你基本上还是绕回：干脆相信模型创造者吧，因为真正懂这些问题的是他们，他们做对了。所以它就会——这是一条没有根证书的信任链。对吧。
Chris Hay： Gabe，顺着这点说，这就是偷懒式的甩责，对吧？因为你早先说的那点：好，你在提供产品和服务，那这项服务就得符合相应监管。判断 AI 是否合适、是否测够了能放进你的产品，这是产品方的责任。给模型投保，你只是在把风险甩出去——我猜人们就是想这么干。这就是偷懒。你明白我的意思吗？就是偷懒。所以我理解你为什么想这么做。如果模型开发者愿意承保那部分风险，那也行。我能想象很多公司出于各种原因会这么做。但我可以保证，等出了事，你看着当月的额度返还想：哦，因为出错了，我这个月的额度退回来了——我不认为这能覆盖你的风险。这就是我的疑问所在。
Chris Hay： 我对超级智能并不持怀疑态度。我依然很期待。对，你怀疑的是保险。我只是不喜欢保险，也不喜欢律师。
Tim Hwang： 好，我们进入下一个话题。我其实想把这两个放在一起，因为我觉得它们——它们以一种有意思的方式押着韵。我们刚聊的是一篇对超级智能非常推测性的文章，以及怎么为那些风险投保。而某种程度上，我们接下来要聊的话题也是关于公司管理风险，但语境非常不同。我觉得把它们放在一起挺有意思的。OpenAI 发了一篇博客，讲了他们如何努力确保 ChatGPT 能妥善、安全地处理与人的敏感对话。这篇文章非常有意思，通篇讲了他们解决这些问题的理念。包括他们从 GPT-5 看到的一些数据，以及总体上他们如何从产品角度管理这件事。接着我们前面的讨论，我觉得这是另一个可能路径的好例子：公司怎么管理其中一些风险。OpenAI 在这里做的，基本上就是把作业摊开给你看。他们说：好，你担心这个。这是我们做过的评估，这是我们的思路，至于要不要用这个产品，得你自己决定。Kate，这个我想交给你。第一个很有意思的问题，从产品角度看：在这个领域做安全真的很难，因为真实世界的案例太稀少。他们指出，在这些所谓的敏感对话里——当然怎么定义敏感本身就是个问题。他们说初步分析估计，某一周内活跃用户中只有约 0.07%、消息中只有 0.01% 显示出与精神病或躁狂相关的精神健康紧急状况的可能迹象。这是个有意思的问题，对吧？因为机器学习通常的做法是：能不能收集一些案例，用它做微调？但这里你会发现，样本非常非常有限。我主要想听听你怎么看：你认不认他们这种管理方式——我们只有极少数例子。所以我们要依靠专家小组，依靠模拟式的评估。你觉得这会成为业界应对这类问题的方法吗？
Kate Soule： 我的意思是，我读这些文章的时候，脑子里总有个声音：Sam Altman 不是刚说我们要把成年人当成年人对待、允许平台上有情色内容、干脆把护栏和安全措施都取消吗？
Tim Hwang： 我也想问这个问题。你想答就一起答：这种前后分裂是怎么回事？至少看起来很割裂。
Kate Soule： 不过你看，他们愿意参与、愿意更公开地讲自己做的这些基于分类法的工作，这是好事——这些方法跟我们在 IBM 用来梳理和界定安全问题的做法非常相似，尤其是在心理健康方面。他们也在和该领域的专家、临床医生合作，找出最合适的回应方式——但这不意味着，我也说不准，他们是否仍有充分的动力去彻底解决这个问题。你会注意到，他们说的很多内容都非常含糊。先说 0.01%，放到潜在可疑的心理健康对话上，也可能是一个惊人的数据量。如果谈的是 ChatGPT 的使用量，他们大讲“有害回应减少了 65%”，却不告诉你起点时的有害回应占比是多少。所以这 65% 的下降，是从 50% 的时候模型在说糟糕的话，降到——还是从 1% 降到 0.35？所以我认为这里面还是——Chris，我觉得律师插手了，而且肯定对那份发布稿做了大量删改，想让它看起来像：好，我们要公开，我们要谈这件事，但不会告诉你太多。
Kate Soule： 这不一定是坏事。但我确实怀疑，他们是否尽了全力去解决问题，是否有动力去解决，是否真的把这件事当作应有的严肃程度来对待。我还担心，你把这称为一种非常产品化的策略。在产品层面他们可能做了很多工作，但到了更底层就不会被处理——比如全世界都在其之上构建自己产品的那些端点。那么这怎么转化到——现在还有广告被卖给正遭遇心理健康问题、崩溃和困扰的消费者——又怎么转化到其他更广的应用，我认为令人担忧，而且文章并没有真正回应。所以我认为最终还有大量工作要做。
Gabe Goodhart： 是的，我的意思是，这又回到信任链的问题，对吧？如果你作为消费者已经认定 OpenAI 是家值得信任的公司，那这是一篇好文章。你会想：哇，看看这些好事。我更愿意相信他们确实在尽力。对吧？里面有很多关于努力工作、尽力而为的措辞，这很好。但如果你本来就没有对 OpenAI 建立根信任。这篇文章里可以捅的窟窿一大堆。对吧？有很多留给你自己去想象、去补。没错。就像 Kate 说的，这里真正的正面或负面结果到底指什么？对吧。这真是个灰色地带，而且接着前面的讨论，这里很难建立信任。要知道，这就是非高斯统计的领域。对吧。我们在分布的尾部，这很难，是很难的数学，很难的科学。所以我在信任光谱上大概落在中间某处。我认为他们愿意公开这些，至少说明大概真做了一些工作，而且大概带来了一些正向改进。但和公开宣传并排放着看，还是很难判断这到底落在什么位置、分量有多少。这到底是那种“新冠疫情时期自保免责”式的博客文章——对，正是，还是真正技术改进的信号。而且我们也知道，任何规模不小的公司里，左右手沟通都不太顺畅，尤其当右手是公司顶层那位公众人物时。所以很有可能 OpenAI 内部有些团队一头撞进产品决策和对外宣传的齿轮里，这些都会让科学放在正确的位置变得困难。因此，幕后情况可能比博客文章所呈现的要复杂得多。我很高兴他们至少迈出了一步，但我对他们这个组织仍然非常戒备——说实话，对任何自我认证“自己做得对”的组织，我都戒备。
Tim Hwang： 我觉得这就是问题所在，对吧？上一段讨论里我们说过，更现实的结果是这些公司会自我认证。而现在我们谈的是自我认证，还要问“这真是我们想要的认证吗”——于是你卡在两个大概都不太妙的场景之间。Chris，这篇文章除了数据，最让我印象深的一点是：OpenAI 也开始表达他们的观点——这类技术在特定情境下应当如何回应。我想到的例子是：他们说，若检测到用户开始对模型产生情感依赖，我们的干预方式是让模型建议他们多进行现实中的对话——这是对模型在该情境下该做什么的一个非常具体的意见。就拿这个例子说。我很好奇，你认为这真是这类技术该有的行为吗——一旦发现你开始情感依赖，就该说：嘿，你有没有考虑跟现实中的其他人聊聊？这有效吗？在你看来，这是这些模型处理这类情境的好方式吗？
Chris Hay： 我是，对。Tim，这问题你最不该问我。毕竟我是个在情感上非常依赖 Claude 的人。对，正是，我觉得这很难，对吧？首先，就像 Kate 说的，8 亿用户，0.07%——那可是个巨大的数字。你明白我的意思吗？这数字够吓人的。但我认为依赖 AI 的人——这么说吧，我也依赖 Claude，但不是情感方面。现实可能是，他们所处的情境里，找个人说说话根本不是一个选项，你懂我意思吧？也许正因如此他们才依赖 AI：这个话题非常难开口，去找真人谈对他们来说很难。所以我理解他们在那方面的做法，我认为人在需要帮助时就该得到帮助，无论来自 AI 还是来自另一个人。而且我觉得他们做得对的一点是，他们在和专业人士沟通，由这些人告诉他们该怎么说。所以我为这些鼓掌。我身上那个怀疑的部分只是想说：我希望他们真心希望人们得到应有的帮助。而不是在转移责任，说：你知道，他们联系过我们，我们说了“去找个人聊聊”。而他们没去。然后那些讨厌的律师又回来了。所以我不知道，但我认为这类场景里没有好答案。我只是——我不愿意这么说，但我认为情况会变糟。对吧。因为目前我们主要是以文本方式和 ChatGPT 等对话，当然也有语音模式，尤其开车的时候。但随着模态越来越多，头像越来越逼真，这些技术不断进步，它会开始感觉更像人。我认为这些问题会越来越多。所以我不知道答案是什么，但我确实为他们的尝试鼓掌。
Gabe Goodhart： 是的，说到为尝试鼓掌，其实还有一件事。有篇配套的文章，我记得是昨天上线的，也可能是前天。他们刚发布了开放权重模型微调版本的预览，这些版本是围绕策略执行设计的。和 Granite Guardian 系列非常相似：用户提供一条实际策略，检查输入或输出是否符合，然后它会针对该策略做实时在线的评估。实际上，我认为这可能是最有趣的部分。我怀疑这个时机并非巧合，尽管它也有可能是巧合。但如果他们真的在为把其中一些问题的解决方案公开出来而迈出实质一步，我认为这非常令人鼓舞。所以我很想看看。我注意到一点，和我们 Guardian 模型的定位略有不同：我们的 Guardian 模型是针对我们拥有数据的一组策略专门调优的。而听起来他们做的是一个通用策略评估模型。
Gabe Goodhart： 谢谢 Kate。抱歉，对，我说错了。好，所以是任意策略。不过 Guardian 系列里我们那些模型更小，应该先试那些。对，关键是，把这套东西组成系统，是真正好的技术进展，别人可以亲手摸到、感受到，从而对这项技术建立一些自己的信任，而不只是读博客。所以这是个令人鼓舞的迹象：有真正的技术在开放环境中发布，为这些说法提供一些分量。
Kate Soule： 对我来说，这几乎是个根本性的哲学问题：AI 该不该用于陪伴。就像 Chris 说的，确实存在 AI 作为陪伴能带来益处的情境。但如果是这样，如果我们希望它真能提供价值，这种价值就必须更核心、更根本地体现在这些模型和聊天机器人的构建方式里。我担心 OpenAI 目前的做法的——当然很好，就像我说的，他们做得更好了，也愿意公开谈，这很好。但里面有些东西，比如我在他们文章里注意到：如果你处于痛苦中，会被路由到一个安全模型；如果没有，你就用那个“把成年人当成年人”的模型，大概是没有护栏之类的。所以我认为这确实有点哲学意味：这些护栏和安全协议应该多深地嵌入？你是在一开始就为安全的陪伴做设计，还是最后再补上去：哎呀，某某人有一些危险信号。我们就把他们放进安全模式的护栏里，像放进软包房间，免得他们伤到自己。我觉得这最终让人感觉有点不安全，也不是我希望我的亲人在需要支持或帮助时对着的那种 AI 陪伴。
Tim Hwang： 好的，我现在要进入我们的最后一个话题。一则突然冒出来的有趣新闻。英伟达写了一篇博客，讲他们支持的一家公司 StarCloud。StarCloud 的设想是把数据中心放到太空。那位 CEO 有一句惊人的话：十年内，几乎所有新建数据中心都会建在太空。我先梳理一下 StarCloud 的论证和卖点，然后很想听听大家的看法。思路是：在太空有很多好处。其一是冷却，对吧？因为在太空真空中，你不需要用大量水。其二是能源，对吧？你还能通过太阳能产生大量实际上很绿色的能源。我听到这个概念时想：这想法有点野。我想或许吧。Gabe，先交给你。数据中心要上太空了吗？我们在地面上大建数据中心。这是不是一种模式，也许这些优势真会促使我们把东西送上天？
Gabe Goodhart： 阅读这篇文章时，我的心情如坐过山车一样起伏。第一个念头是：这太荒唐了。我看了标题，然后读到正文实质内容，我认为这些优势是真实的。它们是。
Gabe Goodhart： 我还没坐完这趟过山车。这些优势很有说服力，对吧？几乎无限的能源、几乎无限的冷却，有什么理由不喜欢？如果他们能让技术跑通，太好了。然后当然我又跌下来想：嗯，糟了。英伟达刚发布了一块全新的卡。那我干脆把这块报废，重开一个数据中心。或者，糟了，有台设备坏了。我得派人到机架上拔一块出来换——啊，该死，我做不到。所以这东西的维护听起来简直是场噩梦。我在国防领域上一份工作里接触过的一个项目就是太空物体跟踪，那真的非常非常难。原来外面飘着海量的东西，各自占着轨道绕地球运行，极难追踪。而且它们随时可能撞上什么，或者掉到地上造成重大损失。所以太空不是什么可以随便往里扔东西的快乐小气泡。它已经是一个非常非常拥挤的物理空间，有真实的后果。所以把一项半年就过时的技术送上太空——在我看来问题就在这里。好处很清楚。如果真能实现，那很好。但你要怎么跟上你送上去的那套硬件的创新速度？我完全想不出这怎么可能可行。
Tim Hwang： 我很喜欢“得换卡”这个想法。那我们就派个人上去换卡。我的意思是，如果能把它拍成电影，肯定很酷。
Kate Soule： 我心里有一部分在想：哇，这太酷了。对，我觉得会很酷。那简直太酷了。但我确实会想到一些事——我私下对天文学有点兴趣——比如太空垃圾，这是真实存在的问题，碎片场还在增长。我认为看相关的监管环境如何成长会非常有意思，尤其是对太空的地缘政治控制，显然现在都还很不成熟，属于未知领域。所以我认为有很多——我认为更可能是政治上的困难会阻止或推迟它成为现实，甚至超过物理或工程层面的困难。不过说到底，我心里有一部分就是在为这事兴奋。就像：是啊，听起来太棒了。真是太酷了。
Chris Hay： Chris，这一集的最后一句交给你。我很期待 Mark Rober 拍个视频，把一块 GPU 绑在气球上送上太空，抢在所有人前面。我就等着看这个。Gabe 和 Kate 已经全说完了。我觉得这是个愚蠢的想法。去把 GPU 做得更小更好、把模型做得更小，让我们在这儿就能用，还不太费电。别把太空也变成问题。
Tim Hwang： 这一期节目非常精彩。今天大家都很辛辣。今天的时间就到这里。Kate、Chris、Gabe，一如既往很高兴请到你们，也感谢各位听众。如果你喜欢这期内容，可以在 Apple Podcasts、Spotify 以及各大播客平台找到我们。我们下周在 Mixture of Experts 再见。不过你们这么一片嘘声，让我感觉自己像在看纽约巨人队的比赛，只能在旁边干着急。
您可能会喜欢
IBM Think 播客
关于 AI
人工智能 (AI) 智能体是指能够代表用户或其他系统自主执行任务的系统或程序。它是通过设计其工作流和利用可用工具来实现这一目标的。
配备 AI 的应用程序和设备可以看到并识别物体。它们能够理解人类的语言并做出回应。他们可以从新的信息和经验中学习。但什么是 AI？
开发人员在基础模型（例如，IBM Granite、Meta 的 Llama 模型或 OpenAI 的模型）之上构建 AI 助手。大型语言模型 (LLM) 专注于文本相关任务，是基础模型的一个子类。