美国开源被中国甩在身后，套壳创业者更遭惨烈清算！OpenRouter CEO：天天乱 ...

小鬼爱欧美音乐 · 发表于 2026-8-20 23:40:12

滥用贵模型会被划入“担忧象限”，AI时代的员工成本必须是动态的？
编译 | 王启隆
出品丨AI 科技大本营（ID：rgznai100）
几天前，顶级科技播客 20VC 上线了一期信息量极大的深度访谈。主持人 Harry Stebbings 对话了 OpenRouter 的联合创始人兼 CEO Alex Atallah。
如果你关注 AI 生态，最近大概率听说过 OpenRouter。它做的是大模型的“统一路由网关”——简单来说，就是让开发者和企业只需要接入一个接口，就能随时调用和切换全球几百个不同的 LLM（大语言模型）。这家融资超过 1.53 亿美元、估值 13 亿美元的初创公司，如今正处在行业风暴的中心，甚至有传闻称 Stripe 正在考虑以 100 亿美元的高价收购他们。

Alex 本人的背景很有意思。在做 OpenRouter 之前，他是 NFT 交易平台 OpenSea 的联合创始人。当年 OpenSea 在流量爆发时经历过灾难性的宕机，服务器整天融化，搜个索引都能爆，他天天提心吊胆生怕公司倒闭。这段被流量“打过折”的惨痛教训，让他把所有的精力都死磕在了基础设施的稳定性上。
在这期一小时的访谈里，Alex 站在流量路由的最前线，抛出了几个打破硅谷常识的判断：
第一，在开源大模型上，美国已经落后中国非常远了。在 OpenRouter 的真实调用榜单里，来自中国的 DeepSeek、GLM 和 Kimi 靠着极高的性价比和迭代速度直接霸榜。Alex 坦言，开发者根本没有模型忠诚度，谁便宜、谁好用就用谁。拿 OpenAI 的 Luna 模型来说，价格刚降 10 倍，使用量立刻暴涨了 13 倍——算力价格就是硬道理。
第二，企业其实非常害怕依赖 OpenAI 和 Anthropic 这样的前沿模型巨头。随着 Anthropic 推出 Claude Design 直接抢 Figma 的饭碗，那些只在 AI 外面套一层薄薄营销外壳的 SaaS 创业公司，正面临前所未有的清算。未来不再是各种复杂的提示词，极简的“Harness（驾驭层）”正在取代传统 App。
第三，AI 时代，员工的成本结构正在彻底变动态。以前发工资是个静态数字，但现在，每个员工每天都在消耗公司的算力账单。Alex 警示，天天滥用高价模型却产不出实际业务价值的员工，很快会被管理层划进“担忧象限”。

以下是访谈正文的翻译：
从 OpenSea 的灾难里活下来：为什么多模型才是 AI 的终局？
主持人：Alex，我想先聊聊你在创立 OpenRouter 之前的经历——也就是 OpenSea 那段波澜壮阔的旅程。在经历了 OpenSea 的这一切之后，你把多少当时的经验和积累带到了 OpenRouter？
Alex：OpenSea 刚起步时是行业里第一个 NFT 市场。和 OpenRouter 很像，我们在很长一段时间里规模都很小，团队一直保持得非常精简，直到 A 轮融资前后甚至更晚一些——那还是在 AI 浪潮爆发之前的故事了。
到了 2020 年 10 月，NFT 突然迎来了大爆发。我们当时完全被打懵了，每天都在喊：“天呐，人手根本不够，服务器快要烧毁瘫痪了！” 各种故障接踵而至，搜索索引崩溃、频繁发生重大宕机，我们光是维持网站正常在线就已经竭尽全力了。
那会儿的心态就是：“完蛋，我们要变成加密圈那只动不动就崩溃的 Twitter ‘宕机鲸’（Fail Whale）了。”
我当时最大的目标，就是绝对不能让 OpenSea 沦为加密领域的 Twitter“宕机鲸”。

Fail Whale 是 Twitter 在 2008 年至 2013 年间使用的一个著名的错误提示，每当网站出现崩溃或负载过重的情况时，用户就会看到这一图像
后来我们花了点时间组建团队，把平台和基础设施控制住，确保我们能可预期地扩展。换句话说，就是做压力测试，让网站能承受 10 倍的负载，哪怕当时根本没那么大流量。因为做加密，你根本说不准。就是会有那种时刻，流量飙升得不可思议，而且特别依赖内容和社区。
所以我在 OpenSea 建立了一整套基础设施和扩展方面的职责，然后把这些带到了 OpenRouter，花大量时间琢磨：怎么做出一套基本上永远在线的、大家真正能信赖的基础设施？哪怕市场剧烈动荡、流量巨浪滔天的时候也一样。
这对 AI 当然非常有帮助，因为所有公司，尤其是 Anthropic 这种，都经历过难以预测的增长，我们也一样。我们磕磕绊绊过几次，但整体上要好得多。是 OpenSea 把这一点狠狠刻进我骨子里的，让我能把它有效地带到 OpenRouter 来。
主持人：我能问一下吗？当你回顾公司的创始愿景，生态里、模型格局里，发生了什么你当初完全没想到的事？
Alex：有一件事我们没想到：会出现一整批公司组成的生态，专门托管和服务开源权重模型。
早期并不清楚这个市场会不会变成垄断，会不会就是三大超大规模云厂商包揽所有开源权重模型，初创公司远远落在后面。你什么时候听人说过在超大规模云上跑 GLM？从来没有。他们用的是推理提供商，比如 Fireworks 和 Together，还有一长串我们看到的、托管开源权重模型做得最好的公司名单。
早期的时候，我们有一个东西，我记得我们管它叫 Provider One 和 Provider Fallback。我们不展示到底是哪些提供商在真正托管，因为我们当时其实还不是一个市场，更像一个用来发现和探索新 LLM 的工具。我们想建的是模型实验室的市场，但推理提供商这一层，我们不确定它会不会真的成为一个市场。
结果证明，这些公司做得比超大规模云厂商好得多。托管模型更快，也更早摸清托管中的各种边角问题。而且可用性（uptime）会是一个长期的老大难问题，不会因为市场的供给侧就奇迹般解决。
主持人：很多人认为，推理提供商这一层是可以商品化的，最终会被移除，或者利润率被压低、被竞争挤出去。你怎么看这个理论？
Alex：现在我们处在一个严重供给受限的市场，而且很可能还会受限一段时间。所有推理提供商都缺货，几乎一直缺货。那你可能会想：“好吧，GPU 如此重要，为什么谷歌、亚马逊、Azure 不冲出去把 GPU 全买下来，把这些推理提供商统统赶出市场？”
答案很简单：造 GPU 的人不想这样。Nvidia 的头号优先事项之一，就是不能有客户集中度。他们希望有大量客户，各自拥有独立的 GPU 配额。他们想要市场的多样性，想要算力层有竞争。这对生态是好事，用户也想要这个。对 Nvidia 好，对终端用户也好。它让这些推理提供商能在“怎么把模型服务得更好”上不断做出新东西。
哪怕就一个模型，比如 Kimi K3。Moonshot 刚发了一个基准测试，展示各家推理提供商把 Kimi K3 服务得怎么样。结果差异相当大，而这些基准其实相当静态、相当成熟。我们一直持续发布这类东西，我们总是给所有模型、所有推理提供商、所有开源权重提供商做基准测试，不断发现截然不同的结果。结果一直在变。这些模型非常情绪化，非常非确定性。
主持人：我之前请过 Fireworks 的 Lynn 上节目，她说到，我当时提到 Gavin Baker 说过“一个 token 就是一个 token”，她纠正了我：其实一个 token 并不是一个 token，因为一家提供商可以让一个 token 比另一家的走得更远。就好比你去商店，可以绕整个街区开一圈，也可以直线开过去。Token 可以被做得更高效、走得更远，这就是提供商的工作。
Alex：我同意。我觉得我们在某种程度上提供的服务，就是帮人们发现提供商。而最终，当一家提供商让 token 走得更远时，我们在路由技术上，也就是核心路由技术上，花了巨量的时间，让那家提供商立刻获得更多流量。只要我们检测到有质量提升、速度变快或者降价发生，它马上就获得更多流量。这种事 24/7 都在发生，每五分钟，大模型那边就会有大变化。所以这确实让体验变得更好了。
主持人：你只能投资一家推理提供商。你投哪家？
Alex：我可能得保持中立。我真的很喜欢那些在做定制硬件、做非常非常底层优化的推理提供商。我也喜欢那些在想办法让定制更容易的提供商。今天你微调一个模型，从基座模型上造出一个全新的、完全独立的模型。很多推理提供商在做的 LoRA，也有人管它们叫 cartridge（卡带），将来可能更容易在模型之间迁移。
我们可能会看到这样一个未来：你做微调，想换掉基座模型那一层，只要花几百美元、甚至几十美元就能换。没事，我懂，我知道 Fireworks 是你的心头好。没关系，我理解。
主持人：我的也是。
主持人：我的问题是，Lynn 上节目时说：“你不想租智能，你想拥有智能。”以后我们会看到公司拥有自己的专有模型，拿自家数据训练，完全归自己所有。如果每家公司都有自己的专有模型，而且都针对自身和自身偏好做了精细调校，那这对 OpenRouter 的生意是好事还是坏事？
Alex：绝对是好事。因为如果你只守着一个模型，一个你自己专有的、拿你自己的数据训练出来的模型，那眼前这一整片可以用的模型，你就等于把门关上了。不，我不这么认为。我们从一开始的使命，就是提升整个生态里 AI 的神经多样性。我们真的相信，多模型未来是必然的。
咱们推演一下。就算你说得对，假设真有一个模型能满足你所有的需求，不管是公司内部用，还是作为消费者用。越来越多的人开始用那个模型。然后有人就想：“那我造一个神经发散型的模型吧。这个模型有点不一样，说话方式也不太一样，能想到第一个模型永远想不到的想法，因为训练它的数据完全是另一套。”这样一来，两个模型一起用就成了必然。
但创造力是没法验证的，你很难给创意想法简单地标个数字。两个模型一起用，出好点子的概率，比只用一个模型要高。这是明摆着的事实：只要另一个模型是用不一样的方式、在另一套数据集上训练的，或者刚做过一次大更新。所以，把一切都整合到一个模型上，对我来说根本说不通。
主持人：完全理解。所以你会看到公司有一个核心工作流，或者说核心，是他们自己的专有模型，然后他们会用一大票其他模型，并且通过 OpenRouter 来做那些其他模型的选择。
Alex：对。而且我觉得，当公司做出，回到你的问题，当他们用自家数据训练出自己的模型时，你周围的生态也全在干同样的事。你得稍微推演一下这其中的博弈论。如果所有人都在这么干，所有模型实验室都在不断用新数据造新模型，这些数据可能是他们从别的公司买来的，那这些都是对你可能有价值的数据。对你最有利的做法是什么？是去试试那些其他模型，看能不能用它们变得更高效。如果能把它们融合起来，拿到更好的 SOTA 性能；如果这些模型能帮你降本，不管你的目标是降本、改善利润率还是壮大公司，你都有动力去用生态创造出来的东西。
所以你造出来的那个模型，你得不断改进才能跟上，而且它永远不可能赢下整个市场。这将是一个巨大的市场，科技史上最大的市场，很可能是人类历史上最大的市场。没人能赢下全部，你也造不出一个赢下全部的模型。所以你还不如造一个模型，以“在某个非常有用的方向上做专精”著称，对公司和业务很重要，就靠这个专精出名。我觉得很多企业都会往这个方向走，做自己的模型，做自己品牌化的智能。品牌是你护城河里很重要的一部分，而那个模型，就是你的品牌随身携带的方式。
路由层会被商品化？给用户更多选择，才是真正的杠杆
主持人：你提到你在路由技术上投入了大量时间。很多人觉得我们正在看到路由技术的商品化。你看到有快速发布的产品，我之前提过，我们投的一家公司就发布了这样的产品。好几家都在发布类似的路由技术，或者说声称类似。我们是不是正在看到这一层的商品化？
Alex：是的，很多公司都在做路由器，因为这是潮流。我觉得他们要么是看到了这里的增长，要么至少在做网关。
首先，我认为这里有两个问题。第一，它立刻让你陷入“复制”的心态，而不是“赢下什么”的心态。你是在为参与而参与，为存在而存在，而不是为胜利而战。也许你只是想服务好现有的客户群，想看到一些 AI 增长发生。
我觉得这会让那个网关落后于那些全力以赴的公司很多很多个月。我是 100% 专注在把路由器、网关和 LLM 市场做到最好，这在我们的产品里、在我们内部做的基准里、在我们如何看待自己与对手的对比里，都看得出来。这对我们不是副业，对别的公司可能是。
第二个问题是，它会削弱你所有用户的杠杆。我发自内心相信要给用户和开发者更多杠杆。给他们更多模型的访问权，本质上是给他们更多对 AI 领域所有创新的杠杆。你要能访问所有模型，要降低对任何单一模型的依赖。如果你构建在一个路由器或网关上，而它不给你全市场访问权、不给你完整灵活性、不给你完整可定制性，它没给你整个生态的全部杠杆，那你等于被切掉了。你把公司里所有员工需要的东西都切掉了。所以 OpenRouter 从根本上讲，就是给人们更多选择，因为选择带来杠杆。
主持人：而这份选择的代价是 5.5% 的抽成。
Alex：那是我们的按量付费（pay-as-you-go）方案。后来我们又加了一个企业版，定价模型完全不同，到目前为止非常成功。它基于承诺消费额（committed spend），承诺消费部分不收费。
主持人：因为那本来就是我想问的。最终，公司小的时候很爱用它，等你一放大：“这玩意真贵得要命，我现在成本里这么大一块，干脆自己搞路由技术得了。”
Alex：其实吧，我觉得有些公司只是还没意识到我们有企业版。这里面有一部分是我们的责任，我们的定价模型还不够细、不够完善。我们很快会推出一个面向企业的自助服务方案，让它合理得多。
而且如果你自带推理，如果你把自己家的推理带到 OpenRouter，带自己的 key，那笔费用就免了。所以基本上，只有当你用的是我们提供的推理、进了 OpenRouter 的容量、又不在企业版上，那笔费用才会出现。除此之外，我们总得能稍微预测一下需求，这就是我们做承诺消费的原因。
主持人：三年后，OpenRouter 的主要收入线会是什么？
Alex：我觉得它在很多方面取决于经济环境。如果整个 AI 市场继续像过去那样增长，未来四年每年 10 到 15 倍，甚至更多，那是很大的增长。在那个世界里，我预计人们会继续低估他们需要的推理量。这样一来，我们的收入会由今天主导它的同样的东西主导：帮人们应对计划外的推理容量，无论是企业还是初创公司。
这正是 OpenRouter 最擅长的。当你需要试那些你没想到要试的模型，当你在某些模型上用的推理超出了你原本的预期，我们要确保这对你的公司不构成问题，靠最好的故障转移（failover）和最好的可用性。在市场持续低估自身推理需求、又按这个速度增长的时候，做这件事真的非常对。
如果这个增速在未来四年延续下去，那会是疯狂的体量。不过经济总归有它的上限。我能看到大量的 SMB SaaS 在我们这里增长，而且必须靠我们才能增长。
主持人：如果增长没有维持每年 10 倍、12 倍、15 倍呢？我们看到 token 价格在 18 个月里跌了约 90%。token 价格下降对你的生意是好事还是坏事？显然你对消费额有抽成，如果价格降下来、消费变得更高效，看起来对你的生意是坏事，你抽成的盘子变小了。
Alex：好多人都会谈杰文斯悖论：价格降 10 倍，使用量增长超过 10 倍。但还没有人真正把这件事建模得很好。我们确实有很多零散的实证故事支持它。
举个例子，OpenRouter 上的 GPT-5.6 Luna。OpenAI 先降了 5 倍价，然后跟我们配合又降了 2 倍。所以总的来说，Luna 在 OpenRouter 上的价格在过去两周里降了 10 倍。你猜使用量涨了多少？13 倍。这是一个几乎完美的杰文斯悖论故事：价格降 10 倍，使用量增长超过 10 倍，还多一点点。
而且这个使用量相当稳定，它涨上来，在 13 倍的地方趋平，然后又按之前那个速度继续增长。这挺有意思的，而且这是一个干扰变量很少的故事，没什么其他混淆因素。它还是在 DeepSeek 发布、给出极好价格，GLM 也有极好价格的当口发生的。
现在 Luna 在 OpenRouter 上的使用量超过了 GLM。GLM 以前是按 token 量算的前三四名模型，现在 Luna 超过它了。这是 OpenAI 的模型在很长很长一段时间里，第一次进入我们平台 token 量的前三到前五。所以那是一个非常大、非常有意思的动作。
主持人：你的 token 量对真实市场有多大代表性？可能是，我可能记错，大概占全部 token 量的 1.5% 到 2%。所以它到底有多大代表性？很多人，当我说“OpenRouter 上前五的模型全是中国的”时，他们会说：“Harry，无意冒犯 OpenRouter，但这不代表市场。大多数用前沿模型的人不走这条路，他们用前沿模型的 API，所以没被算进去。”你的排名在多大程度上反映了真实的 token 使用情况？
Alex：我们会估算偏差有多大，方法就是做调研，有时也看别人做的调研。我觉得我们确实偏向那些相信我们论点的人，论点就是未来是多模型的，以及那些想要多个模型的公司。
现在仍然有公司，我现在很少很少遇到，但确实还有，会说：“哦对，我们是 OpenAI 店，我们赢了，我们只用 OpenAI 的模型。”那类公司我们完全看不到。我觉得这些公司主要聚焦在超大规模云上，OpenAI、Anthropic、Gemini。所以我们确实可能低估了前沿模型。
但我认为，随着时间推移，我们的论点在公司里越来越常见，一旦他们说“对，我们得用其他模型”，我们的数据就更有代表性了。随着我们规模扩大，数据整体上也更有代表性。所以我的希望是，数据会随着时间变得越来越好。
前沿实验室正向外蚕食，而美国在开源模型上远远落后了
主持人：我能再问一句吗？Alex Karp 在 CNBC 上用他那标志性的、充满能量的方式说，企业对跟前沿模型供应商合作怕得要死。你觉得是这样吗？
编者注：关于此处提到的这场采访，可以回顾：
Alex：他说的那段我没看过。但跟我们客户聊的时候，确实有一点，有一些胆怯，尤其是 Claude Design 在 Figma 那边出来的时候。
那部分我确实看到了，而且我认为对一家在“智能”外面只包了一层薄薄的东西的公司来说，担忧是真实存在的。Figma 很不一样，但假如一家初创公司只做围绕智能的 go-to-market 包装，说“嘿，我们是把 AI 带进这个市场的公司，靠做对集成、定制系统提示词来实现”，如果模型实验室不在乎那个市场，你会过得很好，而且这样的市场会有很多。
但模型实验室最终会有好几个理由来找你。其中一个，是让大公司内部的多个团队依赖上他们。这就是我关于 Claude Design 为什么是战略动作的理论：虽然它不是 Anthropic 的一大块收入，很可能不是显著的一块，但它让设计团队真正在意 Anthropic 的模型。这样一来，那些公司就多了一个非常想留在 Anthropic 的团队。这种“团队策略”，会让你跟模型实验室正面竞争。
所以我认为，那种发现自己正在为某个团队做产品，而这个团队现在对模型实验室变得很战略，是他们真正在乎的公司的团队的公司，是我看到的最大的近期威胁。
主持人：你觉得 Claude Design 会对 Figma 的业务产生实质性冲击吗？我跟很多创始人聊，他们直言不讳地说正在从 Figma 换到 Claude Design，正在蚕食他们的 Figma 用量。你看到了吗？你觉得会发生吗？
Alex：我见过很多设计师试用 Claude Design，包括我们自己的设计师。但到目前为止，我还没听到“换过去之后就不回头”的故事。老实说我不知道。关于这个我跟设计师聊得不多，也确实没听到多少关于 Claude Design 的讨论。
而且如果你单看 Figma 的数字，相当不错，非常非常亮眼的财报。
主持人：我们刚才在聊我们这边提供的各种模型，以及公司愿意在什么程度上跟前沿模型合作。模型开发的速度感觉快得惊人。你觉得未来一年、两年、三年，我们会继续看到同样的模型开发速度吗？我说的是前沿模型开发，或者通称的模型，前沿的和开源的都算。
Alex：会。因为每天都有两三个、三四个新模型。七月份我们上线了 70 个模型，大约每 10 小时一个。
还有些 agent 实验室也正在起步，它们很可能最终都会造模型。Jeff Dean 现在正从 Google 出来创办一个 agent 实验室。那些以做 agent 出名的公司，有强烈的动机去造自己的模型，非常明确的动机，然后通过 agent 分发出去。而这一切我们连开始都还没看到。说“开始”其实我们已经看到了，但还没真正起飞。Cognition 有模型，Cursor 有模型，Lovable 有模型吗？我觉得还没有，至少没公开。所以 agent 实验室会发展出模型。
这里有双重压力：一边是 GPU 厂商，比如 Nvidia，想在空间里制造更多竞争和更多多样性；另一边是投资者，他们就是想尝试新东西，那些可能在某种神经发散的维度上改进智能的东西。我觉得这些都是很强的激励，足以激励更多创始人去创办新的实验室。而且如果美国开源权重模型势头起来，这些新实验室就有了一个不依赖中国的训练底座，那大概率又会催生更多美国新实验室。
主持人：你觉得我们应该担心中国开源模型的速度和质量吗？
Alex：应该。我们落后了。美国仍然非常非常落后。不过我觉得势头正在起来，我们有 Poolside，有 Thinking Machines，有 RC。
主持人：你对此有没有责任感？我的意思是，你是一个路由生意，你完全可以把一家公司路由到中国模型上，而现在很多人担心后门问题，你可能是把别人送进那些模型的人。你对这个有责任感吗？
Alex：我们确实有责任为所有这些模型提供安全访问。客户信任是我们的最高目标。如果某个模型用起来不安全，被普遍认为不安全，我们就把它从平台下架。
如果存在某种不安全的使用方式，其实所有模型都有办法被不安全地使用，那我们相信应该用技术把它变安全，并跟模型实验室自己合作，弄清楚他们在自己那边是怎么做的，好让我们做到最好、甚至更好。我们花大量时间确保我们的做法追平各实验室最好的实践，或者超过它们。
而且因为我们是一条探索所有模型、第一时间发现它们的路径，我们是把安全措施部署到全公司的一个很好的着力点。比如我们有提示注入防护，你一键打开，就能立刻标记看起来像提示注入的请求。我们还有 PII 脱敏，还有其他几样东西，点一下就能自动打开，在你全部推理之上加一层安全。我们做这些，是为了让企业觉得自己可以安全地部署新模型，让员工可以放心试用。
我把模型想得有点像互联网。你不能因为互联网上有些坏东西，就把公司里的互联网整个禁掉。你可以建护栏，而且应该建。你得用 AI 去建你能建的最好的护栏。
主持人：你觉得美国公司更怕哪个：前沿模型，还是中国模型？
Alex：通常更怕前沿模型。一部分原因是数据政策上困惑大得多。我发出去的提示词到底发生了什么、存在哪里、被谁看，这些都没谱。而且你不能在自己机器上，或者在你选的提供商那里跑它们。所以这立刻给大量企业制造了不确定性，而且这种不确定性他们还能类比，就跟跑在自己基础设施上对比跑在自己的 VPC 里、以及知道谁能看到数据，非常像。
主持人：这多离奇啊？他们更怕的是总部在硅谷的美国公司，这真是个奇怪的世界。
Alex：是啊，非常奇怪。尤其是这些前沿模型，现在拥有最强的网络防御姿态，还是最强的。
主持人：你怎么看现在各大 AI 厂商都在借机“秀肌肉”？开口就是：“哈哈，你看我们家的 AI 又黑掉了哪家公司。” 先是 OpenAI，接着是 Anthropic，然后扎克伯格也跳出来说：“这场热闹可不能少了我，我们家的 AI 也干了！”
Alex：我觉得他们必须公开。当你的模型卷入网络安全事件时，主动披露才是正确的做法。捂着掩盖毫无意义，长期来看根本行不通。
当然，表面上看他们就像是在集体炫耀。但说实话，如果你处在他们的位置，明知道自己的模型出了安全状况，在“要不要公开”之间做选择，我认为正确答案就是必须公开，不管外界会怎么解读。所以我觉得，他们真未必是想争着立什么“黑客反派人设”。
主持人：最近，最新的 Kimi 模型引发了这么大的关注，它到底有多重要？真的有大家吹得那么神吗？
Alex：它确实相当不错。不过在处理长流程复杂任务以及网络安全/攻防能力方面，我认为它距离顶尖的前沿模型（frontier models）依然有一点差距。
但对于开源权重模型来说，GLM 5.2 绝对是迈出了极其关键的一步，而 Kimi 这一版则标志着月之暗面也成功跨上了这个台阶——我大概是这么看的。
而且，Kimi 的文风和表达质感（voice and tone）非常出色。相比之下，有些顶级前沿模型在代码能力大幅提升的同时，语言表达能力（voice）反而退化了。
你懂那种感觉吧——就是“天哪，这吐出来的文本我简直读不下去”。
比如你提出四个论点，它的回复逻辑紊乱、句式脱节，读起来极其别扭，有时候你根本不知道它到底在表达什么。虽然这在后续调优中是可以修复的，但 Kimi 的文笔和语言风格一直都非常有意思。
主持人：12 个月之后，美国开源和中国开源之间的差距，是会拉大还是缩小？
Alex：我担心差距可能会进一步拉大。
当 DeepSeek 展现出行业“领头羊”的实力时，整个产业生态和资本层面就会形成合力，认为这是具备顶级竞争力的代表，从而把资源和精力集中投向这里，把产业链和生态彻底打通。
同样，当月之暗面这样的团队异军突起时，也能迅速获得极大的政策倾斜与资金支持——各种资源一路绿灯，让团队能够心无旁骛地朝着技术目标全速冲刺。
反观 OpenAI、Anthropic 以及美国其他的厂商，特别是做开源模型的——你想在美国给开源模型融几十亿美金？说实话太难了。不是完全不可能，但阻力极大。毕竟他们的商业模式存疑，AI 研发又贵得离谱，而且你还得同时跟 OpenAI 和 Anthropic 这种巨头硬碰硬。这种环境对比，意味着中国开源厂商天然具备制度和资源优势。
更关键的是，他们还拥有极其顶尖的研究人员——我觉得美国人严重低估了这一点。
开发者根本没有忠诚度，Harness 才是未来的应用形态
主持人：我们聊了这么多不同的模型，我想到一件事：忠诚度。你在这个生态里坐拥一个绝佳的位置，什么都看得见。今天我们能看到开发者对模型有忠诚度吗？
Alex：说实话，确实看到一些。我们努力把切换成本压到接近零，这样新模型一出，人们可以很容易地试用。但同时我们也衡量所有模型的留存和流失，模型实验室要的话我们也会分享这些数据。这样他们就能知道：“哦，我刚出的模型，是哪些模型把流量带过来的，那些用户走的时候又去了哪些模型。”我们很快就会把这类数据更多地开放给全世界。
而且我们确实在流失数据里注意到，有些开发者会一直黏着某些模型，哪怕市场上已经有更好的模型，更适合他们用例的模型。我觉得这大概是几个根源因素合在一起。
一个是：“我的应用能跑，我不想搞坏它。”如果支持机器人开始说一些我没预料到的怪话，为什么要给自己添麻烦？我已经做了这么多优化，已经给它套了这么多护栏。
另一个是，新模型不一定让你的定价更好。事实上，通常发生的是：现有模型的价格随时间下降，尤其当实验室有新进展时，你会看到智能跃升，但价格曲线也会跳一下，然后再开始往下走。所以就算对开源权重模型，换到最新模型也不一定是最划算的事。
第三个原因，就是单纯对输出的信任。如果我用一个模型干活，我喜欢它的说话方式，那我大概有一个个人评测。很多人都有这种个人评测，就是他们随手编的随机测试题。如果新模型在随机测试上表现不好，他们就会说：“算了，我还是喜欢 Kimi K2.6。”
主持人：话说，以前人们以为记忆会是那个“粘性机制”。可是 OpenAI 有我所有的历史提示词，它知道我在伦敦，知道我做播客，这会让它成为更适合我的模型。记忆是不是不再是一种粘性机制了？
Alex：记忆非常有意思。我一直觉得它是一种粘性机制，问题在于它住在哪里。住在模型里？住在推理提供商里？住在应用里？住在基础设施提供商，也就是路由器里？我的猜测是，所有这些层都会想办法以不同的方式占有记忆。把记忆放在每一层都有各自的优势：放在应用里，记忆拥有最多的应用相关上下文，而且与模型无关；放在模型里，记忆可能在个性化基准上表现最好，也许拥有最终的、最好的智能。
我觉得模型实验室会在记忆上发力。而终极问题可能是：有没有一个好的组合？我能不能同时用模型里的记忆和基础设施层、应用层的记忆？这会不会把模型搞糊涂？我们还不知道。
但我认为，单靠一层不可能捕获所有有价值的记忆，因为应用掌握着大量模型实验室没有的重要上下文。而模型实验室要让这套跑通，就得激励应用把那些上下文给他们。
主持人：应用，以及 Claude Code、Cursor 打包的那些模型，模型和 harness。当 agent 和 harness 在一起时，路由器会不会在有机会独立之前，就先被吸收进 agent 框架里？
Alex：Harness 相当有意思。我们早期有一个押注：大多数应用都低估了用户选择模型的意愿。在很早期，2023、2024 年那会儿，大多数应用甚至都不清楚底下跑的是哪个模型，他们说：“哦，人们不会在意这个的，他们只是想要 AI。”
而我们当时一个很强的信念是：不对，人们会想用特定的模型，他们会在意自己在跟谁说话。就像我想知道，我在解决一个问题时，是在跟哪个员工说话。模型也会变得像这样。
这件事已经应验了，比如在 Notion 里，你可以选择跟你对话的模型，哪怕你会觉得这种应用可能恨不得把它完全藏起来。类似的事也发生在 harness 上：尤其对开发者，他们开始对不同 harness 产生认同，因为那是一种用户体验。
所以我认为，这正是“harness 会留下来”的最好的论据。不是说它们跟模型捆绑。事实上，随着模型变强、变得更机灵，塞进系统提示词里的那些垃圾只会变成累赘。Anthropic 好像发过一篇很好的文章，他们展示：我们把系统提示词里的东西拿掉之后，后来跟用户提示词的矛盾明显变少，模型表现更好了。我们现在也看到很多 harness 在删代码，好跟最新的前沿模型配合得更好。
我不觉得这说明 harness 不好。事实上，我认为未来会出现更多 harness，因为它是在模型之上构建用户体验的一种方式，是那些不是模型实验室的开发者拥有用户关系的一种方式。对经济来说，拥有那一层会非常非常有价值。
主持人：harness 和传统应用（App）到底有什么区别？感觉 harness 成了现在人人挂在嘴边的时髦词。
Alex：相比传统 App，harness 最大的好处是极强的可组合性（Composability）。我可以让一个 harness 去调用另一个 harness，甚至能让它在云端沙箱里直接拉起（spin up）一个新的 harness。
主持人：这不就是 API 当年为各大 App 做的事吗？
Alex：没错，但 Harness 要可靠得多、确定性高得多，而且开发者的上手门槛也低得多。因为 Harness 底层通常是基于 Unix 系统构建的，而大模型在 Unix 和 Bash 命令行上的训练效果可以说是极其出色的。
相反，如果你让一个 Harness 去操控或编排一个传统的图形 App，模型就会陷入混乱：“天呐，这个 App 该怎么登录？我需要用户的密码吗？要不要启动一个虚拟无头浏览器？这太慢了……好吧我自己搞定，浏览器启动了，现在提示要密码，我得在页面里定位输密码的框。这个 App 有没有 API？我得先去翻翻它的开发文档。”
等你终于搞定 API 了，你会发现围绕传统 App 做自动化，充满了太多无法预知的变数。但如果直接围绕 Harness 做系统组合，这种不确定性就会少得多。
所以在我看来，它为开发者提供了极高的灵活性，而且这种灵活性是完全透明可查的。普通的 API 调用，你只能看到屏幕上一串串飞速刷过的代码和 JSON 数据；但如果是 Harness，你可以随时切进去查看里面到底发生了什么，甚至直接用自然语言去和它交流。所以对开发者来说，它要亲切、友好得多。
主持人：我们看到 Meta 和 Muse 成了 Zuck 的重点，我们看到 Alex Wang 露面频繁得多。Meta 用 Muse 交付的东西，你印象深刻吗？
Alex：他们做得不错。是的。我的意思是，从零搭起一个全新的模型实验室需要时间，我肯定他们有一大堆组织上的旧债要处理。
主持人：你觉得他们会成为认真的挑战者吗？
Alex：会。我觉得他们有资源。我认为他们在模型上能做一些有竞争力的东西，帮到人的方式是其他模型实验室不太有兴趣做的，比如拥有一个社交网络，比如对人的关注。这是品牌层面的东西，Grok 和 X，SpaceX 的 AI，也有。
他们确实得找到自己的利基。我不太确定人们现在知道该怎么用 Muse Spark，什么时候该用它、该选它，它的核心优势是什么。他们刚发布了一个编程 harness。他们现在想做一个通用模型。我预期未来他们会说：“看，我们在这方面强得多。”那会是一个对他们非常重要的时刻。
主持人：说实话，它真的挺让我惊艳的。你知道我现在日常用什么吗？顺便给咱们的共同朋友打个 Call：Anastasio 还有他搞的Arena。
这个体验真的很奇妙。我只要把 Prompt（提示词）丢进 Arena 里，它就会直接吐出一堆不同模型的选项。前几天我还试了其中一个叫 Pergamon 的模型——没错，它会同时给你 Kimi、Pergamon 等四个不同模型的回答，直接把我带进了一个我平时根本不会去用的模型世界。像 Muse 这个模型也出现过好几次，效果相当惊艳。
我真正喜欢的是这种“探索和挖掘机制”（Discovery Mechanism），它能带我接触到那些我压根没碰过的模型。如果没有这个工具，我绝对不可能主动跑去用 Kimi。实话说吧，我平时基本上就是直接用 ChatGPT。
Alex：确实很有趣。
主持人：这基本上就印证了那个观点：模型层正在变成一个效用层。
Alex：什么意思？
主持人：其实吧，我对它们没有任何忠诚度，我跟品牌没有任何归属感。我上 Arena，就想看“你给我准备了什么”，把结果亮出来。我不在乎它是 Kimi 还是 Muse 还是 Claude 还是 Sonnet，你懂我意思吗？我就是要看你给出的选项，然后从里面挑最好的。我宁可四个并行跑。
那你认不认可这套说法呢？就是说，将来会有一个前沿模型，下面跑四个开源模型，前沿模型可能有 160 的 IQ，开源模型可能只有 120，但这是一套能跑通的模型基础设施？
Alex：我完全认为那是一个伟大的架构，每个人都该探索它。我们其实一直在帮很多开发者做这个：你有子代理，我们有一个子代理服务器工具，我们把它调得特别特别擅长通用地使用模型。然后你有一个编排模型，当它想完成特定任务时，就去调用那些子代理。这些子代理成本非常非常低，专注于确定性任务，这正是开源权重模型相对前沿模型的普遍强项。
当你面对一个确定性任务，你知道输出的形状，知道你在处理什么类型的问题，而且这类问题已经被解决过，比如给文本分类，那你就该用一个 OpenRouter 上的低成本模型，然后让编排模型读结果，继续去干它原本要干的那些未知的、非确定性的任务。
主持人：假设我们要打造一个更具竞争力的开源生态，推出更多惊艳的开源模型，而由你来负责这个项目。你会怎么做，去激励和推动开源生态保持顶尖竞争力？
Alex：我觉得我会多花时间与现有的 AI 实验室沟通，深入弄清楚“模型蒸馏（Distillation）”的具体效果。通过蒸馏开源模型（特别是优质的开源权重模型），其实能走得很远。开源模型最大的好处之一就是大多数都允许蒸馏。这意味着你可以利用这些模型的输出来做强化学习（RL），从而训练你正在构建的模型。这是目前所有实验室都在使用的一种非常通用且高效的 AI 训练手段。所以我想更深入地评估它的实际效果，这是快速追赶并提升模型能力的重要路径。
另一要点是模型的安全对齐。在蒸馏过程中，你可以实时检查输出，确保它符合预期的对齐标准。如果你担心开源模型的回复风格或安全原则（Constitutional AI）与你的目标模型不一致，你可以在强化学习采样的过程中及时发现并纠正。
此外，就是算力问题。算力是极具决定性的优势，目前各大头部实验室依然保有这种优势。但我们需要建立更顺畅的机制，让算力能够真正输送到优秀的技术人才手里。无论在哪里，只要想构建有竞争力的实验室体系，算力供给都是核心。除了英伟达，还有谷歌的 TPU、亚马逊的 Trainium，以及各种新型芯片。我想与所有的硬件厂商合作，共同解决算力的调度与供给问题。
主持人：我不认为算力上的先发优势能维持太久。你看 DeepSeek 和字节跳动等团队都在积极推进芯片自研。在外部环境限制下，算力自主化成了必须突破的核心难题。
Alex：我非常赞同。人家四周就能建好一座大桥，我相信他们六个月就能攻克一颗芯片。因此，在硬件和芯片研发上保持技术领先，确实是至关重要的。
主持人：那么“模型蒸馏”到底有没有问题？蒸馏本质上是一种模型构建技术，但有些人似乎带着某种偏见来看待它，觉得“哼，这不过是靠蒸馏出来的模型”。
Alex：蒸馏只是一种非常正统的模型构建技术，甚至连闭源前沿实验室也普遍在用。比如 Claude Sonnet 本质上就是 Opus 的部分蒸馏版本。
这就是如何用大模型去高效训练小模型。当你看到生态里有优秀的技术成果时，蒸馏也是教会新模型掌握新能力的重要途径。
我们认为，实验室完全有权在自己的服务条款（ToS）中规定是否允许蒸馏。如果某家公司不希望别人利用其模型构建直接竞争产品，它可以切断相关访问。但如果你只是想造一个体积更小、专注于特定垂直任务的专业模型，这其实并不属于直接竞争。
据我所知，大多数前沿实验室并不禁止这种合理的用途。市场上自然会有些公司允许、有些公司禁止，而 OpenRouter 的职责就是确保帮助各方都遵守各自的服务条款。
在 AI 时代，每个员工的成本都应该是动态的
主持人：进入快速问答环节之前，我得问你一个问题，不问我会被骂死。有报道说你正以 100 亿美元卖给 Stripe，这会成真吗？
Alex：我不能评论。但不管发生什么，我们都会执行我们的愿景。我们正在做的事对生态至关重要，我们也相信它对 AI 的安全访问至关重要。在那里，没有一个垄断者能吞掉一切；在那里，我们有一个生机勃勃的模型生态，人人都可以探索；当新的提供商、新的服务器工具、新的推理周边技术上线时，有一条非常容易的路径去发现它，并跟你现有的全部 AI 连接起来。
主持人：我就在想，遇到这种情况，我的反应大概是：“嗯，我持有公司 22% 的股份，100 亿，那就是 22 亿。哦，现在我是风险投资家了。”但要做到不想这些，难吗？
Alex：我真的不太想这些。我本人花得不多。我想的是，当我考虑怎么处理个人资本时，我真的很想帮人们去做那些不太适合风险投资的问题。它们落在一个人人都知道需要解决、却很难拿到融资的灰色地带，因为这些问题不附带商业模式。
我觉得现在在非营利领域有一些非常酷的事可以做，因为你可以用 AI 审阅比以往多得多得多的数据。我还没准备好公开谈，但我确实想做点事，帮研究人员去研究那些问题、拿到资助去做。
我想起一个很酷的例子：David Fialkow，General Catalyst 的创始人之一。他基本上会找到那些拿不到电影融资的不可思议的故事，然后出钱拍出来、把光打在这些故事上，因为他觉得它们非常重要。比如《The Dissident》，显然讲的是卡舒吉的故事；还有《Icarus》，俄罗斯兴奋剂的故事。要不是他的钱，这些电影根本不会有人投，因为它们政治上敏感、有争议。而他就是那种“我要让这些被禁止讲述的故事得以讲述”的人。
主持人：对，差不多就是这样。
Alex：我就爱这种东西。他太棒了，他牛得很。
主持人：好了，准备好快速问答环节了吗？
Alex：来吧。
主持人：好。今天 OpenRouter 上最被低估的模型是哪个？
Alex：好问题。首先，我很喜欢 Poolside 的模型，它们很棒。这可能就是我的快速问答答案。很棒的新美国实验室，在造很有意思的编程模型，很小，但效率极高，还造了一堆访问它们的有用工具。团队很赞。
主持人：未来三年，70% 的新实验室会死掉。同意还是不同意？
Alex：不同意。七成听起来太高了，新实验室没那么多。如果被模型实验室收购也算“死”，那我确实觉得可能会有一些整合。如果把整合算进去，我会说五成。
主持人：你觉得 Dario 作为 AI 界的声音，是不是应该少点负面、多点积极？
Alex：我觉得有一个对未来、对事情会怎么变动非常偏执的声音，很重要。我很欣赏，我个人很欣赏 Anthropic 的偏执。当然，有些地方我希望其他模型实验室不要觉得自己只是被挤下桌。但我非常相信神经多样性，Anthropic 是那张神经多样性地图里非常重要的一块。而且如果没有人极度偏执，那就没有人提供那个声音。所以我欣赏他们在做这件事。
主持人：你坐在所有人使用量的顶端，看到的最疯狂、但大家谈得不够多的事是什么？
Alex：很多公司显然在担心成本管理，为花出去的推理费用抓狂，而且不知道怎么想这件事。这是一种全新的做生意的方式，一种全新的思考你的运营成本（opex）的方式。
旧的思考方式是你给员工发工资，然后基本就忘了。有人知道每个人挣多少，但那是个静态数字，可能每个季度、绩效评估之后才调一次。而现在，你的员工实际上每个人成本都是完全动态的、不同的数额。
我觉得很多公司正把做路由这件事压在自己身上，而未来很有可能它会被下放到员工层面。你的员工应该自己搞清楚，哪些工具和模型最适合他们的任务，然后我们应该算出：由于你作为员工做的这些选择，你花了公司多少钱。你作为员工的成本会变成一个动态数字，取决于那个员工多有效地用贵模型和便宜模型来完成工作。
然后我会建议公司照常做他们的管理工作，让经理评估员工多有效、多高效，但同时把它跟员工花了多少钱对齐，然后得出一个“庆祝象限”：这些员工干得好，而且性价比高、成本效率高；再有一个“担忧象限”：这些员工可能干得马马虎虎，而且天哪，他们一点成本效益都没有，他们的 AI 花销高得离谱。然后你去处理那个“担忧象限”。
所以我觉得大家没怎么谈的，基本上就是：在 AI 时代你该怎么想员工成本，它真的应该是一个动态数字，而不是一个只有几个人知道的静态数字。
主持人：这听着很美妙，但你能想象去跟一个人说：“哦对不起，上个月你值 100，现在你只值 50 了。”
Alex：但他们控制着自己花多少钱啊。这妙就妙在这，所有员工都控制着自己花多少成本，并且可以影响它。现在你可以开始想：“我作为员工有多优秀，同时我又有多高效？”
主持人：最后一个问题。看今天的格局，有太多值得兴奋的事。你个人最兴奋的一件事是什么？
Alex：一个是罕见病研究。我觉得它是那种一直受“智能瓶颈”制约的事，或者说其实就是受推理瓶颈制约，因为它涉及大量尝试想法、看它们行不行。
另一个是众包式的、有益的城市生活改进。比如想象一下，有人好奇美国每一根铅管都在哪，或者英国每一根铅管在哪，他们有了一个方法，但需要把它打磨成熟、做压力测试。现在你可以用 AI 来做这件事。我们说不定能解决一些大家都已经放弃的怪问题，因为你需要一个疯狂的想法从某个地方冒出来，而天才的想法在全世界是均匀分布的，它们可能来自任何地方。现在你只是给了它们真正干活的杠杆。
所以我很兴奋的，是那种非常广泛的、城市或者说城乡生活质量的改善，并且得是我们能够实现的那种。
（投稿或寻求报道：zhanghy@csdn.net ）
click("分享❤️", "点赞", "在看")

		自动登录	找回密码
密码			立即注册