对姚顺宇的4小时访谈:请允许我小疯一下!在Anthropic和Gemini训模型、技术预测、英雄主义已过去
姚顺宇戴了一副茶色眼镜走过来,这副眼镜会随光线变化而改变颜色。硅谷AI业界有两位Yao Shunyu,他们曾是清华同一届毕业生,这让姚顺雨与姚顺宇时常成为话题人物。
2024 年,姚顺宇从斯坦福理论物理博士后转身进入 Anthropic。2025 年 9 月底,他出现在 Google DeepMind。两年里,他参与过 Claude 3.7、Claude 4.5、Gemini 3 等模型的开发。硅谷有两个姚顺宇,另一个是姚顺雨,两人是清华同一届毕业生。姚顺雨 2025 年从 OpenAI 去了腾讯,姚顺宇则从 Anthropic 去了 Google DeepMind。同名、同届、反向流动,常被放在一起讨论。
这期播客录于 2026 年 3 月,长达近四个小时。节目上线后,世界又变了几次:Meta 对 Manus 的收购被撤销,Cursor 可能被 SpaceX 收购,xAI 将终止独立运营并入 SpaceX 并更名。姚顺宇在节目里的一些判断带着录制时点的痕迹。技术细节涉及企业机密,他不能展开的部分,文章也按原样留白。
他说话很直。第一次见面,他就对张小珺说,自己在这个行业没有导师,也没有旧友,想喷谁就喷谁。聊到研究,他又很谨慎,反复说个人贡献没那么重要,自己只是幸运地加入了一个重要项目。下面按时间线整理这场对话里最值得留下的信息。
两个姚顺宇,和一场换了赛道的竞争 0:02:41
姚顺宇先解释两个 Yao Shunyu 的区别。他自己本科在清华基科班学物理,后来去斯坦福做理论高能物理、量子信息和黑洞相关方向。姚顺雨本科在清华姚班学计算机,后来去了普林斯顿。两人常被外界弄混,连学校都被反过来记:普林斯顿像物理人该去的地方,斯坦福像计算机人该去的地方,他们正好相反。
两人在硅谷时每隔几周见一次,主要是一起散步、吃饭、打牌,纯玩。姚顺雨后来多次想拉他回国,他没有去。原因他说得很简单:2025 年八九月离开 Anthropic 时,他最想学一些不一样的东西,没有把领导一个大项目放在优先位置。张小珺问他,老被比较是困扰还是享受。他说自己不太看社交媒体,真没什么感觉。
姚顺雨去年提出 AI 进入“下半场”,成了名观点。姚顺宇对这个划分并不完全买账。他看到一个更具体的变化:一年前,Anthropic 还担心 OpenAI 的 reasoning 太强,自己追不上;现在 OpenAI、Gemini、Anthropic 三家,没有哪家真担心追不上。更难的事变成想明白要做什么。做模型从“能不能做到”转向“这件事有没有被良好定义”。
纸面分数正在失去区分度。以前 SWE-bench 能看出谁 reasoning 强、谁 coding 强。现在大家都在 80 分附近,高一个点低一个点主要是噪声。实际使用仍有差别:Claude 在通用工具使用和 agent 上表现最好,Codex 在纯 coding 上追近了一些,Gemini 在纯 reasoning 和日常使用上较强,coding 和 agent 还在接近。能力差异里有意愿成分。Claude 长期更看重工具使用和 coding,OpenAI 有一段时间非常看重 reasoning,现在也开始看重 coding。意愿决定你花多少精力搭基础设施、构建数据。数据很花时间,也很花精力。
聊到产品形态,张小珺提到 2026 年初火的类 OpenClaw 产品。姚顺宇说,业外讨论比业内激烈。公司内部早有人做过类似 demo,只是没认真产品化。OpenClaw 最早版本的代码不算干净,它真正重要的是展示了可能性:让模型控制多个工具,做很长 horizon 的工作。这个能力在 Claude 4.5 发布时已经够用,技术上并不令人惊讶。它火起来有延迟,说明大家此前没有形成共识。
Manus 和 OpenClaw 都选择了卖给模型公司。姚顺宇的理解是,壳要长久生存,需要壁垒。目前很多壁垒在模型侧。Cursor 走的是另一条路:增长足够快,在模型公司反应过来前占领用户心智,同时自己训模型。Cursor 和 Anthropic 的关系已经变得微妙。Anthropic 提供模型,Cursor 提供产品,后来 Anthropic 自己做了 Claude Code,Cursor 又在训 Composer。coding 是效率工具,效率工具容易赢家通吃。另一条路是市场足够小,小到模型公司看不上,Midjourney 就是例子。姚顺宇说,如果自己选,内心想赌大的,但第一步不能一步登天,会先吃一个小的,再选有想象空间的小市场。
大公司为什么做不出这类产品?他的解释是负担。产品公开给公众,要负责的事很多:不能让用户为了一个功能买台电脑,不能把系统搞崩,要过法律和品牌风险,要固定资源服务模型。个人开源项目没这些负担,代码垃圾也有人一起写。
预训练没有到头,Coding 先撞线 0:26:37
张小珺问,2026 年 Q1 模型进步速度是否放缓。姚顺宇连说完全没有。量化很难,因为标准不同。看某个 benchmark 每月涨几个点,越接近 100% 当然越慢。用户体验到的能力增长未必同步变慢。从 50% 到 60% 的感受,可能还不如 70% 到 75% 明显。他作为研究员的感受是,模型学东西的能力越来越强。以前让模型学会一件事要动很多脑筋,现在最重要的事变成定义问题、构建合适的数据和环境,剩下很多事顺其自然。
他提到一个争议:几个月前很多人讨论 scaling law 是否到头。他的体验是没有,未来四个月也看不到到头迹象。有人觉得到头,可能是认为规律适用范围有限,可能是数据撞墙,也可能是自己的工作里有 bug 没发现。他判断,绝大多数撞墙的人属于第三种。scaling law 要做科学假设,选 token horizon、选数据量、选数据来源,这些假设没选对,或者纯粹有 bug,都会让人误判。修好一个 bug 带来的进展,常常大于很神奇的技巧。Anthropic 和 OpenAI 在预训练上做得较好的一点,是做事系统:结果和预测不一样时,能设计 ablation 实验,系统排除各种可能性。
当前清晰框架里的主要驱动力是算力和数据。算力上去,自然需要更多数据;数据上去,自然需要更多算力。算法作用有相变。完全没搞清楚怎么做时,算法非常关键;一旦找到最关键的一件事,算法就从不能做变成能做,之后更多是平滑提升计算效率和数据效率。Transformer 是那个跳变,之后更多是效率改进。多模态生成还处在算法没太想清楚的阶段,属于科学问题。自然语言生成在现有技术方案撞到头之前,科学上比较清楚,工程上还有很多事要做。
Coding 为什么过去几个月发展最快?它从 Claude 3.5 new 之后一直高速发展。两个优势很清楚。第一,reward signal 好定义。写一个 feature,给定输入得到输出,对错容易测。第二,GitHub 提供了几十年优质程序员写下的代码,从这些代码出发能构建大量环境。产品侧还有一个优势:优秀程序员写代码的风格比较类似,简洁、结构清楚、有合理抽象。好代码有共识标准,coding 产品因此变简单。
姚顺宇说,自己保守估计 90% 的代码由模型产生。这个数字是给自己留面子,实际可能到 99% 或 100%。他花很多时间看代码是否合理、是否真是自己想让它写的。写代码最重要的事变成设计逻辑、设计文件关联、给模型合理 context。实验效率比一年半前快 20 到 50 倍,可以同时开几个 idea 去试,模型还能监控实验。工作时间反而变长,开发快了,越想试更多想法,工作密度也变高。Google 在 AI 领域没有谁能养老。
程序员会被彻底取代吗?他判断会有这一天,但会是渐变,不会一夜之间全被开除。AI 是集中化技术,会让少部分人更强,让大部分人失去独特价值。传统软件工程最后可能变成千分之一的人干过去所有人的工作,拿现在 100 倍的工资。千分之一是虚数,他自称悲观主义者。给程序员的建议是接收新事物,学会和 AI 有效协作,学会设计实现方案,理解工作如何适配组织。具体到“下周五之前给我”这类执行工作,未来可能不再存在。
AI 先做人类觉得最难的工作,原因在评价。数学、写代码、做 AI 研究,越理性、越客观,越容易定义评价标准,一旦知道怎么评价,就知道怎么训练。产品经理难训练,因为没有刻度。什么叫好产品,做出来给人用了才知道。程序员被取代的过程已经在发生,一些公司开始裁员。
从宁夏小城到斯坦福,物理教他的事 1:10:00
姚顺宇出生在宁夏大武口,一个因石炭井煤矿而存在的小城市。小学后半段跟父母去了上海,初中高中都在上海。他读的初中叫上南中学东校,不是竞赛名校。他小时候觉得自己挺菜。初中没搞过竞赛,但特别想搞,原因很直接:没搞过,所以想搞。他这个人的个性是总爱干一些自己不太会的事。
当时上海有四校,上海中学、华二、交大附中、复旦附中。他的成绩能上四校,上不了四校里最好的班。他想搞竞赛,四校最好的竞赛班进不去。他发现格致中学稍差一点,但有竞赛班。按现在的话说,那是 underdog。他选择去格致竞赛班,理由是光脚的不怕穿鞋的,可以赌一把。他后来回想,如果没搞竞赛,可能进不了清华。
高三竞赛前,他阴差阳错去清华参加夏令营,最后一天听说清华在搞自主招生,主要面向北京学生。他疯狂给招生办老师发短信,说北京同学能考,为什么上海同学不能考。老师真让他们考了。上海去那个考场的有七八个人,他们高中是他发的短信。考试出来他觉得考崩了,有半道题没做出来,后来发现别人没做出来更多,最后签了降到一本线。他高考果然没考到清华的分,但除了清北之外的学校都能上。网上写他是保送,他说那几年政策变得快,自己进了省队,没进国家集训队,没有保送名额。
这件事给他的道理是胆子要大。不争取永远得不到,争取了也可能得不到,不争取绝对得不到。他父母不太管他,曾经试图管,后来发现管不住。他一般给父母通知,不商量。选专业、填志愿,父母甚至可能没见过他的单子。他觉得父母懂得一个道理:理解不了别人在干什么时,别指手画脚就是最好的。
到清华,他在基科班,后来做凝聚态理论。基科班在物理系,但不限制学生干什么,三分之二学生不会做物理。基科班鼓励学生尽早进实验室,在实践中学习。他想做理论,老师推荐清华高等研究院,杨振宁创立的地方。他去找一位年轻老师王忠,王忠给他 paper,和他讨论。他后来发现,拓扑绝缘体相关方向很适合本科生上手,背景知识不需要太多,会量子力学、统计力学、固体物理就够,但很考验理解深度。他们做了一些工作,其中开放量子体系里的工作后来看挺重要。
非厄米系统怎么讲成人话?量子力学最基本的假设是孤立系统按幺正演化,由一个哈密顿量描述,孤立系统的哈密顿量是厄米矩阵。真实系统绝大多数不孤立。人要和外界交互,材料要和衬底、环境交换。开放量子系统的哈密顿量不厄米,这就是非厄米系统的来源。他们一开始研究开放量子系统里的拓扑现象,手算结果和数值死活对不上。手算假设周期边界,数值算开放边界,两边对不上。后来发现,大家过去描述厄米系统的布洛赫波假设,在非厄米系统里会失效。本征态可能聚集到体系一边。他们系统建立了开放边界非厄米系统的描述方法。这是一次范式更新,后来很多 follow-up 工作。他后来换方向了。
为什么换?他说这是人性的弱点。那个方向再过几年回头看,可能是最重要的工作。继续做会更有名、更多引用、更好的教职,但作为科学生涯没那么令人激动。他想换个自己不太会的东西做。博士去了斯坦福做高能理论。本科和博士两个方向几乎没有任何联系。他总结自己的人性:说难听是爱折磨自己,说好听是挑战自己。为了被折磨而被折磨是心理疾病,为了学习更多、丰富经历和能力而被折磨,值得。
高能理论足够难,但实验完全追不上理论。进步来源之一是数学自洽性,比如弦论能否在低能情况回到量子场论。没有实验、没有客观标准时,领域内会出现多个自洽框架,谁做得好谁做得不好,依赖老登的主观判断。他在那个领域待得越久,越觉得这件事蠢。人一辈子没多长,为什么要把时间浪费在伺候老登身上。他称这是花五年学了很多知识,买了一个大教训。教训是要做有客观评价标准的事,做对世界能产生影响的事。
博士期间,外界看他的履历很光鲜,斯坦福、文章不差。他自己摸着良心说,对世界影响几乎为零。达到外界标准或小圈子标准,像训练模型,知道标准后做得好很容易,哪怕你不认可这个标准。他后来发现自己蒙蔽不了自己。最后两年有这种感觉,但没想清楚不做这个该做什么。他了解量子计算和量子信息,也拿了博士后 offer。量子计算的主要瓶颈在实验,不在设计算法和算子,那恰好不是他擅长的。AI 更像数值实验,有想法可以训练模型验证,和做物理很像。
他把 AI 比作 17 世纪热力学。那个时代理论和实验不分家,没有理论物理学家和实验物理学家之分,搞物理的人自己做实验,也做理论推测。AI 现在也像那个时代。智能涌现这个词不太科学,更像主观感觉。他看重的本质变化是,我们发现了怎么做大规模训练,能够水平提升所有能力。scaling law 目前是经验规律,未来可能变成科学规律。物理给他的帮助,硬技能很少,性格上更多:想问题要想清楚,读书要读得深,别太相信纯理论,能做数值实验就去验证。
Anthropic:Claude 3.7 的分水岭 1:53:47
姚顺宇进 Anthropic 靠前同事 connection。他联系过 OpenAI、Google DeepMind,GDM 当时面试速度太慢,后来快了很多。Anthropic 的第一任经理也是理论物理出身,告诉他团队在尝试大规模强化学习,有很多科学问题要理解。那是 2024 年八九月,强化学习还不像现在成熟,OpenAI 的草莓项目还没发布,大家知道有这么回事,没看到结果。他当时对强化学习的认知约等于没有,只知道预训练和后训练的大致流程,不知道工业级语言模型怎么训。他找来能学的课学了一遍,能做作业做了一遍,手搓了一个能在 Colab 里训的小 GPT,然后去面试。
两个组的经理找他聊,一个做 evaluation,一个做强化学习。他选了强化学习,因为更不明了。那时 Anthropic 整个公司七八百人,他所在的大 team 叫 Horizon,只有十个人左右。大 team 后来几乎覆盖强化学习方方面面,底下有数据组、环境与 infra 组、research 和算法组。他去的组偏 research 和算法。公司执行力非常强,比较 top down,决定之后全力去做。员工氛围好,不藏着掖着,公司小,大家认识。对做语言模型的人来说,那是很好的学习机会,能接触模型训练方方面面,找到对应的人问。
Anthropic 的 bet 来自哪里?姚顺宇看到的一个来源是 Claude 3 发布后,Twitter 上很多人讨论 Claude 写代码比 GPT-4 强。那个年代 GPT-4 和大家差距很大,能有一件重要的事比 GPT-4 强就很厉害。这个信号很快被公司捕捉,公司扑上去。他认为最开始可能是自下而上的技术原因,某个团队做了某件事,后来变成自上而下。Anthropic 非常 reactive,反应快。
top down 为什么在 Anthropic 能成立?因为技术决策人必须也是公司决策人。技术上要能服众,下面的研究员才信服;同时得是公司决策人,能为公司负责。Jared Kaplan、Sam McCandlish 这类技术一号位和公司创始人身份重合,才有权做 top down。Dario 作为 CEO 在决策层怎么起作用,他不清楚。其他公司很难复制。OpenAI 在 Ilya 在的时候有可能可以,后来 Ilya 似乎失去决策能力,走了。Gemini 也难,Google 是传统 bottom up 组织,公司层面有良好定义的框架看工作好坏,本质还是自己决定做什么。大公司和 startup 打法不同。startup 重要的是 make bet,赌一件事,快速决策,强力推进。大公司想减少赌的成分,方方面面有储备,任何事成了都能跟上。Anthropic 的 co-founding team 没有一个人离开,他们是一群真正一起打过仗的人,很多人是一系列关键论文的合著者。互相之间的信任很关键。
姚顺宇加入时,Anthropic 最重要的事是用大尺度强化学习提高 coding 能力。他去的时候,大家已经看到这件事能做成且重要,不太清楚怎么做成。Claude 3.5 有两个版本,外界为了区分,把 10 月版本叫 3.6,Anthropic 跟着外界习惯,把更新的叫 3.7。3.6 时,Anthropic 的模型在写代码上已经比别的模型强。Cursor 当时还是纯产品公司,Claude 和 Cursor 都处于 underdog 状态。3.6 这一代模型能力上去,Cursor 发现模型真能做 coding 工具,壳包着模型,让软件工程圈子体会到效率工具真的来了,于是起来。
3.7 是 Anthropic 后训练的分水岭。之前后训练比较小规模,修修补补。很长时间大家没搞明白后训练怎么 scale up。后来 OpenAI、Anthropic、DeepSeek 等意识到,要找到合适的环境,回馈信号足够清晰,环境本身是强数据源,在上面做稳定强化学习。姚顺宇说,他去 Anthropic 时,大家已经大致清楚方向。OpenAI 草莓的实现方式和 Anthropic 差别挺大,算法、使用数据的方式不同,大方向相同:找客观、干净、可学习的环境,做稳定强化学习。后来事实证明,每家具体实现都不一样,但都能做成。
3.7 从开始训练到发布花了四五个月。开始前为这件事做研究两三个月,训练和基础设施处理又花两个月。姚顺宇在 3.7 主要做 agent coding 的 RL,怎么 scale up,怎么制备环境和数据,算法上会遇到什么问题。他反复说,自己对任何一个模型的贡献都没那么重要。他很幸运在那个时候加入重要项目,做了一些事。AI 最近几年是不可阻挡的事,你不干也有别人干出来。给个人贴金的事都有炒作嫌疑。
3.7 到 4.5,预训练和后训练都在 scale up,数据和算力更大,范式没有特别大的改变。他离开 Anthropic 时,公司接近 2000 人,扩了一倍多。他踩在小公司的尾巴上,进去三四个月后人就变多。文化经历混沌,外面来了一些人和本来文化冲突。之前的文化像小作坊,大家都是朋友,知道对方在干嘛,没人做过多个人宣传,紧迫感更强。后来有些人他不喜欢,不太喜欢在 Slack 上花很多时间讲大道理的人。idea is cheap,难的是把想法变成可实现步骤做出来。
离职酝酿了一个多月。一个较小原因是他不完全认同 Dario Amodei 在对华议题上的极端表达。他认为 CEO 把个人观点推到那么极端,是情绪化体现。公开场合他说这个因素占四成,又提醒数字听听就好,它不是主因,但确实是重要原因。更大原因是公司文化冲击,以及他想学不一样的东西。Anthropic 非常专注,做语言模型、工具使用、agent、coding 很好,但完全没人做多模态生成,底层工程和基础设施投入也没那么多。他离开时对 Anthropic 未来曾悲观,因为主要收入靠 API 卖 token,这是差生意,最后要打价格战,只有 Google有完整链条。后来 Claude Code、Cowork 等产品做出巧思,OpenAI 又被 Google 揍了一拳,Anthropic 自己上道了,现在看起来更占优势。他不后悔离开,个人动机是换地方提高自己。
Google DeepMind:Gemini 3 与长上下文的工程 2:42:25
到 Google DeepMind,姚顺宇的工作重心变了。他主要做 ML coding 和 long horizon。ML coding 想实现完整的 AI 自己做研究链条:模型不仅写代码,还能跑实验、看结果、分析结果、提出新假设、设计新代码、跑新实验。现在这条链条还没闭合。大方向有共识,细节很多:怎么选数据,怎么选回馈信号,基础设施有什么新挑战。long horizon 的目标是 train with finite context, use as infinite context。用有限 context 训练,使用时能处理很长甚至接近无限的工作。
人就是这种状态。人的 context 很短,问他昨晚吃什么,他可能想不起来。因为那对当前场景不关键。人会选择性遗忘,也会把和当前场景相关的重要信息 retrieve 回来。模型也需要这种能力。长上下文有两条路线:预训练侧做稀疏 attention,后训练侧做 context management,让模型把不重要的中间段扔掉,把重要的存到文件里再取回。姚顺宇更多时间花在后训练侧方案上,因为他没在预训练上做正式工作,也因为后训练方案更符合他的理解:用短 context 训练,做长 context 的事。预训练方案本质上需要长 context 训练数据,不太符合他的哲学。他判断短训长一定可以,只是不清楚哪个方案最有效。Gemini 长文本做得好,有让他惊讶的技巧,预训练和后训练两边都有。
为什么加入 Gemini?他想学不一样的东西,Gemini 有很多人做不同研究,很多工程师技术非常强。业内对 Gemini 的感知在 2.5 这一代变化,2.5 是明显能看出 Google 上道的模型。他去的时候,Gemini 预期已经挺高。OpenAI 也是选项,他没去的一个原因是对 OpenAI 文化有担心。他用粗话说,感觉 OpenAI 做事的人没有 Gemini 多,也没有 Anthropic 多。他很在意这个。xAI 也是选项,他接触不多,后来接触的一些人也走了,说不清 xAI 为什么动荡。
Gemini 3 的转折,他认为是两件事连在一起:Nano Banana 和 Gemini 3。只有 Gemini 3 可能不够,市占率不到 10% 时,模型好一点坏一点传播太慢。Nano Banana 先爆,大量人下载 Gemini app,Gemini 3 紧接着发布,把量留下来。Google 技术储备一直够,人也够。组织后来变得更清晰,预训练谁负责什么、每个节点谁负责,都很清楚。以前更混沌。预训练现在在 Google 是非常可控、可预测的事,你能知道下一代不会差,甚至知道会有多好。Google 的工程管理能力强,预训练进入舒适区。后训练不确定性更多,更 bottom up,大家可以广泛试。
Google 的英雄是谁?姚顺宇说,不同阶段有不同的人,英雄背后都有 Sergey Brin。很多大决定最后由他拍板。一线更多出现的是 Koray Kavukcuoglu,DeepMind 的 CTO,也是 Google 的 SVP。Demis Hassabis 管更多偏 science 的事,比如药物设计、Isomorphic Labs。至少从他的视角,看到更多的人是 Koray。
Google 产品慢,但擅长一种事:找到一个极为简单的产品形态,大家都长一个样,然后疯狂卷技术,别人卷不过。搜索就是一个框、一个键,Google 搜得比你快、比你准。OpenAI 先做 chatbot,让 Google 意识到这件事重要,又没做到极致,没完全把搜索干掉,结果 Google 自己把聊天机器人追上来。现在难受的是 OpenAI。Chatbot 不会完全吃掉搜索。简单搜索场景,用户不想在聊天机器人身上浪费时间。Chatbot 的交互性、追问、信息浓缩,会抢走一部分搜索需求,但不足以完全替代。产品上 OpenAI 仍有优势,Google 在产品上传统上慢。AI 形态还有很长的路,没有终局之战。
TPU 和 GPU 的比较,姚顺宇说,大规模商用下很难说谁优谁劣。GPU 有更好的开源生态,Google 自己用 TPU,会花时间搭基础设施。跑一千张卡,基础设施是大负担;跑几十万张卡,搭基础设施不是多大事。设计理念有区别:GPU 一个 pod 八张卡,卡间 NVLink 很快,pod 内通信瓶颈小;TPU 放弃卡与卡两两互联,把更多卡放进大机架,做 3D torus,一张卡只连三个最近方向,整个集群连成大的 torus。编译和调度逻辑写得好,可以获得更大存储空间,减少通信瓶颈。TPU 劣势是结构更固定,易用性和通用性没有 GPU 强。
技术预测与组织:英雄过去,靠谱留下 3:08:04
最近模型发布很密集。姚顺宇说,很多都不那么值得关注。大家争 benchmark 第一名,证明基本能力,这件事已经打满。SWE-bench 打到 80 多,幸好没人超过 83,OpenAI 刚发帖子说超过 83 的题目有些定义不好,谁超过谁尴尬。reasoning 从 AMIE 打到 IMO,再打 ARC-AGI。Gemini 3 之前最高十几,大家觉得登天难;Gemini 3 到三十多,Claude 4.5 到六十多,Gemini 3 Deep Think 到八十多。公众认知的模型能力已经打满,光靠这个没太大意思。发得快也说明题对大家都简单了,没有秘密。
他看重两件事:ML coding 和 long horizon。它们不到范式级,但对 Google 很有价值。Google 是 AI research 大户,也是全栈,涉及硬件到模型。整套东西被加速、被更好管理,对公司价值大。long horizon 所有人都知道重要。范式级变化可能还在非确定性方向,多模态生成可能出一个英雄,或者一个英雄集体。continual learning 和 long horizon 没有本质区别。continual learning 改变模型权重,context management 不改变权重,但 context 里的词自己的 KV 也是一种权重。两个方案最后谁更有用不清楚,本质都为了做 long horizon。世界模型定义不清晰,一万个人有一万个世界模型。DeepMind 的世界模型更 end to end,给定描述生成视频不够,还要生成一个场景,给一个动作条件,下一时刻状态是上一时刻状态和动作的函数。
系统性做 AI,需要科学态度。做 scaling law 要清楚自己做了什么预设,改变一个因素时哪些因素关联,哪些不关联。人也需要 reliable,负责任。每个评价框架都容易被 hack,你总可以让指标好看。值得信赖的人会问,效果好的事在大尺度上是否真好,中间是否漏了因素。把事做系统听起来是一句话,做起来复杂,很多阻力,违背人性。每个人的人性都想让自己做的东西显得更好,组织最有利的事是把系统做扎实、严谨。做强化学习,你可以做一个算法效果比别人好,更要问大尺度下是否稳定,效果好是不是因为用了不一样的数据、更多训练 flop、更多采样 flop。production run 里哪个是限制因素,该看哪个指标,需要研究员理解系统怎么运作,对公司负责。否则你可以只报预训练好的指标,预训练加后训练变差,这就很糟糕。组织体系要尽量发现有意或无意的边界。
研究员要对全局负责。学术界做 research 是一个人吃饱全家不愁,为项目负责、为可重复性负责。公司里要为整个公司负责,两种完全不一样的心态。他的自觉性来自契约感,拿公司钱,对 company 负责是契约的一部分。个人英雄主义如果只为个人而做事,很可能破坏整体性。能力强的人真成了英雄,也有可能。
组织怎么激发智能?过去观点是自下而上才能创新,每个人有自由。完全自下而上也不行,会乱,大家甚至不知道做这个事有什么用。需要一个人或一个小集体把两者融合。组织运行好不好,看起来是组织问题,归根结底是技术 leader 的问题。最好的状态往往最不稳定,容易往坏的方向塌缩,需要 leader 控制。技术 leader 要有两个特质:自己能救火,真遇到困难能下场带人解决;能理解别人,哪怕一件事自己不做,也能理解为什么别人做重要,容得下别人。
新 lab 趋势,他看不太懂。感觉绝大多数 new lab 都会死。有些 lab 有真正好的人,Thinking Machines 还在 deliver 新东西。有些 lab 他完全不知道要干嘛,两个人已经远离专业好久。26 年国内很看重 C 端,谁成为 super app。硅谷没人讲这个,美国 enterprise 和效率软件市场太大,利润太高。C 端之前只有 ChatGPT 一家做,油水不多。中国 C 端很强,能想出复杂的产品性质或结构,用间接方式把利润滚起来。抖音不是看视频收两毛钱,是免费看视频,加广告、做直播、做电商。效率软件很直接,帮你写代码,成本一个月 150,卖你 200,挣 50。美国过去体现在直接的产品上。Meta 没字节强,Meta 找不到自己的生态位,美国又没有做这件事的公司,豆包生态位还没人找到,Meta 抄豆包,也不需要那么强的模型能力。美国做 C 端产品的人不如中国,过去十年美国正反馈很多来自 to B。挣钱太容易,就不会费脑筋想怎么挣钱。字节被严重低估,消费者市场没有哪个公司能和字节竞争,它毕竟是一家中国公司。
姚顺宇在 AI 行业没有偶像。他来的时候个人英雄主义时代已经过去,所以没有英雄,有时甚至觉得旧时代英雄有点蠢。谁蠢,他 No Comment。做物理时存在真正比他聪明太多的人,比如博士导师 Douglas Stanford。看到那种人,他觉得自己待那个领域也没什么用。AI 这个事不太需要脑子,真的不太需要脑子。这个行业最重要的特质是靠谱,做事细,对自己做的事负责任。那些东西有多需要脑子?都是一些本科生能干的活。
“AI个人英雄主义的时代已经过去了,所以也没有什么英雄。”
AI 研究员价格被炒得很高,像球星转会。他高兴自己受益,但不知道是不是好事。一方面训练一个人需要环境,得有机会接触这件事才能学会,过去能撞到机会的人不多,市场稀缺。另一方面对人的炒作有点过分。现在非常喜欢神话个体。他再说一次,这是集体主义的事。
怎么判断一个人靠不靠谱?他有一道面试题:24 小时内从零到一完成一个强化学习项目。他告诉候选人资源,候选人自己选模型、选数据、选算法,把模型训出来。24 小时后有一小时讨论。AI 时代这事没那么难,AI 能帮你全套做。设计成这样的原因有两个。第一,考察候选人能不能有效利用 AI,这个时代还考察代码写得好不好没用,绝大多数人不用自己写代码。第二,有陷阱。全盘让 AI 做,最后没有好好理解 AI 做了什么,一小时讨论会露馅。考验有没有真的和 AI 形成协作。设计成 24 小时也有阴暗巧思,看这个人多看重机会,能熬夜就撑住,撑不住说明没那么看重。
“这个行业最重要的特质就是靠谱,做事细,对自己做的事负责任。”
对更年轻的人,纯做语言模型已经不是蓝海。末班车已经发车,他入行就是末班车。之后入行的人也能学习,但很难再遇到那么好的机会,在一个还没那么大的团体里做一件事。AI 是很大的方向,语言模型只是很小一部分。多模态生成有机会,机器人机会更多,用 AI 帮助真正科学问题,比如量子调控,更蓝海。足够年轻的人,做现在最热火的事未必正确,做现在没人做到的事更可能是好选择。
他自己未来不会在 Google 很久。他还会尝试挑战自己,折磨自己,但需要找到一个值得折磨的事。现在最高优先级是把 ML coding 和 long horizon 推进到比较稳定的状态。用 AI 做物理,已经有很多人在干,多一个不多少一个不少,不如让别人先干。他崇拜的物理学家不少,成年后很难真的崇拜一个人。做拓扑物态时,他佩服 Ho 旦? 原文 "好店" 可能是 "Ho"? 这里不确定,最好不点名。他说有些物理学家有异常远见,在时代里格格不入,后来大家才明白。AI 里类似的人物,他提到 Jeff Hinton? 转写 "Jeff Ingles" 可能 Geoffrey Hinton。写 "Geoffrey Hinton" 在大家觉得方向不确定时一直做,是英雄级别。Transformer 是英雄集体。
“没有哪个老登是你的亲属,所以你觉得他傻,他就是傻。”
他以前做学生时收敛,后来发现收敛没用,对自己没好处,对别人也没好处。直接表达短期会有人恨你,长期大家会欣赏。做了 AI 之后更直接,一是没有束缚,二是领域足够客观。不用太担心因为观点惹到人。只要观点自洽,不是随便喷,有一套自己的理解,大家会尊重你,最终你在这个领域做得怎样有客观评价标准。人年纪大了不一定会变成老登。会变成两种状态,一种德高望重,少指手画脚,花力气培养年轻人;另一种自己不懂还爱指手画脚。他有厌蠢症,见了不少老登。哪个人说话蠢,他要求把名字 b 掉,说一直挺蠢,蠢得始终如一。对方说的话用 Pauli 的话说 not even wrong,不良好定义,很难说对错。范式一变,他就能跳出来说自己当年说过。模糊没有意义。
影响 AI 进程的论文,他提 Sequence to Sequence,是 language model 在 feature engineering 时代的高峰;Scaling Law,Jared Kaplan 等人在 OpenAI 的那篇,把体系化研究方式引进这个领域,虽然具体做法未必正确,但第一篇引入这个想法很关键。关键的重要 but 是 long horizon。
集体主义胜利,和个人能带走的判断 3:24:48
姚顺宇反复拆掉个人神话。他描述自己在 Claude 3.7、4.5、Gemini 3 里的工作,先说算法细节、数据工作,再说这些工作对后续影响可能更大,最后补一句,没有他,项目也会发生,效果不会变差。每个人都是冲浪的人,本质上是那个浪,浪是 AI。AI 会往前走,不管你有没有冲上浪,浪都会拍到岸上。有人冲上浪尖,有人晚了一点。
这套说法和节目里另一条线对得上:AI 是集中化技术,会让少部分人更强,让大部分人失去独特价值;模型公司里,评价框架容易被 hack,研究员要对全局负责;组织最好的状态最不稳定,需要技术 leader 能救火、能容人;startup 要 make bet,大公司要全栈储备;Anthropic 的 top down 能成立,因为技术一号位和公司决策人重合;Google 的预训练进入工程项目,后训练更 bottom up。不同文化都能把模型做出来,前提是组织和技术 leader 匹配。
姚顺宇给年轻人的建议藏在细节里。纯语言模型不是蓝海,末班车已发。多模态生成、机器人、AI 帮科学问题,机会更多。选方向时,看反馈信号是否清晰,数据基础是否充分,能不能做实验。Coding 先爆发,因为输入输出容易测,GitHub 有几十年数据,好代码有共识标准。产品壳要活下来,要么跑得比模型快,在模型公司想吃你之前长到足够大;要么缩进一个模型公司看不上的小市场。Cursor 有危机感,Midjourney 活在小市场。大公司做不了类 OpenClaw 产品,因为负担多,法律、品牌、资源、用户系统安全都要负责。
对做模型的人,靠谱、做事细、对做的事负责,比聪明更重要。面试 24 小时 RL 项目,考的是能不能有效利用 AI,以及有没有理解 AI 替自己做了什么。只会把任务全扔给 AI 的人,在讨论里会露馅。研究员要能问大尺度下是否稳定,
姚顺宇戴了一副茶色眼镜走过来,这副眼镜会随光线变化而改变颜色。硅谷AI业界有两位Yao Shunyu,他们曾是清华同一届毕业生,这让姚顺雨与姚顺宇时常成为话题人物。前一位姚顺雨2025年从OpenAI跳槽到腾讯,他去年来过我们节目(第115集);后一位姚顺宇也于同年跳槽,从Anthropic来到Google DeepMind。今天的嘉宾姚顺宇,毕业于清华和斯坦福大学,曾经的研究方向是理论物理——非厄米系统、量子物理与高能物理。他的人生奋斗姿态是——“总想挑战一些自己不太会的事”。他人生最大的一次跨步是博士毕业,毅然决然离开深造9年的物理,来到崭新的AI行业。过去两年,他先后在Anthropic和Google DeepMind出任研究科学家,参与了Claude 3.7、4.5、Gemini 3等关键模型的开发过程。姚顺宇一点也不nerd。有时,他会令你猝不及防,突然发表一点“小疯”言论。第一次见面,他就对我说:“我在这个行业又没有什么导师,又没有什么旧友,我当然想喷谁喷谁。”转行AI的两年,他变得越来越直接,越来越不害怕得罪人。访谈中,他也说了一些直白言论:“AI个人英雄主义时代已经过去了,所以也没有什么英雄,有时候甚至觉得旧时代英雄有点蠢。”“没有哪个老登是你的亲属,所以你觉得他傻,他就是傻,就可以直接说他傻。无所谓的啊。(笑)”“现在大家都是冲浪的人,本质上是那个浪,而不是你那个冲浪的人。”“AI这个事,本来也不太需要脑子——真的不太需要脑子。这个行业最重要的特质,就是靠谱,就是做事细,对自己做的事情负责任。”“你不用太担心因为自己的观点而惹到什么人。只要你的观点是自洽的,不是说随便喷人,你是有一套自己的理解。最终你在这个领域做的怎样,是有客观评价标准的——大家是会尊重你的。”不过,在描述自己的研究时,姚顺宇又显得异常审慎。他对于这些工作的描述是:“我自己对那个事没那么重要,更多的是,我很幸运,有机会在那个时候加入了一个重要的项目,做了一些事。”他反复强调,AI个人英雄主义的时代已经过去了,现在都是集体主义的故事,要对神话个体的一切叙事充满警惕。我们的节目录制于2026年3月,距离我们这次节目录制完,世界又发生了许多意想不到的变化:Meta对Manus的收购被撤销、Cursor可能被SpaceX收购、xAI将终止独立运营并入SpaceX,并更名为SpaceXAI等等。如果我们的谈话内容有一定滞后性,请大家多包涵——AI的世界实在变化太快、太出乎意料了。可能还要特别说明的一点是,技术细节会涉及企业机密,有一些嘉宾是不方便分享的,也请大家能够包容。在访谈中,我们尽最大可能和大家一起学习AI。你会收获姚顺宇在Anthroic和Google Gemini的技术探索历程与思考洞察。而对于那些离经叛道的微小片刻,还请允许我们小疯一下。接下来,就是我对顺宇的访谈。OUTLINE:00:02:41 两个Shunyu Yao00:06:50 竞争与逃逸00:26:37 “Pre-train没有到头”00:36:23 Coding的爆发00:51:25 字节和豆包00:54:45 "硬蒸"和"聪明的蒸"01:05:22 机器人01:10:00 在Underdog之地赌一把01:20:59 非厄米系统与量子物理01:37:42 高能物理01:44:24 物理与AI01:53:47 在Anthropic训练Claude 3.7、4.502:36:18 "AI本质是简单的"02:42:25 在Google DeepMind训练Gemini 303:02:43 "Pre-train也是一种RL"03:08:04 技术预测03:14:06 组织搭建03:24:48 集体主义胜利LINKS:我们的播客在小宇宙、Apple Podcast、Spotify等全音频平台播出;我们的视频播客在Bilibili、小红书、视频号、抖音等全视频平台播出;如果你想服用文字版,请搜索我们工作室的公众号:语言即世界language is world。本集的文字版:《独家对话姚顺宇:请允许我小疯一下》DISCLAIMER: 本内容不作为投资建议。CONTACT: xiaojunzhang@lisw.aiJump into the new world-and explore with us!😉
本集资源与出处
- 原节目在小宇宙收听本期支持主播,请到原平台收听
- 音频节目音频直链来自小宇宙
- 订阅小宇宙节目主页
- 文本精读 Markdown 版便于引用与 AI 读取



