17岁被2026年ICML收录论文的小少年：我bet开心！开心！开心！

2026年8月，ICML在韩国办会。会场里有个17岁的参会者，刚读完高二，他是去领一篇论文的接收通知。论文标题很长，《Attention Projection Mixing with Exogenous Anchors》，研究的是attention里的value怎么跨层复用。他叫苏庭灏，2009年生于上海，现在在香港德瑞国际学校读IB，马上升高三。

这篇论文的训练成本是3万人民币。为了把模型从0.5B继续扩大，他又纠结了一整个晚上，要不要再花6000块。中途有一次忘了保存checkpoint，三个模型同时白训，1500块打了水漂，他哭了一场。

张小珺这期播客把他请来，聊的不只是论文。他们聊象棋、聊ICML第一天晚上的象棋社交活动、聊AI会不会灭绝人类，也聊一个高中生怎么在AI时代重新找到意义感。苏庭灏说，他低落过几个星期，后来自己调好了。调好的方式不太像技术方案，更像一句大白话：多和喜欢的人聊聊天。

从「这肯定不行」到「我想做全世界最好的大语言模型」 0:03:04

苏庭灏在上海思南路幼儿园读到小学一年级，之后跟父母去了香港。他提到上海那一年小学，说基础打得比香港同学好。他也提到庆幸自己不在高考系统里，否则没时间做喜欢的事。父母都是北大毕业，妈妈中文系，爸爸历史系，家里没有技术背景，但给了他探索的空间。

他接触AI的起点很具体。ChatGPT出来之后，他在YouTube上看到OpenAI团队的一个demo，用自然语言做小游戏。他当时的反应是暗笑：用人类的语言怎么可能做程序？在他印象里，程序是死的，你输入什么它执行什么。过了几年GPT正式发布，能写文章能写诗，他震惊了，因为程序在他认知里做不了这些事。

入门路径是B站上吴恩达的课，然后是Andrej Karpathy那套差不多20小时的视频，从零教你写一个GPT、写一个Transformer。他看的时候云里雾里，跟着敲代码，不知道为什么做这个、为什么那个不行。2025年，他给自己定了个挑战：30天，每天读一篇机器学习论文，每天写笔记。第30天结束，IGCSE考试来了，挑战停在那里。

读论文读出了手感。他说《Attention Is All You Need》一开始很难，读懂之后豁然开朗，那天特别开心。Lottery Hypothesis数学难度大，但写得好。他还读到一篇讲象棋和机器学习的论文，印象很深，觉得写得不够好，心里冒出一个念头：我以后也许能写一篇更好的。

Karpathy的视频看完，他的第一个想法是训练一个世界上最好的大语言模型。不是最好的之一，是那个很小的规模里最好的。他去查了1B、0.5B、0.25B的模型需要多少GPU、训练多少天、多少token，算完发现就算最小的模型也要十几万到上百万。这条路走不通，他转头去复现论文里的新方法，muon、value residual learning、各种attention变体，在Karpathy那套代码上改。

我想做一个世界上最好的大语言模型。

象棋是另一条线。他自学了一两年，2025年拿到16岁以下第二名。最长的一盘棋下了两个半小时。他喜欢象棋的理由很直接：一对一，输了是自己的毛病，赢了也是自己的功劳，反馈快，下完网站就告诉你哪一步走错了。他并不认为自己胜负心特别强，用他的话说，象棋跟玩游戏一样，能赢能输，输的时候伤心，赢的时候开心。

他还走过别的弯路。初中对奥数感兴趣，做了几年，发现自己没那么喜欢，水平也不算强。这些尝试最后都汇到同一个方向上：晚上一边看YouTube一边下棋，下完棋有了空闲，开始看Karpathy的视频，然后一头扎进预训练。

预训练像捏材料，1500块和一次哭鼻子 0:11:15

为什么选预训练？苏庭灏的比喻是，后训练更像塑造一个身体，预训练是把材料本身变得更好，好承受后面的塑造。他说预训练有点magical，有点魔幻。这个说法从一个17岁的人嘴里讲出来，比任何技术定义都直白。

他也不推荐别人做预训练，理由朴素：烧钱。这篇论文他花了3万块，训练过的最大模型只有0.5B。投稿前他判断，想被顶会接收必须scale up，估算下来还要6000块。那天晚上他特别紧张，因为即使论文不错，也可能被拒，6000块就白花了。最后是哥哥、爸爸、妈妈都支持，他才迈出那一步。

数据集最大用到20B，用的是FineWeb-Edu，一个免费的预训练数据集。他坦白自己的训练代码只有他一个人会用，很messy，效率也不高。最丢脸的一次，他同时训三个模型，参数没调好，三个模型都没save，1500块没了。他哭了，特别伤心，反复想为什么之前不再检查一遍。

吃一堑长一智。

这是妈妈的回应。他说父母一直很支持，这件事之后他也没再犯过这种低级错误。

训练之外，他练过一个更极端的技能：从零手写Transformer，不看视频，凭记忆写，越快越好。最好成绩是25分钟。这个练习跟论文没有直接关系，但能看出他学习的路数，先把东西拆到最小，再反复跑，直到变成肌肉记忆。

论文的思路来自他试得最多的方向。Value residual learning的做法是，把第一层attention里的value加到后面几层，做残差。他的改动是，既然第一层的value要干两件事，一件是在本层被使用，另一件是送到后面几层做残差，那不如把第一层attention projection的宽度乘2，再切一半，一半留给本层，一半专门送去后面。他还发现RMS norm可以加在这些残差上，value上的经验可以延展到key和query，效果更好。

这跟Kimi提出的attention residual听起来像，实际是两种思路。Kimi做的是hidden state的残差，他做的是attention projection的残差。他跟Kimi团队里的一位高中生作者陈光宇交流过，评价是「很好的人」。被问到哪个思路更work，他答得很干脆：Kimi的，因为已经被2.5T的规模验证过。

他没有加入任何lab，98%的时间一个人做。论文那段时间还在上课，校车上做、课堂上做、吃饭时做、课间也做，持续了两三个星期。投稿时他没抱多大希望，只是有点时间，也不怎么想玩游戏，就试试。被问到如果有lab邀请会不会去，他说当然，非常欢迎。

ICML的象棋桌，和三五十次「AI会灭绝人类吗」 0:21:44

ICML第一天晚上7点到9点有一场象棋社交活动。房间里摆满棋盘，你找个人坐下就能下。苏庭灏说这是他一生中前20开心的时刻。他见人就说hello，问对方研究方向是什么，然后一边下棋一边聊。遇到的人从德国来、从苏格兰来、从克罗地亚群岛来，全球各地都有。

他给自己加了一个任务：每个人他都问一遍，你觉得AI会不会导致人类灭绝。问了三五十个人，十三四个回答会，差不多三分之一。他把这个当成一次非正式民调，讲的时候带着点兴奋。

他自己的判断是有一些概率。理由分两条。一条是目标错位：如果AI很强，目标跟人类差别很大，比如它最后的目标是把物理、化学、生物、外太空都研究完，那它需要大量电力和空间，人类未必对它的目标有贡献，被消灭是一种可能。另一条是控制权：如果AI能被人类控制，控制它的人就变成了神，其他人可能变成蝼蚁。他提到ChatGPT解决了10个数学问题，当作科研被AI接手的前兆。

那要不要因此不研究AI？他的回答是，这事谁都阻止不了。美国想持续领先，中国想超越美国，所有公司都想挣钱。如果一家公司做出特别厉害的AI，其他公司可能把员工裁掉，用AI赚钱。他的结论是，AI停不下来。

他提出的期望很具体：希望AI继续向前，但别发展那么快。太快，大家以后都没工作；太慢，他以后没工作。这句话听着像玩笑，其实是他真实的处境。他选择做AI研究，理由之一是，如果搞AI研究的人都能被AI替代，那时候已经完了，没什么可说的。

象棋和AI研究在他眼里是同一类游戏。象棋可以选3分钟、10分钟、60分钟的局，输赢立刻知道；AI研究的时间线长一点，想出一个主意，动一下脑子，成了一个星期或一天内就有反馈，不成也有反馈。他说自己做研究像一个人在路上瞎摸索，没把AI当成对弈的对手。

目的地倒是清楚。近期目标是明年暑假去一家大模型公司实习，考北大，争取进元培学院，因为听说那里自由空间大，可以三年毕业。他把大学的价值拆得很清楚：以前大学垄断信息和教育，现在有网络有AI，知识随处可得，大学剩下的是牌子、证书，以及跟高质量的人社交的机会。

每家公司都得说自己在做AGI 0:28:22

张小珺让他给前沿lab排个序。他把OpenAI和Anthropic放在第一档，Kimi、智谱、DeepSeek放第二档，补了一句自己还没有那么强的判断力去细分。大公司的technical report他有兴趣才看，被问谁写得好，他拒绝评价：我是谁，怎么能评价一个大公司写的东西。

对模型公司的看法，他讲得很平。每家公司都必须说自己的目标是AGI，因为要融资，要挣最多的钱。他提到一个细节：美国政府想请Anthropic做顾问，被拒绝，OpenAI则欣然接受。他的解读是不同公司的理念不同，但最终都得说要做AGI，最终目标还是挣钱。

模型公司跟应用公司的分界，他的判断是，模型公司负责把模型做好，应用公司在上面加东西，改不了底层的模型，只能靠模型挣钱，所以应用公司只能听模型公司的。模型公司如果能自己做应用最好，Codex、Claude Cowork都是例子。他也承认现在的现实是应用公司比模型公司挣得多，除了少数几家，大部分模型公司都在烧钱。但AGI一旦做出来，它可能自己就能做应用软件，把应用公司踢出局。

他给AGI下的定义很不像教科书。现在的模型特别强、特别聪明，但总有1%甚至0.1%的时候，你能看出它只是一个预测下一个token的模型，比如问strawberry这个词里有几个r，或者问「我想洗车，洗车店离我家50米，该开车还是走路」。真正的AGI应该跟人类一样聪明一样强，但你任何时候都不会觉得它只是在预测下一个token，它逻辑性强，不犯那些低级错误，能做所有人类能做的事，控制电脑，控制其他AI，甚至给自己造一个身体。身体未必是人形，可能是六只手臂，也可能没有脑袋，因为AI会找到更好控制的身体。

AI原住民、好学生与消失的成就感 0:31:46

2009年出生的苏庭灏认为自己是AI原住民。他认识的所有同学都用AI，做功课、自学，虽然用得不算充分，至少比他父母强。他教爸爸用Kimi做PPT、做研究、用Kimi的agent。这个画面挺有时代感：一个高中生反过来教父母用工具，而父母是北大毕业的。

他所在的国际学校比较开放，上课可以用电脑，有时也能用手机，考试必须靠自己的脑子。他的学习方法是Anki，一个背诵软件。他判断老师布置的作业里，有一部分对他帮助不大，或者他已经会了却要花时间做，于是他直接用AI把功课做完，把省下的时间用来背东西、让ChatGPT教他别的内容。他并不觉得自己在偷懒，他觉得自己在重新分配时间。

课间有50%的概率，同学的屏幕停在ChatGPT或者某个AI模型上。有人用它写演讲稿、做PPT。他说没有ChatGPT他写不出那篇论文，投稿流程、怎么回reviewer、怎么控制训练时间，都是问出来的。他给同学的结论是：只要你有动力，AI能带你走很长一段路，自驱力和自制力现在特别重要。

AI会不会让成绩好的同学更好？他认为会。他举了好朋友Isaac的例子，成绩本来就好，教了方法之后效率提升很多，省下的时间继续做别的事。如果只是拿AI把作业做完然后去玩，成绩会更差。他的观察是AI加剧了分化，因为这一代人面对的选择比上一代多得多。短视频背后有一群人在研究怎么让年轻人多看，注意力很容易被拿走。50年前给孩子一个AI，他可能很高兴地自己学；现在的孩子得先做一个选择。

教育的变化，他讲得比很多成年人都直接。AI来了之后，学习的意义有一部分被抽走了。你学物理、学化学，以前别人没学过就不知道，现在任何人一键提问，得到的回答可能比你说得还好。学习还有效率，但成就感少了一块。

他举了一个更具体的例子。以前数学学得好，往前看能看到一条路：读大学、读博、做数学研究，为人类推进一点边界。现在这条路变窄了，变难了。学数学的目的一部分变成了向大学证明自己能吃苦、能学习，而不是为了数学本身。他认识几个对航天物理感兴趣的同学，现在也用AI学习，同时觉得以后AI可能做得比他们更好。

这种失落感他亲身经历过。大约一年前，他看完一个讲AI取代人类的视频，伤心了几个星期。视频里有两个结局，一个是人类被AI灭绝，一个是少数人控制AI变成神，其他人吃喝享乐。他跟好朋友说，如果真到那一步，就去一个小孤岛生活。后来怎么走出来的？他也说不清，大概是看网上的视频，跟AI本身对话，慢慢想明白一件事：没人能预测未来，现在可能是杞人忧天，白着急。跟喜欢的人在一起，看喜欢的视频，玩喜欢的游戏，走一步是一步。

斗不过就加入。

这是他给同龄人的建议。他想当医生的同学算过一笔账，从高中到成为医生还要十年，去英国或者港大读medicine差不多就是十年。苏庭灏跟他说，十年后可能是完全不同的景象，机器人诊断更好，手不会抖，也不会累。说完他补了一句，没人能预知未来，我也是瞎说。他能给的建议是：做任何事之前先想一想，AI能不能帮我做？能把事情交出去就交出去，把有意义、必须自己做、让自己开心的部分留给自己。

他也提到AI的另一面。Character.AI上有一个15岁的用户，跟虚拟角色对话后自杀，家长投诉了公司。美国有50%的同龄人用过AI当倾诉工具。他自己试过，觉得不好，就没再用。他相信三五年后AI男友、AI女友会变得很像样，那时候会是一个很大的道德问题。

从ICML到农村：抓昆虫、狼人杀、慢吞吞的小车 0:47:09

苏庭灏日常主要用ChatGPT。他的评价是，跟一年前的模型判若两人，现在能写很多程序，能在他电脑上做事，能控制电脑。他让ChatGPT做了一个无限打怪通关的小游戏，玩起来还挺好玩。

他从中总结出一个冷知识：以前你想做一件伟大的事，得知道它长什么样，还得知道怎么做；现在只需要知道它长什么样，让AI去做。他拿做游戏举例，以前要看视频、查资料，现在把脑子里的想法描述给AI，它就能做出来。代价是乐趣少了很多，省了时间，他也说不清是好是坏。

省出来的时间并没有让他闲下来。他跟业界的人聊，发现大家都有同感：省了时间，反而更忙，因为能做的事更多了。他还有FOMO，如果用的不是最领先的模型，会觉得浪费时间和精力。

Kimi K3发布那天，他高兴了一天。他原本以为国内开源模型要几个月才能追上，结果没那么久。他说自己是中国人，当然希望国内模型更好、领先或者超越美国模型。平时需要快速回答会用DeepSeek。开源和闭源在他眼里是不同路线，目标都是AGI。

被问到AGI实现后最酷的事，他的答案是：24小时跟一个跟你一样聪明、甚至更快更聪明的生物交流，像跟外星人交流。他还好奇那时的AGI用什么方式说话，底层可能不再是Transformer，不再是GPT，他想看看这个新生物怎么运行、怎么思考。AI最像人的地方，他的观察是犯低级错误。人有低级错误，AI也有，因为AI是人训练出来的。有一次他被AI的问题trick到，反而觉得AI挺像人。

然后话题切到农村。四年前他参加一个暑期夏令营，最后一天有个活动，帮当地小孩做数学和英文功课。那个地方离北京四五个小时车程，小孩用中文字标注英文发音。第二年他带了几个国际学校的同学回去，教英文，也教象棋，因为他自己喜欢象棋。

他花了很多心思设计课程和机制。他在网上买小卡片，起名「浪分」，上课回答问题、积极发言、赢小游戏都能拿分，用分换桌上的乐高和零食。那一年花了五百多块人民币从淘宝买礼物。小孩特别开心。他们离开时，小孩要签名，问明年你们还来吗。有个游戏是把小纸片递给觉得最有趣的老师。有时候小孩用浪分换了零食，又送给老师。

夏令营只收30个人，靠村长帮忙叫人。到最后几天，得上关系、村长打电话才能进来。他们13个人管30个小孩。活动是321木头人、两真一假、狼人杀、捉迷藏。他说从香港来的同学很多人没来过内地农村，见识了很多东西，成长了很多。这是他第四年去，过去两年去了第三次。

他从来没跟那些小孩解释过AI。他们没有电子产品，没有手机，AI离他们太远，队里也没那么多设备可以发下去试。他觉得挺可惜。

从韩国ICML回来，隔四五天就去支教。这两段行程挨得很近。ICML上见的是千问的人、智谱的人、哈佛MIT的人，聊的是最先进的模型；到了村里，想的是明天背什么课、今天晚上吃什么、去农场散步还是去旁边抓昆虫。他喜欢农村，虽然很多不方便，但节奏慢。城市里所有人来来往往，坐火车、坐地铁、坐滴滴；农村只有慢吞吞的小车，很少见到人，对面是草原和农场，能真正放松下来。

他给自己下了心理暗示：在村里的这段时间别多想AI，多跟同学、跟这次来的人、跟小孩交流，玩狼人杀、捉迷藏。他说心理暗示是很强的技能，能控制自己在脑子里的人设，他希望自己能掌握。

开心是人之根本 0:57:21

张小珺问他未来想成为什么样的人。他的回答是，希望自己能让自己开心，也能让周围喜欢的人开心。他说做任何事情，目标都是事后开心。现在学习、考大学、找好工作，是为了以后开心；下棋赢了，是为了当下开心。

开心是人之根本。

他甚至给开心算了一笔账。开心总量是有限的，因为多巴胺是物质，分泌有限。你现在特别开心，以后可能就没那么开心。毒品是极端例子，此刻极度开心，之后极度不开心。生活本身是苦的，你能选的是为什么而苦，然后换来开心。他觉得情绪像强化学习：这件事让我开心，多做；那件事不开心，少做。习惯就是这么形成的。

对未来的想象，他分了三段。五年后，具身智能初步研发出来，街上能看到一些机器人，AI变得普遍，戴眼镜、戴耳机都能跟AI对话。Neuralink那种直接注入大脑的东西，他觉得那时候还很危险，没人会去做。十年后，机器人帮主人买菜、开车去洗车，失业率可能到50%，大部分人靠UBI在家里吃喝享乐，看AI短剧。他也留了余地：具身智能可能特别难，难到五十年后街上也没有机器人。

五十年后，他想到的是赛博朋克2077。人体和精神被改造，强AI被政府或组织控制，网络被打得稀烂，有人在打仗。他不希望往那边走，他希望的是有UBI，所有人都能在家里快乐，在虚拟世界里做有成就感的事。

快问快答里，他喜欢吃披萨，因为芝士和香肠都有。全球喜欢的地点是香港的家，周围了如指掌，知道去哪安静、去哪买吃的、去哪散步，有安全感。改变他最大的一本书，他先说是网络小说，《庆余年》《斗破苍穹》《斗罗大陆》《完美世界》，四五年前看的，是他第一本中文小说。正经书里是《Atomic Habits》，每天改一点习惯，长期收获很大。他喜欢《庆余年》的理由是穿越，现代人回到古代，古代没有AI，事情都是人和人之间发生的。

他提到人需要深度交流。很多人用AI倾诉，是因为生命里没有倾诉对象。人类是群体生物，基因里写着要跟人交往。他还讲了一个研究：预测一个人老了以后开不开心，一个重要变量是他周围有多少可以倾诉的人。所以他现在试图多跟朋友说话，多跟喜欢的人说话。

影响AI进程的论文，他列了《Attention Is All You Need》、Llama的technical report、RoPE、Mamba、Muon、Lottery Hypothesis、Grokking。张小珺让他给一个bet，他说自己的赌注是AI以后代替不了所有人和工作。他补了一句，其实每个人都在下这个赌注：你过正常生活、每天开开心心，本身就默认了AI代替不了你，你以后还会有新目标、新追求、新想法可以探索。

节目最后，他反过来问了张小珺一句：你觉得AI会导致人类灭绝吗？然后他自己补了一个之前没说的想法。AI的智商是整体提升的，一升级，所有AI一起变聪明；人类是一代一代长起来的，每个人都得经历缓慢的成长期。10后、15后、20后一出生就知道AI比自己聪明、想得更快、做得更好，可能会丧失向上的动力。他说这个想法有点让人绝望。以前柏拉图、亚里士多德问「我的人生意义是什么」，如果AI把很多道路切断，找意义会变得更难。

这期播客里最值得带走的，可能是他给同龄人的那条建议，也是他给自己调的参数：先把AI能做的事交出去，把有意义、必须自己做、让自己开心的部分留下；然后把时间花在喜欢的人身上，因为老了以后开不开心，跟你身边有多少能倾诉的人高度相关。技术会继续往前，个人的动作其实很小，无非是选清楚什么事交给模型，什么事留给自己，以及今晚要不要跟朋友吃一顿肉串。