为什么今天造大模型的人,一半在学物理
最近半年,我认真聊过的200多位AI研究者, 我发现给过我最惊艳洞见的那些人,竟然有大半没正经学过AI —— 他们学的是物理。我拉五源的同事复过盘,发现这不是我的采样偏差,貌似放到全球范围依然成立。我们随便看三份简历。 第一位,斯坦福物理本科,普林斯顿生物物理博士。第二位,哈佛理论物理博士,在学术
最近半年,我认真聊过的200多位AI研究者, 我发现给过我最惊艳洞见的那些人,竟然有大半没正经学过AI —— 他们学的是物理。我拉五源的同事复过盘,发现这不是我的采样偏差,貌似放到全球范围依然成立。我们随便看三份简历。 第一位,斯坦福物理本科,普林斯顿生物物理博士。第二位,哈佛理论物理博士,在学术界做了十五年理论物理。第三位,斯坦福理论物理博士,研究量子引力和全息原理。
三个人后来凑在一起,训练了一个弱弱的聊天机器人。
第一位是 Dario Amodei,Anthropic 的 CEO。第二位是 Jared Kaplan,Anthropic 首席科学官,Scaling Laws 的主要作者——今天所有人敢往一个模型上砸几亿美金,靠的就是他那条曲线。第三位是 Sam McCandlish,Anthropic 首席架构师,现在负责预训练。
那个弱弱的聊天机器人叫 Claude。
这不是一家公司的特例。做 ImageNet 的李飞飞,普林斯顿物理本科。做出 PPO 的 John Schulman,Caltech 物理本科。今天图像生成的主流做法叫扩散模型,骨架是 Jascha Sohl-Dickstein 从非平衡热力学里抄来的。
2024 年的诺贝尔物理学奖,颁给了神经网络。同一年的化学奖,一半给了 AlphaFold。
这不太像一份 AI 名人录,更像一份物理系的就业报告。
最省事的解释是人才流动——物理不好找工作,聪明人往钱多的地方去。我一开始也这么想,后来改了主意。
因为同一段时间里,还发生了另一件更奇怪的事。
人类第一次造出了一个自己造得出来、却解释不了的东西。
大模型的每一行代码都是人写的,每一个算子都能拆开看。可是没有人能说清楚,几千亿个参数堆在一起之后,为什么会长出语法、知识、推理,甚至人格。
于是研究它的办法只剩下一种,就是研究石头、研究星星、研究蛋白质的那一种:观察、测量、归纳,猜一个理论,再回去验证。
一门工程学,正在变成一门自然科学。
所以不是物理学家挤进了 AI。是 AI 自己走到了物理的地盘上。
这件事有四十年的前史。
诺奖颁给神经网络的时候,很多人觉得是委员会在追热点凑数。其实不是。
想象一块磁铁。里面有无数根极小的磁针,每一根都很笨,只跟身边的邻居较劲。物理学家会给整块磁铁定义一个"能量",然后系统会自己往能量低的地方滚。神奇的地方在于,这么笨的规则,在整体上会长出磁性这种从单根磁针身上完全看不出来的性质。
Hopfield 在 1982 年发现,神经网络可以套用同一套数学。神经元就是磁针,连接权重就是相互作用,网络"记住"一个东西,就是整个系统滚进了一个能量低谷。
所以神经网络最早的那套数学,是从磁铁身上抄来的,不是从计算机科学里长出来的。
四十年,从能量函数到 Scaling Laws,这条线几乎没断过。

这篇文章想讲的是这条线的另一头:它在今天为什么突然变得这么显眼。

我们造出了它,却只能像研究自然那样研究它
前不久我跟 Juntang Zhuang 聊天,他之前是 xAI 的预训练负责人,耶鲁生物医学工程博士——不是物理出身,所以下面这个说法不算自我美化。 他说,大模型之所以像物理,是因为它卡在理论科学和实验科学的中间。
把几个学科放到同一根轴上。
纯数学在理论那一端。判断真假的标准是定理能不能被证明,它要普适,还要在最坏情况下也成立。工程在另一端,标准很朴素:能不能造出来,能不能稳定跑,能不能打赢 benchmark。
物理在正中间。它有一个特别务实的传统,叫有效理论。
意思是:我不需要知道最底层是什么,我只需要一个在特定尺度上够准的理论。十九世纪的热力学完全不知道分子长什么样,但它能把蒸汽机的效率算到小数点后几位。流体力学不管量子,但飞机是照着它造出来的。而且物理学家会主动标明自己的适用范围——"这个理论在这个尺度以内有效,出去我不保证。"
这跟数学的态度是相反的。数学要求"永远成立",物理接受"在这儿够用"。这个区别很重要,后面会一直用到。
那么训练大模型落在哪儿?
它当然有理论直觉:架构、优化、表示空间、Scaling Laws。但最后拍板的是实验:跑 loss、测标度、做消融、看能力有没有涌现出来。你不是在证明定理,也不只是把系统拼起来跑通。你在用一套理论指导实验,然后再拿实验去校准理论。
这就是物理过去三百年一直在干的事。
回到开头那个悖论。
它听起来玄,其实很朴素。面对一块石头,你只能观察、测量、归纳,猜一个理论,再回去验证——因为你没有石头的源代码。大模型的源代码就摆在那儿,一行不少,可它并不比石头更好解释。我们知道每一步在算什么,却不知道几千亿个参数堆在一起之后为什么会长出人格。于是研究它的人只能退回研究石头那套办法。
今天真的就是这么干的。做 interpretability 的人拿模型当大脑切片,做 eval 的人拿它当实验对象,做 scaling 的人拿它当一个可以调温度和压强的热力学系统。
当一个工程系统复杂到连造它的人都无法从内部解释时,工程学就开始长成物理学。
顺着这个逻辑往下,接着发生的三件事就不奇怪了。它们的激进程度是递增的:先是用物理的办法去预测它,然后造仪器逼它开口,最后干脆把它当成自然界新发现的一个物种。

第一步:把混乱压成几个数字
物理不靠证明定理吃饭,它靠能预测的经验规律。要理解这句话,得先回到四百年前。 十六世纪末,第谷·布拉赫用肉眼观测行星,一记二十多年。他自己也提出过一个宇宙模型,那个模型后来被证明是错的;他留下的真正遗产,是那批当时全世界最精确的观测数据。他死后,助手开普勒拿到这批数据,开始硬拟合,最后拟出了三条定律:行星走的是椭圆;同样时间扫过同样的面积;周期的平方跟轨道半长轴的立方成正比。
这三条定律精确到今天还在用。
关键在于:开普勒完全不知道为什么。他手上没有引力这个概念——要再等大约七十年,牛顿才用万有引力把这几条经验定律解释清楚。开普勒做的事情,纯粹是从一堆数据里拟合出可以外推的规律,然后大胆宣布这就是行星的行为方式。
Kaplan 那批人做的是同一件事。
他们发现,模型的 loss 会随着参数量、数据量和算力,以一条相当干净的幂律往下掉。这条曲线的意义在于:你可以在几个小模型上跑几个点,拟合出曲线,然后预测一个还没被造出来的模型会有多好。 在它之前,"做大一点会更好吗"靠感觉;有了它之后,才有人敢一次性花几亿美金去训一个只能训一次的东西。后来 DeepMind 的 Chinchilla 把它修正得更精细——之前大家把参数堆得太大、数据喂得太少,两者应该按比例一起放大。
留意一下这门手艺的形状。在几个尺度上跑实验,拟合出一条曲线,然后外推到一个贵到只能做一次的实验上去。
这不是数学,因为没人证明过这些规律永远成立。也不是纯工程,因为目标不是把某一个系统跑通,而是找到能跨尺度预测的东西。它就是开普勒那门手艺。
McCandlish 的一项早期工作更能说明这种直觉从哪来。他之前在斯坦福研究的是全息原理——一个听起来很疯的猜想:一个三维空间里的全部信息,可以完整编码在它的二维边界上。你不用去懂它的物理内容,你要 get 的是这种思维习惯:一个看起来极其复杂的系统,可能有一个低维的、简洁的描述。
后来他在 OpenAI 做的事情,就是这个直觉的直接应用。他要解决一个特别实际的问题:训练时 batch size 该设多大?太小浪费卡,太大也浪费,因为收益已经饱和了。以前靠试,以及问旁边那个看起来最有经验的人。他从每一步梯度的噪声里提炼出一个数,叫 Gradient Noise Scale,用它直接预测这个任务的 batch 上限在哪。
这件事非常物理。一杯水里有 10²³ 个乱撞的分子,你绝无可能追踪每一个。但你只要测出温度和压强这两个数,整杯水的行为就变得可预测了。物理学家一辈子的核心手艺就是这个:把不可追踪的混乱,压缩成三五个宏观数字。 McCandlish 对几千亿参数的梯度做的是完全一样的事。
姚顺宇(清华物理系,凝聚态方向,理论物理做了九年)有个比方我特别喜欢。他说今天的 Scaling Law 就像早期的热力学:能用,能预测,但微观机制根本没讲清楚。十九世纪上半叶的人已经能算热机效率、知道熵会增加,可完全不知道分子是什么——统计力学要再等几十年才出现。
整个 AI 行业,底层就搭在一堆"我们还不知道为什么,但它确实如此"的经验规律上。微观上不可理解,宏观上高度可预测。
换句话说,Scaling Laws 现在还站在开普勒的位置上。AI 的牛顿还没有出现。

第二步:造一台仪器,让现象自己开口
如果只写 Scaling Laws 和能量函数,"物理品味"很容易被写成一种理论物理的审美。但物理还有另一条同样硬的传统,而且这条在 AI 圈里被严重低估:造仪器。 物理学的进步经常是仪器先行。望远镜之前没有天文学,显微镜之前没有细胞学。大型强子对撞机本身不产生任何理论,它做的只有一件事——把能量堆到足够高,让希格斯玻色子这种东西有机会被看见。没有它,希格斯理论就永远只是纸上的猜测。
李飞飞的 ImageNet 就是一台这样的仪器。
它没有提出任何新的神经网络定律。在它之前,统一评测不是没有,但规模小得多,各家算法各自展示几个好看的结果,谁也说服不了谁。ImageNet 把规模推到了另一个量级,它主办的比赛 ILSVRC 用上百万张标注图片、上千个类别,把所有算法塞进同一个尺度、同一份数据、同一套测量制度里,然后 AlexNet 代表的那个变化第一次变得可见,而且不可争辩。
我越想越觉得,ImageNet 更像计算机视觉的粒子对撞机。它没有"证明"深度学习更好,它只是把测量条件搭好了,然后让结果自己开口。
区别在于成本结构。欧洲人造那台对撞机花了几十亿美元和十几年,李飞飞造这台仪器,主要靠 Amazon Mechanical Turk 上来自 167 个国家的近五万个陌生人,按张计价,一张一张点过去。仪器贵不贵,和它管不管用,是两回事。
这补上了物理品味里最常被忽略的一半:光提出好理论不够,你还得知道怎么让自然界回答你的问题。
今天 AI 里的 benchmark、eval、arena、红队测试,都在扮演仪器。行业里有个常识:做对一个 eval 比训一个模型难得多。真正难的事情常常不是再造一个模型,而是造出一套测量,让某种能力第一次变得可见。

第三步:把模型当成一个新发现的物种
第三步最激进。既然造出来了却不理解,那就别再把它当产品。把它当成一种刚被发现的自然物,重新测量、分类、建立理论。 先说一个现象,它是这一步的起点。
拿一个小网络去学某个数学任务。训练一段时间之后,它进入一个看起来彻底失败的状态:训练集全对,测试集全错。它只是把答案背下来了,什么都没懂。这个状态会持续非常久,久到任何一个正常的工程师早就把这个 run kill 掉、回去改超参了。
然后在某一刻,测试准确率会突然从瞎猜跳到接近满分。
它突然真的懂了。这个现象有个名字叫 grokking。
工程师看到这个的第一反应是"玄学"或者"是不是有 bug"。物理学家的第一反应完全不同:水加热到一百度不是慢慢变成蒸汽的,它在某个临界点上突然换了个状态;磁铁升到某个温度会瞬间失去磁性。这类突变叫相变,物理学花了一百多年研究它,有一整套成熟工具。
所以物理学家看到 grokking 会说:这是相变的形状,相变我熟。
碰到涌现不慌反喜,这可能是物理训练留下的最值钱的一个本能。
这件事现在有了自己的名字。一批物理出身的研究者把它叫做 "Physics of AI",刘子鸣(北大物理本科,MIT 物理博士,现在清华任教)是其中最系统的倡导者之一。它的意思是:不再把神经网络当成一个待优化的产品,而是当成一种值得被发现规律的自然物。
物理的另一个默认动作,是碰到新问题先找对称性。物理学里有一个极漂亮的结论,叫诺特定理:物理定律里的连续对称性,往往对应着一个守恒量。 空间平移对称对应动量守恒,时间平移对称对应能量守恒。
Max Welling 走的就是这条路:把对称性直接刻进网络结构。要识别一个分子,那分子在空间里转一下,结果理应完全不变——既然如此,何必让网络从数据里辛辛苦苦学?这类等变网络在化学、材料和蛋白质领域效果显著。而且 Welling 还是 VAE 的共同作者——生成模型的另一条主线,也是他起的头。
顺便说一句,他 1998 年做完量子引力方向的博士,导师叫 Gerard 't Hooft,第二年 't Hooft 拿了诺贝尔物理学奖,而他本人转去研究怎么让神经网络认分子。
而扩散模型(diffusion model)是从另一头接上来的。
往一杯清水里滴一滴墨。墨会不可逆地扩散开,直到均匀,然后永远不会自己聚回来。这是熵增,是热力学第二定律,是物理学里最没有商量余地的一条。
2015 年,Jascha Sohl-Dickstein(伯克利生物物理博士,理论神经科学出身,读博之前的工作是把探测车送上火星)问了一个奇怪的问题:如果我能一步一步地学会这个过程的逆向,是不是就能从一片混沌里还原出结构来?正向不断加噪,逆向学着去噪。他那篇论文的标题字面就写着"用非平衡热力学做深度无监督学习"。
今天最主流的那批图像模型,加上相当一部分视频模型——Midjourney、Sora、可灵都在其中——底座就是扩散模型,或者与它紧邻的连续生成路线。一个从热力学第二定律里抄来的骨架,不是从计算机视觉里长出来的。一个给火星探测车干过活的人,顺手给今天的 AI 绘画铺了地基。
不过这里得防着一种浪漫化。
相变、对称性、最小模型,这些东西并不能自动解释今天的大模型。远远不能。有效理论的力量恰恰来自它老实承认自己的适用尺度——它从不宣称"我解释了一切",它做的是在一个无法完全求解的系统里,先抓住那些对预测最有用、对细节最不敏感的部分。
这种自我限制,是它可信的原因。

现在,把上面这些话都拆一遍
到这儿,一个漂亮的故事讲完了。接下来我得把它拆一遍——不拆,它就只是一篇讨人喜欢的文章。这个观察有三个坑。 一是幸存者偏差。 深度学习的半壁江山跟物理没关系:Yann LeCun 是电子工程出身,Bengio 和 Sutskever 是计算机科学背景,Transformer 那篇论文的作者主要来自计算机和工程。反向传播和注意力机制难道不够 fundamental?
二是"fundamental"从来没被定义过。 这个词是个空筐,谁都能按自己的标准划一条线,把自己想要的人圈进来。我写这篇文章的时候就在干这件事。
三是混淆变量,这个最要命。 物理本来就是个强筛选学科,它在人二十岁的时候就先吸走了一批数学和抽象能力极强的年轻人。我们看到的可能只是能力筛选留下的影子,跟物理训练本身没有因果关系。
还有一个我自己撞上的反例。Andrej Karpathy 在多伦多读的是计算机与物理双专业,按我这套分类该算物理线上的人,可他最有影响的那些工作里,很难指出哪一处真的依赖了物理训练。符合分类,却不支持解释。这类例子我没统计过,猜不少。
那么剩下什么?
我从来没打算论证物理学家更聪明,那个说法是错的。值得问的是另一个问题:物理训练给人留下了一套什么样的默认动作?
偏好第一性原理,偏好最小模型,偏好可测量的变量。 碰到涌现不慌,第一反应是"这会不会是一次相变"。知道任何理论都有适用尺度,所以敢用近似,也肯认输。
物理给的不是更高的智力,是一套在复杂世界里找秩序的手感。
那么真正的问题就变成了:这套手感为什么现在突然值钱了?

AI 正在变成一门研究"人造自然"的科学
模型越来越大,一次实验越来越贵,微观机制越来越难解释。与此同时,宏观规律越来越稳定。研究者开始测量尺度、相变、涌现、临界点、训练噪声、能力边界。模型明明是人造的,却必须像自然一样被观察、实验、归纳。 AI 正在从一门造算法的工程学,变成一门发现人造自然规律的实验科学。
今天的 AI 正好卡在理论和实验之间,而那儿本来就是物理的主场。物理学家大量出现,只是这场变化留下的脚印,不是它的原因。
但物理不是终点,这一点得说清楚。Transformer 主要是工程的胜利,反向传播离不开数学,真正把模型训出来又依赖系统、芯片、数据和组织。物理只是这个时代一个特别好用的默认入口。
最终的突破属于能在三种品味之间自由切换的人。数学要求你说清楚什么必然成立,物理要求你找到什么在现实尺度上有效,工程要求你真的把它造出来。
今天的大模型,恰好同时需要这三种诚实。

彩蛋:物理还偷偷塞了一样东西
写完上面那句我以为文章结束了。后来想起姚顺宇在张小珺那期播客里说的一段话,发现还有一样东西没写。 它不写在简历上,但可能跟前面六节讲的所有工具一样重要。
姚顺宇清华物理系出身,拿过清华特奖,在理论物理里泡了九年。博士毕业转身进了 AI,先后参与 Claude 和 Gemini 的训练。他在播客里说得特别直白:
"我在这个行业又没有什么导师,又没有什么旧友,我当然想喷谁喷谁。"
他还开玩笑说,离开物理的一个原因,是不想再花时间"伺候老登"。
玩笑底下有个正经机制。从物理跨进 AI 的人,往往不带这个领域的师承、门派和既得利益。没有需要维护的学术血统,也没有必须尊重的权威共识。于是他们更敢问那些幼稚但根本的问题,更敢把行业里习以为常的做法重新拆开看一遍。
这件事其实发生过一次。
上世纪八十年代,符号主义当道,神经网络被主流当成一条走不通的路。把它从冷宫里捡回来的正是 Hopfield(普林斯顿物理教授,做凝聚态)这样的物理学家,还有从物理转去研究大脑的 Terrence Sejnowski(本科到博士都读物理,后转神经生物学)。他们跟那个时代的 AI 学界没什么瓜葛,所以不知道这条路"按规矩不该走"。
Christopher Bishop(牛津物理本科,爱丁堡量子场论博士)也是——他在核聚变实验室里被等离子体的复杂度逼得走投无路,一头撞进了当时相当不"正规"的神经网络。李飞飞则用规模化数据挑战了计算机视觉长期依赖小样本和手工特征的传统。
跨界者的优势从来不在他知道得更多。他的优势是他不知道哪些问题按规矩不该问。
所以物理给的其实是两样东西。一套趁手的工具,加上一张外来者的通行证。工具让人有能力问出那种问题,通行证让人有胆子问出来。
这大概也是这门学科现在最好的状态:它复杂到没有人能宣称自己懂了,于是所有的规矩都还没定下来,一个不知道规矩的人走进来,反而正合适。

附录:物理线上的人 (AI总结的)
正文为了保持主线,砍掉了大部分人名和大部分解释。这份名录补上,按他们介入的方式分组。
一、把神经网络从物理里搬出来的一代
John Hopfield(物理学家) Hopfield Network 的能量函数直接来自统计力学。磁体里的自旋和网络里的神经元,问的是同一个问题:大量简单单元互相作用,为什么会在整体上涌现出复杂行为。2024 年诺贝尔物理学奖得主。
Geoffrey Hinton(实验心理学出身) 把认知问题和统计物理接起来的人。同年诺奖得主。
Terrence Sejnowski(本科和博士都读物理,后转神经生物学) 2024 诺奖叙事里被遮住的第三个人。Boltzmann Machine 是他和 Hinton 一起做的——把 Hopfield 那个确定性的能量网络改成随机的,让神经元按玻尔兹曼分布概率性地翻转状态。玻尔兹曼分布是统计力学最核心的公式,名字都没改就搬过来了。这是历史上第一批真正会"学习"的能量模型,某种意义上是今天所有生成模型的祖先。他还做了 NETtalk(1987):只喂给网络英文文本和对应读音,不给任何语法或发音规则,让它自己学会怎么发音。今天听起来平淡,四十年前是异端。
David MacKay(剑桥自然科学,在 Caltech 的 Hopfield 组做计算与神经系统,后回 Cavendish 物理系) 他的意义是把四条线接成了一条。那本《Information Theory, Inference, and Learning Algorithms》里,压缩、编码、概率推断、统计物理和神经网络是同一件事的不同侧面。这个洞见今天特别值钱,因为大模型本质就是压缩:一个模型能把互联网压得多紧,它就理解得多深。今天动不动有人说"压缩即智能",MacKay 在 2003 年就把这张图画完了。他后来还写过一本关于能源的科普,当过英国能源部首席科学顾问,2016 年去世。
神经网络早期的生命力,恰恰来自它没有一个纯正的学科户口。它不是计算机科学内部一条整齐的正统路线,而是物理学家、心理学家、脑科学家和工程师在边境地带搭出来的东西。
二、今天大模型的核心层
Dario Amodei 斯坦福物理学士,普林斯顿生物物理博士。Anthropic CEO。 Jared Kaplan 哈佛物理博士,Anthropic 联合创始人。2020 年 Scaling Laws 那篇论文的主要作者。没有它,没人敢一次性花几亿美金训一个模型。
Sam McCandlish 斯坦福理论物理博士,做量子引力和全息原理,Anthropic 联合创始人。Gradient Noise Scale 的作者。
姚顺宇 清华物理系出身,清华特奖,理论物理九年。参与 Claude 与 Gemini 的训练。"Scaling Law 像早期热力学"这个比方出自他。
John Schulman Caltech 物理本科,最初是因为想"理解宇宙"才学物理。做过几次物理研究后发现自己并不兴奋,转去 Berkeley 读神经科学。在 Pieter Abbeel 的实验室里看到直升机控制和机器人叠毛巾,才真正转向 AI。后来做出 TRPO 和 PPO,是现代深度强化学习和 RLHF 的关键人物。硬说 PPO 来自某条物理定律很牵强,但它的气质很物理:不光问目标函数的最优点在哪,还问系统怎样稳定地演化过去,不允许一次更新走得太远,以免整个策略突然失稳。
Alex Graves 理论物理本科,后来在 DeepMind。CTC(2006)解决的是一个很实际的问题:语音识别里音频有几万帧,文字只有十几个字,两边对不上,怎么训练?以前要人工标出每个字对应哪一段音频。CTC 让网络自己去对齐,这是深度学习真正打进语音识别的关键一步。他后来做的 Neural Turing Machine 和 DNC 是给网络外挂可读写内存的尝试,当年被寄予厚望,最终被 Transformer 用完全不同的方式绕过去了。今天看它是一条死掉的分支,但那个问题意识——记忆、状态、时间演化应该是系统的核心变量——很有物理味。
三、把网络当自然对象研究的学派
Surya Ganguli(MIT 同时学物理、数学和计算机,Berkeley 弦理论博士,现在斯坦福) 深度学习理论里最"物理"的那一档。他研究的问题比如:随机初始化的深网络里,信号往前传的时候会怎样衰减或爆炸,有没有一个临界的初始化让信号刚好能传到底。这套东西真的叫 edge of chaos。他同时研究真实大脑和人工网络,把两边当成同一类系统。 Yasaman Bahri(量子凝聚态物理博士,Google DeepMind) 她是"无限宽的神经网络等价于高斯过程"这一系列工作的核心作者。这个动作极其物理:取一个极限,让系统在那个极限下变得可以精确求解,就像统计物理里假设无穷大体积、无穷多粒子。真实网络当然是有限宽的,但无限宽的解析解给了你一个可靠的参照系。
Lenka Zdeborová(EPFL,统计物理出身) 实验室名叫 Statistical Physics of Computation。常用的三件工具都值得知道。平均场:不去算每个粒子跟每个粒子的相互作用,而是假设每个粒子只感受到一个"平均环境",粗暴但极好用。Message passing:把系统画成一张图,节点之间反复传递"我认为你该是什么状态"的消息,直到收敛。Replica method:你想算的系统太难算,那就假装有 n 个一模一样的系统摆在一起算,算完让 n 变成 0——n 是个正整数,让它归零在数学上根本说不通,但结果是对的。这套方法 1979 年被 Giorgio Parisi 用出来,2006 年才被数学家严格证明,而 Parisi 本人 2021 年拿了诺贝尔物理学奖。中间隔了四十多年,没人因为它不严格就不用它。物理学"先用后证"的作风,这是最好的标本。
刘子鸣(北大物理本科,MIT 物理博士,导师 Max Tegmark,现任教于清华) 近年系统倡导"Physics of AI"这一研究纲领的代表人物之一。用最小模型研究 grokking、涌现和可解释性。他做的 KAN(2024)把可学习的函数从节点移到了连边上,实际效果争议不小,但意图很物理:让网络输出人能读懂的函数形式,这样你可以直接看出它发现了什么规律,而不是面对一堆权重。
Max Welling(乌得勒支大学理论高能物理博士,导师是诺奖得主 Gerard 't Hooft) 等变网络,把"先找对称性、再把它写进系统"这条物理方法论做成了架构约束。也是 VAE 的共同作者。
Jascha Sohl-Dickstein(伯克利生物物理博士,Redwood 理论神经科学中心) 读博之前在做火星探测车的相关工作。2015 年从非平衡热力学借来扩散模型的骨架,成了今天主流图像生成的底座。他现在在 Anthropic。
四、造仪器的人,以及从 AI 走回科学的人
李飞飞 普林斯顿物理本科。ImageNet 的意义不在提出定律,在于造了一台实验装置,让一个变化第一次变得可见且不可争辩。 Christopher Bishop 牛津读物理,爱丁堡量子场论博士,进 Culham Laboratory 研究磁约束核聚变。转向的触发点值得注意:等离子体的行为复杂到没有解析解可用,他是被物理问题逼到机器学习这边的,不是因为对 AI 有兴趣。后来写出《Pattern Recognition and Machine Learning》,二十年了还是全世界机器学习研究生的标准教材之一。今天在微软带 AI for Science 团队,等于从物理绕一大圈,用 AI 回来做物理。
John Jumper 理论化学与物理出身,早年在 D.E. Shaw Research 做分子动力学模拟,也就是用物理定律一步步算原子怎么运动。他真正带来的东西是:知道纯物理模拟在哪里撞墙(太慢、精度不够),也知道纯学习在哪里撞墙(数据太少),于是把物理约束、几何结构、进化信息和大规模学习揉在一起,做出 AlphaFold。他和 Demis Hassabis 共同分享了 2024 年诺贝尔化学奖的一半,另一半属于 David Baker。


