AI Pulse

25位菲尔兹奖得主警告:AI解尽难题后,人类无题可训

25位菲尔兹奖得主发了一份声明,叫《AI在数学中的严重错位》。声明里写,AI使用的结果与初衷错位,是对智力工作的普遍威胁。声明拿到超过4400个背书。讨论帖下有140条评论,一条高票评论引用古德哈特定律:当“解决重大遗留问题”变成不计代价打勾的目标,它就不再代表足够展示新理解的成就。

声明由数学家起草,主要写给数学界。评论区有人提醒,这套说法可能也适用于AI/ML研究者自己。其他职业早就在提同样的警告:创意写作者、文案、平面设计师、翻译、用户体验工程师,都撞上过同一个问题。不少数学家大概曾经觉得,自己够聪明,AI威胁不到这个职业。

讨论里有一条线索落在训练机制上。陶哲轩的帖子被引用了:AI把所有一目了然的重要数学问题都解掉之后,就没有新问题用来训练数学家,理解也无从推进。还会出现反向激励——真想获得理解的人不敢公开手头题目,怕别人调AI抢先解出。另一个评论用肌肉打比方:不练会萎缩,认知能力也一样。年轻人没有以缓慢的方式啃过科学、数学、写作、音乐里的难题,就不会留下认知训练的结果;十年二十年后,合格的医生、工程师和音乐家可能会短缺。

不搞科学研究的人,大多只关心答案是什么,不关心为什么。技术要前进,靠的是不断追问为什么。追问停了,人首先失去的不是解题能力,而是对世界正在发生什么的把握。

这个警示在公共层面不讨好。有人预计,公众会嘲笑数学家是怕失业的爱哭鬼。

反对意见也在讨论里成形。一位评论者挑了声明里的两个默认前提。第一,AI给出答案不意味着数学家停止研究:如果AI明确告诉我们P≠NP,这个方向不会终结,数学家只是转去研究那些已知P≠NP成立的问题。第二,过去很多时候,先有理解,后有答案;现在可以反过来,先拿到答案,再回头补理解。纳维尔-斯托克斯方程被拿来举例:先拿到答案,后续再借助AI当老师,慢慢搞懂背后的数学。真正喜欢数学的人会继续做,只有被“第一个发现”的虚荣吊着的人才会停下来。

国际象棋是另一个反例。棋类被AI“解决”之后,人类参与的热度没有消失,反而回升。答案就摆在那里,不必然磨灭人参与的热情。

另一类批评指向数学家自己。有人觉得,这是解题赛道上的竞争心态:有人担心同行用新工具抢先,拿走“本该属于自己的成果”。至于“AI剥夺了未来人的理解”——一个人手里若有证明,会立刻发表;拿这个理由解释不发表,站不住脚。还有人对“AI越过了初衷”不买账:保护初衷要是意味着停步,数学以及依赖数学的一切领域,只能停在那里。

一个评论把视线拉回数学家这个职业:开发者的角色已经在变,从写代码变成审代码,生成交给大语言模型,人负责复核。数学家的角色,可能也会走同一条路。

阅读原文
📚 相关主题 数学行业讨论

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新