数学家不反AI，五千人联名警告：AI解题可能毁掉数学的土壤
数学家总体上并不反AI。在文化上，他们比艺术家或作家更愿意将AI用作工具[1]。然而，随着越来越多真正有分量的难题被AI攻克，这种情况可能正在改变。近五千名数学家（包括二十五位Fields奖得主）签署了一份名为《A Severe Misalignment of AI in Mathematics》的宣言。其核心论点大致如下：
近几个月来，AI在解决重大数学问题上的成功，甚至在数学界之外也登上了头条。但解决问题只是实现概念性理解与洞见这一首要目标的工具和代理。在AI的世界里忘记这一点，可能会让工具反噬首要目标。确实，以越来越快的速度批量生产“真/假”命题，可能是在摧毁肥沃的土壤，而不是为新的想法注入生机。
网上很多人将这份宣言解读为任何被自动化领域的意料之中的抱怨：翻译界抱怨过，艺术家和程序员也一直在抱怨，现在轮到数学家了。我认为这种解读过于草率。理解数学家们具体在担忧什么问题，能帮助我们更好地理解AI对我们各自领域的影响，以及我们该如何应对。
解题与生成想法
数学有两种类型。大多数人熟悉的是第一种，我们可以称之为“解题”：你拿到一个问题，然后设法找到解决方案。学生时代，这些问题通常很简单，比如化简某个代数表达式。作为研究者，这些问题可能几乎不可能，比如证明Fermat大定理。解题容易理解但难以做到，这让非数学家印象深刻，也因此享有很高的声望。换句话说，解题是清晰可辨的。
第二种数学是“生成想法”：提出关于数学的新思考方式，从而产生新的术语或概念。举例来说，只要浏览一下arXiv数学论文的目录——“Hardy空间”、“Schatten指数”、“Banach格”等等，都是某人觉得有趣的概念。这类工作在非数学家看来大多没什么了不起，因为没人真正知道你提出的概念是否特别困难或深刻。比如，我刚刚生成了一个“Goedecke集”的概念，即所有数位之和为素数的自然数组成的集合。谁在乎呢？我们想要的是数学中的“自然类”（natural kinds）——那些“在关节处切分自然”的概念——而除非付出数年或数十年的艰苦努力，几乎不可能分辨出哪些概念属于此类。
这两种数学是如何关联的？我们可以说[2]，生成想法才是数学真正的智力工作。解题在工具层面很重要：它能识别哪些想法可以用来回答长期悬而未决的问题，从而判断哪些想法有价值。随着时间推移，这些有价值的想法被理解得更透彻、用起来更顺手，直到能被用来推动整个科学的发展。最终，这些想法变得如此透彻，以至于可以教给孩子们：“零”、“负数”、“虚数”和“微积分”都曾是晦涩高深的数学概念，如今却是任何早慧的十二岁孩子都应该掌握的概念。
解题还有另一个更实际的目的：让数学技艺和进展对外行人清晰可辨。我欣赏不了Terence Tao的数学工作，但我知道Fields奖是什么。我对Galois表示没有很好的直觉，但我知道Fermat大定理的证明。我们可以说，这类难题是一种间接奖励优秀数学家的方式，奖励的是他们更重要的想法生成工作（或者奖励他们确凿地证明了[3]证明所依赖想法的实用性）。
AI证明会削弱想法生成吗？
AI证明同时削弱了这两个目的。我现在可以精确地列出我认为数学家们如此不满的原因：
• 难题为数学家提供了高辨识度、高回报的目标
• 要解决这些难题，通常必须生成新的想法；难题的解法就是这些想法有用的证据
• 但现在AI可以“硬来”解决其中许多目标，而无需生成直觉上的新想法
• 这同时削弱了解题支持想法生成的两条路径：AI公司拿走了声望，却没有实质性地推进数学进展
• 这对整个数学界是有害的，因为解题只是通往数学真正目标的附属手段
这有点像Goodhart定律。难题曾经是一种有用且无法操纵的数学进展衡量标准。但现在AI公司可以操纵这个标准（通过以人类无法企及[4]的方式解决它们），这些难题的全部意义就消失了。
数学家们是对的吗？我认为（3）是否成立总体上还不清楚：即前沿AI模型是否没有生成或无法生成新的数学想法。AI解决我们最困难数学问题的时代才刚刚开始。谁知道它们将来能做到什么？我基本上不相信AI因为LLM运作方式的某种内在特性而无法做到这一点。过去三年来，我们不断看到人们声称LLM本质上不能做X，结果几个月后LLM就在X上表现出色。
即使（3）成立，人类数学家仍然有工作要做：构建概念性机制，让AI生成的证明对人类可及——也就是在现有的“AI证明”之外，再生成一个“人类证明”。事实上，我预计AI证明的存在会有助于此。如果你知道命题X为真，弄清楚它为什么为真会更容易，因为你不再时刻担心自己是在浪费时间。关于这一点，我推荐Gwern的博客《On Really Trying》，他在文中引用了一系列实例，说明仅仅被告知某个解法存在，就足以成为帮助人们找到它的线索。
数学、国际象棋与速通
当然，这里存在声望和动力问题。“我是第一个解决Navier-Stokes方程的人”比“我想出了一个更好的方式来解释AI对Navier-Stokes方程的解法”要有吸引力得多，也更便于颁发奖项。数学家们还会费心去研究那些已经被解决的问题吗？我认为会。
要理解为什么，我们可以看看其他AI进场并击败最优秀人类的领域，比如国际象棋或电子游戏速通。我可以在手机上运行一个能100比0击败Magnus Carlsen的国际象棋程序。计算机程序——被称为“工具辅助速通”（tool-assisted speedrun）或"TAS“——可以比最快的玩家更快地通关任何电子游戏。但在这两个领域，人类仍然在纯人类联赛中竞争，最有能力的人类仍然享有声望。数学最终也可能进入这种状态：”人类数学“和”AI数学“在很大程度上各自独立并存，第一个”人类“解法仍然可以获得赞誉。
事实上，在这两个领域中，超人般强大的电脑选手的存在提升了人类的水准。尽管计算机的许多国际象棋走法对人类来说基本不可理解，顶尖棋手还是从电脑的”风格“中学到了东西。在速通中，许多曾经被认为”只有TAS才能做到“的操作如今已由人类完成。AI数学可能同样会提升人类数学。
软件工程
我不是数学家。我本科确实主修数学，对实分析和复分析中的证明有着美好的回忆，但数学与我的领域相去甚远。然而，我非常关注强大的AI对数学的影响，因为我自己的领域——软件工程——正在以同样的方式被AI智能体殖民。
软件工程领域与数学的结构不同。我们写代码是为了赚钱，而不是为了赢得声望或推进人类知识的边界。但AI同样在削弱软件工程中传统的声望通道。过去，你可以在GitHub上放一个重磅项目——比如一个模拟器，或者一个玩具操作系统——人们就会知道你是位熟练的工程师。但现在这样的项目毫无价值，因为每个人都会默认它们是”氛围编程“（vibe-coding）出来的。我们过去常讲述这样的工程师故事：他们消失一个周末就重写整个系统，或者一天产出数千行代码。现在任何人都可以用一个OpenAI订阅做到这些。
和数学一样，软件工程师将不得不重建我们关于何种工作值得珍视的文化共识。我们要么得像国际象棋那样把”AI工作“与”人类工作"隔离开来，要么得找到一些AI不易伪造的、清晰可辨的人类技能来加以认可。与此同时，很多在旧世界里成功的人将会非常不满。
---
[1] 可能是因为当前AI模型在数学上的表现远好于艺术或写作。 ↩
[2] 再说一次，我不是数学家：这里是我对Terence Tao等数学家文章的理解。 ↩
[3] 这种想法的锐化或验证是想法生成不可分割的一部分，同样重要。把数学与哲学比较会很有意思：哲学承担同样的想法生成任务，却没有相应的难题来验证想法。这也是哲学声望不如数学的原因之一。 ↩
[4] 一份一千页的Lean证明理论上可被人类理解，但如果没有任何数学家能在脑中把握整个想法，那就毫无意义。 ↩