陶哲轩：AI正在制造无人能懂的"有毒废料"

AI生产的“有毒废料”

AI正在批量生产一种“有毒废料”：结果也许正确，过程却没人能懂。这是数学家陶哲轩的判断。他的新书《Six Maths Essentials: How to Model the World》周二出版。在书里，他试图提炼数学这门学科。

“数学一半是科学，一半是人文，”他说，“我们在意结果，也在意过程。”

他至今还在用欧几里得和毕达哥拉斯2500年前发现的定理。过程不可替代。他打了个比方：你去健身房让机器人替你举重，那有什么意义。

数学难题成了训练材料

AI公司把数学难题当作训练材料，原因很实际。陶哲轩说，OpenAI没有为攻克难题专门研发模型。它把人类用整个职业生涯解决的问题，当原始数据用。AI公司竞相追求最强大的模型，需要大量测试来判断能力是否提升。数学问题几乎成了唯一剩下的训练材料。

“突然之间，我们这行所有的重大奖项和目标，都成了它们的基准测试。”

“红色代码”

AI公司之间的竞赛，也烧到了数学界。陶哲轩说，OpenAI和主要竞争对手Anthropic互相紧盯，一方怀疑另一方接近成果时会“发疯”。他在OpenAI的联络人告诉他，击败Anthropic一度是“红色代码”级别的最高优先级。公司投入数千万美元，部署了1万个AI代理的集群，专门攻击Navier-Stokes方程。

这个方程看似完美描述流体运动，但在某些条件下可能失效。陶哲轩还说，OpenAI曾暂停高级AI服务的注册，把计算资源全部转向这个问题。OpenAI拒绝“红色代码”的类比，否认暂停过注册，也否认投入了那么多钱。

没有好选项

2024年9月8日，OpenAI发了一个证明，似乎表明Navier-Stokes方程确实会失效。评审认为其中可能有错误，最终是否成立目前不清楚。陶哲轩说，数学界的强烈反弹给OpenAI留下一个难题。它长期拿这些问题测试模型，攒了一堆没打磨好的解法，却不知道怎么处理。

“生成有毒废料之后，你没有好选项，”他说，“可以永远放着，可以一次性倒出来，可以零零碎碎地释放，也可以花钱请人处理。”

OpenAI否认扣留结果，也否认急于发布。Anthropic则换了个做法：付费请数学家把它“问题宝库”里的结果写出来。具体安排没有披露。

OpenAI发言人在回应中说，数学工作是长期加速科学发现努力的一部分，这个领域已耕耘多年。更好的推理能让AI成为更强的研究伙伴，帮助科学家解决生物学、医学和工程学中更困难的问题。OpenAI还承诺投入500万美元，帮助数学界审查、理解并推进AI发现。

数学这门手艺的变化

更深层的变化发生在数学这门手艺本身。多年里，数学是“武器平等”的领域。从业者只需要粉笔和黑板，不像科学同行需要欧洲核子研究中心或哈勃太空望远镜。如今做前沿数学研究，意味着要访问一个超级AI模型。AI公司还获得了一个新权力：决定谁来写论文。“它们能挑谁来写论文。”

风波之后，陶哲轩成了网络梗——"Put the fries in the bag, Terence“，把薯条装进袋子里，特伦斯。梗的意思是说：数学家马上要去麦当劳打工了。他同意数学文化需要改变：更协作，少关注谁解出了问题，多关注如何解释清楚。

语言形状带来的新课题

陶哲轩也从AI身上看到了新的数学问题。数学缺少描述形状复杂性的语言。一个网球和一个钢丝绒球，哪个更复杂，人人都看得出，但数学无法精确表达。

大语言模型把这个难题放大了。单词被表示为空间坐标，整个英语语料库变成几千维空间中的巨大点云——一个”复杂到没法看"的形状。AI发现这个形状比预想的简单，并利用它预测下一个词。一个接一个，最后说出流利英语。英语和法语的形状相似，和芬兰语差别很大。陶哲轩说，如果数学家发展出形状复杂性理论，也许就能理解为什么AI学某些语言更快。