AI让数学与数学家分离：只有答案，没有洞见
可分离
早在图灵测试之前，有巡演式的爱迪生测试：从1915年到1925年，那个无赖托马斯·爱迪生为他的留声机办了一场巡回秀，巡演于美国各地。爱迪生让现场表演者和一台爱迪生留声机在紧闭的窗帘后轮流发声，窗帘会不时被拉开，揭示出观众以为是现场表演的音乐实际上是一台留声机播放的。
现在，如果你听过爱迪生留声机，这可能看起来又是一个揭示老派人轻信的故事。你绝不会把那种沙沙作响、嘶嘶带噪的录音误认为是现场表演。
而且你确实不会，但不是因为留声机早于人类大脑反轻信区域的进化。老派人分不清留声机和现场表演的原因，是在留声机出现之前，每场现场表演都有一个表演者。
两者是不可分离的，所以当你听到音乐表演的声音时，你的大脑会坚持认为旁边必定有一个表演者。这是骗局、魔术戏法和文学中一条被充分理解的原理。它是道格拉斯·亚当斯毛巾赌局的基础：
出于某种原因，如果一个陌生人发现搭便车者带着他的毛巾，他会自动假设这个人还拥有牙刷、洗脸巾、肥皂、饼干罐、保暖瓶、指南针、地图、线团、驱蚊喷雾、雨具、太空服等等，等等。此外，这个陌生人还会愉快地把这些或其他十几件搭便车者可能不小心“弄丢”的物品中的任何一样借给他。
迄今为止遇到的所有持有毛巾的人都带着那些其他东西，所以仅仅是一条毛巾的出现就唤起了强烈的直觉：所有那些其他东西一定在附近。
像每一个魔术戏法和每一场骗局一样，这种认知错觉很快就回归均值。接触几次留声机之后，现场表演和录音之间的明显差异就变得无法忽视，你不再犯那个错误了。
如果一样东西总意味着另一样东西的存在——如果一条毛巾总意味着一个装满补给的背包，或者一场表演总意味着一个表演者——你就没有理由去训练那些在缺少表演者的情况下检测表演所需的神经模式。这不意味着发展这种区分能力很困难，只是检测一种现象的能力总是晚于你遇到那种现象。
你现在肯定猜到这是关于AI的类比。这种在遇到差异之后（而不是之前）学会辨别差异的能力所蕴含的意义是：聊天机器人可能在推出时通过图灵测试，但在我们所有人都获得了相应的经验、从而调整我们的感知去发现差异之后，它可能会在测试中失败——这些差异随后会变得像留声机翻录的钢琴音乐会上的针尖嘶声一样不可忽视。
这是我们许多人已经拥有的经验。在聊天机器人生成的散文出现之前，我们从未经历过没有作者的写作。在图像生成输出出现之前，我们从未经历过没有画家的绘画。起初，这些模型的输出令人惊叹，常常与人类生成的文字和图像无法区分。即使知道这些作品是由算法挤出来的，也很难摆脱它们是人类创造力的产物的信念。这些作品是“怪异的”，用马克·费舍所用的意义：“没有意图者的意图表象”。
就像那个陌生人推断存在“牙刷、洗脸巾、肥皂、饼干罐、保暖瓶、指南针、地图、线团、驱蚊喷雾、雨具、太空服等等”一样，我们自动为这些作品既归因了一个创造者，又归因了一种创造冲动。我们假设它们的文字和笔触代表着源自人类创作者的美学和技法选择，这些创作者通过它们意味着什么（或者至少对它们出现在页面上的偶然结果感到满意，因而让它们保持原样）。这些创作者是我们想象的产物。AI内部空无一人。我们归因于这些作品的意图性，才是真正的“AI幻觉”。
与这些幻觉的出现同样重要的是它们的消失。对我们许多人来说，曾经通过图灵测试的聊天机器人现在却不及格了。聊天机器人在模仿人类方面并没有变差，只是我们更善于发现人和机器人之间的差异了，就像我们更善于听出留声机和钢琴家的差异一样。
没有作者的写作和没有画家的绘画是新现象，学会分离以前不可分离的事物，是我们社会消化这些新奇事物的第一步。音乐表演的录音在我们的世界里有一席之地，表演者也有一席之地。
在AI公司可获得的巨额资本推动下，这一分离过程目前正在许多学科中进行。这些公司在一系列极其闪亮的演示中烧掉那些资本，目的是确保它们喂给“数据中心”货币熔炉的百元美钞捆供应永不断流。
最近，AI公司凭借一系列数学成就登上了头条，这些成就让数学家哗然，非数学家困惑。显然，虽然数学家有资格评估这些成就，我们其他人没有。除了简单算术，我们大多数人不会定期做大量数学，即使是我们中那些必须运用一点几何或统计学的人，通常也不会在理论层面参与数学。
更糟的是，数学——像物理学一样——是偏执狂磁铁。这些高度抽象、封闭的系统依靠内省来推进领域，而其中一些进展是由未经训练的门外汉贡献的，所以可能很难知道你对物理学或数学的惊人想法代表的是局外人的突破还是业余的死胡同。
我认识的每位数学家和物理学家都会收到源源不断的、激动人心的、不请自来的“证明”，自称解决了该领域某个长期存在的问题，而我身边这些专家中没有任何人曾在这些材料里发现突破。很少有专家愿意回复这些主动投稿的手稿。那不是他们的工作。正如特蕾莎·尼尔森·海登所说：“你对自己在别人梦中做的事不负责任。”
不幸的是，这种情况非常适合AI。如果你内省到某个数学“突破”，却没有数学家愿意和你讨论，你可以利用任意数量的聊天机器人，它们会向你保证你开辟了激动人心的新理论前沿，这些聊天机器人甚至会充当“研究合作者”，为你的结论贡献更多劣质物理学或劣质数学。
同样，据我所知，没有人真的以此方式取得突破，而把聊天机器人交给兴奋的门外汉对该领域的主要影响，是使那些不请自来的手稿变得更长，带着一层专业性的伪装，意味着专家可能不得不多看一两眼才能意识到它们纯属胡说八道。
但一些在职数学家发现聊天机器人是极其有用的“合作者”。其中最著名的是特伦斯·陶，一位麦克阿瑟奖得主数学家，他公开了自己的聊天记录和由此产生的数学工作，令许多数学家和普通人备感兴奋。
理解陶的方式之一是把他看作“半人马”，即自动化理论中用来指称被机器辅助的工人的术语。尽管陶将ChatGPT描述为他的合作者，但从聊天记录中可以清楚看出，主导研究议程的是陶。他设定问题和答案的方向。ChatGPT不给他下命令——恰恰相反。
但在陶和ChatGPT共同解决的每个问题旁边，有若干数学问题正由没有那种人类合作的聊天机器人解决。特别是，OpenAI发布了一波又一波对长期数学问题的“解决方案”，其中一些问题带有高额现金悬赏，另一些问题由领域传奇人物（如埃尔德什）提出。
这是没有数学家的数学，而且——如同AI公司劈开的其他所有分离一样——它被证明是难以消化的。九月份，芬纳·斯坦利·坦斯韦尔为《数学情报》发表了一篇评论文章，题为“数学的腐化”，正是试图做这件事。
坦斯韦尔区分了作为一门由数学家实践的学科的数学，与这些数学家产出的证明和定理。他提出：当一位数学家找到某个长期数学谜题的答案时，他是通过创造“脚手架”来做到的，这种脚手架将新洞见与现有的数学理解共同体连接起来。一个“解决方案”之所以令人激动，不是因为它解决了一个问题——而是因为解决那个问题的方法引发了对数学许多其他领域的级联式重新思考，从而引发该学科大片区域的转移。
吉奥尔达诺·斯卡尔乔蒂更有力地提出了这一点，他是伦敦帝国理工学院的复杂系统研究员兼科学传播者，以YouTube账号“Prof Gio”发视频。斯卡尔乔蒂迄今最成功的视频是上个月出版的《你真的不明白刚刚数学发生了什么》。
《你真的不明白……》用思想实验提出了与坦斯韦尔类似的观点：某天醒来，我们发现火星表面有一面美国国旗。在不知道国旗如何到达火星的情况下，它的存在这一事实并不能帮助我们离一次真正的火星任务更近一步。
数学模型的输出是一系列既成事实，通常通过蛮力实现，有时通过不透明的方法实现，缺乏将这些成果桥接进更广阔数学领域的“脚手架”。斯卡尔乔蒂引用了欧拉对长期存在的“柯尼斯堡七桥问题”的工作，该问题问：是否可能进行一次柯尼斯堡步行游览，使得你仅跨越这座城市的七座桥各一次。
那个问题的要点（以及欧拉对它的解法）不是为柯尼斯堡步行游览产出一套Mapquest方向指示。在解决七桥问题时，欧拉发明了图论，这是一个重要的数学领域，如今常规地用于许多重要应用，包括计算机网络。你可以感谢图论帮助路由了将这些文字带给你的数据包。
到目前为止，我们已经找到了让模型去排除一次“每座桥只走一次”的步行游览的可能性，或者给我们路线图。这种计算机生成的“数学”没有做的事，是推进该领域。
坦斯韦尔指出，一个聊天机器人“解决”这些问题的世界，是数学家的角色被贬为反向半人马的世界——他们是机器的助手，其工作是清理聊天机器人研究议程留下的烂摊子。但知道没有七桥步行游览的路线图，并不会让你发明图论变得更容易，一位数学家可能会花数年时间研究计算机对该问题的“答案”，最终得出结论：计算机的解决方案没有为该领域增添任何理论洞见。
换句话说，在数学家和数学不可分离的世界里，每个对长期问题的解决方案都预示着伴随而来的理论洞见。一旦我们把数学与数学家分离，我们就开始得到没有洞见的解决方案。这些比数学家提出的那种解决方案无趣得多。
这是AI公司真的不希望我们深思的区分。我们被期望惊叹于这些极其昂贵的解决方案，然后得出结论：AI公司今年花掉1万亿美元可以被原谅，即使他们只赚回了500亿美元。
但（如斯卡尔乔蒂指出的），我们未能把握这一区分，会造成现实后果：如果我们说服早期职业数学家和有前途的数学学生，世界不再需要数学家，因为“AI能做他们的工作”，那么我们就会掐断未来数学家的供应——我们将会需要他们以特伦斯·陶式的、与聊天机器人半人马式的关系工作（好），或者甚至充当反向半人马，给聊天机器人的作业打分，看看其中是否有任何理论洞见可寻（坏）。
这是AI狂热未得到充分认识的后果之一。AI老板们特别热衷于说服我们，AI能做那些长期专家供应不足的领域中熟练专业人员的工作，比如放射学。一个通过建议复查某些结果来帮助（半人马式）放射科医生的聊天机器人，或许确实能拯救生命。但一个为单个（反向半人马式）放射科医生生成数千份放射报告、以排除仔细审查的速度让其批准的聊天机器人，将会杀人。
半人马式放射学需要更多放射科医生，而不是更少。一位半人马式放射科医生处理的X光片比无辅助的放射科医生更少（因为有时聊天机器人会让他们复查诊断）。LLM辅助的放射学提高的是质量，不是数量。
那不是AI公司卖的东西。AI公司无法通过提高放射学成本来盈利（即使这会提高放射学分析的质量）。所以AI公司公告的消防水管总是关于让放射科医生落入穷困——而不是关于需要更多放射科医生，他们将获得一种新的放射学工具，帮助他们更好地工作，尽管稍微慢一点。
AI公司的声明不只是营销炒作，它们是自我实现的预言的尝试。如果你说服所有准放射科医生，这个职业即将被聊天机器人蒸发，那些人就不会去学放射学，然后我们将需要重新分配日渐减少的人类放射科医生去给聊天机器人的作业打分，并希望他们不要因为错过聊天机器人的错误而杀死太多人。
那就是斯卡尔乔蒂和坦斯韦尔都警告我们的灾难性结果：如果我们说服人们，我们正走向一个没有数学家的数学世界，那正是我们将得到的，因为没有人会努力成为数学家。但因为没有数学家的数学是一套跨越柯尼斯堡桥梁的路线图（而不是图论），所以没有数学家的数学，也是没有数学的数学。