Gary Marcus拆解了OpenAI Astra的八大常见误解

关于OpenAI令人惊叹的全新Astra数学成果的八大误解。

1. 在一个领域具备专业能力，完全不保证能在所有甚至大多数领域具备专业能力。我们有重要且原则性的理由认为，在数学上取得成功是特殊情况，不会像许多人期望的那样可泛化。

数学天然适配两件事：用符号工具进行验证，以及可以大规模低成本生成且能保证答案正确的合成数据。编码也是同理——但这一点通常不成立。你可以生成任意多数学命题，你却无法模拟开放世界。你能验证数学结论，却无法用同样的方式验证军事策略。

OpenAI能让Astra在数学领域做到现在的成果，是因为数学允许用外部工具做验证、生成合成数据。这不代表Astra不够惊艳，但就像我们十年前从IBM那一团糟、最终失败的尝试学到的——IBM想把赢得Jeopardy冠军的Watson改造为抗癌机器——一个领域的成功不保证所有领域都能成功。

2. 昨天发的推文和博客是营销，不是科学。这两者，连同附上的249页数学文章，都没有给出任何关于这一成果是如何实现的信息。

3. Astra擅长部分数学，但数学已经“被解决”（很多X平台用户似乎这么认为）这件事非常可疑。它看起来擅长特定类型的数学，但很可能不代表所有数学。在我通讯稿版本里，我给出了很多它实际上可能会失败的例子。

4. 符合我的总体预测——即数学能力不保证通用性，目前看来Astra的证明写作水平和它完成证明本身的水平并不相当。

5. 我严重怀疑Astra会神奇地解决当前模型目前还不能可靠完成的所有事情。它能可靠地从任意PDF中提取数字吗？我表示怀疑。它能满足Sabine Hossenfelder想让AI给她的YouTube系列写脚本的愿望吗？我表示怀疑。

6. Astra不是（正如Musk暗示的）奇点。无需多言。（但可以看我最近关于这个话题的文章；一切其实都没改变）。

7. 很多人到处说Astra发布是“数学史上可能性最大的最重要一天”——这个说法非常荒谬，这话出自Fable一次运行给出的引述（如果问两次，Fable可能给出不同答案）。这里没有新理论，没有新技术，而且不管它多么惊艳，都完全比不上微积分、代数、对数、概率、十进制、信息论、零这个概念的发展。我也不认为它会直接带来癌症治愈，或者像一些兴奋的AI“网红”预想的那样，给“材料研究、能源生产、药物研发，所有一切”带来巨大进步。

8. 这也不意味着我们刚刚进入“自动化科学发现时代”——正如多篇近期论文展示的那样。

带链接的更详细文章见（超过11万订阅者）