Gary Marcus:纯神经网络路线已被神经符号混合取代
关键事实是:如果不能理解模型(系统的一部分)与整个系统之间的区别,就无法理解当代 AI。如果一个系统同时包含神经网络和符号,那么它就是神经符号系统。否则就会像认为引擎就是汽车,而不是汽车的一个部件。你不能只用引擎造出一辆汽车,同样(在大多数情况下)你也不能只用神经网络构建出稳健、可靠的 AI 系统。相反,在许多领域,通过整合神经网络和符号,你可以获得更好的结果。数学领域就是一个很好的例子,比如 Lean 会检查,有时甚至会拒绝 LLM 的输出;Claude Code 也是如此。这正是我在 2001 年出版的《代数思维》一书中提出的核心观点,也是我整个职业生涯中一直强调的重点。
长期以来,像 @GeoffreyHinton 这样的人持相反观点,他们认为我们只需要神经网络,符号是过时的、浪费时间的东西。Hinton 将符号比作“以太”,认为它们是完全的科学错误。他错了。像 Claude Code 这样的系统严重依赖于将神经网络与规则、代码解释器、函数、条件语句和循环等结合起来——这些都是源自经典 AI 的符号结构。数学系统使用自动定理证明器,这直接源于 Newell 和 Simon 在 20 世纪 50 年代的符号学研究。符号不是错误;它们和神经网络一样重要。规模化确实有帮助,但仅凭规模化是不够的;符号工具、代码解释器和测试框架现在已成为大多数实际系统的核心组成部分。神经符号 AI 已经取得了压倒性的胜利;像 Hinton 这样的教条主义者曾经主张的纯神经网络,几乎已经被神经符号混合系统完全取代。正如 @fchollet 也指出的那样,假装不是这样,简直是愚蠢。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖