从2%到看懂万亿参数，AI黑箱终于要被打开了

2020年，OpenAI的研究员们对着神经网络里的一个个神经元发呆。他们手工拆解、重建网络行为，好不容易搞清楚了一个叫“曲线检测器”的神经元在做什么——这是当时机械可解释性（也就是把AI黑箱拆开，看清内部每一步计算逻辑的研究方向）的标志性成果。

但那之后，Nick Cammarata牵头做了OpenAI第一个大规模自动化可解释性项目，结果并不乐观：在当时的技术条件下，只有约2%的神经元能被识别出明确功能，剩下的像一团乱缠的线团，完全摸不清头绪。

时隔数年，Nick在社交平台上抛出了一句“我有个好消息要告诉大家”。他和团队的最新研究显示，如今已经能理解万亿参数级模型里的绝大多数神经元，以及它们背后的底层计算回路。这条推文发出后，点赞数很快冲到7468，浏览量超过60万，收藏数接近6000。

@omarsar0 认为：这正是可解释性领域最需要的研究方向，值得所有人认真读一读。
@ChrisGPT 则直接把它和AI安全挂钩：如果Nick说的是真的，这可能是今早最重磅的突破，对AI对齐（让AI行为符合人类预期）来说意义重大。
@johnsonmxe 补充了另一个视角：这项成果不仅对AI可解释性和对齐至关重要，说不定还能帮我们理解生物神经元的工作原理。

机械可解释性已经被《MIT Technology Review》评为2026年十大突破性技术之一。它的核心逻辑很直白：如果连AI内部在算什么都搞不懂，就没法保证它不会做出违背人类意愿的事。现在，这个曾经只能靠手工拆解、进展缓慢的领域，终于摸到了规模化理解的门槛。

当AI从“只能用”变成“能看懂”，我们和它的相处方式，可能会悄悄改变。