AI黑盒终于要被拆开了？前OpenAI核心成员带来新突破

你有没有想过，ChatGPT给出的答案，到底是怎么“想”出来的？

这个问题，就是AI圈现在最火的“机械可解释性”——简单说，就是把AI的神经网络当成一个黑盒，拆开看里面的神经元到底在干什么。

@nickcammarata 是这个领域的老兵。他曾在OpenAI联合创立了可解释性团队，和后来创办Anthropic的Chris Olah共事过。他最早做研究的时候特别悲观：神经网络就像一团乱麻，只有大约2%的神经元能被看懂。

但现在，他带来了好消息。

@nickcammarata 认为：如果连我们造的东西到底在想什么都不知道，就根本没法解决AI对齐问题——也就是让AI的目标和人类一致。他现在在Goodfire工作，这家公司刚拿了5000万美元融资，团队里还有来自DeepMind可解释性团队的联合创始人Tom McGrath。

@ChrisGPT 直接说：这可能是AI对齐领域的重大突破，是今天早上最好的消息。如果Nick说的是对的，现代可解释性工具能让绝大多数神经元和底层电路变得可读，那意义就完全不一样了。

@jachiam0 也很兴奋，他期待这些研究能变成有量化成功率的工具，帮我们识别潜在的危害，或者引导神经网络远离危险行为。

@eric_ho 已经在招人了，研究、工程、GTM岗位都开放，他说神经网络里面还有太多东西等着被发现。

其实这个领域最近一直在升温。2025年Anthropic就大幅拓展了可解释性研究，不再只识别孤立的特征，而是追踪特征序列，画出模型从收到提示到给出回答的完整路径。2026年1月，《麻省理工科技评论》直接把机械可解释性列为年度十大突破性技术之一。

说白了，以前我们用AI，就像雇了一个特别聪明但你完全不知道他在想什么的员工——他干活很快，但你永远不知道他会不会哪天突然给你搞个大事情。现在我们正在学怎么“读心”。

这条推文发出来不到一天，就有超过12万人点赞，近1000人收藏。很多人都在等Nick说的“好消息”到底是什么。

如果真的能把绝大多数神经元都看懂，那以后AI说的每一句话，我们都能追溯到它是怎么“想”出来的。但问题是——当我们真的看懂了AI的思维，我们准备好了吗？