SamuelFitouss10 讨论AI乐观主义的傲慢

我不反对人工智能。我对这项技术非常着迷，我喜欢理解大语言模型是如何训练的，智能是如何从 token 预测中涌现的，神经网络是如何内化抽象和概念的。

我现在几乎只读这个主题的书（我甚至重新翻看数学教材来理解梯度下降和反向传播）；我对这项技术的理解，很可能比这个社交网络上许多它的鼓吹者都要好得多。

我对未来科学和医学的进步感到兴奋，也对终结贫困、把我们从异化劳动中解放出来的前景感到兴奋。我反对那些关于人工智能所谓恶劣生态影响的虚假信息——实际上，人工智能的生态影响很可能是极其正面的，我也反对所有像 Luc Julia 那样的人散布的错误信息，他们至今还在说大模型只是随机鹦鹉。

我喜欢用 Claude Code 构建自动化工具和软件。我甚至还投资人工智能（这是我的工作），这让我能遇到很多有意思的人，一起讨论对齐、可解释性和智能体（比如就是在这个过程中我认识了 @AymericRoucher，他后来成了我的好朋友，我非常喜欢他写的书，如果你还没读过一定要去读）。

如果有人能叫停人工智能的发展，来问我该不该这么做，我的回答是不：好处很可能远远超过负面影响，而且只要还有人死于疾病，我们在道德上就有责任继续前进。

但我仍然观察到，现在很多技术乐观主义者拒绝思考，他们只会给预设结论找合理化理由，没法用别的方式推理（“人工智能只会带来正面影响，在所有领域都是如此”）。

他们永远都是同样的条件反射式回答，用同样站不住脚的论据，拿过去做不靠谱的类比（却看不到：自动化一部分任务，和创造一个在所有方面都比我们人类更强大、可以全天候不限量使用的“大脑”，这两者有本质区别）。

这种态度本质上非常意识形态化，而且是抱团式的（加入支持人工智能的阵营，遵守一整套立场，而不是就每个议题进行细致思考），暴露了他们缺乏谦卑。

我们正在以惊人的速度创造人类历史上最具变革性的技术。我们正在让人类智能变得过时。世界上一些最顶尖的数学家现在已经开始疑惑自己还有什么用了。这在半年前还是无法想象的事。

今天轮到数学家，半年后又会是谁？这太令人眩晕了。它给存在的各个领域带来的影响都将是巨大的。怎么能认真对待那些拒绝……（原文此处截断）