哈佛圣塔菲研究所研究：LLM重塑人类认知

哈佛大学x圣塔菲研究所：人类和 LLM 之间的关系，在逐渐形成一个新的认知系统。

过去我们把记忆外包给书，把计算外包给计算器，把路线外包给 GPS。

现在，LLM 开始接管更高层的东西：总结、解释、推理、写作、判断、决策。

这个变化和以前的工具外包不完全一样，它正在进入认知链条的中间层。

人的位置明显被压缩了。

危险，来自于人类认知参与度持续下降。

尽管对于我来说，但我不会接受“cognitive virus”这个词的强版本。因为，病毒这个比喻很容易偷偷带入一个价值判断： 传播 = 感染 = 损害宿主。

但 LLM 完全可能有另一种结果。

一个学生以前只能读懂本科教材，借助 AI 可以追问定义、生成反例、比较不同理论、检查推导，他最后可能学得更深。

完全学的不好的情况，在于completely认知外包，这和作业帮搜题的本质一样。

这篇论文的结论是，同一个社会环境下，可能同时存在两个稳定结局：

状态 A： 大部分人仍然保持自主认知

状态 B： 大部分人已经形成高度 AI 依赖

你最后在哪一个状态，取决于历史路径，这就是 hysteresis，滞后效应。

假如 LLM 普及压力逐渐增加，社会可能一直看起来没什么事。

直到λ > λ_TC。突然发生跃迁。大量人进入 AI-coupled state。

但之后你再把 λ 降回来，λ < λ_TC，社会才可能重新回到原来的状态。

这就是论文所谓technological lock-in。因为它意味着一个技术对社会的影响可能并不会完全是使用量增加 10%，认知能力下降 10%，而更像一种跳变。

这是典型的复杂系统思维。

它提出的一个隐含指标，那就是把 AI 拿走以后，人类还会多少功力。

这个指标以后非常重要。

假设两个人都用了 GPT 三年。A 可以在没有 GPT 的情况下，自己读论文，自己构建论证，自己判断证据质量，自己发现 AI 错误，自己解决陌生问题。

B一旦没有 GPT就开始不知道怎么开始。

表面上AB都用GPT，AI usage 完全一样，但cognitively 完全不是一回事。

AI 帮你完成了一件事，还是帮你学会了以后自己完成这类事情，这是未来 AI 教育研究最关键的区别。