AI最大的意义,可能不是模仿人,而是倍增思考
科技革命通常会被误读两次：最初被视作新鲜事物，后来又被视作必然趋势。
铁路曾被认为只是马匹的笨拙替代品，电力最初只是被看作更好的照明方式，互联网对多数人而言一开始只是更快传递消息、检索信息的工具。只有事后复盘，人们才发现这些技术不只是改变了多个行业，更重塑了整个社会运行的经济约束。
AI或许正遵循同样的规律。
目前围绕AI的很多热度显然过度了：每个新模型都被欢呼为突破，每个科技公司都提出了AI战略，每次生产力演示都暗示职业群体很快会被淘汰。这些说法大多值得怀疑。
然而，对炒作持怀疑态度，同时仍然相信底层技术被低估，是可能的。
关键问题不在于AI能不能写备忘录、生成图片或通过考试，而在于曾经作为经济和科学进步最稀缺投入的智力本身，是否正在变得更容易复制。如果答案是肯定的，其影响将远大于办公室工作自动化。
人类文明一再通过摆脱物理约束而进步，AI或许能帮助它摆脱认知约束。
继肌肉与信息之后：思考
工业革命将经济实力与人类体力分离开来。
机械化之前，一个工人的体力产出与他的身体或他控制的动物紧密相连。机器打破了这种关系，一个人可以突然支配比自身大数百倍或数千倍的力量。
20世纪对信息做了类似的事。
计算机让计算变得廉价，电信让通信变得快捷，互联网让信息的复制与分发几乎免费。一份曾经需要人工复印的文件，如今可以以近乎为零的成本复制十亿份。
但有一个约束始终顽固地属于生物学：思考。
一个医生只能看这么多病人，一个律师只能研究这么多案例，一个科学家只能读这么多论文，一个数学家只能探索这么多证明策略。哪怕最杰出的人也只有一个大脑、一个工作日和一生一世。
现代经济并不缺少信息，恰恰相反，它信息过剩，缺少的是能够很好处理信息的人。
这使得高质量认知成为异常昂贵的生产要素。
AI之所以重要，是因为它可能开始降低这种价格。
科学的新工具
生物学领域的最新工作提供了一个例证。
研究基因调控的研究人员使用机器学习系统分析了海量DNA序列，寻找人类在无辅助情况下难以识别的模式。在最近一项研究中，研究者对大约50万个DNA变异进行了研究，以更好地理解参与基因激活的起始序列。
将之称为“破解DNA”是愚蠢的。生物学远比这种说法所暗示的复杂得多。
有趣之处在别处。
50万个DNA变异对机器来说是一个可管理的数据集；对人类研究者来说，它们却是无法一一查看的巨量材料。
科学仪器历来延伸人的感官：显微镜揭示了小到看不见的世界，望远镜揭示了远到望不见的世界。
AI可能成为一种不同类型的仪器。
它延伸的不是视觉，而是搜索。
这一区别很重要。许多科学问题的难点并不在于缺少相关信息，而在于可能的解释、组合或假设空间太大，人们无法高效探索。
一个能够检查百万种可能的系统，不一定需要比最优秀的科学家更聪明才能发挥作用。它只需要不知疲倦、成本低廉，并且足以找出少数几个值得人类关注的候选方向。
仅此一点就可能改变发现的速度。
数学同样开始不安
同样的可能性已经开始让数学家感到不安。
几十年来，计算机在算术上远胜人类，却并未真正威胁到数学作为一项独特人类智力活动的地位。数学的声望不在于计算，而在于发明：找到合适的定义，构造证明，看出某个结果为何必然为真。
这条边界现在已经不那么稳固了。
AI系统近来已被用来探索困难的数学问题，包括与Paul Erdős相关的长期悬而未决的问题。还有人声称，AI辅助解决了一些著名的公开问题。
其中一些结果仍然存在争议，也有待验证，这本应如此。数学对成功的标准格外严格：只要证明有一行错误，一个看起来合理的答案就毫无价值。
这使数学成为检验AI的特别有用的试验场。
如果机器能产生数千个候选论证，而人类仍须费力逐一验证，那么AI并没有消除瓶颈，只是移动了瓶颈。
但这仍然可能是进步。
在科学中，产生合理进攻方向的能力本身就是稀缺的。研究者不必相信AI以人类的方式“理解”定理，也能从一个能提出十种他本人不会考虑的路径的系统中获益。
相关的经济问题不是机器是否会像数学家一样思考，而是配备机器的数学家能否搜索更大的智力空间。
犯错的经济学
这引出一个更重要的观点。
创新不仅取决于想法的质量，还取决于尝试这些想法的成本。
大多数实验都会失败。大多数商业想法都很平庸。大多数科学假说都是错的。大多数证明策略都走不通。
文明之所以进步，是因为一小部分尝试成功了。
因此，降低失败成本与提高成功概率同样有价值。
假设AI不会让科学家聪明两倍，但能让她测试100倍多的可能假说。
这可能就够了。
药物研究者可以考察更多分子组合；数学家可以探索更多证明结构；经济学家可以运行更多模型；作家可以查阅更多资料；政府部门可以测试更多政策情景。
收益并非来自取代专业能力，而是来自扩大专业能力所能监督的严肃尝试的数量。
技术史上充满这样的倍增器。
机床没有让工匠变得多余，而是大大提高了熟练工人的产出；电子表格没有消灭会计，而是扩大了会计所能执行计算的范围和速度；搜索引擎没有让知识过时，而是改变了获取知识的成本。
AI可能对认知做类似的事。
核心效果可能不是替代，而是倍增。
天才从来难以规模化
这将触及文明最古老的约束之一。
卓越的智力是稀缺的，发展缓慢，无法按需制造。
只有一个牛顿，一个达尔文，一个拉马努金。
教育可以增加能干人才的供给，但需要多年；机构可以把有天赋的人聚在一起，但能高效合作的人数有限；人口增长提供更多潜在科学家和发明家，但要以代际时间为尺度。
因此，人类文明一直依赖一种稀缺的生物学资源：异常能干的大脑。
AI目前还提供不了一百万个爱因斯坦，对“很快就能提供”的说法也应保持谨慎。
一个不那么戏剧性的可能性可能更重要。
不妨想象一百万名能干的研究助理：能够不睡觉地阅读、比较、分类、计算、提出建议和重试。
它们提出的大部分建议将是平庸的，许多将是错误的。
这不一定是问题。
研究一直是一个制造大量失败以找到少量成功的过程。如果机器让这些失败变得更便宜，即使人类判断仍然不可或缺，知识也可能更快推进。
这就是为什么关于AI是否“真正智能”的争论可能具有误导性。
经济史很少等待哲学来界定智力的定义。
一项技术只需要足够有用，足以改变相对成本。
从一生到许多人生
显然有理由保持谨慎。
AI系统会幻觉，会生成貌似可信的胡言乱语，可能用任何人都无法验证的大量假说淹没研究者，放大坏假设与放大好假设一样高效。在事实难以核查的领域，大量机器生成的想法可能制造混乱，而不是知识。
此外，知识与判断之间还有更深层的区别。
一个能解出更多方程的文明，不一定知道该追求什么目标。一个拥有更多可支配智能的社会，不会自动变得更明智。
技术不选择目的，只改变实现目的的手段。
即便如此，这种可能性依然非同寻常。
工业革命松解了体力与生产的联系；计算机松解了计算与时间的联系；互联网松解了信息与距离的联系。
AI可能开始松解另一种联系：有用思考与能够产生它的人类大脑数量之间的联系。
这比“聊天机器人可能取代初级分析师”的想法深刻得多。
如果把文明想象成从1到100的旅程，迄今为止的进步在很大程度上取决于在任何特定时刻活着的有能力者数量，以及他们在有限的年头里能发现什么。
AI可能改变这一计算。
人类最终也许能将数百万个人工系统引向同样的科学、数学和知识前沿，让它们以任何人类群体都无法匹敌的规模去搜索、失败、比较和再试。
这不会让人类智能变得无关紧要，而会让它更具杠杆效应。
在历史的大部分时间里，文明的思考速度只能与它的人民一样快。
下一阶段可能会不同。
AI的终极意义可能不在于教机器模仿人类，而在于让人类能够部署比单靠生物学所能提供的更多智能。
那不仅仅会创造另一个行业。
那会改变文明的速度上限。