Demis Hassabis 谈 AGI 核心:Transformer 不是死胡同,缺的是记忆
Demis Hassabis的最新访谈:
“当前的 Transformer 与深度学习架构已经证明了巨大威力,不可能在几年内被证明是“死胡同”,它们必然是最终 AGI 架构的基础组成部分。”
“现存系统仍缺少关键拼图——持续学习(Continual Learning)、长周期深度推理(Long-term Reasoning)、情节与系统记忆(Memory)、以及输出的一致性与可靠性。”
“Hassabis 指出人脑通过海马体进行情景记忆(Episodic Memory)的临时存储,并在睡眠(尤其是 REM 睡眠与慢波睡眠)中通过梦境周期(Dream Cycles)进行记忆回放(Replay),从而将新知识平滑、无损地整合到大脑皮层的现有长期知识库中。”
“大模型参数在推理时是完全冻结的,上下文窗口(Context Window)再长也只是“工作内存/草稿纸”,无法在不重训权重的前提下无损吸收长期经验,这正是记忆机制至今仍未在数学和算法层面被优雅解决的核心原因。”
“小模型(如 2B-9B 参数)在特定场景下的表现正呈现指数级进化。端侧(On-device)和低延迟推理使得模型可以深度嵌入本地操作系统,具备零延迟交互、高隐私性及低能耗优势,成为大前沿模型的完美补充。”
“顶尖工程师借助现代 AI 工具,产出正在达到数年前工程师的几百乃至一千倍。未来的超级开发者不是被 AI 取代,而是将 AI 当作自身智能的延伸,通过高阶规划和指挥智能体集群完成曾经需要整个工程团队才能交付的系统。”
“当前 Agent 无法真正做到完全自主交付复杂长周期任务,根源在于无法“边执行边自适应学习”。Agent 若要在用户真实复杂的业务环境里运转,必须具备针对该环境持续沉淀知识的能力,而非每次重新加载 prompt 重新摸索。”
“尽管目前业界对简单 Agent 包装(Wrapper)存在过热预期,但从“被动问答机器人(Passive Chatbots)”走向“主动任务执行系统(Active Systems)”是通往 AGI 的必经之路。”
“Hassabis 引用杰文斯悖论(Jevons Paradox)——当单次推理成本大幅下降时,系统对智能体的调用规模会呈现指数级暴增。开发者会让上千个 Agent 在后台并行展开搜索、推演与评估,算力永远是稀缺的,算力重心正明确从预训练向推理期扩展转移。”
“深科技或长周期创业项目必须预设“在产品开发中途 AGI 可能会被发明出来”,不能假设底层模型能力是静态的。底层模型能力的泛化升级会迅速抹平浅层功能层,必须扎根于核心行业工作流与独有���环数据体系中。”
“在通用自主 Agent 真正成熟前,深入具体的行业痛点,结合专家知识与深度上下文,打造真正能帮助人类放大生产力、解决痛点的高价值垂直智能系统。”