Phoenixyin13 说,95% 和 100% 的 AGI 用起来没区别
我个人的观点是,实现AGI和无限接近AGI对于极端远离人工智能原理与应用层,尤其是即将跨入2027年但对AI底层逻辑知之甚少的人来说,几乎没有任何区别。但这种区别只会在推特、arxiv或一些开源社区平台上被放大,其讨论甚至有时会让专业区之外的人们聊以自慰,这本身毫无意义。
我的观察是,一个能做95%认知任务的系统和一个能做100%的系统,在大部分人的视角里,用起来都像魔法,体验上根本区分不出来。X上很多“这还不算AGI”或“这已经是AGI”的debate都是在争一个其实从来没有被普遍严格定义过的标签,几乎是零信息量。
现在的情况是,无论是早期的LLM还是无限接近AGI的模型,呈现给大众的往往还是一个对话框、一个生成按钮或一个语音助手。只要交互范式没有发生颠覆,普通人就很难直观感受到后台算力和推理范式的代际跨越。
人们只能通过一个又一个的新闻噪音,或者“🚨BREAKING:”去知道前沿发生了什么,但也仅止于此。没有训练过模型,看到过模型内部发生什么,再不济用模型真正做前沿困难任务的人,是根本感受不到任何东西的,包括最珍贵的那部分经验。
我之前在硅谷和一些AI从业者探讨,有些人的观点是认为实现AGI和无限接近AGI之间的差距恰恰对离AI最远的人最要紧。他们的依据是,根本原因在于劳动替代是有阈值的,而非连续变化的。一个系统做到某份工作的95%,剩下5%就需要人来兜底,这个人就还有工作;做到100%,这个岗位就没了。无限接近和到达之间的那段尾部可靠性,比如长周期任务中不出错、不需要人监督,正好决定了一个普通人是被增强还是被替代。
但是我认为,就现在的情况来看,绝大部分人无论如何都是会被彻底替代的。无论是接近还是实现,只不过是99还是100的问题。但是这个1的保留,对于其他99的大多数,毫无意义。
换句话说,哪怕AI只能做99%的工作,剩下1%必须由人类来监督和兜底,这意味着过去需要100个人干的活,现在只需要1个人配合AI就能完成。对于那被淘汰的99个普通人来说,这个岗位实际上已经100%消失了。
目前的趋势是,兜底者的门槛极高,且我认为会越来越高。
能够识别AI那1%隐蔽错误、并在关键时刻力挽狂澜的人,绝对是该领域的顶尖专家。普通的PhD,甚至其实都不够格。或者说,那样的1%,得是行业有绝佳实战经验的超级单兵。普通人不仅没资格去兜底,甚至连发现AI出错的能力都没有。
而且,只要AI做到95%的成本远低于雇佣人类,说白了,哪怕加上5%的出错赔偿成本,企业都会毫不犹豫地砍掉整个部门。现实中,大量客服、基础文案和一切初级岗位,都会在AI可能远未达到定义里的那个AGI时就已经被粗糙替代了。
我的分配观点就是这样。
在生产力发生指数级跃迁时,社会达到几乎不需要人的相变,在无限接近AGI的阶段,一定会提前完成。