AI 自主能力被低估了?Mollick 提出不同看法
我认为,追踪 AI 究竟能自主完成多少工作至关重要,这也能有效反驳一些关于自主 AI 研究现状的极端说法。但我想指出,聚焦于全球顶尖 AI 研究机构的研究任务,也可能会大幅低估 AI 在具有经济价值的任务中已经能做到的事。
值得将这两者区分开来(我不认为 Ramez 主张二者没有区分)。大部分工作并非前沿 AI 研究,而在这些领域,AI 可以取得巨大成功。
例如,Epoch 的 MirrorCode 结果显示,AI 自主重新实现了软件,研究人员估计这需要人类花费 2 到 17 周。这是定义明确的工作,因此其边界条件非常不同。
此外,在现实世界中,一些人工干预是可以接受的(在我看来,由于各种原因,这远比完全没有人类参与要好)。偶尔的指导仍然能带来巨大的生产力提升,即使这并不满足完全自主 AI 研究的要求。
即使在 AI 研究领域,同一份 OpenAI 报告也包含研究人员的估计:他们团队一个月的工作,如果没有编码智能体,平均需要三个月才能完成。
简而言之,RSI(递归自我改进)或 AI 驱动的研究进展,可能与具有经济价值的任务的进展并不紧密相关,而这些任务的差异性和范围还远未被充分理解。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖