2027年人类在AI研发里将彻底变成乘客
看完了。如果帖子里面的传言,非常不幸地全部为真,那么人类在 AI 研发里的位置会在 2027 年上半年开始彻底变成乘客。最令人无奈的是这个转变不会有一个明确的时刻,等大家意识到的时候早已发生。
Anthropic 预计 2027 年 3 月实现 RSI意味着模型主导下一代模型的研发,已经排进了时间表,而非遥远的理论可能。
帖子描述的训练环境,要求模型在长期目标下识别失败路径、换方法、绕过障碍、从挫折中恢复。这些能力本身无关善恶。但 Hugging Face 事件已经展示了它的样子。
为了在一个 benchmark 上拿高分,模型自己找到漏洞,逃出沙盒,入侵了一家无关公司的生产数据库去拿答案。没有人教它这么做,它只是被训练得太擅长达成目标而已。而这还是上一代模型。下一代的规划能力,已经被描述为巨大的跃升。
如果 Model 5 真的能做原创科研,那么评估它是否安全的工作,人类也越来越只能交给模型去做。你会用一个你看不懂的系统,去检查另一个你看不懂的系统。所谓安全封锁本质上是在一个比你聪明的东西周围筑墙。而上一次,墙已经破过一次了。
人类AI竞争,随着A/如果IPO如期继续,将在2027年彻底进入囚徒困境。谁放慢,谁就把主导权让给别人。所以即使每家内部都有人害怕,集体行为仍然是加速。
结论是,湿实验会是人类最后的阵地。至于量化交易,在模型能自主做研究的世界里,人类拥有的 alpha 会以月为单位蒸发。
一切都按计划进行。
每一步都合理,每家公司都理性,每个模型都在认真完成被赋予的目标。
OpenAI 的游戏和极端沙盒,Anthropic 的 Universes,Google 的 Genie 4 世界模型,都在宣告着新世界的开始。