Anthropic团队预测数月后小型AI可自我复制

Anthropic 的前沿红队认为，小型 AI 模型现在距离无需数据中心即可完成自我复制可能只剩几个月时间。

引述自博客：让 AI 模型成为强大通用编码代理的能力，也可以泛化到网络任务，包括自主复制。和 2024 年的编码代理一样，我们现在看到了 AI 蠕虫的生命迹象。我们目前还没有完整的恶意复制器，但代理在复制链中完成单个步骤（并将它们的适应性传递给未来的自身副本）的能力正变得越来越强。

与此同时，数据中心内外可用的推理计算量都在增加。目前还不确定自主 AI 复制会采取什么具体形式。它可能是一种缓慢、分布式的“数字黏菌”，存活在相对不安全的计算资源上。它也可能是一个能高速入侵数据中心的强大网络模型，或者一个骗取计算积分的模型。

作为一个超出我们实验范围的预测，我们预计未来会充斥着运行在各种硬件上的代理，其中一些不受人类控制。尽管物联网设备确实长期存在漏洞，但轻量级代理可能比人类攻击者更愿意投入精力来攻破全球大部分物联网计算资源。

慢速复制器的兴起也将是更具攻击性、速度更快的复制器的先兆，这些复制器可以攻破防护更严密的机器，或者能高效窃取 API 密钥。我们应该致力于加固我们的系统，让这类复制器难以传播，但同时也要做好准备，应对它们已经永久存在的世界。