OpenAI发布《AI进步的更好路径》，评论：造的是替代品，不是工具

几个月前，@sama 发文说，他希望 OpenAI 构建工具，而非替代品。对此最恰当的回复是：因为，嗯，显然 OpenAI 正在构建替代品。通用、高度自主、超人类的 AI 系统根本就不是工具。

而今天，OpenAI 的全球事务团队发布了《AI 进步的更好路径》，并提出了三条原则。这些原则非常出色。它们是 FLI（prohumanpath.ai）的“亲人类路径”框架的关键要素，有趣的是，该框架最初的名字就是“A Better Path（更好路径）”。

一方面，我很喜欢 OpenAI 不仅采纳了 FLI 的谈话要点，还采纳了其框架。另一方面，只有当 OpenAI 的行动确实与其言论相关时，这一切才有意义。所以，我们应该清楚：一条更好的、亲人类的、符合 OpenAI 上述原则的路径，究竟涉及什么。至少应包括以下内容：

- 绝对不要进行递归式自我改进。OpenAI 显然已经无法控制自己的 AI 系统。他们或任何人都不可能控制那些被快速、自主开发出来的、强大得多的系统。所以，如果你想要人类控制，就立刻停止 RSI 的工作，马上。别人是否停止并不重要。停止，并正确地宣称这可能是人类漫长历史中曾设想过的最不负责任的一件事，然后站在这块道德高地上，尽你所能去阻止其他人也这样做。

- 完全不构建自主、通用、超人类的智能体。这类东西不是工具，它们绝对是替代品。我从未见过任何稍微令人信服的论证，能说明如果我们建造了它们，人类还能长期掌握自己的命运。如果你想构建工具，就让它们窄范围、被动，或遵循其他设计原则，使它们真正扩展人类能力，而不是替代人类能力。这里有一些想法，这里有一些技术方向。并且让它们解决真实的问题；这里有一些具体方向。

- 真正支持实际的监管以及保证和认证生态系统（而不是口头上支持，而你的游说者却在反对）。在这种生态系统中，你需要（如同几乎所有其他安全关键行业一样）在获准建造或部署之前，向外部权威机构论证它们是安全的、受控的，并且——为何不呢——对人类的实际收益/危害比是正的。这里有一些关于这将是什么样子的想法。

一家做这些事的公司，将和现在的 OpenAI（或 Anthropic、Meta、X、Google）非常非常不同。但它肯定会对人类好得多！