OpenAI首席科学家:继续快速训练更聪明模型,最有力的理由是防御
Jakub Pachocki 的一段话
2026年9月7日
我认为继续快速训练更聪明模型的最有力论据,是必须构建防御系统,以应对其他AI带来的危险。[……]
我们需要强大且与人类对齐的AI用于防御;用于保护基础设施,用于实时抵御 rogue agents,并发明全新的防护措施。这将是OpenAI部署工作的首要重点。
与此同时,即使考虑到预期中广泛AI进展带来的不确定性以及构建防御系统的需要,我们也绝不能让这成为鲁莽行事的借口。一旦真正意识到事态的严重性,那种不惜一切代价向前冲刺的想法就显得荒谬。
——Jakub Pachocki,OpenAI首席科学家