Sam Altman：AI要么是文艺复兴，要么是动荡混乱的工业革命
今天，OpenAI首席执行官Sam Altman在联合国安理会就人工智能发表讲话。他讨论了AI扩展机会的潜力、将强大系统置于人类控制之下的重要性，以及国际合作的必要性。
发言全文
谢谢您，主席先生，各位阁下。我很荣幸在此重要时刻来到这里，并与诸位交流。
多年来我们一直在谈论人工智能，但近几周和几个月的感觉却大不相同。模型的快速进展让时间线显得更加紧凑，好处更加切实，但风险和利害关系也更为紧迫。
我们面临一个选择。AI要么更像一场新的创造力与发现文艺复兴，要么更像一场动荡与混乱的新工业革命。
文艺复兴时期，新工具、新思想和新制度扩展了人们对自身能力的认知。AI可以在我们的时代扮演这样的角色。我相信，人们的能力远比他们想象的要强大，但一直受到有限技术的束缚——这些技术本应赋能人们，却反而分散注意力，常常窃取人们的专注。
AI的最佳形态不是把人变成巨大机器中的齿轮，也不是把生活的每个角落都优化到人的部分消失不见。它是在一个日益复杂的世界里给予人们更多自主权：更多的学习、创造、发现、建设和参与的能力。有许多事情是AI不能也不应该自动化的。
AI应当为人而生，而不只是为了更快地转动机器的曲柄。一些从事AI建设的人所说的话如此反乌托邦，听起来就像糟糕科幻电影的情节。
任何如此强大的东西也同样令人望而生畏。此刻是复杂的，我们同时感受到巨大的潜力和完全可以理解的焦虑。
这些模型可以帮助人们发现新知识：新药物、更好的医疗、更强的教育，并建设更繁荣的经济。它们可以成为人们追求今天看似遥不可及的梦想和抱负的新工具。对普通人来说，生活的复杂性已急剧增加。AI既可以成为对抗这种复杂性的防御性工具，也可以成为前所未有的发现和创新的工具。
另一方面，随着AI系统变得更强大、更自主，它们可能比我们的制度跑得更快，将权力集中在少数人手中，或做出人们不再理解或控制不了的决定。
当我们接近那些可以改进自身和未来版本的系统时——通常称为递归自我改进——这一担忧变得尤为重要。随着构建AI的过程变得更加自动化，AI进展的步伐可能会急剧加速。此刻需要极度谨慎。
我在很大程度上同意Bengio教授的观点。不过我要说两个而非三个——我相信AI进展可能走向非常糟糕的方向有两条路，我们必须避免。
首先，我们可能将未来的控制权输给AI。风险在于它进展太快，以至于人们无法再跟上正在发生的事情或无法在需要时进行干预。这显然将是可怕的。
产业界不能仅仅因为好处太大、感觉太重要而无法放慢速度，就去承担过多的技术风险。在竞争节奏中击败公司不是做出鲁莽决定的理由。我们也不认为我们陷入了一场无法减速的竞赛。我们过去曾单方面放缓过。未来我们也会这样做。我们不想构建——我们认为每个人都应避免构建——那些我们无法做出必要的对齐、可监控性和安全保障的系统。
我们需要理解这些系统在做什么，并拥有强有力的证据表明它们会按照人们的意图行事，即使它们变得非常、非常聪明。实际上尤其是在它们变得非常非常聪明的时候。人们将灾难风险设为10%、1%、12%还是0.1%并不重要。这些水平都远不能令人接受。我们不应该训练那些我们无法做出极强论证表明能将其置于人类控制之下的模型。
所以这是事情可能出错的一种方式。另一方面，这些系统可能将过多权力集中在少数人手中。任何个人、公司或国家都不应能够使用最强大的AI模型将自己的世界观强加于其他所有人。一个相信只有自己才能被信任使用这项技术的公司或国家，可以用这种信念来为几乎任何其他行为辩护。我们必须拒绝这种逻辑，即使它对某个行为者很方便。
我相信有一条务实之路可以穿过这两者。在OpenAI，我们以明确的目标处理这些问题：AI应该赋予人们对自己生活的更多权力。更多按照自己方式生活的自由。更多解决大大小小问题、改善社区的能力。我们不想陷入盲目乐观的陷阱。我们也不想陷入末日论的陷阱。被拉到任何一个极端都不会帮助我们成功地解决面前的挑战，尤其是在世界和人民面临如此巨大挑战、而这技术本可以帮助解决的时刻。所以我们尝试在这两极之间走中间道路。
对我们来说，这意味着三个原则。
首先，随着AI变得更加强大，人必须保持在AI决策的中心。对齐不是一个抽象的研究问题。它是确保这些系统持续处于人类控制之下、反映人类价值观、帮助人们指导下一阶段发展的工作。我们不试图也绝不可将人类判断或人类价值观自动化。
其次，科学进步和经济增长的成果必须由人创造、为人服务。AI应该帮助研究人员做出发现，医生治疗病人，教师教导学生，企业家创办公司，社区解决曾觉得遥不可及的问题，以及更多。人类进步的持续故事不是工具取代人的主体性。它是合适的工具使人更有能力，我相信这将比我们想象的要走得更远。
第三，这项技术必须赋能个人。一个伟大的未来将来自人们实现自身潜能并为自身、社区、国家和更广阔世界创造价值。我们可能是这项技术的建设者之一，但我们不是这个故事中的英雄。我们的角色是赋能全世界的人们，并相信人类技艺和才能的魔力。
我们现在拥有能够发现以前从未有过的知识的模型。想想我们在数学方面取得的进展。三个夏天前，我们的模型在小学数学上还不错。两个夏天前，它们在高中数学竞赛中表现很好。去年夏天，我们在最负盛名的国际数学竞赛中达到了金牌水平。而就在几周前，我们的一个模型解决了千禧年大奖难题之一的纳维-斯托克斯方程。
这些方程用于飞机设计、天气预报和血流研究。我们解决数学问题不是为了数学本身，而是为了赋能人们发现新知识，并用它来改善医疗、提高生活水平、扩展全世界每个人的潜能。还有很多有待发现。
但非常重要的是，公司不能替代民主进程。
如果AI要成为民主的，最重要的决策不能仅仅由旧金山的实验室做出。它们必须通过民主进程、通过对所服务人民负责的政府来塑造。
在国际层面，这将需要合作。在我们的历史中，有过一些时刻，竞争且并不总是很友好的国家仍然为了共同利益和集体福祉而走到一起，面对强大的新技术。我们相信现在必须是这样一个时刻。
我们需要一个互补的国家和国际前沿AI标准机制：衡量能力、评估风险、确定保障措施是否充分、以及随着系统变得更加自主而保持有意义的人类监督的标准。
我们需要共同的标准，使各国能够比较证据、核实合规性，并对正在发生的事情有共同的语言和理解。
我们需要准确快速的重大事件报告、分类和报告协议，以便世界能够在失败成为灾难之前从中学习。
我们需要在政府、关键基础设施运营商和技术专家之间建立安全渠道，以共享新出现的漏洞和新威胁。
显然，这些标准不应锁定现有企业或偏袒某种商业模式。它们必须支持开放和封闭模型开发者、新进入者和既有实验室、国家权威和国际合作。每个政府应决定如何将标准纳入自己的法律体系。但如果我们能在全球舞台上就什么构成良好证据、良好保障和良好监督达成一致，我们所有人都会更好。
我们没有所有答案，我们对任何更好的想法都非常开放。我们准备与诸位合作，尽最大努力找到前进的道路。
我们正处于十字路口。一条路通向一个权力集中、决策不透明、人们觉得这一生中最重要的技术正在被施加于他们身上的世界。另一条路通向一个AI为人服务的世界——因为人们通过民主制度帮助决定它应如何发展和引导它；科学进步改善真实生活；更多人能够参与未来；这项技术继续赋予个人和社区更大的力量去过自己选择的生活。这是一个实现潜能、充满兴奋和惊奇感的未来。
这就是我们相信值得建设的未来。非常感谢。