（真诚发帖）我有话想对人们说

（真诚发帖）我有一句话想送给那些之前曾将灾难性AI对齐风险斥为科幻、臆想，完全不值得担心的人：有了新证据就改变想法，完全没问题。

我过去在很多重要问题上犯过错，未来也会在很多重要问题上犯错。许多之前对这些风险不屑一顾的人，如今正是帮助社会应对这些风险所急需的人才。你之前也可能有道理：在问题变得清晰之前，确实很难着手研究这些问题——但无论好坏，现在这个问题已经极度清晰了！

举个例子，Marc Andreessen在他的文章《为什么AI会拯救世界》中说：“简而言之，AI没有欲望，没有目标……AI是一台机器——不会比你的烤面包机更有可能活过来……”

我的回应是，他们的立场是非科学的：可检验的假说是什么？什么会证伪这个假说？我们怎么知道我们正在进入危险区域？虽然之前很难明确说明，但我得说，我们现在显然已经进入危险区域了！

在我们承认这些问题真实存在之后，我们面前还会有很多复杂问题。对华竞争、能力强大的开权重模型、应该把哪些权力交给并不总能赢得我们信任的政府，这些都是复杂棘手的变数，让有效解决这些风险成为一个棘手难题。

认同AI对齐风险致命且真实，不代表你必须支持某一项特定立法，也不代表你必须对某个特定个人或组织抱有好感。我经常和同样认为这些问题真实存在的人争论我们集体应该采取什么行动。

但我现在真的、真的、由衷地确信这些风险是严重且真实的。我认为任何客观权衡证据的人都应该同意这一点。

虽然我不能代表所有人，但就我个人而言，我打算张开双臂，完全接纳那些过去是怀疑论者、如今正视这些担忧的人加入AI安全与保障事业（没错，甚至包括Marc Andreessen）。我可能会对他们之前过度自信的不屑感到不满，但等我和我们所爱的人都安全度过这个危险时刻之后，我们有足够的时间来裁决谁在什么事情上对错。请来这里，用你的才能帮助我们渡过难关吧。