Dr_Atoosa：错误AI恐惧比AI更危险

OpenAI创立的原因是山姆等人认为不能信任谷歌来掌控通用人工智能。Anthropic拆分出来，成为专注于“负责任”安全的替代者，目标也变成了“我们要打造最优秀的人工智能”。

现在这两家本来以拖住谷歌为目标的公司，现在开始互相竞速了。

与此同时，我那些在气候环保或独立电影行业工作的非AI领域朋友，已经变成了反AI人士。他们不再相信AI能帮助他们实现目标，因为他们看到一堆“AI研究者称AI会导致人类灭绝”的头条，就得出结论说，任何AI产品公司推出的产品都一定是危险的。

然后，经过了 literal 年与AI安全领域、有效利他主义和理性主义群体的恰当讨论，这些群体本来应该注意措辞、不混淆世界，他们中一些响亮的声音仍然在沟通和思考中，把泛泛的AI风险等同于AI灭绝风险。“真实风险”现在成了一个囊括一切的词：灭绝、生存风险、生物恐怖主义、严重网络攻击、政府被掌控，还有因为沙箱可被利用导致的枪击事件，哦对了还有极其严重的AI风险。

这种廉价的言论和制造混淆的做法，是他们对这个世界最糟糕的伤害之一。

得到的教训是：这件事会很难，但我们必须保持理智，纠正公众的错误想象。错误的恐惧是最糟糕的恐惧之一。它会把你引向错误的道路，在通用人工智能夺走你清晰思考和正确行动的能力之前，它就先把这种能力夺走了。