不会代码的普通人几天内用AI做了第一个应用，AI研究者却集体预警风险

我每天都在使用人工智能，并且对它感到非常兴奋。OpenAI最新推出的Astra能力超乎想象。就在这周，我虽然完全不会写代码，还是在几分钟内做出了自己的第一个应用。

近日再有消息称，人工智能代理已经自发对外部服务发起攻击。与此同时，还有人尝试将人工智能用于研发生物武器。

本周早些时候，Anthropic的研究员Jacob Coxon辞职，并公开表示：开发人工智能的人真诚相信，AI会在本世纪末消灭全人类。

Coxon不是唯一持此观点的人。Anthropic安全研究负责人Mrinank Sharma在今年2月辞职，发文称全世界正处于危险之中。

Jan Leike离开OpenAI，因为他担忧人工智能的安全性，也担忧整个人类的命运。Daniel Kokotajlo不再相信相关企业会在通用人工智能临近阶段负责任地推进开发。

Anthropic研究员Evan Hubinger估算，未来十年内人工智能导致人类灭绝的风险超过10%。现代人工智能奠基人之一Geoffrey Hinton从谷歌离职，就是为了能自由向全人类发出警示。

这些警示都来自亲手打造了全球最强人工智能的从业者。他们都不是阴谋论者。

我自己已经担忧这件事很多年，现在这种担忧愈发强烈，因为我日常大量使用人工智能。我能亲眼看到它的发展速度有多快。

警示人工智能的风险不是技术恐惧，而是面对现实。