OpenAI首席科学家呼吁全球放缓AI开发,Reddit:你不做,别人会做
OpenAI首席科学家在官方博客发文,标题是《An Alien Mind》。他呼吁全球放缓AI开发,说“极度谨慎”的时刻已经到来。一旦想清楚风险的严重性,不计代价往前冲的竞赛就显得荒谬。他还提出,国际协调应当成为各国政府的首要任务。
Reddit上的回应几乎一边倒,理由却各不相同。有人点出矛盾:OpenAI手里握着最好的模型,却呼吁停止开发更好的模型。更直白的说法是,真的担心就停掉自己公司的开发,没人强迫你做这份工作。
国际协调的前景更不乐观。有人说得干脆:不可能,政府不会合作。特朗普刚宣称“谁赢得AI谁就赢得一切”,在这种叙事下,政府主动坐到谈判桌前不太现实。还有人拿气候变化打比方:看看人类是怎么应对气候变化的,不会行动的。
也有人觉得,即便呼吁有道理,全球放缓也不会发生。OpenAI不做,别人会做;就算想停,AI也会找到其他开发伙伴。单方面放慢,等于把领先位置让出去。
还有评论者提醒别老喊“狼来了”。喊太多次,等狼真出现,就没人信了。信任一旦耗尽,真正的风险信号可能无人响应。
评论区也有人质疑这个头衔:更准确的说法也许是“OpenAI前首席科学家”。这当然只是评论者的猜测。另一条评论问了个技术问题:为什么默认无意识的AI智能体比有意识的更安全。
另一拨人的关注点在价格。有用户说,眼下该做的是让模型更经济实惠,而不是造一个只聪明一点、价格却贵10倍的模型。呼吁者谈安全,普通人先看价格。
📚 相关主题
行业讨论