AI Pulse

平庸之恶:停止把AI渲染成非凡之恶

平庸之恶

也许看起来很奇怪,AI老板们不停地当众撕扯衣衫,哀叹自家产品的可怕潜力——从AI比我们更擅长做我们的工作时将接踵而至的失业末日,到猜词程序学到太多词语、苏醒过来把我们都变成回形针的那个迫在眉睫的时刻。

他们不肯停止为这种可怕潜力而忧心忡忡,这看起来很奇怪——直到你意识到,每一次关于这种可怕潜力的公开声明,同时也是在公开吹嘘其潜力,仅此而已。

这一点非常非常重要,因为AI真正拥有的全部就是潜力。实际存在着的AI只在边缘处有些用处:前提是你已经是熟练的从业者,能够分辨正确与错误的输出;前提是你审慎地集成AI,使它不至于淹没你关注那些输出、对其运用判断力的能力:
https://pluralistic.net/2026/07/28/hitl-ers/#ai-ai-oh

换句话说,AI大体上是个新鲜玩意儿,一个获得巨额补贴的玩具,除了让人分心之外产出甚微。在AI确实产生价值的地方,那价值也相当于一个插件——你的文字处理器或图像/声音/视频编辑套装的一个新功能,或许能帮你把工作做得稍好一点,或许不能。

这并不让AI变得无用,只是让它成为一种普通技术:对某些人有用,对另一些人无用,可能被滥用,不明智地使用则很可能浪费大量时间:
https://www.normaltech.ai/

普通技术没什么不好。但普通技术配不上AI所获得的那种规模巨大的经济和政治投入:仅过去一年就有一万亿美元,还有全世界的公务员被成批解雇、代之以AI:
https://pluralistic.net/2026/05/13/vibe-governance/#k-hole

那些把我们的社会和资源押注在AI这场孤注一掷赌局上的人会告诉你,AI是万能机器;但一旦被逼问,他们就会承认,AI即将成为万能机器——比如,一旦AI开始做AI研究,而这件事AI根本做不到:
https://www.normaltech.ai/p/ai-agents-cant-yet-do-open-ended

这是一种文明层面的“魔法内裤侏儒”勾当,它每持续一天,就有更多的经济、气候和政治代价被强加到我们所有人头上。科学期刊、开源代码仓库、乃至科幻杂志都被垃圾内容淹没,垃圾的制造者和辩护者坚称,用不了多久,AI就会兑现其潜力,把垃圾点石成金。

这就是为什么AI老板们如此执着于吹捧AI的破坏性潜力:因为破坏性潜力终归是潜力。我们停止相信那种潜力的那一刻,就是我们停止向AI公司成捆供应现金、让他们铲进烧钱炉的那一刻——好让他们有钱以每张一美元的价格,把百元大钞卖给那些想生成儿童色情和巨乳刺猬索尼克图片的Elon Musk邪教信徒。

AI确实有破坏性潜力。当AI推销员说服你的老板解雇你、换来一帮你那份工作干不了的聊天机器人时,它就有潜力摧毁生产性经济:
https://pluralistic.net/2025/03/18/asbestos-in-the-walls/#government-by-spicy-autocomplete

AI有破坏性潜力,是因为老板们被困在囚徒困境之中:他们谁也无法承认自己追逐AI所花的钱——以及所摧毁的工作——全打了水漂,于是其他老板加注加得更狠:
https://pluralistic.net/2026/08/01/dare-snot/#i-will-fucking-piledrive-you-if-you-mention-ai-again

AI有破坏性潜力,是因为数据中心泡沫哄骗轻信的市政官员废除环境与规划审查,强占人们的房屋和农场,在乡间铺满巨型数据中心(其中许多永远不会建成):
https://www.404media.co/people-hate-datacenters-survey-finds/

AI有破坏性潜力,是因为它在消耗稀缺的水和能源,排放数十亿吨碳:
https://www.404media.co/even-the-u-s-government-says-ai-requires-massive-amounts-of-water/

这才是我们需要着力敲打的破坏性潜力,因为这种破坏性潜力不是那种有朝一日会转化为生产性潜力、让AI赌局回本的类型。恰恰相反:这完全是AI摧毁经济、吞掉你的退休储蓄的潜力:
https://www.thebulwark.com/p/congrats-youre-about-to-unwittingly-make-elon-musk-trillionaire-spacex-ipo-index-funds

同样重要的是:我们必须停止放大科技老板们为自家产品选定的破坏性潜力叙事,因为那会帮他们筹到更多钱、做出更多可怕的事。Bernie Sanders应该停止坚持美国政府应当拥有这世界上有史以来最亏损公司的50%股份,转而开始谈论当它们的投资泡沫破裂时,它们不会得到政府纾困。我们需要停止谈论享受AI惊人潜力的AI“有产者”和将被甩在后面的AI“无产者”。

我们需要停止谈论“AI安全”和“失控AI”毁灭世界的可能性。当一家AI公司的安全工具“逃出围笼”、入侵了别人的服务器时,我们需要问那家公司:“为什么你们连给自家黑客工具建安全沙箱都烂成这样?”而不是问:“为什么你们的黑客工具有这么惊人的威力?”

最重要的是,我们需要停止把AI当作非凡之物。AI是普通的。一项普通的技术有某些用途,但不会对一切事情、一切人都有用。一项普通技术不是不可避免的,它是由你来决定要不要使用的东西。

把AI当作寻常之物,是阻止AI公司破坏性进军及其对就业、气候和经济影响的最好方式。但把AI当作寻常之物,要求我们停止把AI说得仿佛邪恶非凡。没错,有些使用AI的人出现了严重的精神问题,但那不是因为AI是洛夫克拉夫特式的恐怖之物,用了就会摧毁你的大脑和理性思考能力。它不是蛇怪。AI就像一个嘉年华游乐设施,会在那些从不知道自己有毛病的人身上诱发心脏事件——因为他们从未经历过那种特定的过载——它不是让人产生弱点的东西,而是触发既有弱点的东西:
https://pluralistic.net/2026/06/03/mission-space/#gsd

使用AI不会让你变邪恶,也不会危及你的神智——不会比在这个艰难时刻构成我们日常生活的其他任何危险、妥协、不可持续的事情更甚。当AI公司破产、服务器以一折甩卖时,世界会更好——但用那些服务器以适度、审慎的方式运行开源模型,不会被它们的邪恶感染。它们没有沾染可传染的罪。它们只是电脑。它们毫不非凡。

一种技术可以是普通的,即使它由一家想做可怕事情的糟糕公司生产和营销。这并不是说“所有技术都是双用途的,好处坏处你得照单全收”。那是庸俗撒切尔主义者的必然论调,他们坚持——正如Margaret Thatcher那样——“别无选择”,如果我们想收获技术的好处,就必须接受他们的滥用。

对付这件事的正常方式,是拒绝庸俗撒切尔主义,拥抱英雄式吉布森主义,如雷般地高喊William Gibson的战斗口号:“街头自会找到事物的用途”——我们夺取技术手段,以有利于我们的方式使用它,同时限制、禁止或封堵那些伤害我们的用途:
https://pluralistic.net/2026/03/17/technopolitics/#original-sin

把AI当作邪恶非凡之物,就是把经营AI公司的平庸之辈抬高到超级反派的地位——一个他们求之不得的地位。像Sam Altman这样惯于撒谎的人,总有一天会搬起石头砸自己的脚,因证券欺诈锒铛入狱——除非我们继续把他的邪恶吹捧到撒旦级别,那样的话,他可能把自己变成“大到关不进监狱”:
https://time.com/article/2026/05/26/sam-altman-ai-job-losses-openAI-/

Altman是个骗子和股票欺诈犯,不是超级天才。我们越是把他的产品描述为具有一种特殊的、持久的邪恶——即使他的公司倒闭、他被钉上历史的垃圾堆也依然存续——就越是在帮Altman为他的聊天机器人庞氏骗局筹钱。普通技术不是被诅咒的法器。那东西只存在于巫妖王的墓穴里。我们需要停止帮Altman擦亮他作为巫妖王的名声,停止把AI当作魔法。

对于那种无意中帮科技兄弟们推销骗局的技术批评,有一个专门术语:“criti-hype”(批判性炒作),Lee Vinsel用它来描述“把鼓吹者和创业者的耸人听闻的主张拿过来,翻转一下,然后开始谈论“风险””:
https://peoples-things.ghost.io/youre-doing-it-wrong-notes-on-criticism-and-technology-hype/

换句话说,犯下“批判性炒作”之罪,就是复述Sam Altman之流的营销话术,然后在结尾加个括号:“(而且这很糟糕)”。这些家伙——这些糟糕的、平庸的、无聊透顶的失败者——是废话工厂,喷涌着关于AI的连篇胡话。批评他们的正确方式,是指出他们在撒谎——而不是把他们的谎言当作警告来复述。

阅读原文
📚 相关主题 科技评论

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新