真正的认知危机:AI对现实的攻击是机会性感染
今天的链接
真正的认知危机:AI对现实的攻击是机会性感染。
看这个:令人愉悦的发现。
对象恒常性:迪士尼哥特人;经营会议房间派对;方程式小组的丑陋源代码;“泡泡”;“重量”。
即将亮相:悉尼、墨尔本、布莱顿、伦敦、南本德。
近期亮相:我去过的地方。
最新书籍:你继续读,我继续写。
即将出版书籍:就像我说的,我继续写。
版权页:其余所有。
真正的认知危机(永久链接)
AI令人担忧的原因很多:它是一个危险的金融泡沫、一场环境灾难、一个侵蚀工资和劳动权力的工具。但除此之外,AI还是一场认知灾难。
当然,多年来我们已经有Photoshop处理的图像、声音模仿者和视觉特效,但随着深度伪造的出现,我们民主化了访问那些看似真实却并非真实的现实扭曲图像、声音和视频的能力。现在比以往任何时候都更难知道什么是真实的。政治人物、名人和活动家出现在我们的信息流中,宣布他们对某个事业或产品的忠诚,或对世界事件某些转折的愤怒。战场上堆满尸体,影响者惊叹于不可能、丰盛的餐食。这一切似乎都合理,其中一些是真实的,但并非全部,而且因为我们知道有些是假的,我们无法确定是否有任何是真的。
这是一种非常普京式的生活方式。弗拉基斯拉夫·苏尔科夫曾是弗拉基米尔·普京的媒体策略师,他有一种致命有效的策略:他宣布自己秘密资助一些公开反对普京的团体,但没有透露哪些反对团体是假的。这意味着任何团体都可能是假的,因此任何关于反对派的讨论都容易陷入对其真实性的争论。任何事情都可能是个谎言,所以没有什么是必然真实的。普京的方法不是让你相信一个谎言——而是让你无法相信任何事情是真的。
这就是AI下的生活——一个充满不确定性的世界,一个充满看似真实但有些其实是真实的幻影的认识论真空。一个无法知道什么是真实的世界,任何事都可能是假的。
但问题是:AI对我们认知能力的攻击并非一场新的战斗——相反,它是多年来一直进行的战争的最新一轮炮击,随着企业变得更大更强,俘获了监管者,让他们得以肆无忌惮地对我们撒谎和虐待我们。
这个复杂、技术化的世界——那个产生AI的世界——充满了复杂、技术化的问题,而我们中没有人能自己回答这些问题。你并不愚蠢,但即使是一个世代天才也无法获得足够专业知识来回答我们每天面临的一长串生死攸关的问题。
你的杂货店或午餐地点遵循的食品卫生标准是否足够,还是你的晚餐会让你拉肚子到死?指定屋顶钢梁合金的建筑规范是否足够,还是你即将被压死?你的防抱死制动系统中的软件好吗,还是你会在上班路上死于火球?
从食品添加剂到教育学,从心理治疗技术到退休储蓄,你需要一百辈子才能获得200个博士学位来自己回答这些问题。
幸运的是,我们不必自己回答这些问题。相反,我们委托给专家机构:政府监管机构,通过征求各方意见、公开审议收集到的证据,然后公开制定规则来评估真实性主张。这些监管机构应该是专家、无党派和中立的,以最高诚信度运作,一旦出现任何冲突迹象就回避。
必须如此。你可能无法评估疫苗——或阿片类药物——的安全性,但你可以亲眼看到FDA是否充满了前制药公司高管。你可以亲眼看到制药公司说客是否都曾在FDA工作。你不需要是病毒学家或细胞生物学家就能判断那个应该区分真相与谎言的系统是否适合其目的。
它不适合目的。当关于新冠疫苗的争论爆发时,许多疫苗倡导者将反对者描述为从事愚蠢阴谋论的愚蠢之人。他们认为生产疫苗的公司和监管它们的机构本质上值得信赖,基于此,我们都应该接种疫苗。
现在,我恰好是一个疫苗的坚定信徒。我接种了这么多新冠疫苗,以至于在黑暗中发光,在煤矿里也能收到5G满格信号。但我接种疫苗不是因为我相信制药公司或其监管机构。一系列丑闻——最著名的是萨克勒家族的奥施康定谋杀狂欢——已经证明制药公司会为五分钱杀死你,而FDA会让他们逃脱惩罚:
https://pluralistic.net/2024/03/25/black-boxes/#when-you-know-you-know
从烟草安全到食品安全再到气候紧急情况,很明显,我们依赖的专家机构系统已被企业权力和监管俘获彻底破坏:
https://pluralistic.net/2022/06/05/regulatory-capture/
这就是我们在AI到来之前已经漂泊其中的认识论真空:一个充满无法解决、紧迫、可怕高风险问题的世界。
当你接到“你的银行”的电话,并在他们透露通话目的之前就同意交出各种个人信息时,你并不是天真或愚蠢——你是在做银行多年来通过恰恰这种行为训练我们做的事情(我的银行这周就对我这样做了!)。为什么银行被允许逃脱这种令人发指的行为?因为——正如我们通过一次又一次危机反复发现的——银行太大而不能倒,太大而不能入狱,太大而不在乎。
为什么一个亲人可能在恐慌中打电话给你,说他们被捕或受伤,需要立即支付现金才能获得保释或医生治疗,这如此可信?因为我们的刑事司法系统和医疗保健系统已经饱受这种不人道、高压、敲诈行为的困扰。
为什么你会相信一位名人推销补品或垃圾币的深度伪造视频?也许是因为名人确实推销补品和垃圾币,并且对于帮助拉我们所有人入骗局没有面临任何后果:
https://gizmodo.com/matt-damon-crypto-com-crypto-bitcoin-1850282413
不仅仅是名人——还有我们的报纸:
https://www.nytimes.com/interactive/2022/03/18/technology/cryptocurrency-crypto-guide.html
当别人上当于报纸文章做出荒谬主张时,我们发笑——但经历过我们最受尊敬的新闻机构轻信地帮助一个不诚实的政府撒谎将世界带入一场战争,而这场战争在一代多人之后仍在燃烧,谁又能确定何时该相信报纸呢?
https://www.nytimes.com/2004/05/26/world/from-the-editors-the-times-and-iraq.html
为什么很难就新冠死亡人数达成一致,其中一个原因是许多死于新冠的人已经因慢性疾病或从癌症到心脏病的“已有病症”而受损。那些人确实死于新冠——他们也死于癌症或心脏病或其他合并症。新冠是一种机会性感染,对已经受苦的人造成了不成比例的伤害。
AI造成的认识论真空是另一种机会性感染。我们的认知能力已经衰退了几代人,因为垄断企业撕碎了我们的真相评估系统,使我们在一个相信谎言可能导致破产或死亡的世界中全部无法知道真相。
如果你能信任政府的专家机构,并且它们有可靠系统来公布其发现;如果你的银行被禁止从事与网络钓鱼无异的行为;如果医疗保健和刑事司法系统从不强迫被其纠缠的人给亲戚打电话乞讨金钱,那么深度伪造将更难穿透我们的认知免疫系统。
与其说AI是一种强大的撒谎方式,不如说几十年来我们被逐渐变得更容易受到谎言攻击,使我们处于认知的死亡边缘,而AI到来是为了给予致命一击。
看这个(永久链接)
1万亿美元的黑箱 https://www.propublica.org/article/military-defense-spending-budget-series
正确的词是错误 https://www.meditationsinanemergency.com/the-right-word-is-wrongness/
是的,显然参议院应该被废除 https://www.hamiltonnolan.com/p/yes-obviously-the-senate-should-be
对象恒常性(永久链接)
#20年前 迪士尼乐园哥特日照片 https://flickr.com/photos/doctorow/tags/batsday/
#20年前 如何成功举办科幻大会房间派对 https://www.nielsenhayden.com/makinglight/how_to_throw_a_1/
#20年前 雅虎:去混搭我们的品牌吧 https://web.archive.org/web/20061111175912/http://www.ysearchblog.com/archives/000348.html
#10年前 方程式小组的源代码极其丑陋 https://web.archive.org/web/20160818012451/https://www.cs.uic.edu/~s/musings/equation-group/
#5年前 泡泡 https://pluralistic.net/2021/08/21/podcasting-as-a-visual-medium/#huntr
#1年前 Melissa Mendes的“重量” https://pluralistic.net/2025/08/21/weighty/#edie-is-a-badass
即将亮相(永久链接)
悉尼:危险思想节,8月23-24日
https://festivalofdangerousideas.com/program/
墨尔本:在Wheeler中心的“沦陷化”,8月25日
https://www.wheelercentre.com/events-tickets/season-2026/cory-doctorow-enshittification
伦敦:AI与媒体沦陷化,NUJ(9月2日)
https://www.nuj.org.uk/learn/ems-event-calendar/ai-and-the-enshitification-of-the-media.html
布莱顿:与Carole Cadwalladr的“AI后生活的逆半人马指南”(布莱顿穹顶),9月8日
https://brightondome.org/whats-on/LSC-cory-doctorow-the-reverse-centaurs-guide-to-life-after-ai/
伦敦:与Riley Quinn的“AI后生活的逆半人马指南”(Foyle“s Picadilly),9月9日
https://www.foyles.co.uk/events/enshittification-cory-doctorow-riley-quinn
南本德:与Cory Doctorow的夜晚(圣母大学),10月6日
https://franco.nd.edu/events/2026/10/06/an-evening-with-cory-doctorow/
维多利亚:Munro”s Books(10月20日)
https://www.munrobooks.com/events/6113620261020
温哥华:BC政策解决方案晚会,11月12日
https://bcpolicy.ca/gala/
近期亮相(永久链接)
戳破AI泡沫(不要经过)
https://www.donotpassgo.ca/p/deflating-the-ai-bubble-with-cory
技术封建沦陷化(他妈被取消了)
https://www.fuckingcancelled.com/p/technofeudal-enshittification-with
机器服务于谁(EFF)
https://archive.org/details/effecting-change-who-the-machine-serves
最新书籍(永久链接)
“逆半人马AI指南”,一本关于如何成为更好AI批评者的短书,Farrar, Straus and Giroux,2026年6月
https://us.macmillan.com/books/9780374621568/thereversecentaursguidetolifeafterai/
“坎尼谷”:我为Pluralistic创作的拼贴画限量版合集,自出版,2025年9月 https://pluralistic.net/2025/09/04/illustrious/#chairman-bruce
“沦陷化:为什么一切突然变糟以及如何应对”,Farrar, Straus, Giroux,2025年10月7日
https://us.macmillan.com/books/9780374619329/enshittification/
“镐与铲”:“红队蓝调”的续集,关于个人电脑的英雄时代,Tor Books(美国),Head of Zeus(英国),2025年2月 (https://us.macmillan.com/books/9781250865908/picksandshovels).
“贿赂”:“红队蓝调”的续集,关于监狱科技和其他骗局,Tor Books(美国),Head of Zeus(英国),2024年2月 (thebezzle.org).
“失落的事业”:一部关于气候紧急情况中希望的太阳朋克小说,Tor Books(美国),Head of Zeus(英国),2023年11月 (http://lost-cause.org).
“互联网骗局”:一本关于互操作性和大科技的非虚构书(Verso)2023年9月 (http://seizethemeansofcomputation.org). 签名版在Book Soup (https://www.booksoup.com/book/9781804291245).
“红队蓝调”:“一部抓人、令人上瘾的惊悚小说,会让你比之前更了解世界运作方式。” Tor Books http://redteamblues.com.
“瓶颈资本主义:如何击败大科技,驯服大内容,并让艺术家获得报酬,与Rebecca Giblin合著”,关于如何解开创意劳动市场的束缚,Beacon Press/Scribe 2022 https://chokepointcapitalism.com
即将出版书籍(永久链接)
“后美国互联网”,“沦陷化”的地缘政治续集,Farrar, Straus and Giroux,2027年
“未经授权的面包”:根据我的中篇小说改编的中年级图形小说,关于难民、烤面包机和DRM,FirstSecond,2027年4月20日
“沦陷化:为什么一切突然变糟以及如何应对”(图形小说),Firstsecond,2027年
“备忘录方法”,Farrar, Straus and Giroux,2027年
版权页(永久链接)
今日主要来源:
当前写作:
“一次是敌人行动”,一部关于现代技术法西斯主义起源的科幻小说。今日字数:533(总字数8263)。
“后美国互联网”,“沦陷化”的续集,关于特朗普烧毁美国后我们其他人可以拥有的更好世界。第四稿完成。已提交编辑。
一个关于DIY胰岛素规划的小兄弟短篇故事
本作品(不包括任何连载小说)根据知识共享署名4.0国际许可协议授权。这意味着你可以以任何方式使用它,包括商业用途,前提是你注明出处为Cory Doctorow,并包含指向pluralistic.net的链接。
https://creativecommons.org/licenses/by/4.0/
引文和图像不包括在本许可中;它们要么根据版权限制或例外,要么基于单独许可而包含。请谨慎使用。
如何获取Pluralistic:
博客(无广告、跟踪或数据收集):
Pluralistic.net
新闻通讯(无广告、跟踪或数据收集):
https://pluralistic.net/plura-list
Mastodon(无广告、跟踪或数据收集):
https://mamot.fr/@pluralistic
Bluesky(无广告,可能有跟踪和数据收集):
https://bsky.app/profile/doctorow.pluralistic.net
Medium(无广告,付费墙):
https://doctorow.medium.com/
Tumblr(大规模、不受限制的第三方监视和广告):
https://mostlysignssomeportents.tumblr.com/tagged/pluralistic
“当生活给你SARS,你就做萨斯帕里拉” - Joey "Accordion Guy“ DeVilla
仔细阅读:通过阅读本文,你代表你的雇主同意,永久解除我因任何及所有与你雇主、其合作伙伴、许可方、代理人和受让人之间签订的非谈判协议、许可、服务条款、收缩包装、点击包装、浏览包装、保密协议、不披露、不竞争和可接受使用政策(”虚假协议")而产生的所有义务和豁免,且不影响我持续的权利和特权。你进一步声明你有权代表你的雇主解除我任何虚假协议。
ISSN: 3066-764X