AI Pulse

快速与合法之战已然打响:机构信任与速度的世纪张力

快速与合法之战已然打响:机构信任与速度的世纪张力

快速与合法之战已然打响

欧盟花了四年起草《人工智能法案》,而OpenAI在两个月内将GPT-4推送给了一亿用户。等到布鲁塞尔最终敲定“高风险”系统的定义时,那些系统早已迭代了两次,还长出了各种新附件。监管者既不愚蠢,也不无能;他们只是在做监管者该做的事。他们咨询、开展影响评估、辩论措辞、翻译成24种语言、在委员会投票、再投票、协调各国立场,最终产出了一份站得住脚的文件。这个过程花了它该花的时间。 这就是全部问题所在——在我看来——也是这十年最核心的张力之一。那些最能以现实世界速度运作的机构,恰恰是我们最不信任的机构;而我们最信任的机构却太慢、太笨重,以至于无关紧要。 我并非要为那波愚蠢的DOGE式倡议辩护;我想主张的是,对我们所处的位置,以及我们注定或幸而将走向何方,保持某种冷静的现实主义。合法性是一项缓慢的技术,它由程序、先例、审慎审议构成,并在失败与修正的循环中、在代际与岁月中逐渐积累信任。你无法在不破坏它的情况下加速它,因为正当程序的全部意义就在于让你慢下来——它必须让你慢下来。同行评审的全部意义在于,有资格的专家可以反对并指出哪些东西不该被破坏。宪法限制的全部意义在于,掌权者不能随心所欲、想干就干。 当你剥离这些约束,你确实会获得速度——我承认。这是权力集中、问责放松、反馈回路崩溃的必然结果。 二十世纪的故事,部分而言,是最慢的机构竞相追赶最快的机构的故事。市场先行,监管紧随其后;发明家发明,法院裁决;技术颠覆,文化吸收——以某种方式。追赶的过程痛苦且常常暴力,但它在人类机构能够存续的时间尺度上发生了。 我怀疑这现在是否仍然属实/可能。 我们分歧太大,且正在远离。Facebook达到十亿用户时,还没有任何一个主要民主国家对其身份有连贯的政策立场。等到政策机器终于启动,Facebook已经重组了几十个国家的政治,破坏了几次选举,然后完全转向了别的东西。无论监管者最终产出了什么,都是对该公司上一个版本的回应,但当前版本早已走远。 FDA的审批流程设计得很慢,因为快速失败的代价——不无残酷地说——是货真价实的尸体躺在货真价实的停尸房里。但一个2026年合格的生物系研究生就能使用的基因编辑工具,在1996年却需要一个重兵把守的国家实验室。技术上的可能已经超越了制度上的允许——以至于整个行业都在向规则更宽松的司法管辖区迁移。监管龟依然在做它的工作,但它不再是比赛中唯一的动物——不再是了。 我们围绕合法问题建立合法机构——但世界会变。机构依然针对旧问题优化,逐渐变得礼仪化。就像英国君主制。或者联合国。或者学术同行评审系统。 我所描述的快速机构很少更有能力。它们常常是灾难性的更糟。Theranos很快。FTX很快。WeWork跑在了自身功能之前。没有合法性的速度史,就是欺诈史、人性残骸史,和大量事后以天赋和骗局写就的自辩回忆录史。每次有人告诉你“快速行动,打破常规”是个好策略时,你应该问什么东西被打破了,以及修复它将是谁的问题。 但“快速机构有时会爆炸”的答案,不能是“因此慢机构就是正确的”;慢机构也会爆炸。它们只是慢动作爆炸。2008年金融危机是一场慢爆炸。阿片类药物危机是一场慢爆炸。每个主要英语国家的住房危机是一场持续了二十年的慢爆炸,而相关规划机构以令人钦佩的严谨态度遵循程序。一个失败的机构可以在失败一代人之后,才有人愿意承认失败是结构性的,而非暂时的低迷。我见过这样的婚姻。我见过这样的国家。我见过这样的公司等等。 新的契约将在两个物种之间进行某种程度上的谈判解决。而我还不太清楚这种解决是什么样子——至少目前。我的乐观让我相信(或至少希望),快速机构会采用足够的程序完整性以赢得它们所缺乏的信任,慢机构会采用足够的适应能力以保持相关。 悲观的我(我不太喜欢他)确信分歧只会从此刻起加速,并且大有赌注认为我们会走向一个双层文明。快速层通过算法、合同和平台政策治理;慢层通过法规、先例和议会程序治理。两层名义上共存,但在不同的时间框架内运作,服务于不同的人群。快速层处理那些富有、技术化、流动或愿意生活在私人平台规则内的人。慢层处理其余所有人,在边界、法院、议会和邮政系统构成的残余物理世界中。这大体上就是已经在发生的事情。 我警惕那种将慢层浪漫化为“人类尊严最后堡垒”的衰落论调。毕竟,等待十二年才拿到一张允许单,或英国NHS对待候诊名单的方式,或美国移民“系统”对待最脆弱申请者的方式,本身并无任何尊严可言。程序可以且经常僵化为最不人道的残忍。慢机构并非因其慢而有德;它们有德,当且仅当它们的慢产生了其设计所要产生的合法性。当慢成为合法性的替代品时,你就得到了一个苏联式的烂摊子。 但合法性能否在高速下重建? 你能建立一个既负责又相当快速的机构吗? 真正的合法性似乎需要耐心,需要运动与纪念物的耐心,而竞争性市场和加速技术不允许——将来也不允许。你无法在五年内完成相当于英国普通法的工作。你无法以预印本的速度进行同行评审。你无法以Slack线程的速度进行宪法设计。 你能做的——或许——是诚实地接受权衡。为速度是硬约束的事情建立快速机构,为信任是硬约束的事情建立慢机构,并停止假装同一个机构能兼顾两者。当前的混乱源于期望我们的慢机构跟上新闻周期,也期望我们的快机构具有宪法法院般的庄重。 这两种期望永远都不会得到满足。 在中世纪晚期,天主教会仍然是核心的合法性授予机构——但它在操作上已不再主导。新货币、新印刷术、新科学、新政治形式在旧等级制旁边生长,并(最终)取代了它。取代过程持续了两个世纪和几场战争,远非有序,但终究发生了。最终诞生的东西——现代民族国家,拥有成文法、常备军、文官系统和官僚机构——最终实现了速度与合法性的某种综合,这是任何竞争方单独都无法做到的。 我们大概正处于一个类似过程的起点。 关于那个时期,有两件事值得指出: 第一,新机构并没有自称新机构。美第奇家族在成为政治力量之前是一家银行;荷兰东印度公司在成为事实上的国家之前是一家贸易公司。合法性是之后才来的,根据速度已经建造的东西进行改造。 第二,教会并没有消失。它继续为那些希望从它那里得到旧东西的人口发挥其旧功能,而欧洲文明的日常运作则转移到了那些尚未拥有道德权威但已在治理的机构手中。 现代生活中实际的协调工作,有多少已经发生在没有任何宪法地位的私人平台和私人网络中? 实用的建议是:知道自己参与的是哪场比赛。如果你在经营一家初创公司,你就在速度比赛中,假装你在经营一个监管机构是范畴错误。如果你在经营一个监管机构,你就在合法性比赛中,假装在经营初创公司是一种空洞的自负。当代机构中的大多数功能失调都源于这种范畴混淆。那些像网红一样发推的立法者,以及像政治领袖一样发宣言的CEO。那些试图像消费品一样品牌化的大学,以及那些表现得像活动家然后抱怨没人再信任他们的记者。每一个都是一个机构试图玩一场它既非设计也非为之而建的比赛,从而失去了其原生比赛的合法性,却没有获得它所渴望的速度。 选边站,然后坚持。为你所缺乏的合法性找到功能替代品,并在下一次丑闻让你的缺陷无法忽视之前找到它;或者,找到一种方法,尽管你的节奏缓慢却依然保持相关,并停止混淆权威的排场与其实质。 混合体将挣扎。伪装者——那些表演速度却并不快,或表演合法却不合法的机构——将首先被吞噬。 我不确定是否有人能“赢”得这场战争,以“赢”这个词通常应用的方式。但在机构之间的战争中,失败的一方通常是最后才意识到自己已身在战争的人。

📎 阅读原文 · Westenberg.

📬 订阅 AI Pulse

每天两次更新,不错过重要信号

▲ 回到顶部