扎克伯格AI宣言恰恰说明为何人们反感AI

周一，马克·扎克伯格发布了一份6500字的宣言，主题是个人AI，主要围绕Meta AI正在构建的“个人超级智能”系统的可能性。帖子中的观点并非全新。两周前，这篇文章的一个版本刊登在《华尔街日报》上，他此前也曾在Meta财报电话会议上谈过这些想法。但这可能是他分享过的最详细版本。

我看到有人将其描述为一篇反末日论者的文章，但这并不确切。它更像是在描述马克·扎克伯格个人为何对AI改变社会的方式感到兴奋。然而，即使扎克伯格试图描绘丰富超级智能将带来的美好未来，他也不断提醒我们它可能出错的种种方式。

我也觉得AI令人兴奋——这正是我持续写它的原因——但许多公众视AI为诡异且令人不快。因此，值得准确界定这里发生了什么，以及为什么扎克伯格用这样的文章并没有给行业带来任何好处。

社交媒体在科技行业仍是一个敏感话题，我们在这里没有空间去逐一评判人们对Facebook的每一项抱怨。只需说，Facebook作为产品和扎克伯格作为个人，在美国公众中都不受欢迎。最近一项调查发现，64%的美国人认为社交媒体对民主有害，类似比例的人认为应该加强监管，这些数字在党派之间分布均匀。就在这个周末，一家法院因该公司对儿童造成伤害而对其罚款5.67亿美元。整体氛围很糟糕。

我提这些并非暗示扎克伯格应该羞愧地退隐荒野——但社交媒体的后果是我们如今看到人们对AI的社会影响如此焦虑的核心原因之一。无论公平与否，公众不信任科技高管能确保此类新技术对社会产生积极影响。这篇宣言没有承认这一点并努力赢回信任，反而一再展示了信任当初是如何失去的。

文章很大篇幅致力于关于智能的模糊概括——与扎克伯格和多尔西过去关于言论自由的模糊概括非常相似。例如：

随着每个人都获得更强大的工具，每个人塑造未来的能力将变得更强，而不是更弱。……利益相互冲突的个人和机构自然会相互制衡，从而走向积极结果。构建积极AI未来最现实的最佳路径，是把超级智能交付给每一个人。

我猜是这样？我可以想到几个相互冲突利益导致糟糕结果的例子，但让我们先放下这个。更奇怪的是，这被呈现为一个认真的哲学结论，而不是Meta正在推向市场的名为“个人智能”的具体产品。如果你本来就倾向于不信任这个人，你可能会担心他们写这些是为了说服自己不会发生坏事。

当扎克伯格谈到具体例子时，我的这种感受变得更强烈，其中许多例子与AI工具实际使用方式的现实严重脱节。例如，这是扎克伯格对AI教育的看法：

每个人都会有一位个性化的导师和教练，在每门学科上都拥有博士学位，并有无限耐心帮助你学习任何想学的东西。学生将在需要的领域获得额外帮助，而这些帮助目前只有父母付得起钱的人才能获得。成年人将拥有一个超级智能的学习助手，它确切知道如何教你新的工作技能、新语言、新爱好，或任何你感兴趣的事物。

当然，扎克伯格描述的产品已经存在：这就是像ChatGPT、Claude和Gemini这样的消费级聊天机器人。如果你想了解某个话题，这些工具确实有帮助，但它们在教育中的主要用途是逃避学习，因为你个性化的导师可以帮你做作业、写布置的论文——而且由于没有健全的水印系统，老师无法确定哪些论文是由AI生成的。

这是一个相当低风险的AI危害例子，但这是当下正在发生的真实事情。有时你设计一项技术是为了做好事，但它产生了让事情更糟的意外后果。而世界上最有权力的人之一拒绝承认这一点，这让人产生不安是可以理解的！

扎克伯格还举了一个例子，说明AI将如何改善法律体系：

作为一个思想实验，想象只有一个人拥有超级智能律师。他会在法庭上拥有不公平的优势——即使他在案情上站不住脚。那将导致一个更糟糕的社会。但现在想象每个人都有一个超级智能律师。在这种情况下，司法将比今天更公平、更高效地执行，因为今天的诉讼中往往存在技能和资源的不平衡。

再次说明，这是一个沉重的例子。当然，获得法律AI可能会带来更公正的社会，但它也可能给已经存在的官僚地狱增加更多复杂性。或者它可能释放一股新的滥诉浪潮，用法律层面的垃圾信息堵塞整个系统。很难对这类事情感到平静，而扎克伯格不担心这一点让我更担心。

在其他地方，甚至对Meta现有商业实践的描述也开始带上一种奇怪的抽象色彩。例如，这是扎克伯格描述Meta对免费增值模式承诺的方式：

每个人都能免费或负担得起地使用这些工具。……我们将提供免费版本，让数十亿人都能使用。对于那些愿意付费使用更多算力的人，将有一个动态拍卖机制，保证每个人为他们使用的智能和算力支付尽可能最低的价格，同时确保算力被用于人们集体认为最有价值的用途。这将确保超级智能的益处被广泛分配。

从大体上看，我同意他在这里说的一切。扎克伯格说得对，获取是一个问题，他也说得对，免费增值模式比要求每个人都预先为算力付费能带来更多获取机会。按需算力的动态市场已经存在，所以他并不是在想象完全超出常规的东西。但每个消费级AI产品都将最终用户与所用算力的现货价格隔离开来，这是有原因的。动态定价是一种糟糕的用户体验，尤其是当它被部署在一个你真正依赖的工作工具上时。

同样，我必须假设扎克伯格知道这一点，而且他并非真的计划通过动态拍卖来设定令牌价格。但读完这篇文章后，我现在对此反而更不确定了。

有更好的方式来谈论这些事情。尽管山姆·奥特曼和达里奥·阿莫代伊有种种缺陷，但他们在与公众直接沟通方面做得相当好。他们恰恰做了扎克伯格在这里抗拒的事情：承认AI的危险，强调自己的预防措施，并试图让听众相信自己值得信赖。

这种沟通只能起到有限作用。有时（尤其是最近），防护措施失效，整个事业的内在危险变得清晰。但如果没有某种建立信任的努力，这个行业可能无法总是挺过那些失败。