AI与劳动力出了什么问题——一个思想实验

AI与劳动出了什么问题——一个思想实验

我认为下面这个思想实验有助于解释AI和劳动中出现的许多问题：

想象一个平行宇宙——由于某种原因——没有人曾在网上发布过源代码。开源运动甚至开源的概念都不存在。自然而然地，LLM不会擅长编码，因为它们不会在庞大的代码数据集上训练。

这个平行宇宙和我们的真实宇宙一样，拥有公开的软件二进制文件——数十PB的量，远远超过当前前沿LLM训练数据集的规模。因此，当这些LLM规模不断扩大的某个时刻，想象它们开始擅长根据规格说明生成完整的可工作应用程序——但完全跳过了源代码生成步骤。AI生成的软件会很垃圾、低效且不安全，但AI公司会不断承诺，下一个更大的模型会让一切变得更好。

在这个宇宙中，生成软件的LLM直接与软件工程师竞争。二进制文件不可由人类阅读。软件工程师和非技术人员同样难以理解它们。随着时间的推移，越来越多的软件将是氛围生成的（不是氛围编码——因为没有代码！）。它不如人类编写的软件好，但生成它是免费的！由于没有源代码，让软件工程师参与这个过程无济于事（只会增加成本）。即使AI生成的软件因其局限性而创造了新的劳动力需求，也不需要高薪的软件工程师，而可以由技能较低的工人处理（也许只是反复向LLM吼叫让它不出错）。

简而言之，人类编写和AI生成是达到同一输出的两种并行方式。软件工程师和AI是替代品，而非互补品。AI不能帮助软件工程师放大他们的能力，软件工程师也无法带来比非工程师更有效地监督AI的技能。在这个世界里，对软件工程师来说，AI会让人感到疏离和恐惧。

你可能猜到了我要说什么。在我们的真实时间线上，艺术家和许多其他专业人士体验AI的方式类似于这种反乌托邦。在许多非软件领域，人类创造性努力的成品可以很容易地拿来训练，但几乎没有关于它们是如何制造出来的东西。因此，AI工具在创作过程中帮不上什么忙。它们只是模仿和替代。

另一种结果是可能的。在科技界之外没有被广泛认识到的积极愿景是：编码代理赋予了软件工程师超能力。我们与代理协同工作；复杂的软件是在人类和代理之间数千次交替回合中产生的。到目前为止，编码代理正在取代工程师的说法已被证明是胡扯。使用代理的亲身体验与Simon Willison的表锯比喻非常吻合（“因为LLM而现在就放弃编程职业，就像因为发明了电锯就放弃木工职业一样”）。开始使用新的编程语言、框架或代码库的障碍已经降低了上百倍，因为编码代理也是教学代理（软件开发者使用代理来理解代码的频率远高于生成代码）。

开源软件和文化是一个历史偶然。我们理所当然地认为，不仅软件工程师创造性工作的成果是公开可用的，而且所有中间步骤（规格说明、计划、原型）、隐性知识（StackOverflow、文档文化）、详细的过程轨迹（问题、拉取请求、bug修复、代码审查）、协作记录（版本控制、项目管理板）以及更广泛的公开学习文化也是如此。这种程度的显式描述在大多数职业中是完全陌生的。

许多公司正在大力投资于获取隐性知识、过程轨迹以及这个缺失中间层的其他组成部分。讽刺的是，他们这样做是为了追求更多的自动化。我的论点，与表面上的常识和所有投入的资金相反，是这波AI最终更有助于增强工人，而不是自动化掉他们。有了正确的框架，经过训练以深刻理解创意工作者如何得出其输出的模型，将能够与他们协作，赋予他们力量并放大他们的潜力。如果行业认识到这一点，那将是经济和政治上的一大胜利。