生成式AI弊大于利？一位作者三年思考的结论：已造成净损害

2023年3月初，我与Keith Teare进行了一场由Open to Debate组织主办的辩论，议题是ChatGPT是否弊大于利。我几乎每天都会思考这个问题。眼下，反对生成式AI的论点——坏事清单——相当严峻。我们有未经同意的深度伪造色情内容、网络钓鱼诈骗的增多、铺天盖地的虚假信息、认知投降、政府对大语言模型施加微妙影响带来的民主威胁，更别提生成式AI被用作监视工具了。所有这些知识产权盗窃对艺术家和作家的影响，以及更广泛就业市场中潜在的负面影响（不过值得庆幸的是，这些影响比一些人预期得要温和）。

然后是被称为“黑色十月”的黑客攻击大潮。Paul Kedrosky刚刚将其命名为“The Hackening”。Salesforce的首席执行官Marc Benioff称其为“红色警报”，并放大了Anthropic的Jason Clinton一条令人不快的推文。我认为两人都对。（不过，准确来说，Clinton认为这段糟糕的时期可能只会持续一两年。）

Marc Benioff @Benioff
Jason说得100%正确。红色警报。🚨

Jason D. Clinton 🔸 @JasonDClinton
尽管过去4天的情况已经很糟，但在好转之前还会变得更糟。安全领导者们，永远不要浪费一场危机：现在就去找你们的董事会寻求帮助。不是为了AI，而是为了基础的东西。（我们需要再撑大约18个月。）
晚上11:09 · 2026年10月22日 · 84.4万次查看
89条回复 · 159次转帖 · 2.01万次点赞

但积极的一面呢？这些风险是否值得承担？Apollo Global Management的首席经济学家Torsten Slok，有时对这项技术相当乐观，他刚刚提出了一个残酷的论证：我们被引导期待的许多积极效应根本没有实现：你可以在这里阅读全文。

远未结束。我当然有一些朋友从生成式AI中获益良多（主要用于编码），但在这一点上，不难论证它在总体上已经对社会造成了净损害。而且它仍然可能拖垮整个经济。

系好安全带！前方有颠簸。

额外：我将于周二在巴尔的摩返回Open to Debate，与Cathy O'Neil搭档。没有公开直播，但最终会有剪辑版出现在YouTube和许多NPR附属电台，包括WNYC。