二人争论AI监管是集权还是防集权

Dario Amodei 和 Gavin Baker 整个周末都在争论，监管AI是会集中权力，还是会防范权力集中。这件事的核心是什么？

Amodei 不认可这种二选一的设问本身：他提出，AI本身就会自行集中权力，因为训练前沿模型依赖资本、芯片和能源，几乎没有组织能集齐这些资源，而且开放权重无法解决这个问题，因为算力仍然掌握在前沿实验室和大型硬件供应商手中。

他的解决方案是制度层面的：对头部开发者施加比中小开发者更严格的规则，对足够有影响力的模型（无论开源还是闭源）进行测试，再建立一个类似 Demis Hassabis 提议的 FINRA 风格监管机构。

Baker 的质疑点在于，这套规则下最终活下来的会是谁：合规是固定成本，而固定成本对已经占据头部的玩家来说是礼物，尤其是在规则起草阶段，头部玩家本身就参与了讨论。

他的第二个论点，我觉得更难反驳。他认为，不管 Anthropic 愿不愿意，不停谈论AI灾难都在发挥政治作用，这会给当地反对数据中心、反对整体基建扩张的运动提供弹药，反而会让理想的监管未来更难实现，而非更安全。

Amodei 不认可这种对他过往立场的解读，并指向了《 Machines of Loving Grace》这篇文章。这没问题，不过人们引用给他看的从来都不是这篇文章。

我想要一个拥有众多模型、众多开发者、存在真实竞争的未来，在那里，有用的智能会变得充足，对越来越多的任务来说，它会便宜到无法计量。我想要一个我们共同努力消解AI恐惧的未来。我也想要一个前沿AI能向尽可能多的人自由开放的未来。