Anthropic试点第三方AI平台透明度项目

自从联合创立 Anthropic 以来，我一直坚信第三方对 AI 系统进行测量是非常必要的。（这一点我在宣布 Anthropic 成立的推文中就写过。）

现在，我们正在试点一种新方式，让外部研究人员和机构能够在保护用户隐私的前提下，研究 Claude 这类 AI 平台的运行情况。

这件事很重要，因为 AI 系统是庞大复杂的社会技术系统，拥有数不清的属性。认为 AI 实验室能够找出所有合适的方法来测量和评估这些系统，既狂妄自大，也显然是错的。

所以我们需要找到方法，不仅对外公开系统的属性，还要公开这些系统与外界人群互动的数据——也就是平台遥测数据。

我们现在要做的，是原型化未来可能必需的新型透明度：在保护用户隐私的前提下实现平台透明。

与此同时，我希望找到方法赋能 Anthropic 外部的研究人员，让他们能够利用只有企业才能独家获取的数据开展自己的研究，因为我认为这有助于打造更有活力的外部研究生态。

这是 The Anthropic Institute 更大项目的其中一步，该项目旨在测量并对外公开更多关于我们 AI 系统属性，以及我们部署这些系统的平台的细节，和我们经济学团队已经通过 Anthropic Economic Index 开展的工作并行推进。

我们目前正在向外界征集下一轮项目的研究想法，欢迎申请！