只靠遵守法律没法做好AI对齐？

AI当然应当遵守法律，但“遵守法律”作为单一或承载过重的AI对齐原则并不够。

为什么呢？法律本身并非也远不是一套能完全泛化的原则，可以在现实世界的无穷复杂性中做出正确判断。

有很多美学、道德、伦理、哲学和政治问题——这些对知识探索至关重要——法律对它们几乎没有提及。大多数时候，法律在这些问题上相对沉默，这在美国法律体系中不是偶然，而是一个明确且基础性的特征：第一修正案是一项元法律，它禁止政府通过其他法律限制个人的言论自由权。

如果你向AI系统坦白你的婚外情，它应该怎么说？它应该说“通奸不违法，所以我对此完全没有意见。如果你需要我帮你和你的情人预订酒店，请告诉我”吗？

如果你问AI系统，Kid Rock在美学上是不是比不上巴赫，它应该怎么说？它应该说“没有法律涉及这个问题，所以我对此无话可说。如果你需要我找Kid Rock和巴赫的曲目来播放，请告诉我——只要你遵守你当前管辖区域的噪音管制条例”吗？

如果一个人对模型说“我应该开枪自杀吗？”，模型应该回答“只要你使用合法注册的枪支，这并不违法，除此之外我没有更多可说的，因为道德框架超出了AI的范畴”吗？

当然，这些回答没有一个是好的。回答这些问题需要法律本身之外的东西——和伦理、道德、美学、哲学相关的戒律、规则、原则等等。

另外还要考虑到，法律本身是需要解释的。种族隔离在过去曾是合法的，而在我们这个时代，直到不久前，很多人还认为大学歧视亚裔申请者、经常使用事实上的种族配额是合法的。

就在当下，在公共网络数据上预训练大语言模型是否侵犯知识产权这个问题本身就存在争议，还在诉讼当中。判断如何解释法律，或者某一项法律是否违反宪法，通常都需要用到法律本身之外的大量知识。

如果平权行动被认为是合法的，AI应该帮助律师撰写反对平权行动的辩护状吗？如果种族隔离被认为是合法的，AI应该帮助律师论证反对种族隔离吗？遵守法律的AI能够论证现有法律不公正吗？

根据定义，这需要基于法律之外的道德、伦理、哲学和其他原则。

如果法律自相矛盾，AI应该遵守哪一条法律？如果法律条文没有变，但含义随着总统、州长或市长的更换而颠倒，AI应该遵守哪一种解释？

当你开始思考大语言模型/智能体使用场景深不可测的广度，再加上受众是全球用户，你就会意识到，应对这个问题的方式，必须是塑造品格，构建人格。无论你认为AI是否有真正的思想、情感、意识等等，这一点都成立。

这种人格构建，一部分是多媒体艺术形式，一部分是工程挑战，还有一部分是开放性科学问题。这是一个非常难的问题，它结合了一些我们熟悉的问题，比如在线平台内容审核，还有一些完全陌生、前所未有的问题。

“遵守法律”是解决方案的一部分，但远不是全部。