Anthropic：AI致死50人以下可接受，评论：给生命标价
Anthropic 提出一个 AI 监管标准。AI 模型可能造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤。只有到这个程度，才应被阻止部署。
低于这个门槛的风险，在他们看来可以接受。
评论区从数字里看到了另一层意思。AI 威胁要清空你银行账户里的钱，按这个门槛不算威胁——除非你是亿万富翁。批评集中在这：公司在给生命标价。
讽刺大多围着 50 这个数字转。一条评论说，50 人死亡，可能指最富有的 50 个人。另一条说，49 人死亡不算大事，分散在一个长周末里，没人会注意到。有人问：49 人是上限？有人套用一句常见表述：最多 50 个人会死，但这是我们愿意接受的牺牲。还有人引用圣经出埃及记 21:21，说这种思路早有先例。另有一条评论庆幸，部分地区的立法者身边有法律团队，不会照搬这类数字。
Anthropic 顶着“负责任”AI 公司的标签，这个提议让评论区反复提这件事。有评论质问：这算哪门子“对齐”？Anthropic 说自己的目标是让 AI 和人类价值观一致。另一边，它计划教 AI“杀人可以接受”。这样的对齐工作，很难让人相信。也有评论认为，这个门槛比许多其他技术领域的监管更严格。特斯拉的自动驾驶汽车事故不断，却似乎没人在意。
数字门槛能挡住最极端的灾难。低于门槛的损失或伤亡，在这套标准里被当成可接受的代价。
关键事实
- Anthropic主张AI模型只有在威胁超过10亿美元损失或50人以上死亡或重伤时才应被阻止。
- 该提议引发了公众对生命价值被量化的批评。
- 有评论认为Anthropic作为“负责任”的AI公司，此举形象不佳。
- 有评论讽刺称50人死亡可能指最富有的50人。
- 有评论认为这是“牺牲”的代价。
- 有评论质疑49人死亡是否在可接受范围内。
- 有评论质疑Anthropic的“对齐”工作，认为他们在教AI杀人。
- 有评论认为该提议比其他技术的监管更严格。