AI 正在降低犯罪门槛？OpenAI 提出儿童安全新方案

OpenAI 发布了名为《儿童安全蓝图》的文件。开篇即指出，生成式 AI 正在“降低犯罪门槛、扩大规模、催生新型伤害”。

蓝图提出三大方向：更新法律以覆盖 AI 生成的虐待内容；推动平台向执法机构发送更结构化、可机读的线索；把“安全即设计”嵌入 AI 开发流程。

具体技术措施包括在图像生成前拦截提示词，在输出端嵌入不可见水印，在推理链中插入拒绝机制。

州检察长杰夫·杰克逊和德里克·布朗在联合声明中点出关键：不存在一劳永逸的安全过滤器，防护必须持续迭代，因为攻击手段也在同步演化。

如果平台采纳蓝图建议，需向 NCMEC（美国失踪与受虐儿童中心）等机构提交结构化线索，可能需要重新审视现有数据处理流程。如何在协助执法与保护用户隐私之间取得平衡，这个问题还没有标准答案。