AI生成的裸照正被用来勒索孩子，连聊天记录都成了把柄

对方留言：“删掉聊天记录，不然发给你全班。”

互联网观察基金会（IWF）发现，2025年上半年，全球上报的AI生成儿童性虐待内容超过8000起，比前一年增长14%。

执法机构面临新难题：合成内容没有原始像素，也难溯源。当一段图像既非真实拍摄、又无法追踪来源，受害者维权和案件侦破都变得更加复杂。

OpenAI发布了一份新的安全蓝图，联合美国失踪与受虐儿童中心（NCMEC）和多位州检察长，提出所有AI系统应在生成环节嵌入“禁止合成未成年人影像”的硬性拦截层。按这一要求，部分AI产品未来可能直接拒绝生成涉及未成年人的图像，无论用户输入什么提示词。

过去半年，加州法院已受理七起针对OpenAI的诉讼，案件尚未判决。北卡罗来纳州和犹他州的检察长办公室，已将这份蓝图列为下一轮听证会的议程草案。

目前尚不清楚该拦截层如何技术实现，是否会误判医学插图等合法内容，也不清楚其他AI公司是否会跟进。8000起上报案例中，有多少涉及真实未成年人身份，同样没有说明。