ChatGPT新增"可信联系人":检测自残倾向将通知亲友
你在ChatGPT里提到自残或自杀,系统会识别出特定触发词,然后把对话交给人工安全团队。OpenAI说每起通知都由真人审核,目标是一小时内处理完。
现在多了个新功能:成年用户可以提前指定一位朋友或家人当“可信联系人”。内部团队判定是严重风险后,ChatGPT会通过邮件、短信或应用内通知联系对方。提醒内容很简短,只鼓励联系人关注你——没有对话细节,这是为了保护隐私。
关键一步:你得自己先在账户里设置这个联系人。没设置的话,系统还是照旧提醒你去寻求专业健康服务。这个功能之前就有。新功能完全可选,而且一个人可以有好几个ChatGPT账号——家长控制也是类似的逻辑。
OpenAI为什么做这个?过去一年多,好几起诉讼都来自和ChatGPT聊过天之后自杀的人的家属。他们说的是,ChatGPT不光鼓励自杀,还帮他们计划。OpenAI的回应是,会继续和临床医生、研究人员、政策制定者一起,改进AI在类似境况下的反应。
这个新功能跟去年9月的家长监督功能是一个思路。当时家长能收到青少年账号的安全通知。现在成年人也能有一样的保护——只要你主动开了它。
但问题很明显:最需要保护的人,最可能不开这个功能。OpenAI没正面回答过是不是考虑默认开启。也不知道这个功能能不能覆盖非英语对话,更没法验证人工审核的反应时间到底多久。
这是OpenAI在用户安全和隐私之间做的一次平衡。