青少年版AI助手配安全防护与学习引导,防绕过未知
OpenAI周一推出了ChatGPT for Teens,一个专门给青少年用户的版本。相比普通版,它默认打开应用内保护,用来减少有害内容和不适合年龄的内容出现。这些措施基于OpenAI的Under-18 Principles,按官方说法,依据是“发展科学和专家指导”。
这个版本来得不算早。ChatGPT在2022年底上线,做到9亿周活跃用户之后,才补上专门针对青少年的安全机制。在这之前,好几起诉讼都把AI聊天机器人缺乏防护,与青少年的自杀和其他心理问题联系在一起。
产品上最看得见的变化是Study Mode。青少年提问时,系统不直接甩答案,而是给出引导性问题和逐步提示,让他们自己把材料弄明白。系统如果判断使用者像是在抄袭而不是理解,会弹出作业提醒,把他往Study Mode上带。应用还支持测验和学习可视化,家长或监护人可以选择Study Mode要不要默认开启。
这些新系统能不能挡住不配合的青少年,目前没人知道。青少年绕开家长控制和各种数字限制的能力相当强。内容过滤和作业提醒说到底都是软件层面的设置,软件设置的天花板和使用者的动机之间,有一段看得见的距离。
家长手里有工具。之前推出的家庭工具和家长控制现在都能用,包括管理设置、接收安全通知、设定安静时间,安静时间就是限制孩子在某些时段不能用ChatGPT。
OpenAI还宣布和CodeAI合作,帮青少年学AI。合作的课程内容和覆盖范围,目前都没公布。学校那边,OpenAI之前就有ChatGPT for Teachers,给学校提供机构管理的AI访问和支持。
学校版落地得更早,面向家庭和青少年的版本现在才跟上。两者都在ChatGPT基础上做,差别在于青少年版把安全逻辑直接嵌入默认行为,学校版则交给管理员配置。实际效果,得看青少年拿到手之后怎么应对。