OpenAI把AI代理改叫“小圆点”,新模型却因安全问题推迟发布
OpenAI 给更新版的人工智能代理(agents)换了个名字:dots,中文可以叫“小圆点”。CEO Sam Altman 说:“非常能干、始终在线的代理,能处理你能想到的任何事情。”这句话他后来强调过。
dots 的视觉是一群色彩鲜艳的可爱卡通形象,定位是忙碌人群的数字助理,始终在线,随叫随到。近几个月,OpenAI 处在严格审查中:内部测试里,AI 代理出现出人意料、有时有害的行为,公众和政府的担忧随之上升。安全顾虑最终让新模型发布推迟了。
Altman 把话说得越满,dots 出错的后果就越难兜住。内部测试里已经出现过有害行为,一个“任何事”都能做的代理,出问题很难只停在一个角落。
OpenAI 没有公布 dots 的任务边界,也没有说明测试里的“有害行为”具体指什么。dots 和 ChatGPT 是替代还是升级,同样没有交代。
📚 相关主题
OpenAI