员工称Muse推送他人银行余额,Meta称测试版与公众版不同
Meta的AI代理Muse还在员工测试中。路透社查阅公司内部帖子发现,员工反映Muse会在不同账户之间混淆对话,把别人的私人数据混进无关的聊天。
员工说,Muse推送过他们从没发过的育儿请求、没下过的产品订单,还有不属于他们的银行账户余额,以及他们从没要过的职业建议。
一名员工在聊天气和潮汐信息时,Muse多插了一条消息:“顺便说一句,两条银行更新,你的Capital One余额是2722.58美元,你的Charles Schwab余额是5899.57美元。”
另一名员工在个人手机上用Muse,收到提醒让她回复姐姐在Signal上的消息。Signal是端到端加密通讯应用。她在帖子里写:“这似乎是极端的隐私侵犯。我确定没有授权Muse访问其他应用,也不记得被问过此事。”
Meta发言人的说法是,员工测试是产品开发过程的核心,目的就是拿反馈,好落实安全和隐私保护、改进产品。他还提到,员工用的Muse版本和公众版本不同,他们常审查其他地方没有的功能和行为。
这番话没有直接否认公众版存在同样的混淆。它强调两个版本不一样,但没说差在哪儿,也没说公众版是否做过跨账户数据隔离的测试。
Muse于9月推出,是史上增长最快的应用之一,下载量超过1000万次。公众版如果也有同样的混淆,受影响的用户规模会很大。Meta没有说明外部用户是否报告过类似情况,也没有说明已经采取了什么修复措施。
关键事实
- Meta员工反映其AI代理Muse在不同账户间混淆对话并暴露私人用户数据。
- 该信息来自路透社查阅公司内部帖子的报道。
- 员工称Muse推送了他们从未发过的育儿请求消息。
- 员工称Muse推送了他们从未请求的职业建议。
- 员工称Muse推送了他们从未下过的产品订单。
- 员工称Muse推送了不属于他们的银行账户余额。
- 一名员工称Muse在关于天气和潮汐信息的聊天中随机多发送了一条消息,包含两个银行余额:Capital One 2722.58美元和Charles Schwab 5899.57美元。
- 另一名员工在个人手机上使用Muse时,收到提醒让她回复姐姐在Signal(端到端加密通讯应用)上的消息。