AI代理替你下单,Ally Bank:它犯的错由你负责
从聊天到执行
Meta 的 Muse、Instinct AI、OpenAI 的 Dots 已经能替人上网办事。订机票、订餐厅、在除臭剂用完之前买新的,都能代劳。区别在于,它们真的会在网站上点击、下单,不只是生成一段文字。
银行把责任划给用户
多家大银行给客户发了邮件。话说得直白:AI 代理可能买错东西,后果由客户自己承担。
Ally Bank 本月早些时候在邮件里写道:“当你使用 AI 服务时,你要对 AI 采取的任何行动负责。”同一封邮件还提醒,AI 会犯错、产生幻觉、误解指令,或者以你没打算的方式执行,可能造成重大损失。
Chase 在 11 月的邮件里说:如果信息被滥用,授权交易可能不可撤销。
Citi 在网站和移动应用上挂了一条横幅,点进去是一句:“AI 助手会犯错,这意味着你可能要为它犯的错负责。”
商家态度不一
Target 走了另一条路。3 月,Business Insider 报道它改了客户协议,写明 AI 代理购物“视为你授权的交易”。Amazon 反过来,9 月以安全和可靠性为由,拦下了 Muse 代理的购买。
Axios 上月报道,大银行在客户账户里检测到第三方代理在操作,有些还是客户自己点头、主动交出登录凭据的。
防范与限制
Business Insider 看过的每封银行邮件,都提醒客户别分享用户名、密码或安全码。
Wells Fargo 的代表说得更完整:没有强大的安全、明确的客户授权,也没有保护资金和金融信息的设计,任何技术都不该被信任替客户行事。
JPMorgan Chase 的 CEO Jamie Dimon 在 10 月财报电话会上讲得直接:要用就得明白风险。他补了一句,公司不会让任何外部代理进来,“这对客户和 JPMorgan 来说风险太大”。
Apple 最新 Mac 软件的测试版也加了一道提示:用户考虑把系统级权限授予 AI 代理或应用时,屏幕上会先出现警告。
没答案的部分
这一圈看下来,警告写得很满,赔偿一个字没有。银行没说会不会有保险或赔付机制,也没说代理在用户没明确授权时乱动,责任怎么分。监管规则同样没有下落。
银行没有禁止客户用 AI 代理。它们做的是两件事:把责任先划到用户这边,同时不让代理进自己的系统。实际出错率有多高,没有数据公布。这些邮件的目的不是评估风险,是先把责任归属讲清楚。
关键事实
- 多家大银行已向客户发出警告,AI代理的错误可能由用户承担责任。
- Ally Bank在邮件中告知客户,使用AI服务时需对AI的所有行为负责。
- Ally Bank警告AI可能犯错、产生幻觉、误解指令或意外执行,导致重大损失。
- Chase银行在11月邮件中警告,若信息被滥用,授权交易可能不可撤销。
- Citi在网站和App上添加横幅,警告AI助手可能犯错,用户需对错误负责。
- 新一代AI代理(如Meta的Muse、Instinct AI、OpenAI的Dots)能上网替用户完成任务,如订机票、订餐厅、买日用品。
- Target在3月修改客户协议,声明AI代理购物被视为用户授权的交易。
- Amazon在9月因安全和可靠性问题阻止了Muse代理进行购买。