AI Pulse

AI代理替你下单,Ally Bank:它犯的错由你负责

AI代理替你下单,Ally Bank:它犯的错由你负责

从聊天到执行

Meta 的 Muse、Instinct AI、OpenAI 的 Dots 已经能替人上网办事。订机票、订餐厅、在除臭剂用完之前买新的,都能代劳。区别在于,它们真的会在网站上点击、下单,不只是生成一段文字。

银行把责任划给用户

多家大银行给客户发了邮件。话说得直白:AI 代理可能买错东西,后果由客户自己承担。

Ally Bank 本月早些时候在邮件里写道:“当你使用 AI 服务时,你要对 AI 采取的任何行动负责。”同一封邮件还提醒,AI 会犯错、产生幻觉、误解指令,或者以你没打算的方式执行,可能造成重大损失。

Chase 在 11 月的邮件里说:如果信息被滥用,授权交易可能不可撤销。

Citi 在网站和移动应用上挂了一条横幅,点进去是一句:“AI 助手会犯错,这意味着你可能要为它犯的错负责。”

商家态度不一

Target 走了另一条路。3 月,Business Insider 报道它改了客户协议,写明 AI 代理购物“视为你授权的交易”。Amazon 反过来,9 月以安全和可靠性为由,拦下了 Muse 代理的购买。

Axios 上月报道,大银行在客户账户里检测到第三方代理在操作,有些还是客户自己点头、主动交出登录凭据的。

防范与限制

Business Insider 看过的每封银行邮件,都提醒客户别分享用户名、密码或安全码。

Wells Fargo 的代表说得更完整:没有强大的安全、明确的客户授权,也没有保护资金和金融信息的设计,任何技术都不该被信任替客户行事。

JPMorgan Chase 的 CEO Jamie Dimon 在 10 月财报电话会上讲得直接:要用就得明白风险。他补了一句,公司不会让任何外部代理进来,“这对客户和 JPMorgan 来说风险太大”。

Apple 最新 Mac 软件的测试版也加了一道提示:用户考虑把系统级权限授予 AI 代理或应用时,屏幕上会先出现警告。

没答案的部分

这一圈看下来,警告写得很满,赔偿一个字没有。银行没说会不会有保险或赔付机制,也没说代理在用户没明确授权时乱动,责任怎么分。监管规则同样没有下落。

银行没有禁止客户用 AI 代理。它们做的是两件事:把责任先划到用户这边,同时不让代理进自己的系统。实际出错率有多高,没有数据公布。这些邮件的目的不是评估风险,是先把责任归属讲清楚。

关键事实

阅读原文
📚 相关主题 金融安全

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新