AI Pulse

AI代理能像人一样看着屏幕操作软件,自己跑完整个任务

AI代理能像人一样看着屏幕操作软件,自己跑完整个任务

Claude 这轮更新了四样东西。电脑操作工具和浏览器操作工具直接在软件界面上操作。技能API把团队流程变成可复用技能。文件API管资料的存取。代码执行和网页搜索之前就能用,现在也和这批新功能进了同一条代理循环。

过去把任务交给模型,得到的是一段回答。现在给代理一张屏幕截图就够了。它会像坐在键盘前的人一样点击、输入、滚动,直接在软件界面上把事情办完。它操作的是界面元素,对没有开放API的网页应用一样管用。

看着屏幕操作软件

代理不靠坐标定位。屏幕截图之外,它还会读取页面结构,直接作用于某个输入框或按钮。页面结构比屏幕坐标稳定。界面布局调整时,按坐标定位容易落空,按字段定位仍能找到目标。

更新后的电脑操作工具,每一轮能连续做多个动作,不再是一次调用只做一个。任务在更少的调用次数和更短的时间里完成。浏览器操作工具用同样的机制,靠页面结构定位元素,比单纯认像素更可靠。

把团队流程装进技能

通用操作能力之上,是让代理按固定流程办事。一个技能就是一个文件夹,装着指令、脚本和模板,Claude 只在任务需要时加载。上传和维护走技能API,接口更简单。技能跑在 Claude 的代码执行沙箱里,不用自己租服务器。

文件API这边,一个PDF或电子表格上传一次,之后用ID引用,不用每次都重发。代理生成的文件也能下载。每个组织有1TB存储,速率限制是此前的5倍,文件支持自动过期。

Anthropic 的示例把三样工具串在一起。理赔代理先从文件API读取客户提交的文档。接着按团队写好的申报流程操作,在保险公司网页门户里完成提交。最后把确认页存回文件系统。从读资料到操作再到留存凭证,整条链路代理自己跑完。

真实工作流的变化

同样的流程,有客户已经在跑。一位客户说,换了更新后的电脑操作工具,最长的理赔流程从32分钟缩到13分钟。每项任务成本降了约30%,测过的每条流程完成率都是100%。提示词一行没改。

Box 公司把技能API接进自己的 Box Agent,用来做专门的文档生成。银行场景里,技能封装了信贷方法论和审批过的备忘录格式。Box Agent 把它用在 Box 里已有的财务报表和交易文件上。生成的信用备忘录附有来源依据,供分析师审阅。

合规方面也有变化。电脑操作工具现在能在 BAA(业务伙伴协议)下处理受 HIPAA 约束的工作负载。医疗和保险行业处理的是受保护的健康信息。以前这类负载不能用,现在纳入了覆盖范围。

平台与可用的边界

技能API和文件API已经可以通过 Microsoft Foundry 调用。电脑操作工具和浏览器操作工具也有更新。它们会登录 Google Cloud 的 Vertex AI,确切日期没公布。老的 beta 集成继续工作,迁移期间不断档。

定价细节没公开,技能API和文件API怎么计费还不清楚。浏览器操作工具碰到登录、身份验证这类环节怎么处理,也没有公开细节。

代码执行、网页搜索、电脑操作、浏览器操作、技能、文件存储,这些能力以前是分散的。现在它们进了同一条循环,代理从头到尾自己跑,不用人一步步指挥。

阅读原文
📚 相关主题 产品发布API

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新