月通话量从3000万涨到1亿:你打给客服的电话,越来越多是AI在听
你打给客服的电话,越来越多是AI在听。Retell AI 做的是客服中心的语音AI平台。企业拿它搭智能体:AI能回答问题、能办具体的事,需要时才把电话转给真人。平台服务超过4000家企业,月通话量从2026年初的3000万次涨到9月的超过1亿次。OpenAI 模型为其中80%的通话生成响应,客户解决率超过80%。光是消耗在 OpenAI 模型上的 token 就超过1万亿。
电话里发生了什么
一次通话里,Retell 的框架负责跑音频模型、跟踪对话。它决定智能体什么时候说话、什么时候听、怎么应付打断。OpenAI 的几个模型——GPT-6.1 Sol、GPT-6 Astra、GPT-5.5——负责生成应答。它们依据客户指令和对话上下文,需要查系统时就请求调用工具。Retell 通过集成执行这些调用,把结果写回客户记录。客户也能走 Realtime API 用 OpenAI Realtime 模型,或者拿 OpenAI 文本转语音当语音引擎。
AI判断需要真人介入时,会先把上下文简报给客服代表,回答代表的追问。等代表准备好了,再把客户接进来。转人工时信息已经交接完,客户不用从头描述问题。通话结束后,Retell 用 GPT-5.6 Terra 分析转录文本,提取结果和其他数据。
听起来像真人
电子公司 Anker 用 Retell 处理美国和英国的一线售后支持,包括订单跟踪、保修检查和故障排查。Anker 报出的数据是:案件解决率80.4%,净推荐值63。团队说,智能体的语气、节奏和温暖度,达到了他们对真人代理的期望标准。
医疗场景也在用。Pine Park Health 的 Retell 智能体负责预约提醒和主动调度,结果直接记进患者的医疗图表。这家机构因此恢复了相当于2.1个全职岗位的医疗助理时间,重新投到患者护理上。调度智能体联系到患者时,预订率达到55.7%。
快,而且不出错
Retell 平台的白日流量能冲到夜间低点的50倍以上。为了在高峰需求时保持响应,Retell 在 OpenAI 那边用了专用服务器,客户之间共享。10月13日的基准测试里,GPT-6 Astra 和 GPT-6 Sol 的中位首句延迟都是883毫秒。GPT-5.6 Luna 以497毫秒排第一。首句延迟就是AI开口前的那段等待——不到一秒,对话基本没有迟滞感。
OpenAI 的区域 API 端点允许开发者把流量路由到特定地理区域。这能减少网络传输时间,也能满足医疗、金融等行业的数据驻留要求。Retell 在服务每一层都做了冗余:自建电话栈,另备一套能接管的第二栈,语音和模型服务也各有备份。
用 AI 开发 AI
Retell 的工程师在开发全流程里用 OpenAI 的 Codex。写代码前,工程师只给 Codex 一个高层需求,Codex 自己调查代码、对照实际数据检查,然后解释需要改什么。一位工程师说,Codex 做这项研究比他做得更好,也快得多。实现过程中,Codex 经常抓住他们没考虑的细节。调试时,Codex 交叉引用日志、数据库记录和代码,去弄清正在发生什么。和客户合作时,Codex 也被用来加速编写指导模型响应的指令。
前端测试交给了 GPT-6 Astra 的计算机使用功能。工程师一打开前端拉取请求,GPT-6 Astra 就打开界面、点击、测试流程,尝试破坏它们,再报告发现的问题。Retell 说,早期模型没法可靠地做这件事。
Retell 还自建了 vCX 基准,从真实生产场景里抽取困难的多轮对话,用来比较几十个模型。10月13日的测试里,GPT-6 Astra 的指令遵循得分89.7%,排名第一。GPT-6 Astra 发布前的评估里,GPT-5.5 的非幻觉率88.0%、工具调用正确率88.3%。两项都超过 Gemini-3.1-Pro 和 Claude-4.6。
联合创始人兼CEO Bing Wu 说,他们选模型的方式和客户选供应商一样。真实通话说了算,不是演示。OpenAI 持续赢得这个位置。新模型发布当天,Retell 就会用上,模型改进了基准就重新跑。Retell 表示,新客户一旦选了 OpenAI 模型,就会继续用下去。
生意、人手和方向
Retell 还在招人,但工程团队的增长速度不需要跟业务同步。公司报告每位员工年收入运行率160万美元。Bing Wu 说,有了 Codex,工程团队等于多了一个虚拟队友,可以和任何人配对处理困难任务。
接下来,Retell 计划扩展质量保证和模拟、支持更多语言、开发知识库自动学习。具体会支持哪些语言,目前没有公布。剩余不到20%未解决案例集中在什么场景,公司也没说。至于 OpenAI 模型在幻觉和工具调用错误上的长期表现,除了发布前的那组评估,公司没有披露更多数字。
Bing Wu 这样描述公司目标:没有哪家公司比自己更了解自己的客户。Retell 给客户权力,让他们把这份了解用起来,直接改进 AI 智能体。最终目标是让客户建立一支内部部署的工程师团队,自己拥有并运行一切。
关键事实
- Retell 平台服务超过4000家企业,月通话量从2026年初的3000万次增长到9月的超过1亿次。
- OpenAI 模型为 Retell 上80%的通话生成响应,客户解决率超过80%。
- Retell 在 OpenAI 模型上消耗了超过1万亿个 token。
- Retell 的工程师在开发全流程中使用 Codex,包括研究不熟悉的代码、构建功能和调试问题,并使用 GPT-6 Astra 测试前端界面。
- Retell 联合创始人兼 CEO Bing Wu 表示,他们选择模型的方式就像客户选择供应商一样,基于真实通话而非演示,OpenAI 持续赢得这个位置。
- Retell 构建了 vCX 基准,使用来自真实生产场景的困难多轮对话来比较数十个模型。
- 在2026年10月13日的基准测试中,GPT-6 Astra 在指令遵循方面排名第一,得分89.7%。
- 在 GPT-6 Astra 发布前的评估中,GPT-5.5 在非幻觉率(88.0%)和工具调用正确率(88.3%)上均排名最高,超过 Gemini-3.1-Pro 和 Claude-4.6。