Choco借助AI智能体实现食品分销自动化
Choco是一款由AI驱动的平台,致力于实现食品和饮料分销的现代化,服务范围覆盖美国、英国、欧洲和海湾合作委员会国家(GCC),连接超过21,000家分销商和100,000家采购商。通过将餐厅、供应商和分销商整合到一个统一系统中,Choco简化了食品供应链上的订单、销售和客户管理。
随着订单量的增长,Choco遇到了一个主要瓶颈:客户仍然通过电子邮件、短信、语音邮件、图片,甚至手写便条等方式下达订单。团队需要手动将这些输入转化为结构化的ERP订单——这个过程缓慢、容易出错,限制了规模增长,并不断引发运营摩擦。
“处理这些输入是第一道障碍,但不是最难的。真正的问题在于隐含的上下文:客户特定的SKU映射、单位偏好和配送模式。这些知识只存在于订单台工作人员的大脑中,我们需要将其编码到推理层中,在捕获订单时解决歧义。”——Choco工程副总裁Narbeh Mirzaei
随着生产级LLM(大语言模型)的出现,Choco看到了超越工作流软件、构建能够直接执行工作的AI系统的机会。OpenAI的API成为这一转型的核心。
Choco将OpenAI的API嵌入到平台核心,为新一代AI原生产品赋能。该公司推出了OrderAgent,该智能体能够处理多模态输入——包括电子邮件、短信、图片和文档——并将其转化为结构化、可直接对接ERP的订单。
“转录和提取功能为我们奠定了坚实的基础。真正的工程挑战在于构建动态的上下文学习基础设施,使系统能够根据每个客户的订购历史和目录解决歧义。这才是将自动化与智能区分开的关键。”——Narbeh Mirzaei
Choco还构建了VoiceAgent,该智能体由OpenAI的Realtime API驱动,使客户能够在营业时间之外通过电话自然下单,延迟低于亚秒级。
选择OpenAI是因为其模型性能、多模态能力、结构化输出以及大规模生产可靠性。在单一生态系统中处理文本、视觉和音频的能力,使Choco能够将之前彼此孤立的工作流整合为一个智能系统。
实现过程快速且可扩展。通过使用OpenAI的SDK和API,Choco迅速将语音转文本、嵌入和函数调用等功能集成到基础设施中。团队还利用真实数据集、持续监控和A/B测试建立了严格的评估框架,以确保生产环境中的准确性和性能。
用户接受度得益于整个订单工作流的无缝集成。客户无需改变他们下单的方式——无论是通过电话、短信还是电子邮件,系统都会适应他们。
- 每年处理超过880万份订单,消除了数百万个手动工作流 - 手动订单录入减少高达50%,让团队腾出时间处理更高价值的工作 - 实现2倍生产力提升,团队无需增加人手即可扩大规模 - 通过可配置的自动化阈值,将错误率控制在1%至5%以下 - 支持24/7全天候订单接收,消除夜间和周末的延迟
- 从第一天开始就进行评估:即使只有一小部分真实数据集(10-20个示例),团队也能衡量进展、验证改进并自信地进行迭代。 - 投资AI原生的可观测性:调试AI系统需要的不仅仅是传统日志——捕获模型输入、输出和推理轨迹对于理解和改进性能至关重要。 - 尽早设定正确的期望:与传统确定性软件不同,LLM是概率性的。教育团队和用户了解这一差异,对于在采用过程中建立信任、避免摩擦至关重要。
Choco正在继续扩展其AI能力,覆盖整个食品分销生态系统,深化智能体在执行复杂运营工作流中的作用。随着AI系统承担更多责任,该公司正在赋能一类新的用户——非工程师出身的“智能体编排者”,他们设计和管理能够驱动业务成果的智能系统。
展望未来,Choco计划进一步扩大对OpenAI API的使用,在销售、商务和供应链运营中构建更自主、更具上下文感知能力的系统——持续从工作流软件转向AI驱动的执行基础设施。