Retell AI：OpenAI模型支撑月均1亿通话

从3000万到1亿：Retell AI 的规模化之路

Retell AI 是一家面向呼叫中心场景的语音AI平台公司，帮助企业构建能接听电话、执行操作、并在需要时转接人工的语音代理。目前，其平台服务超过4000家企业，月通话量从2026年初的3000万通增长到9月的1亿通以上。支撑这一规模的关键，是OpenAI模型的深度采用：80%的通话响应由OpenAI模型生成，客户问题解决率超过80%，累计消耗OpenAI token已突破1万亿。

选型逻辑：用真实通话数据说话

语音代理在实时对话中必须遵守企业政策、不越权，同时保持自然。Retell 自建了 vCX 基准，用真实生产场景中的多轮困难对话来对比模型。评测维度包括指令遵循、信息锚定、工具调用正确性和对话自然度。在2026年10月13日的基准中，GPT-6 Astra 以89.7%的指令遵循率排名第一；而在GPT-6 Astra发布前的评估中，GPT-5.5 在推理开启时以88.0%的非幻觉率和88.3%的工具调用正确率领先，优于 Gemini-3.1-Pro 和 Claude-4.6。Retell 的CEO Bing Wu 表示，他们“像客户选供应商一样选模型——看真实通话，不看演示”。

对开发者而言，这提示了一个重要原则：模型选型不能只看榜单，必须用自己业务的实际数据做基准测试。Retell 的方法可以复制：构造一组覆盖关键场景的多轮对话，同时测指令遵循、幻觉率、工具调用正确性，再结合延迟和成本做综合决策。

工程实践：Codex 与模型快速迭代

Retell 的工程师在开发全流程中使用 Codex，包括研究陌生代码、构建功能、调试问题，以及用 GPT-6 Astra 测试前端界面。模型接入方面，Retell 通过 Realtime API 使用 OpenAI Realtime 模型，并用 OpenAI 文本转语音作为语音引擎。新模型发布当天即可上线，同时重新运行基准以持续评估。

这里对开发者的实用启示是：把模型当作可替换组件，建立自动化评估流水线。一旦新模型发布，能快速跑基准、对比效果，再决定是否切换。这比凭感觉升级更稳妥。

架构与效果：如何实现80%+解决率

Retell 的架构核心是一个“harness”：通话中运行音频模型、跟踪对话状态、管理语音代理何时说话或听，并处理打断。OpenAI 模型（包括 GPT-6.1 Sol、GPT-6 Astra、GPT-5.5）根据客户指令和对话上下文生成响应，请求工具调用；Retell 通过集成执行这些调用，并把结果写回客户记录。需要人工时，语音代理会先向坐席提供上下文、回答追问、确认准备就绪，再接通客户。通话结束后，GPT-5.6 Terra 分析转写文本，提取结果和其他数据。

实际案例中，电子产品公司 Anker 用 Retell 代理处理美国和英国的 Tier-1 售后支持，包括订单跟踪、保修检查、故障排除，实现了 80.4% 的案件解决率和63的NPS。这说明，语音代理不只是“能对话”，更要能闭环解决业务问题。

对开发者的启示

Retell 的经验对三类人有价值：一是正在构建语音代理的开发者，可以参考其基准方法和模型分工；二是呼叫中心业务负责人，可以用数据评估AI代理的ROI；三是AI平台工程师，可以学习如何把多个模型组合进生产系统。核心要点包括：用真实业务数据做模型选型、把新模型接入做成自动化流程、让AI代理具备工具调用和人工转接能力，并用解决率而非单纯对话质量来衡量效果。