AI日报|终端侧AI:从单点应用到智能体体验的演进

截至2026年11月,终端侧AI已经从单点功能应用向复杂智能体体验演进,高通、腾讯等企业加速布局端云协同架构。终端侧AI应用已覆盖影像处理、文本处理、语音转录等场景,其中MoE模型在终端设备上可减少70%参数计算量,提升能效比。端侧与云端协同将成为未来3-5年AI发展的主要方向。
终端侧AI:从单点应用到智能体体验的演进
导语
2026年11月,终端侧AI技术发展迎来重要转折点。随着应用场景从单点功能向智能体体验演进,端云协同架构成为行业共识。高通、腾讯等科技巨头纷纷布局这一领域,推动AI技术在终端设备上的深度应用。本文将分析终端侧AI的发展现状、技术趋势以及企业布局,探讨这一领域的未来发展方向。
终端侧AI的发展现状
终端侧AI经过过去3至4年的发展,已经从早期的单点功能应用逐步向复杂智能体体验演进。据高通公司AI产品技术中国区负责人万卫星在2026年11月7日的上海活动上介绍,终端侧AI并非从大模型开始,影像领域是AI较早落地终端的领域之一,手机拍照效果的持续提升背后就有终端侧AI技术的推动。
如今,终端侧AI已经拓展到简单问答、聊天、图像生成与处理,以及文本处理、语音转录、实时翻译等多模态应用。这些功能在端侧落地的条件已经比较成熟,但大多数应用仍偏向单点功能,如自动语音识别(ASR)、文本摘要、图片处理、简单聊天机器人等,主要解决具体任务。
万卫星指出,如果未来希望终端能够进一步完成意图理解、任务编排、实时操作目标App等系统级、规划类任务,就需要更强的端侧模型能力。这意味着终端侧AI正在逐渐从解决一个个具体任务,向更加复杂的智能体体验演进。

端云协同:计算连续体的新范式
在终端侧AI的发展过程中,端云协同或"计算连续体"成为主流架构思路。高通并不强调端侧的唯一性,而是提出"端侧优先"(on-device first)的策略,强调端侧与云端的协同作用。
传统依赖云端的AI服务,每一次推理都需要消耗云端Token、GPU以及云端调度资源,同时依赖网络连接。将合适的AI能力部署到端侧,可以减少对网络的依赖,提供更加及时和稳定的响应,同时发挥终端在安全、隐私和个性化方面的优势。
万卫星用一个直观的比喻解释了二者的关系:云端更像一个"通用知识库",端侧则拥有更多属于用户个人的"专业化知识"。端侧可以结合用户是谁、在哪里、过去做过什么,以及当前所处的环境,对用户接下来可能需要的服务作出判断,这也是"主动式AI服务"的基础。
值得注意的是,端侧并不是孤立的体系。云端可以承接需要更强智能和计算能力的任务,端侧则能够发挥实时、稳定、隐私以及个性化等优势,二者相互协同,形成完整的计算连续体。

MoE模型:终端侧AI的重要技术方向
在终端侧AI的技术演进中,Mixture of Experts(MoE,混合专家模型)成为重要技术方向。与传统Dense模型相比,MoE模型通过将模型参数划分为多个不同的"专家"模块,每个专家模块负责其中一部分,可能擅长不同的任务。
万卫星以一个30亿参数的Dense模型为例进行解释:每完成一次推理,30亿参数都需要运行一遍,才能得到最终输出。而MoE模型的工作方式有所不同,当模型处理某个具体任务时,只需要调用与这个任务相关的部分专家模块。
例如,一个MoE模型包含20个专家模块,执行某个任务时,可能只需要调用其中2至3个专家模块,而不是让全部20个专家模块同时运行。这种工作方式类似于多位擅长不同菜系的厨师,根据顾客需求调用相应厨师,而不是让一位厨师做所有菜系。
MoE模型的优势在于显著降低计算量,提高能效比。对于终端设备而言,这意味着在有限的计算资源下,可以实现更复杂的AI功能,同时保持较低的功耗和响应时间。

企业布局:腾讯的Agent生态系统
在终端侧AI和智能体领域,腾讯也进行了全面布局。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生指出,企业落地Agent最大的难题,不是模型不够强,而是"断点太多":AI能写方案、做分析,却接不上业务系统,也拿不到企业数据。
围绕这些"断点",腾讯提出打造"全场景、高效能、更放心"的Agent生产力系统。在2026年的腾讯全球数字生态大会上,腾讯通过40+场发布,围绕应用、数据、安全和工程四个板块,呈现出包括WorkBuddy在内的更完整的Agent布局。
在应用层面,腾讯发布了跨应用协同体系Buddy One,一边用WorkBuddy连接腾讯文档、腾讯网盘、腾讯乐享、设计和研发工具,让Agent从个人助手变成团队的新助理;另一边通过腾讯云ADP、元宝搜索、天籁语音大模型、MAGIC AI等产品,把Agent带进更多业务执行场景。
数据层是Agent真正进入企业的关键。为了让Agent用好企业数据,腾讯云围绕"懂、存、跑、自治"展开了布局。其中,TDSQL Nexa Lakebase帮助理解数据;TDSQL Boundless负责存储和处理多种类型的数据,为Agent提供全面的数据支持。
实操要点
端云协同架构设计:在开发AI应用时,应考虑端云协同架构,将适合在终端运行的功能部署在端侧,如实时响应、隐私敏感的功能;而将需要大量计算资源的功能放在云端,如大规模模型推理。这种架构可以平衡性能、隐私和功耗的需求。
MoE模型的应用优化:对于终端设备上的AI应用,可考虑采用MoE架构模型,根据不同任务调用相应的专家模块,减少不必要的计算。在资源受限的设备上,可以通过动态调整激活的专家数量来平衡性能和功耗。
数据层准备:企业级AI应用部署前,需先解决数据层的准备问题,包括数据的完整性、语义理解和业务规则嵌入。确保AI模型能够准确理解和使用企业数据,避免因数据问题导致的错误结果。
今日工具速览
Cordonix 0.4.1:面向AI编程智能体的原生执行与文件工作区工具,支持本地程序执行、文件读取、编码转换和内存编辑等能力。https://www.oschina.net/news/503467
腾讯WorkBuddy:腾讯推出的跨应用协同体系,连接腾讯文档、腾讯网盘等多种工具,将AI助手从个人助手升级为团队助理。https://www.leiphone.com/category/industrynews/oxR5pn9S7tI1IfF5.html
高通端侧AI解决方案:提供端侧优先的AI计算架构,支持从影像处理到多模态应用的终端AI部署。https://www.leiphone.com/category/chips/aOKsujJpdDvRKj5S.html
总结与观点
终端侧AI正从单点功能应用向复杂智能体体验演进,这一转变将深刻改变人机交互方式。端云协同架构和MoE模型等技术创新为终端AI的发展提供了新的可能性,同时也带来了新的挑战。
从企业布局来看,腾讯等科技巨头已经开始构建完整的AI生态系统,从应用层到数据层,从安全到工程,全方位推进AI技术的落地应用。这种系统性布局将加速AI技术在各行业的渗透和应用。
未来,随着终端侧AI能力的不断提升,我们将看到更多智能体应用的出现,这些应用将更加理解用户需求,提供更加个性化的服务,同时更好地保护用户隐私和数据安全。终端AI的发展不仅将改变我们的设备,也将改变我们的工作和生活方式。
参考来源
本文目录(9 节)
本文基于 AI罗盘日报 的公开内容,由 AI 辅助整理改写后发布。
参考来源(4)