
让世界上每一台设备拥有自己的智能
近期,AI产业的发展重点正在发生明显变化。相比过去更强调模型参数规模,如今行业以更加务实的态度,转而更加关注AI在真实场景中的运行成本、部署效率与终端适配效果。
在这一趋势下,端侧部署与端云协同,正逐渐成为AI落地的重要方向。
01
大模型市场形成三足格局,闭源、开源、轻量化模型适配不同业务场景
当AI产业已形成多层次产业生态格局:以云端算力为核心的闭源大模型、快速迭代发展的通用开源基础模型,以及适配本地部署需求的轻量化小模型。随着AI行业从试验探索阶段迈入规模化落地周期,行业评判标准也从单纯比拼模型能力,转向综合考量不同技术路线的长期使用成本、运行效率与业务场景适配表现。
云端闭源大模型凭借完备的通用能力与成熟配套生态,依旧保有领先优势;而通用开源模型则凭借更高的可访问性与灵活性加速技术扩散。但在真实业务场景中,长期运维成本、数据安全与实时响应速度等因素成为选型的核心考量指标。因此,私有部署、本地推理与混合端云架构等方式,正在被更多企业纳入整体AI方案设计中。
与此同时,轻量、高效的小模型正迎来行业发展风口,以满足终端设备对低成本、低延迟和灵活部署的需求,成为终端AI赛道的核心发展方向。
02
端侧模型四大优化方向,AI竞争重心从卷参数规模转向终端场景适配
在上述趋势的推动下,模型优化的重点更多放在端侧环境适配与部署可行性上,主要围绕以下四个技术方向展开:
低资源占用优化:腾讯混元HY-1.8B-2Bit通过2-bit量化与训练优化技术,能够在极低硬件资源消耗条件下最大程度保全模型效果。随着量化与压缩技术持续迭代,端侧模型正朝着低内存、低功耗的方向持续演进。
性能与功耗均衡优化:谷歌Gemma 4系列覆盖E2B、E4B、26B与31B等多种参数规模,并支持量化部署。新一代模型不再盲目堆砌参数规模,转而追求推理性能、内存占用与硬件功耗三者的平衡,以此适配更多端侧、本地AI落地场景。
轻量化多模态能力:面壁智能MiniCPM-V4.6以1.3B参数实即可现轻量化多模态能力,设备仅需约6GB内存便可端侧运行,大幅降低手机、平板等消费终端搭载多模态AI的硬件门槛。
低算力设备部署:RockAI Yan架构1.8B参数模型具备文本、语音、图像、视频全模态能力,可在树莓派这类微型设备部署,体现出轻量化模型正持续向真实终端场景下沉,并保持迭代优化。
总体来看,随着模型轻量化技术、本地部署方案日趋成熟,行业竞争焦点已脱离单纯的参数规模比拼,逐渐转向模型对各类终端设备与真实业务场景的适配能力。
03
端云协同驱动AI从单模型迈向设备协作的系统级智能
随着端侧AI应用到更多真实使用场景,行业的关注重点不再局限于模型本身,进一步延伸至端云协同架构、用户隐私保护、多智能体协作机制等系统层面,例如:
腾讯于5月中旬推出的Marvis(马维斯)展示了端云协同的运行方式,其中本地模式可确保数据不离开设备,以保障用户隐私;通过多Agent协同框架完成系统级任务调度;借助跨设备互联与应用生态打通 PC端、移动端,实现跨终端任务流转与设备联动操控。
Samsung(三星)采用本地推理 + 云端算力结合的混合AI策略。该架构将隐私敏感、低延迟交互类任务交由设备本地处理,高复杂度运算任务上传云端完成;依托全域设备互联协同能力,打造一体化跨终端AI使用体验。
综合两大厂商实践可见,AI 产业发展已跳出单一模型性能比拼的阶段,逐步演进为融合端云协同、多Agent调度、跨设备互联的系统级智能形态,以此提升任务执行效率与用户体验。
文案 | Alicia、Emily、Rachel
审核 | Alicia
排版 | Rachel
往期推荐






