10月14日，清华系团队 OpenBMB（面壁智能）发布 MiniCPM-V 4.7。最抓眼球的点在于：这是一个 35B（350亿）参数的混合专家（MoE）视觉模型，却能把运行内存压到一部 iPhone 装得下的预算里。换句话说，手机不联网、不调用云端，就能本地跑一个"能看图、能理解、能对话"的多模态模型。
端侧模型的"老难题"
过去几年，大模型有个绕不开的矛盾：越强，越大，越离不开数据中心。想让模型"看懂图"，往往要把图片传到云端、等推理、再把结果传回来——这带来三个问题：延迟（要等网络）、隐私（图片出了手机）、成本（云端算力要钱）。
端侧模型想解决的，正是这三点。但要在手机那点内存和算力里塞下一个"既懂语言又懂视觉"的模型，难度极高。要么砍能力，要么砍体积，二者难兼得。
MiniCPM-V 4.7 怎么做到的
MiniCPM 系列一直走"小而能跑"的路线，4.7 这次的关键词是 MoE（混合专家）。
MoE 的思路是：模型总参数很大（35B），但每次推理只激活其中一小部分"专家"网络。就像一所大学有 350 个教授，但解答一个问题只请相关的几个来开会。这样既保住了"知识总量"，又把"单次运算量"压了下来，让手机能跑。
加上视觉编码器与语言模型的协同压缩、量化（用更低精度表示权重）等工程手段，最终把整机内存占用压进手机预算。OpenBMB 此前几代 MiniCPM 就已经能在手机上做图文对话，4.7 是第一次把 MoE 架构和视觉能力结合起来做到这一尺寸。
为什么"端侧多模态"值得关注
这件事的意义，不只是一个模型变小了：
隐私层面：图片不用上传，敏感的证件、病历、家庭照片都在本地处理，合规压力大幅下降。
网络层面：地铁、飞机、地下室——没网也能用。对"AI 必须在线"的体验是根本改变。
成本层面：推理不依赖云端，大规模铺开时没有按调用量计费的压力，适合嵌入到 App、车机、家电里。
延迟层面：本地算完即回，少了往返网络，响应更跟手。
和"云上大模型"不是替代，是分工
需要说清楚的是，端侧小模型不会取代云上的旗舰大模型。前者胜在"随时随地、隐私友好、零成本"，后者胜在"最强推理、最长上下文、最复杂任务"。更可能的形态是协同：手机本地先理解、做简单任务、过滤敏感信息，复杂问题再交给云端。
OpenBMB 的 MiniCPM 路线，代表了 AI 行业一条重要的支线——不是所有智能都要堆在数据中心里。当 35B 级别的视觉能力能装进一部手机，意味着"AI 看懂世界"这件事，开始真正脱离插座和信号塔，走向每个人的口袋。
对开发者和普通用户来说，这类开源端侧模型的持续进步，是"AI 平民化"最实在的一步：不依赖大厂API、不担心停服、不泄露数据，模型攥在自己手里。