配资融资炒股 3G内存装下35B多模态，AI终端迎来巨变前夜

经常出门的人都懂一个道理：背包的容量是有限的配资融资炒股，但你想带的东西永远比背包大。

端侧 AI 正在面临同样的困境。近两年，用户对端侧智能的需求快速增长：拍照后直接修图、录完视频即时摘要、会议实时提炼纪要，这些场景都需要设备本地的多模态能力。手机厂商、芯片厂商、应用开发者纷纷加码，端侧 AI 从旗舰专属卖点，逐步成为手机标配。

然而硬件端的空间却愈发紧张。Counterpoint 的数据显示，2026 年第二季度智能手机内存价格环比涨幅已突破 80%。存储芯片在手机物料成本中的占比，已经从早年的 10%～15% 攀升到了 30%～50%，部分中低端机型甚至达到 60%。

另一边，IDC 预计 2026 年中国新一代 AI 手机出货量将达到 1.47 亿台，同比增长 31.6%，渗透率首次突破 53%。每卖出两台新手机，就有一台搭载端侧 AI。全球范围内，生成式 AI 手机的渗透率将在 2026 年达到 45%，2027 年突破 52%，正式成为行业标配。

需求爆发式增长，但作为背包的内存成本持续走高。想要规模化落地端侧 AI，单纯堆内存、堆参数的思路已经走不通。

在这个背景下，面壁智能与 OpenBMB 最新发布的 MiniCPM-V 4.7给出了一种极简背包客式的解法——在保有现有背包容量的前提下把收纳做到极致。作为首个可在端侧无损流畅运行的开源 MoE 多模态大模型，35B 参数的 MoE 多模态大模型，只用约 3G 内存就能在 iOS、安卓等系统上流畅运行。

而往细里看，这是一套分层、有序、精打细算的收纳哲学。

如果你出门旅行过，大概懂这个感受：

带大箱子太重，带小背包装不下，勉强塞满找东西要翻半天，拉链还随时可能崩开。

元股证券:ygzq.hk

端侧 AI 现在面临的，就是这三种包的困境。

第一种：云端的大行李箱，能力强，但带不走。

云端大模型就像一个巨大的旅行箱，什么都装得下。GPT-4V 级别的多模态能力看图、读文档、做数学题、分析视频，样样精通。但问题是它需要联网、有延迟、有隐私顾虑、有成本压力。对手机、平板、车载这些终端场景来说，很多时候你需要的是随手就能用的 AI，而不是每次都要托运的大箱子。

第二种：端侧小模型就像随身腰包，轻便，但装不了多少东西。

于是行业走向另一个极端：把模型做小，塞进手机里。几百 M、1B、2B 的端侧模型层出不穷，确实能跑、轻便，但能力也确实有限。OCR 认不准复杂表格，数学题做不对，视频理解只能看个大概。就像一个腰包，装个手机钥匙钱包还行，真要出门办事，东西根本不够用。用户的感受就是，端侧 AI 能用，但不好用。

第三种：强行堆料的登山包，能装，但背不动。

那能不能让端侧模型再大一点？当然可以，但代价是内存。

Counterpoint 的数据显示，2026 年第二季度 DRAM 内存已经正式超越主芯片 SoC，成为旗舰手机中造价最高的单一元器件。64GB DIMM 价格一年内涨了约 3.5 倍，涨势还没停。12GB 已成 AI 手机及格线，16GB 是旗舰标配，部分机型往 24GB 上探。内存越堆越大，成本越堆越高，但消费者的钱包不是无限的。靠堆内存来堆 AI 能力，这条路越走越贵。云端的箱子带不走，端侧的腰包不够用，堆料的登山包背不动。

端侧 AI，似乎卡在了一个尴尬的中间地带。

那么，什么样的端侧 AI 才能满足现在的市场、技术需求？

面壁智能联合清华大学提出的"密度定律"早已给出过判断：大模型能力密度约每 3.5 个月翻一番，每隔约 100 天就能用一半参数量实现当前最优性能。这意味着高效才是端侧 AI 的真正护城河。

而面壁智能近期发布的 MiniCPM-V 4.7 又提供了一种新的观察方向。MiniCPM-V 4.7 最引人注目的是它把端侧可流畅运行的多模态模型上限，推到了一个此前被认为"不属于手机"的档位：35B 总参数、3B 激活的 MoE 架构，约 3G 内存即可在 iOS、安卓系统流畅运行。

本次发布同时推出两个版本：35B-A3B（35B 总参数 /3B 激活）是端侧可流畅运行的最强多模态大模型，约 3G 内存即可在 iOS、安卓等系统上流畅运行；另一个1B 版本（1.3B 参数）则在极小体积下把 OCR、数学、视频做到同尺寸第一梯队。全系列支持 256K 超长上下文，模型权重、推理代码和微调代码全部开源。

我们可以从以下几个视角了解一下其收纳艺术。

第一层收纳：把大模型"分装"成小包。

资深背包客都知道一个基本原则：不要用一个大包塞所有东西，而是用多个收纳袋分装，用哪个拿哪个。MoE（混合专家模型）架构，就是把这个思路用到了大模型上。传统的稠密模型像一个巨大的旅行箱，所有参数都要同时驻留内存，每次推理都得全部动用。而 MoE 模型把 35B 总参数拆成多个"专家模块"，每次推理只激活其中一小部分。在保持大模型容量与能力的同时，降低计算量和内存带宽需求。

MiniCPM-V 4.7 35B-A3B 的激活参数只有 3B。这就好比你有 35 件装备，但出门的时候身上只带 3 件最常用的，其余的分装在不同的收纳袋里，需要时再取出来，总容量一点没少，但随身负担大大减轻。

这是 MiniCPM-V 4.7 高效路线的第一层保障：用稀疏激活换内存空间。内存占用大幅下降，模型能力却没有缩水。高效与效果在这一层同时成立。

第二层收纳：提前预判，把要用的东西先放到手边。

分装只是第一步。如果你每次需要什么都要把背包翻个底朝天，再从收纳袋里慢慢找，那效率就太低了。真正的收纳高手会预判自己下一步要用什么，提前把它从背包深处拿到最外层的口袋里。MiniCPM-V 4.7 的专家预加载技术，做的就是这件事。面壁智能全球首次提出前瞻专家调度（Lookahead Expert Scheduling，LES）技术，将当前层的路由输入特征直接送入下一层路由模块，预判所需的专家并提前加载，结合经过优化的专家存储占用和布局方式，显著减少加载的等待。

LES 包含专家预取、计算调度和权重存取。在 MoE 模型中，每一层 Transformer 需要先选择专家再执行计算，而专家选择又依赖上一层的输出。当专家权重保存在 SSD 上时，只能等路由器选出专家后才能开始读取。这段读盘时间就卡在每层计算之前，成为推理速度的关键瓶颈。

就像你要找下一件装备，得先想清楚要哪件，再伸手到背包里翻，翻到了才能用。每一步都得等。预加载的思路是，在本层专家进行 GPU 计算的同时，预测出下一层将要激活的专家，由独立线程并行地把它们的权重从 SSD 读入内存中预分配的缓冲槽位。这样，下一层的权重读取与本层尚未完成的计算就重叠了，不用干等。并且，这个预测无需训练任何额外网络，只需复用下一层的 router，将本层 router 的输入经过下一层 router 计算，取分数最高的 8 个，再加上对于专家计算顺序的优化，让预加载命中专家先计算，同时并行着加载少数没命中的专家，进一步减少等待。最后，LES 还通过精细的量化和布局优化，让权重占更少的空间、放在更连续的位置，进一步缩减了加载成本。

实测数据显示，对真实激活专家的覆盖率超过 80%。在 iPad Pro M4 16GB 上实机部署测试，解码速度平均提升约 5 倍，实机绝对速度可达 17~19 tokens/s，是目前端侧可流畅运行的最强多模态大模型。

就像一个经验丰富的背包客，知道爬完山下一步肯定要喝水补充能量，所以在下山的路上就把水壶和能量棒从背包底翻到了侧袋里，等真的需要时，伸手就能够到。

第三层收纳：轻量化与批量取用，快上加快。

收纳还有一个技巧：把同一场景要用的东西打包在一起，一次拿出来，不用来回翻。

对专家权重驻留 SSD 的推理来说，专家读取、主机往返与图调度是每生成一个 token 都要重新支付固定开销。DSpark 则用一个轻量的草稿模型一次提出多个候选 token，由目标模型一次前向并行验证，受理其中最长的、与其分布一致的前缀。固定开销只支付一次，由这些 token 共同承担，摊到每个 token 上便显著下降。

与一般的并行投机不同，MiniCPM-V 4.7 配套的 DSpark 草稿采用半自回归结构，并行骨干一次解出整块，输出端再以一个秩为 256 的低秩 Markov 模块，按上一个草稿 token 对当前位置的 logits 施加转移偏置并逐位传递成链。这样在不增加前向次数的前提下，恢复了块内 token 的依赖关系，使受理率不再沿位置快速衰减。

除了批量取用，另一个技巧是给装备本身减重。MiniCPM-V 4.7 保留了系列原有的 x4/x16 混合视觉压缩，16x 压缩后 MMBench 仍保持 90.9、OCRBench 仍保持 90.4，视觉 token 被压到原来的十六分之一，精度几乎不掉。东西本身变轻了，背包自然更好装。

减重的同时，能力并没有缩水。配合分片图像编码技术，MiniCPM-V 4.7 在长文档 OCR 提取、连续动态视频逻辑推演、多图上下文联合推理等端侧高频场景上延续了系列的能力积累。这些场景过去常被认为是小模型难以胜任的，而 4.7 在极小体积下依然把它们做到了可用水平。

以前你每次只能从背包里拿一样东西，拿一次就要开一次包、找一次、关一次包。现在你一次能拿出一整套洗漱套装，牙刷、牙膏、毛巾一并取出。在 M5 16GB Mac 上实测，代码调试与实现、语法纠错、科学解释、逻辑推理、数学计算等任务中，最优 n_max 下解码速度 TPS 平均提升 27%、最高提升 66%。速度上去了、精度没有掉，这才是端侧真正需要的快上加快。

第四层收纳：精选，知道什么该带什么不该带。

真正的收纳高手都懂一个道理：不是什么都要装进去才叫好。有时候，知道什么不带比什么都带更重要。

MiniCPM-V 4.7 1B 版本仅 1.3B 参数，却在同尺寸模型中实现了越级性能。相对 Qwen3.5-0.8B，甚至更大的 LFM2.5-VL 1.6B/3B，在 MMStar、MathVista、OCR、图表推理、幻觉抑制和视频理解等方面全面占优，打出了 MathVista 74.3、OCRBench 86.1 的成绩，视频理解更是远超同档竞品。

它就像一个经验丰富的背包客，出门前会仔细审视每一件物品，最后留下的都是真正高频、真正核心的东西。OCR、数学、视频……这些端侧多模态最常用的能力，1B 版本一样不缺，而且做到了同尺寸第一梯队。但那些用得少、占空间的功能，就被果断留在了家。

四层收纳层层递进，用极小的体积把最核心的能力做到了极致。背包没有变大，装的东西却更多了。

收纳做到这个程度，放在行业里看其实已经越过了很多厂商还没跨过的那道线。

手机厂商不是没想过在端侧跑大模型。vivo、荣耀、OPPO、小米等头部手机厂商都在往端侧 MoE 方向押注。但截至目前，行业里能在手机上跑起来的端侧模型主流还停留在 3B 到 7B 的稠密模型档位。30B 级 MoE 跑在手机上，多数厂商给出的时间表是两到三年之后。

MiniCPM-V 4.7 把这个时间表提前了。约 3G 内存、17~19 tokens/s 的实机速度，意味着 35B 总参数的多模态模型现在就能在中端机型上流畅运行。复杂文档 OCR、连续视频逻辑推演、多图上下文联合推理等旗舰机才有的多模态理解能力第一次具备了向中端价位段下放的技术条件。

不过，收纳做得再好，也只是把东西装进了自己的背包。端侧 AI 要真正走向规模化落地，还需要另一件事：把打包的方法教给更多人，让每一台设备、每一家厂商都能照着装出自己的那一份。

好的收纳方法，如果只有自己知道，价值有限。如果分享出去，让更多人都能用，才能真正改变一个行业。

从上一代到这一代，MiniCPM-V 系列的迭代本身就是这套收纳哲学不断升级的过程。MiniCPM-V 4.6 以 1.3B 参数、6GB 内存做到同尺寸最佳；V4.7 则直接把可流畅运行的模型上限推到 35B MoE 档位，内存反而降到 3GB。参数量翻了数十倍，内存需求却反而减半。

为什么这件事重要？因为 3B 到 7B 的模型代表着不同的能力边界。搭载 7B 模型的端侧设备能识别简单指令，但读不了复杂文档；能回答基础问题，但看不懂视频逻辑，行业称其为"能用但不好用"。

过去几年，端侧 AI 的"能力平权"更多停留在口号层面。旗舰机跑得动的模型，中端机跑不动；中端机跑得动的模型，能力又不够看。内存成本是横在中间的那道墙。当 3G 内存就能承载 35B MoE，这道墙被凿开了一个口子。千元机和中端机第一次有了用上旗舰级多模态能力的可能，技术普惠不再只是一句愿

这对手机厂商、芯片厂商、应用开发者来说意味着新的产品空间，不必再为内存预算妥协模型能力，也不必只把最好的端侧 AI 留给最贵的机型。

不仅如此，MiniCPM-V 4.7 还全系列开源模型权重、推理代码和微调代码。这意味着开发者和厂商不仅能用，还能基于自己的场景做二次开发和优化。

为了进一步让二次开发更加便利，MiniCPM-V 4.7 同步推出了自回放微调（Self-Replay Fine-Tuning）技术。做法很直观：在微调前，先让模型回答一批覆盖原有能力的问题，筛选出高质量回答，再把这些回答混进新任务的训练数据。模型一边学习新技能，一边复习自己原来会的东西，减少对已有能力的遗忘。

这些「复习材料」来自模型自身，更贴近它原有的回答方式。整个方法沿用标准微调流程，无需修改模型结构或损失函数，提前生成的回放数据也可以在后续实验中复用。开发者因此能以较低的接入成本扩展新能力，同时尽可能保留模型原有的通用表现。

MiniCPM-V 4.7 全套端侧多模态 AI 解决方案背后是面壁智能联席首席科学家姚远团队的持续投入。作为清华大学人工智能学院助理教授、博士生导师，姚远在 Nature Communications、CVPR、ACL、ICML 等顶会顶刊发表论文 30 余篇，主导构建了 MiniCPM-V、MiniCPM-o 等高效多模态模型。MiniCPM-V 系列从最开始到近期的 4.6 到 4.7，始终围绕"用更少资源跑更强模型"这条主线迭代，这套背包客式的收纳哲学正是团队一以贯之的效率路线在端侧多模态上的延续。

正品配资平台

面壁智能也建立了广泛的芯片合作生态。4.7 版本发布当天即适配 Intel、瑞芯微、AMD、ARM、后摩智能、NVIDIA、Apple 等芯片平台，此前已与高通、联发科技、华为昇腾、紫光展锐等数十家芯片厂商建立合作。

MiniCPM 系列已先后落地汽车、PC、手机、智能家居等 B 端客户，包括联想、吉利、上汽大众、广汽、马自达、红旗等。截至 2026 年 10 月，MiniCPM 系列累计下载量突破 6000 万次，连续多日霸榜 GitHub Trending 和 HuggingFace 趋势榜，成为全球关注度最高的多模态端侧开源基座之一。

此前，MiniCPM-V 相关成果已发表于 Nature Communications，证明面壁智能端侧多模态路线已获得国际顶级学术共同体认可。这条路线的行业影响力在更早之前就已经显现。

2024 年，斯坦福大学一个团队发布了名为 Llama3-V 的模型，声称以极低成本实现了比肩 GPT-4V 的效果，但很快被开发者发现，其架构和代码与 MiniCPM 团队此前开源的 MiniCPM-Llama3-V 2.5 高度一致。最终，斯坦福团队成员公开道歉并撤下模型。"套壳"事件说明，中国多模态大模型团队已经逐渐摆脱跟随者的身份，开始成为被全球同行直接借鉴的技术源头。面壁智能的开源工作，已经进入了全球开源创新的"源头供给侧"。