9 月 15 日,两条关于苹果 AI 的消息被开发者陆续挖出,放在一起看,苹果在"端侧智能"上的思路比外界想得还要开放。

Siri 的后端不再是铁板一块

有开发者在苹果系统代码里发现,Siri 的 AI 能力已经预留了替换入口——未来可以把默认的 Apple Foundation Models 换成 Claude 或 GPT-5.6。换句话说,用户也许能在设置里选择"让哪个模型来驱动 Siri"。这与苹果过去把一切牢牢攥在自己手里的风格明显不同。

让出模型其实换来了别的东西

表面看是苹果妥协了,但换个角度算账,让出"模型"这一层,苹果拿到的是三样更实在的东西。

第一是成本结构。训练前沿模型需要持续、巨额的算力投入,而且没有明确的收敛点;而调用第三方模型是边际成本,用多少付多少。对一个硬件公司来说,前者是不可控的固定支出,后者是可控的变动支出,两者在财务报表上的性质完全不同。

第二是监管压力。多地监管机构对"默认应用"的审视越来越严,允许用户更换默认服务是常见要求。把 Siri 的模型后端做成可替换,等于提前把这道题答了。

第三是工程上的分层。所谓"换模型",不是替换一个接口那么简单:苹果需要决定哪些请求留在设备本地、哪些上传云端、第三方模型能拿到多少上下文,以及怎么在隐私承诺上自圆其说。苹果选择让模型可替换、但把调度权、设备侧算力和隐私边界握在自己手里——这恰恰是最难被替代的部分。

Mac 上能本地跑模型了

另一条线索更实:据海外开发者社区消息,苹果在 macOS 27 上把 Foundation Models 做成系统级能力,用户可以直接在终端里调用 fm chat 与本地模型对话,无需联网、也不依赖云端。这意味着开发者能在 Mac 上更方便地测试隐私优先的本地 AI 应用。

本地跑模型的真实限制

"Mac 上能本地跑 AI"听起来很美好,但实际能跑多大的模型,受三个硬指标约束。

一是内存。模型权重、KV 缓存、推理中间状态都要驻留内存,统一内存的容量直接决定上限。这也是苹果芯片用统一内存架构的优势所在——同价位下,能塞进去的模型比独显机器大得多。

二是功耗与散热。本地推理是持续负载,不是几秒钟的峰值。笔记本一旦长时间满载,风扇起来、续航腰斩,体验就会打折。所以真正实用的本地模型,通常是量化过的中小尺寸版本,而不是满规格的大模型。

三是量化损失。为了压进内存,本地模型普遍要做 4bit 甚至更激进的量化,代价是长上下文和精确推理能力下降。这就是为什么苹果、高通们强调的不是"跑得动最大模型",而是"在够用的尺寸上跑得足够快"——端侧的竞争点从来不是参数,而是能效。

端侧 AI 正在变成"底座之争"

把这两件事合起来看,苹果的方向很清楚:模型能力不一定全自己扛,但运行模型的地方(设备)必须握在自己手里。当手机和电脑能本地跑足够强的模型,云端的依赖就弱了,隐私和延迟也更有保障。对普通用户来说,短期内最直观的变化,可能就是"说话的 Siri 变得更聪明,而且有些活儿根本不用出设备"。