Meta 发布开放权重模型 Muse Spark Open,并与 Apple 合作让它能在 Apple silicon 上本地运行。
为什么「本地跑」比「开放权重」更关键
开放权重解决的是「能不能自己部署」,本地运行解决的是「要不要发请求」。
后者改变的东西更多:
- 离线可用:没有网络、或网络被限制的场景,能力不再归零。
- 默认不出去:数据留在机器上不再是一个需要权衡的选项,而是默认状态。
- 零边际成本:没有按 token 计费,跑得多不会更贵——这会改变「值不值得用一次模型」的判断本身。
该测的不是跑分
在 Mac 上能跑,和在 Mac 上能用来干活是两件事。真正要测三样:目标机型(8GB 还是 64GB 统一内存)上的实际 token/秒、长上下文时的内存增长、量化之后的质量损失。
跑分通常是在服务器卡上、用未量化的权重测的,对端侧判断帮助有限——内存带宽才是端侧的真瓶颈。
值得留意
Meta 这半年在开放权重上的节奏明显加快:同月还有编码向的模型、以及走 AWS SageMaker 的云端分发。如果端侧这条线继续推进,「本地优先、云端兜底」可能会从少数人的坚持变成一种常见架构。
update 2026.10.15