AINotes 101
菜单
Radar / 工具 / 正文

Meta 的开放权重模型 Muse Spark Open 能在 Mac 上本地跑

2026.10.15 Tooling 今天就能用上什么

开放权重解决「能不能自己部署」,本地运行解决「要不要发请求」——后者改变的东西更多。该测的不是跑分,是目标机型上的 token/秒、长上下文的内存增长,以及量化之后掉了多少质量。

Meta 发布开放权重模型 Muse Spark Open,并与 Apple 合作让它能在 Apple silicon 上本地运行。

为什么「本地跑」比「开放权重」更关键

开放权重解决的是「能不能自己部署」,本地运行解决的是「要不要发请求」。

后者改变的东西更多:

  • 离线可用:没有网络、或网络被限制的场景,能力不再归零。
  • 默认不出去:数据留在机器上不再是一个需要权衡的选项,而是默认状态。
  • 零边际成本:没有按 token 计费,跑得多不会更贵——这会改变「值不值得用一次模型」的判断本身。

该测的不是跑分

在 Mac 上能跑,和在 Mac 上能用来干活是两件事。真正要测三样:目标机型(8GB 还是 64GB 统一内存)上的实际 token/秒、长上下文时的内存增长、量化之后的质量损失。

跑分通常是在服务器卡上、用未量化的权重测的,对端侧判断帮助有限——内存带宽才是端侧的真瓶颈。

值得留意

Meta 这半年在开放权重上的节奏明显加快:同月还有编码向的模型、以及走 AWS SageMaker 的云端分发。如果端侧这条线继续推进,「本地优先、云端兜底」可能会从少数人的坚持变成一种常见架构。

update 2026.10.15