别被假新闻骗了!Meta的Muse根本跑不了你的Mac

blank发表于1 周前
if ( !emtpy($headline_subheadline ) ) : ?

你手头没有闲置的1TB内存吧?

endif; ? 来源: Meta xml encoding="utf-8" ?

你现在可能已经看到那些标题了。

“苹果和Meta为了AI冰释前嫌”

“苹果与Meta联手,让Muse AI模型在Mac电脑上运行”

“Meta和苹果联手,让Muse AI模型在Mac上跑得更好”

“Meta发布可在Mac上运行的开源权重AI模型”

这些说法都不是完全错误,但你要是因此以为Meta备受欢迎的新Muse智能体现在能在你的Mac上本地运行,也情有可原。事实并非如此。确实有面向Mac和iOS(以及网页)的Muse应用,但真正的智能体本身以及它使用的所有模型,都运行在Meta云端的服务器上。

这些报道指的是Meta刚刚发布的新开源权重模型,名为Muse Spark Open,与之相对的是Meta当前一代AI产品,简单称为“Muse”。Meta表示Spark Open是迄今为止(来自美国的)最强开源权重模型。不过,它并不是GPT-6 Astra或Claude Opus 5.5这类前沿闭源模型的竞争对手;真正能抗衡的是Muse Wonder和Muse Wonder Full,它们是体量更大、只能在云端运行的模型。

Muse Spark属于同一代产品,但它是更小、更轻量、响应更快的模型,设计目标是相对便宜。而且没错,它能在Mac上原生运行!嗯,是两台Mac。但不是你的Mac。

苹果有一篇博客文章,讲的是如何优化Muse Spark Open以及其他两个模型,使其能在Apple Silicon Mac上原生运行。内容挺有意思,但值得注意的是,另外两个模型(Mistral Medium 3.5和Qwen 3.8)才是唯一能在单台Mac Studio上运行的。

Muse Spark Open在原生精度(BF16)下,仅8000多亿参数就需要惊人的1.6TB内存。所以苹果与Meta合作进行了优化和调优,如果你以4位量化精度(NVFP4)运行,内存需求可以降到……493GB。这还只是模型本身。实际运行以及macOS本身还有其他开销,所以单台512GB内存的Mac Studio根本跑不了它。提醒一下,搭载M5 Ultra的512GB Mac Studio目前甚至还没上市,预计至少要1.5万美元,而且可能远不止这个价。

你需要两台512GB内存的Mac Studio,通过雷电端口连接,并运行新的MLX框架,才能在多台Mac之间进行分布式计算来跑Muse Spark Open。你或许可以用三台256GB的Mac Studio凑合,但苹果没说。

所以没错,就像苹果说的那样,你可以在“自己的办公桌上”运行Meta最新的开源权重模型,前提是你的办公桌上得摆着超过3万美元的Mac Studio硬件。

不,你无法在自己的Mac上本地运行Muse智能体。你也无法在自己的Mac上运行Meta最新最强的前沿LLM模型(Muse Wonder)。你只能在至少两台非常昂贵的高端Mac上运行最新最强的开源权重模型。除了极少数研究人员,对大多数人来说,花钱在云服务器上跑会划算得多。

如果这对普通消费者有什么故事的话,那就是:苹果非常认真地想成为AI研究人员运行本地模型的首选硬件,而这或许最终会以面向普通Apple Silicon用户的、优化良好的AI软件形式回报我们。

Mac软件资讯
10

全部评论 0

暂无跟帖

没有了

到底了

查看更多

发表评论

点击这里给我发消息2507222545请先加好友
在线客服加载中...