Meta发布开源模型Muse Glimmer,300亿参数可跑在个人电脑上
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-08-11 11:25
关键字: Meta ,量化 ,开源模型 ,AI智能体 ,Muse Glimmer
浏览: 0
点赞: 0
收藏: 0
Meta今天发布了Muse Glimmer,一款可在个人电脑上运行的开源语言模型。公司同时还发布了CEO马克·扎克伯格撰写的一篇长文,讨论AI风险、开源模型监管等议题。
Muse Glimmer拥有300亿参数,通常需要约55GB内存才能运行。Meta工程师通过多种优化方法将其内存占用压缩到20GB以下,使其能在配备单张消费级显卡的个人电脑和Mac上运行。
技术亮点
其中一项优化方法是量化——将模型的每个权重(决定数据处理方式的配置参数)压缩到4比特。Meta确认,量化对智能体任务"几乎没有造成性能衰减"。
Muse Glimmer通过两步流程生成回复:首先使用一个较小的"草稿"模型输出初始答案,然后验证其准确性并加以优化,最终将打磨后的回复交付用户。这种被称为"投机解码"的方法比让Muse Spark直接生成回复更快。
Meta使用其旗舰Muse Spark系列专有模型生成的数据来训练Muse Glimmer,随后通过两轮额外训练进行优化:第一轮增强了处理长提示和推理任务的能力,第二轮提升了驱动AI智能体的表现。
与遇到障碍就停止运行的模型不同,Meta训练Muse Glimmer在首次尝试失败后自动重试。用户还可通过内置的"推理强度"设置调整其在每个任务上投入的时间和算力。
基准测试
Meta在24个主流AI基准测试中对模型进行了评估。据公司称,Muse Glimmer在一半基准测试中超越了同等规模的Gemma4-31B和Qwen3.6-27B,夺魁的项目涵盖在线研究、代码生成和科学图表分析等任务。
扎克伯格长文:呼吁减少开源监管障碍
此次发布距Meta上一个开源AI模型已超过一年。扎克伯格在长文中表示,公司计划恢复开源模型的发布,下一次发布"很快"到来。
文中还涵盖AI经济效益预测、技术风险讨论以及对政策制定者的建议。扎克伯格特别呼吁美国政府减少开源模型开发的监管障碍。
据扎克伯格透露,Meta董事会正在采用一套治理结构,用以定义AI安全标准。公司将以这些标准评估未来的每个模型,决定是否广泛发布。他还呼吁其他前沿AI开发者采取类似措施,并主张AI实验室应在模型训练期间就向政府提供早期访问权限,以便更早应对AI相关的网络安全风险。