蚂蚁把560B大模型开源了：MXFP4一刀切掉一半显存、4卡就能跑，但"百万上下文"先打个问号？

9 月 30 日发布时，社区直接表达了不满：免费体验仅提供 25.6 万上下文，百万窗口需付费才能用，开源更是“计划”——先吸引用户再放出权重，这种顺序让不少人感到恼火。

10 月 15 日，蚂蚁履行了承诺：Ling-3.1-flash 权重正式开源，FP8 checkpoint 以 MIT 许可上架 Hugging Face 和 ModelScope，SGLang、vLLM 部署路径随仓库一并提供。

先看规格：560B 的体量，25B 的消耗

Ling-3.1-flash 是典型的“大总参、小激活”MoE：72 层、512 个路由专家、每 token 仅激活 8 个，激活参数约 25B——总参数的二十二分之一。混合线性架构，最高标称 100 万 token 上下文。

这一比例的目的很明确：推理消耗跟着激活参数走，能力上限跟着总参数走。用 25B 的成本，借 560B 的智慧。上一代 Ling-3.0-flash 是 124B/5B，这一代两个数字都翻了四五倍，还加入了混合推理模式。

部署策略：为何敢将专家压至 4-bit

这次开源最具技术含量的部分，是那套混合量化方案：

策略的逻辑清晰：512 个路由专家占据参数的主体，而 MoE 专家本身稀疏激活、对量化的敏感度较低，压至 MXFP4 损失可控；dense 层每个 token 都必须经过，是全模型的“主干道”，保守地保留在 block-FP8。两者结合，权重占用减少 45%，服务部署在官方测试配置中从 8 卡降至 4 卡。

需要提醒的是，官方也写明：实际卡数随上下文长度、并发量和服务配置变化，4 卡是特定测试条件下的数字，不能直接作为采购依据。另一个社区已发现的细节是：仓库中发布的配置 max_position_embeddings 为 262,144，“百万上下文”目前写在模型卡的目标栏里——今天能验证的是 256K 这一档。

跑分：官方榜单之外，听听实际用户怎么说

第三方口径中，Artificial Analysis 给出智能指数 41、输出速度约每秒 210 token，评价为“高频业务场景中智能与效率兼具”。Kilo Code 上架价输入 $0.30、输出 $0.90/百万 token，缓存读取 $0.06——典型的执行层定价。

厂商自报分数需要留意：Terminal-Bench 4、SWE-bench Pro 这些成绩都是在百灵自家的 LingCode 框架上跑出来的——它基于开源编码智能体 Pi 改造，而 LingCode 本身尚未开源。用未开源的工具考出的分数，他人暂时无法复现。

独立用户的反馈更为立体。MindStudio 的实测中，它在 SQL 调优上单点命中最高影响的修复方案，单发 SVG 生成质量不错，模拟急救医疗问答结构完整；但到了需要长链条工具调用的复杂 Agent 任务——比如从 Blender 到 Godot 搭建一个完整游戏管线——结果是“能跑完，但游戏是坏的”。低资源语言同样是短板。

信号：开源战场在同一天撞车

10 月 15 日这天格外拥挤：英伟达开源 Nemotron 3.5 Super VL 主打“始终在线”Agent，阶跃星辰将 600B 的 Step 5 Preview 权重放出，蚂蚁开源 Ling-3.1-flash。三家同一天出手，指向同一块阵地——能部署在自有基础设施中的 Agent 执行层。

合理推测是，竞争的计价单位正从“跑分”转向“每卡每天能完成多少任务”。蚂蚁这张牌的差异化很明确：医疗沟通、办公、研发这些蚂蚁自家业务训练出的场景能力，加上一套从量化到长上下文并行的完整部署方案。能否取胜，取决于 LingCode 何时开源，以及 4 卡配置在真实业务并发下是否稳固。如需了解更多细节，可访问 Kaiyun中国官网。

公开资料的边界说明：百万上下文是目标值而非当前配置，官方跑分无第三方复现，量化方案的精度损耗数据尚未随仓库公布。

权重已经在那里了。剩下的问题，开发者自己的任务会给出答案。

本文来自微信公众号“AI唱反调”，36氪经授权发布。