10 月 28 日,蚂蚁集团旗下百灵大模型开源 Ling-3.1-flash-1019 版本,并同步放出 Ling-3.1-flash-base 基础权重(BF16 基础权重、MIT 许可)。往前推两周,10 月 15 日 Ling-3.1-flash 首次开源时官方给出的口径是:总参数约 560B,每个 token 激活约 25B,上下文长度 100 万 token;本地部署对 routed e…
10 月 28 日,蚂蚁集团旗下百灵大模型开源 Ling-3.1-flash-1019 版本,并同步放出 Ling-3.1-flash-base 基础权重(BF16 基础权重、MIT 许可)。往前推两周,10 月 15 日 Ling-3.1-flash 首次开源时官方给出的口径是:总参数约 560B,每个 token 激活约 25B,上下文长度 100 万 token;本地部署对 routed experts 采用 MXFP4 量化、dense 层保留 block-FP8,权重占用由约 534GB 降至 292GB,在对应 Hopper GPU 测试配置下服务部署由 8 卡降至 4 卡(来源:智通财经、腾讯财经转载,2026-10-15;IT之家 2026-10-16)。10 月 27 日,蚂蚁灵光 2.0 上线,把个人助理从“回答问题”推到“持续办事”(来源:网易科技、财经网,2026-10-27)。
对湖南和长沙的制造、商贸企业来说,这一串动作值得看的地方不在参数表,而在于三件更现实的事:许可条款更宽松、部署门槛能算清楚账、能力重心从“会说”移向“会做”。国产开源大模型的可选项又多了一个。本文把这次开源拆成可以直接带进采购会议的三张表和一份决策核对表,回答国产开源大模型落到自己业务上时,几个绕不开的问题:要自建还是调 API、先做哪个场景、询价时该问服务商什么。
一、这次开源到底放出了什么(一页事实卡)
先把公开信息对齐,避免被二手转述带偏。以下各项均标注出处,未标注的部分本文不作推测。
| 项目 | 公开信息 | 出处 |
|---|---|---|
| 开源版本 | Ling-3.1-flash-1019(2026-10-28)开源,同时同步开源基础模型 Ling-3.1-flash-base | 量子位 2026-10-28 报道(蚂蚁提供、量子位获授权转载) |
| 模型架构 | 混合线性 MoE,总参数量约 560B,每个 token 激活约 25B | 同上;另见 IT之家 2026-10-16 |
| 上下文长度 | 100 万 token(1M) | IT之家 2026-10-16;艾瑞网 2026-10-28 |
| 开源许可 | MIT 许可 | 量子位 2026-10-28;艾瑞网 2026-10-28 |
| 量化与权重占用 | routed experts 采用 MXFP4 量化,dense 层保留 block-FP8,权重占用由约 534GB 降至 292GB | 智通财经、腾讯财经转载,2026-10-15 |
| 服务卡数 | 在对应 Hopper GPU 测试配置下,服务部署由 8 卡降至 4 卡 | 同上 |
| base 权重形式 | 以 BF16 基础权重开放,可基于自身知识、流程与工具继续预训练、领域适配及后训练 | 量子位 2026-10-28 |
| 视觉版本 | 基于 Ling-3.1-flash 训练的视觉语言模型 Ling-3.1-flash-VL 已先行应用于灵光,官方表示后续对外发布;截至发稿未开放下载 | 量子位 2026-10-28 |
二、分数怎么读:这次提升集中在“多步骤执行”,而不是问答
能查到的第三方指数是 Artificial Analysis Intelligence Index v4.3.2 得分 44,较上一版本提升 3 分(来源:量子位 2026-10-28 报道)。同一报道引用的对比项如下,均为评测口径下的分数变化:
- AA-Briefcase(复杂知识工作):约 1400 Elo → 1524 Elo
- GDPval-AA(工作成果评价):约 1618 Elo → 1644 Elo
- AutomationBench-AA(流程自动化):62% → 68%
- CritPt(科学问题求解):18% → 26%
- SciCode(科学代码):54% → 57%
基础模型一侧,发布方口径是 Ling-3.1-flash-base 在 8 个领域 47 项 benchmark 中的 32 项高于 DeepSeek-V4-Pro-Base 与 MiMo-V2.5-Pro-Base(来源:量子位 2026-10-28 报道)。这里有三点需要企业决策者自己校准:
其一,提升集中在任务型指标上。流程自动化、复杂工作流、科学求解这类分数的抬升,指向的是“多步骤执行”能力,而不是聊天质量。这对企业是好消息:合同条款抽取、报价单解析、工单归类这类活,本来就不该指望一问一答解决。
其二,评测分数不等于你业务上的准确率。公开基准用的是公开数据分布,换到工程机械行业的技术协议、经销商的台账、客户的合同文本上,准确率需要自己用小样本测一遍。这也是国产开源大模型与 API 服务同样要做的功课,只是开源把验证成本从供应商转给了你。
其三,base 权重开放意味着底座可改,也意味着改造成本要单独立预算。MIT 许可加 BF16 基础权重,允许继续预训练、领域适配与后训练,这在国产开源大模型里是相当开放的组合;但标注数据、训练算力与再评测都要花钱,这笔钱不属于“开源免费”的一部分。
应用侧还有一个同期信号。10 月 27 日上线的灵光 2.0,被蚂蚁定位为“能管事的个人助理”,新增跨会话记忆、长程任务调度与独立云主机能力,用户退出对话后任务仍可继续;公开报道介绍其已接入支付宝账单、出行、钉钉、飞书、邮箱与米家等服务能力(来源:网易科技、财经网,2026-10-27)。它和本次开源的关系在于:模型侧负责“理解目标、调用工具、推进任务”,产品侧负责“记住上下文、持续跟进”,两者拼起来才是能落地的工作流。这也能解释本次开源为什么把重点放在多步骤任务指标上——助理要能管事,底层模型得先扛得住长链条执行。企业侧同理,开源大模型提供的是其中一半能力。
三、MIT 许可加 25B 激活:把“能不能自建”变成一道算账题
国产开源大模型与闭源 API 之间有一条常被低估的差别:闭源服务交付的是一个接口,开源大模型交付的是一份可以改、可以放、可以审计的资产。MIT 许可允许商业使用、修改与再分发(包括以闭源形式分发),使用前提是保留版权与许可声明。对中小企业的实际含义有三条:一是可以嵌进自己的产品里卖,不用担心上游某天调整 API 条款或下架模型;二是数据可以留在自有环境;三是责任也随之回到自己手上——模型输出端的合规、备案与内容责任,不会因为权重免费就转移出去。
部署层面的判断要分两本账:显存账看总量,算力账看激活量。对准备自建的团队来说,开源大模型并不是零成本,它把成本从供应商报价挪到了自己的设备清单和运维排班上。混合线性 MoE 的价值在于每个 token 只激活约 25B,推理时的算力压力明显低于 560B 的稠密模型,但权重仍然要完整驻留或分片驻留。官方口径的 292GB 权重与 4 张 Hopper 级加速卡,属于“一个机架级”的投入区间,不是一台工作站能覆盖的量级。另外,100 万 token 的上下文在自建场景里要单列 KV cache 预算——长上下文不是免费的,这一点在做容量规划时容易被漏掉。
所以结论要分成两句话写:国产开源大模型已经进入“可自建”的区间;可自建不等于该自建。中间隔着的是下面这张表。
四、自建还是调 API:三档调用量的决策表
国产开源大模型进入可自建区间之后,自建与 API 的比较就得回到调用量上。下面这张表按日均调用量分三档给出建议路径,判断依据写在理由列里——开源大模型与 API 各有各的适用区间,没有通吃的一档。
| 调用量档位 | 典型业务形态 | 建议路径 | 判断理由 |
|---|---|---|---|
| 低:每日千次以内、单场景试点 | 内部知识问答、产品参数查询、文档归档 | 直接走 API | 没有运维负担,可随时切换模型,能直接吃到模型迭代的红利;此时自建属于把固定成本压在低用量上 |
| 中:每日万次级,跨文档处理与报价类任务 | 技术协议条款抽取、报价单与招投标文件解析、售后工单归类 | 混合路径:敏感数据走私有化实例,通用流量走 API,中间加一层网关做计费与留痕 | 调用量已进入需要算账的区间,但还没到必须自建的量级;网关层同时解决多模型调用、token 计费与审计问题 |
| 高:每日十万次以上、并发稳定、数据不能出域 | 经销商进销存分析、客户合同与图纸处理、内部长文档问答 | 进入自建论证,前提是同时满足三个条件:调用量已让 API 费用进入敏感区间、数据确实不能出域、有专人能运维 | 此时固定成本摊薄,且数据边界成为硬约束;但运维与升级是长期成本,必须有人接得住 |
在做任何测算之前,先回答三个问题,答案比模型参数更能决定路径。这一节讨论的不是开源大模型好不好用,而是它在预算表上落在哪一档:
一、我的日均调用量落在哪个档位?把近 30 天的 API 账单按 token 折算成日均请求数,而不是凭印象判断。
二、数据能不能出域?客户合同、图纸、报价、财务底稿、人事档案属于不能外发的部分;产品参数与内部知识通常可以先做脱敏与权限隔离。在开源大模型路线上,这个问题的答案直接对应部署位置;在 API 路线上,它对应脱敏流程与供应商协议条款。
三、有没有人能管住这套服务?版本升级、容量规划、故障处置属于长期隐性人力成本,很难写进一次性项目预算,却恰恰是自建项目后期最容易失控的部分。
算账口径上说清楚更省事:自建侧的固定成本是加速卡采购或租用、机房与供电网络、运维人力、升级与故障;API 侧的变动成本是单价乘以 token 消耗。国产开源大模型的单位推理成本仍处在下探通道里,API 单价还有下降空间,而高端加速卡的采购与折旧是刚性的。开源大模型让这两笔账可以摆在同一张表里比较,多数场景的结论并不难选。站内此前对多模型调用怎么用一层 AI 网关把账算清、大模型 API 成本如何重算、本地化部署的硬件需求对照表以及开源推理框架带来的四道现实门槛都做过拆解,这四篇放在一起,基本能覆盖自建与 API 两条路线的成本与运维结构。
五、湖南与长沙制造企业可以先落地的 5 个场景
| 场景 | 用到哪种能力 | 数据敏感度 | 建议路径 |
|---|---|---|---|
| 技术协议与合同条款抽取、版本比对 | 多步骤执行 + 结构化输出 | 高 | 私有化实例,或脱敏后调 API 并保留人工复核 |
| 销售报价单与招投标文件解析、比价 | 长上下文 + 表格抽取 | 中 | API 加网关,配合报价权限隔离 |
| 经销商进销存异常分析 | 长上下文 + 多步任务调度 | 高 | 私有化,数据不出域 |
| 售后工单与质检报告归档检索 | 长文档理解 | 中 | API 加权限隔离,先跑通流程 |
| 设备维修手册、说明书长文档问答 | 100 万 token 上下文 | 中高 | 私有化,或先做院内知识库再评估 |
表格之外还有一类场景要主动排除:语音客服与外呼质检这类实时对话,走专用实时语音模型的路线更合适,通用大模型未必划算,相关口径我们在站内《AI语音客服成本怎么算:实时语音模型选型与延迟验收清单》一文里单独拆过。选场景时把这类”看起来也像 AI”的活先划出去,剩下的才是大模型的主场。
把国产开源大模型落到具体业务上,先看数据边界,再看能力边界。落地顺序建议分三步,每一步都有可交付物:
第 1 步,选场景(约 2 周)。从内部知识检索、文档归档这类不直接对外、不触及客户隐私的场景起步。制造业场景怎么挑,我们在此前的AI+制造场景清单之后如何挑起步场景一文里给过方法,可以直接套用。
第 2 步,建自己的评测集(约 2 至 4 周)。用 100 至 300 条真实业务样本做小样本评测,记录三项:抽取准确率、人工返工率、单次任务平均 token 消耗。这三项是后面所有算账的输入,没有它们,供应商报价和自建方案都没法比较。
第 3 步,再论证部署(约 1 个月起)。只有当场景涉及客户合同、图纸这类不能出域的数据,且调用量进入中档或高档位,才启动自建论证。向本地服务商或算力方询价时,把下面七个口径一次问清,并写进合同。这七项对开源大模型和 API 服务同样适用,区别只在于自建方案需要额外回答前四项:
- GPU 型号与显存数量,以及是否使用量化后的权重、量化精度如何约定
- KV cache 与长上下文的分配策略,实际可用上下文长度
- 并发数与首 token 延迟的测量口径(平均还是 P95,测试用什么数据)
- 服务等级与故障响应机制,谁值守、故障多久恢复
- 数据是否出域、日志与调用记录存在哪里
- 模型版本升级方式与费用承担方
- 验收标准怎么写:以哪一批样本、哪个指标为准
政策与服务资源方面,长沙已出台“人工智能+”行动方案与配套产业政策,具体的算力补贴与场景奖励口径可对照站内《长沙发布AI产业新政》一文;湖南省也按《湖南省人工智能大模型认定管理办法》开展过人工智能大模型、制造业数字化转型促进中心的认定工作(来源:湖南省工业和信息化厅 2026-04-29 通知,经长沙市工业和信息化局网站发布)。找本地服务商时优先问三件事:有没有做过同量级的私有化推理交付、能否提供加速卡租用而不只是卖软件、验收口径写不写进合同。
六、这次开源没有回答的三个问题
生态与工具链成熟度。混合线性 MoE 加上 100 万 token 上下文,对推理框架、算子库与调度策略的要求不低。模型开源只是起点,开源大模型生态能不能在半年内稳定跑在生产流量上,取决于框架方进度与本地运维能力。
量化后的精度损失。292GB 是量化之后的权重占用,官方给出的是部署口径,不代表业务数据上的精度表现。开源大模型量化之后在自己业务上的表现,公开渠道没有现成答案。行业里常见的经验是:业务数据分布越偏门,掉点越明显,所以这一项只能自测,没有替代方案。
长任务的可靠性。跨会话记忆、长程任务调度、独立云主机这些是产品层能力,灵光 2.0 的实现方式没有完整公开,模型开源不等于这些工程能力可以直接搬进企业内部系统。这也是自建路线里较容易被低估的一块工作量,更能看出国产开源大模型与成品软件之间的差距所在。
结语
蚂蚁百灵这次开源的意义,是把国产开源大模型在“许可宽松”和“部署可算”两件事上又往前推了一步:MIT 许可让中小企业不必把业务绑在某个 API 供应商上,4 卡口径让自建这条路的预算区间变得可以讨论。但对预算敏感、决策链短的企业来说,值得记住的顺序仍然是:先用 API 在一两个非敏感场景把流程和评测集跑出来,拿到可核对的 token 消耗数据,再决定要不要为数据边界付出自建的固定成本。开源大模型的自由是用运维能力换来的,这笔交换值不值得,得由你自己的调用量来回答。对国产开源大模型生态来说,接下来更值得关注的不是又一轮参数更新,而是推理框架、算力供给与交付能力这三块拼图能否补齐。
口径说明:本文涉及的模型参数、许可、量化方式、部署卡数与评测分数,均取自上述公开报道与官方发布口径,评测分数不等于业务场景下的实际准确率;硬件采购与租用价格随市场与供应商变化,请以本地供应商书面报价与合同为准。
免责声明:本文基于公开可查的媒体报道与技术发布信息撰写,所述场景均为行业通用场景分析,不代表任何具体项目的实施结果;实际效果因行业、业务规模、数据条件与运维能力而异,不构成对预期效果的承诺。文中提及的企业与产品信息均来自公开报道,未经当事方进一步核实。
