阿里巴巴近期正式开源了其超大规模MoE模型Qwen3.8-2.4T-A95B,这是该系列中规模最大、能力最强的一代产品,首次将Qwen-Max级别的模型能力向开发者开放。几乎在同一时间,智源FlagOS社区便宣布完成了对该模型的Day0多芯片适配,覆盖平头哥、英伟达、华为昇腾、摩尔线程、沐曦、昆仑芯、海光、清微智能、燧原等9家AI芯片厂商。这一动作意味着,前沿大模型与国产及主流AI芯片之间的适配周期正被大幅压缩,从过去的数月甚至更久,缩短至模型发布当天即可获得可用的部署方案。
从技术层面看,Qwen3.8-2.4T-A95B采用超大规模MoE架构,总参数量达到2.4万亿,激活参数为95B,纯文本模型在编程、专业工作、科研以及长程智能体任务上的能力均有显著提升。模型支持通过reasoning_effort参数调节推理深度,并保留历史推理能力,原生上下文窗口为262,144 tokens,可扩展至1,010,000 tokens。在Coding Agent相关基准测试中,Qwen3.8-Max相比前代Qwen3.7-Max提升明显,其中Terminal Bench 2.1得分从74.5升至86.6,SWE-bench Pro从60.6升至67.7,已接近Opus 4.8的69.2分;Paper Bench更是从64.8跃升至93.0,超过了Opus 4.8的80.3分。这些数据表明,该模型在复杂工程任务和科研场景中具备极强的竞争力。
本次Day0适配的核心挑战并非模型结构本身的变化,而是参数规模的急剧膨胀——相比Qwen3.5-397B,新模型的参数量扩大了约6倍。为了让当前已部署的主流AI芯片能够高效运行如此庞大的模型,FlagOS技术栈新增了面向多款AI芯片的统一INT8量化支持。通过FlagOS-Compressor多芯片模型量化工具链,团队实现了从FP8/BF16原生权重到INT8的两条量化压缩路径,并完成了量化推理算子在多款芯片上的适配。经过量化迁移后的权重,在多种AI芯片上的评测结果与英伟达原生CUDA FP8版本对照,误差平均分偏差均保持在可接受的对齐区间内,从而保证了量化与跨芯迁移后的模型质量。
自今年2月首次开展MiniCPM4.5-o模型的多芯片Day0适配以来,FlagOS已累计完成来自7大头部模型团队的12款主流开源模型、覆盖多达10款芯片的跨芯Day0适配。这一系列实践向AI芯片与大模型产业传递了一个重要信号:基于统一、开放的系统软件栈,实现前沿模型“一次开发、多芯快速适配”已具备规模化落地能力。对开发者而言,这意味着无需为不同芯片分别编写和优化代码,即可直接获取对应芯片的开箱即用方案;对芯片厂商而言,则意味着生态兼容成本显著下降,能够更快地接入最新模型能力。随着大模型参数规模持续攀升,统一软件栈的价值将愈发凸显,FlagOS的探索或将为整个AI基础设施生态提供一条可复制的路径。
