百度发布文心5.5 Flash Preview,2800亿参数支持百万级上下文

百度正式发布基础模型文心5.5 Flash Preview,总参数量达2800亿,每个Token激活140亿参数,支持最长100万Token上下文。模型在编程、3D建模、知识工作与内容创作等场景表现突出,并针对游戏开发进行专项训练,在多项基准测试中取得有竞争力的成绩,同时保持较快解码速度。

11月11日,百度正式发布最新基础模型文心5.5 Flash Preview。该模型总参数量达到2800亿,每个Token激活140亿参数,支持最长100万Token的上下文窗口。在当前大模型普遍追求参数规模与推理效率平衡的背景下,文心5.5 Flash Preview以稀疏激活架构实现”大容量、低开销”的组合,成为百度在基础模型赛道上的又一次重要迭代。

从核心能力看,编程是此次新模型的重点发力方向。文心5.5 Flash Preview覆盖从真实代码库中修复迭代到完整构建复杂应用的广泛编码场景,在长周期开发任务中展现出更强的规划、执行与持续迭代能力。模型还针对游戏开发场景进行了专项训练,并适配主流开发工具,可根据用户创意完成游戏设计、功能制作和场景搭建,降低游戏创意落地的门槛。在参数化建模与空间推理方面,模型通过加强对Blender和CAD等工具的专项训练,能够从文本描述中推断物体形状、比例及空间关系,并转化为精准的3D模型,还可整合复用现有资产,搭建细节丰富的3D场景。

除编程与3D建模外,新模型的能力还延伸至专业知识工作与内容创作领域。它能够完成多步工作,交付表格、文档或演示文稿;面向金融、法律等领域构建了30万个工作空间、1000万份参考文件,覆盖40多种文件类型。面向视频创作,模型可搜集、合成和编排素材,调整画面与节奏并输出成片,相关创作环境超过15万个,累计成片约5300分钟。底层技术上,该模型采用全新的混合稀疏注意力架构、多路由器MoE、ECHO多Token预测等创新,在提升能力的同时降低计算与显存开销,实现每秒超过200 tokens的生成速度,并首次引入自研RSI技术,由ERNIE Evolve参与模型推理优化。

在Terminal-Bench、AutomationBench等多项基准测试中,文心5.5 Flash Preview取得了具有竞争力的得分,同时保持较快的解码速度。对百度而言,这款模型的意义不仅在于参数规模,更在于把长上下文、工具调用与多场景任务执行整合进同一基础模型,为其在开发者生态和企业知识工作市场的落地提供了新的抓手。百万级上下文与较快生成速度的组合,也意味着模型在处理长文档、大型代码库和复杂工作流时具备更强的实用性,后续实际表现值得持续观察。