DeepSeek开源推理框架DeepInfer,AI自动编写算子性能反超人工调优

DeepSeek近日全面开源推理框架DeepInfer,继模型权重与FlashMLA、DeepGEMM等算子库后进一步开放模型运行链路。其FlashMLA人工逐行调优版本性能达硬件极限90%以上,而完全由AI编写、无人工调优的ForgeKernel在同一周登顶两个算子评测榜,显示AI在底层算子优化上已具备超越人工的潜力。

国产大模型的竞争正在从模型层向算力层延伸。再强大的模型,最终都要以算子为基本单元在芯片上执行,同一个模型、同一块芯片,换上一套更优的算子,有时能带来数倍的性能提升。算子效率直接决定同样的显卡能跑多快,也决定每个 token 的推理成本。在这一背景下,DeepSeek 近日宣布全面开源推理框架 DeepInfer,在开放模型权重以及 FlashMLA、DeepGEMM 等算子库之后,进一步把模型运行的完整链路向社区开放,让开发者能够更深入地介入从模型到芯片的执行环节。

此次开源中最受关注的是 FlashMLA 的表现。据雷峰网报道,有工程师在芯片上逐行手工调优的 FlashMLA 版本,算子性能已达到硬件极限的 90% 以上,这被视为人类手工调优在部分芯片上目前能够触及的极限成绩。然而这一极限在同一周便被人工智能刷新。截至 10 月 22 日,完全由 AI 编写算子、不经过任何人工逐行调优的 ForgeKernel,同时登上两个算子评测榜的榜首:在英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集中排名第一,在昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜上同样位列第一,基准加速比达到 1.835 倍,领先第二名 25%。

名次之外,更值得关注的是 AI 自主优化算子所展现出的能力。在 DeepSeek v4.1 Flash 的算子上,ForgeKernel 采用从零开始由 AI 迭代的方式,性能超越了 DeepSeek 开源的英伟达版本。这意味着 AI 不仅能复现人类调优的成果,还具备在底层算子优化上独立探索并实现反超的潜力。业内普遍认为,算子优化长期依赖资深工程师的经验积累,门槛高、周期长,而 AI 自动编写与迭代算子若能规模化应用,将显著降低芯片性能挖掘的成本,加速模型在不同硬件平台上的适配。

从更宏观的视角看,DeepSeek 的开源举措与算子评测榜上的激烈竞争,最终都指向同一个方向:让国产智能在每一块芯片上都跑得更快。开放推理框架意味着更多开发者可以参与运行链路的优化,而 AI 自动编写算子的能力则可能改变底层性能优化的生产方式。对于国产算力生态而言,这既是技术路线的接力,也是软硬件协同效率提升的重要一步,其后续进展值得持续关注。