News

Date: 2026-10-16

大模型规模化落地,最难的往往不是 "能不能跑",而是 "跑得快不快、算得省不省"。推理延迟高、吞吐低、资源利用率不足 —— 这三道坎,正在制约大模型的产业落地。当这些难题被摆上赛场,会碰撞出什么?

沐曦股份与 FlagOS 给出了一个答案:一场面向全球开发者的推理吞吐性能优化挑战赛,加上一份为参赛者准备的免费算力。



一场冲击 "吞吐上限" 的硬核挑战赛

FlagOS 开放计算全球大赛(赛季二)赛道二 ——MiniCPM 模型推理吞吐性能优化挑战赛,正在火热报名中。

赛题直指大模型推理的核心指标:基于 FlagOS 推理框架(vllm-plugin-FL)与高性能算子库 FlagGems,对 MiniCPM5-2B 在沐曦曦云 C系列GPU 与另一国产GPU双芯片上展开全栈优化,冲击 total tokens/s 吞吐上限。

比赛规则相当 "硬核":固定硬件、固定框架,选手必须在不显著增加时延、保持推理精度的前提下,靠并行策略、显存管理、计算内核等全栈优化手段挖掘硬件潜能 —— 精度复测不达标,成绩直接无效。

赛事按 4k、16k 双场景评测,综合性能分(70%)与技术报告创新分(30%)计成绩;一等奖 3 万元、二等奖 2 万元、三等奖 1 万元。

报名截止 2026 年 11 月 10 日,每支队伍不超过 3 人、支持单人组队,高校、企业、科研院所与独立开发者均可参加。



Day 0 适配,实现“模型开源即落地”

这场挑战赛的主角 MiniCPM5-2B,是面壁智能 9 月 8 日开源的新一代端侧模型 "小钢炮":

  • 20亿参数规模,在权威榜单 Artificial Analysis 上以 17 分位居全球 4B 以下模型第一;。
  • 原生支持混合思考,提供 512K 超长上下文,天然具备工具调用、深度搜索、代码生成等智能体核心能力;
  • 可直接作为手机、PC、智能座舱等设备的端侧智能体基座。


就在开源当天,沐曦股份联合 FlagOS 率先完成了 MiniCPM5-2B 的 Day 0 适配与推理验证 —— 模型发布即落地,这正是 "Day 0 适配" 的意义。

这背后,是沐曦 MXMACA 软件栈 "自主 GPGPU 硬件+全栈软件体系" 的支撑:兼容 40 余种 AI 框架、1000 多款模型,适配超 6000 个开源项目测试,全量支持 PyTorch 2.8 的 2410 个 GPU 算子。

自 2025 年 12 月以来,沐曦股份已完成超 40 个主流顶尖模型的 Day 0 适配,覆盖智谱GLM、阿里千问、MiniMax、DeepSeek、阶跃星辰、腾讯混元等头部厂商,在国产 GPU 的 "发布即落地" 赛道上持续领跑。



免费算力券,为参赛者冲刺加码

作为大赛特别赞助方,沐曦为每位参赛者提供免费算力支持:

  • 限量发放 100 元面额 GPU 算力券,在模力方舟平台即可兑换调用曦云 GPU 算力;
  • 让选手零成本完成开发与验证,算力不成为参赛的门槛;
  • 算力不足,还可申请按需支持,帮助选手充分释放曦云C系列GPU的硬件潜能。

温馨提示:算力券额度有限、先到先得,未开发时段请及时关机。


这场挑战赛的特殊之处在于:赛事所用的推理框架、所跑的模型、所依赖的算力,正是沐曦股份与 FlagOS 在开源生态中反复打磨过的组合。你不需要从零搭建环境,只需要把优化做到极致。

报名截止 2026 年 11 月 10 日。无论你来自高校、企业还是科研院所,欢迎来挑战国产算力的性能上限。

赛事报名入口:https://flagos.io/race-detail-season2?id=539vlt2p&lang=cn

算力领取入口:https://developer.metax-tech.com/activities/32

  • Business CooperationBusiness@metax-tech.com
  • Investor Relationsir@metax-tech.com
  • Integrity Reportingjubao@metax-tech.com