前言

本次MACA套件版本发布聚焦 “生态强化与场景深度适配”，涵盖底层基础能力迭代与主流AI框架、大模型训推、搜广推、科学计算等多维度生态适配，但本报告不针对技术细节做全面罗列，而是聚焦版本对行业应用的实际赋能价值，选取核心场景进行深度解析。

本报告围绕AI领域行业核心场景，系统呈现MACA-3.3.0.X版本的场景适配成果、效能表现及生态价值，向开发者与合作伙伴清晰传递沐曦软硬件协同的行业赋能能力，为相关方的技术选型与产业落地提供专业参考。

为确保MACA版本作为核心协同载体的稳定性、功能完整性与性能优越性，切实支撑国产GPU生态落地与行业赋能，每个MACA版本正式发布前均经过多维度、大规模的严格测试验证，构建起覆盖软硬件协同优化和行业应用支撑底座的全流程质量管控体系。

测试体系以行业场景的全面匹配度和覆盖度为目标，共包含超过1万5千个MACA软件栈测试用例和超过1万个行业相关场景应用测试用例，这些用例在整个测试周期中反复迭代执行，从功能正确性、性能达标率、长期稳定性等多维度验证产品质量，确保满足商业落地的严苛要求。测试覆盖近30种国际主流及国产操作系统及内核（如表1所示），仅曦云C系列GPU产品测试相对应的测试就占用超过60000个GPU 小时，以大规模资源投入保障测试的全面性与有效性。

生态适配度详情

沐曦MACA-3.3.0.X版本完成了对 PyTorch 2.8 版本的深度适配工作，实现了对原生算子配置文件 native_functions.yaml 中定义算子体系的全面兼容。本次适配覆盖全部2650个核心算子（其中GPU算子2410个），涵盖基本算术运算、线性代数操作、卷积/池化类算子、规约操作、随机采样、索引与切片快速傅里叶变换（FFT）、Attention等关键算子类别；在张量运算维度，同时支持稠密张量与稀疏张量的完整运算逻辑，数据类型层面则覆盖整数、浮点、布尔、复数及量化类型等多类数据形态，保障了算子能力的完整性与场景适配性。

在此基础上，沐曦基于该完备的算子系统，进一步完成分布式训练、torch.compile 等高级特性的适配与落地，实现了从基础算子层到高阶训练与编译优化能力的全栈式兼容，为基于 PyTorch 2.8 的各类深度学习训练与推理场景提供了稳定、全面的底层算子支撑。该适配方案基于沐曦全栈软件体系打造，向上兼容PyTorch原生接口与核心模块，向下深度契合自研GPU硬件特性，无需调整工程构建逻辑即可实现现有模型无缝使用。

为保障生态兼容性，MACA套件通过生态适配工具链实现构建系统平滑切换，支持C++扩展功能及Megatron-LM、DeepSpeed等主流大模型训练框架，支持vLLM、SGLang、Tansformers和KTransformer等主流大模型推理框架，兼容Ubuntu、CentOS、RHEL、openEuler、Anolis OS 、银河麒麟等主流Linux发行版。同时完整支持混合精度训练、分布式训练、torch.compile编译优化与图模式任务下发的深度集成等关键特性，搭配性能分析与优化工具链，核心场景性能对标主流GPU水平。此外，通过内存分配优化、数据布局适配等底层调优，进一步释放硬件算力，结合轻量化部署方案与丰富示例程序，大幅降低使用门槛。不仅夯实了国产GPU的生态基础，更为深度学习开发者提供了开箱即用、高效稳定的技术支撑，加速AI训练与推理场景的产业化落地。

这些直接通过的项目无需额外改动代码，从GitHub筛选后拿过来即可在MACA平台稳定运行，覆盖MPI、BLAS等核心依赖库及气象模拟、计算化学等主流应用场景，充分体现了MACA对现有生态的兼容深度。仅小部分项目需手动微调，这类项目共260个、占比5.79%（不足 6%），且修改量极小。主要集中在 cmake配置优化、少量头文件适配或编译器脚本调整，无需改动核心业务逻辑，平均每个项目手动修改耗时不超过半天。结合自动化流水线的批量验证能力，整体适配效率与可用性处于行业较好水平，为用户快速使用并行加速应用提供了可靠支撑。

在开发效率引擎层，MACA套件通过高性能算子库、智能编译工具链、专业性能分析工具及配套工具库，构建起降低异构开发门槛的技术体系。其中，六大核心高性能算子库（mcBLAS、mcDNN、mcFlashAttention 等）针对多 GPU 拓扑优化内存访问与并行逻辑，如 mcBLAS 支持按 GPU 数量动态切分矩阵，mcFlashAttention 通过三级存储体系减少跨 GPU 通信；编译器工具支持 MACA C/C++、Fortran 等多语言，结合指令重排、内存合并、任务自动切分等多 GPU 优化策略，将高级语言转化为高效可执行程序；性能分析工具则通过系统级追踪与核函数级指标采集，助力定位计算瓶颈，搭配 mcPytorch、mcTriton 等工具库，进一步简化异构开发全流程，相关技术细节如图3所示。

在垂直场景赋能层，MACA套件围绕AI与科学计算两大领域，通过针对性的优化策略与框架适配，实现算力与行业需求的精准融合。AI领域中，训练优化兼容 PyTorch、BMTrain等框架，依托硬件流水线并行实现通信与计算重叠，优化分布式并行策略；推理优化则适配ONNX Runtime、vLLM、SGLang等框架，采用INT8 量化、KVCache 跨卡管理提升长序列处理效率。科学计算领域通过重构 MPI、BLAS 库提升内存带宽，并定向移植 OpenFOAM、GROMACS 等专业科学计算框架，结合容器化部署方案，确保算力能高效支撑流体仿真、分子动力学等垂直场景，完成从算力供给到行业价值转化的关键衔接，具体实施方案如图4所示。

沐曦MACA-3.3.0.X版本构建起覆盖大模型训练与推理全流程的一体化算力支撑底座，通过软硬件深度协同、核心算子优化、分布式架构升级，破解大模型超大规模参数训练的通信瓶颈、高算力需求、长周期部署等核心痛点，实现训推效能的跨越式突破。

2.1.1. 硬件算力基座支撑

依托沐曦自研GPGPU的高算力密度、高内存带宽与高速互连优势，底座提供从单卡到万卡级集群的弹性算力供给。单卡原生支持多精度混合计算，内存容量与带宽适配千亿参数模型的存储需求；跨节点通过MetaXLink自研高速互连技术，构建低时延、高带宽的分布式通信网络，为大规模集群训推奠定硬件基础。

2.1.2. 全栈软件协同赋能

以MACA异构计算软件栈为核心，构建起端到端协同体系，实现软硬件能力的深度耦合与效能最大化。该体系全面兼容 PyTorch、PaddlePaddle、TensorFlow、JAX、Megatron-LM、DeepSpeed、XTuner等主流大模型训练框架，全面兼容vLLM、SGLang、LMDeploy等大模型推理框架，图5展示了MACA套件在大模型推理场景下的优化技术汇总。总体特征是无需大幅修改代码即可支持现有模型，降低开发者使用门槛；依托MetaXLink自研高速互连技术与MCCL高性能通信库，构建低时延、高带宽的分布式通信架构，有效破解分布式训练中的通信瓶颈；集成拓扑感知MCCL分布式通信库，能够动态识别集群拓扑结构并适配最优通信策略，为多机多卡训推提供高效数据协同支撑；同时内置自研编译器优化模块，通过算子自动融合、循环展开等编译级智能优化，充分挖掘硬件底层算力潜力，实现计算资源的高效利用，为大模型训推全流程提供稳定、高效的软件底层支撑。

2.1.3. 训推无缝切换能力

MACA软件栈底座打破训练与推理的场景壁垒，支持模型训练后的轻量化转换与直接部署，无需二次适配。通过统一的模型格式与接口规范，实现 “训练-微调-推理-部署” 全流程链路打通，大幅降低大模型从研发到落地的周期成本。

2.2.1. 关键算子深度调优

针对大模型训推核心算子开展硬件亲和性优化：

FlashAttention算子：优化数据布局与访存流水线设计，融合计算与数据搬运操作，适配大模型长上下文生成需求。按GPU片上高速缓存大小拆分Q/K/V数据块，让计算全程在高速缓存内完成，不用反复读写外部HBM高速内存。同时整合矩阵相乘、Softmax归一化等多步操作，中间结果不落地，大幅减少HBM数据传输开销。支持FP16/BF16多精度与超长序列，长序列场景吞吐量提升，内存带宽占用降低，模型精度完全不受影响，高效缓解访存瓶颈。

分布式集合通信库：作为分布式训推的 “数据协同中枢”，负责多机多卡间高效数据同步与交换，是大规模集群发挥算力的核心支撑。针对AllReduce、All2All、AllGather等高频算子开展全维度优化：AllReduce（聚合核心）采用算法自适应策略，根据数据量动态切换Ring/Tree/Recursive Doubling算法，结合节点内预聚合+跨节点拓扑感知路由，减少20%跨节点通信延迟；All2All（MoE专家并行关键）通过动态分组通信、流量均衡调度优化，避免专家数据交换时的网络拥堵，如图6所示在EP144的实践中，使用了优化后的All2All通信库，专家并行效率提升15%，；AllGather（数据汇聚）采用分块流水线传输+异构网络适配，提升数据分片聚合速率。同时叠加通信压缩（梯度量化/稀疏化）、预通信调度等技术，千卡集群线性度稳定在95%以上，保障大模型分布式训推的高吞吐与低延迟。

2.2.2. 编译与部署优化

编译级效能提升：深度支持torch.compile动态图编译优化，通过算子自动融合、循环展开、指令调度优化等手段，最大化硬件算力利用率，模型训练迭代速度提升；

推理引擎轻量化适配：针对大模型推理场景打造专用轻量化引擎，优化算子调度与批处理策略，覆盖长短序列差异化需求，短序列推理延迟降低，长序列推理吞吐量提升；

企业级部署适配：兼容容器化部署与云原生调度架构，支持集群快速扩容与弹性伸缩，简化环境配置与运维流程，适配企业级大规模落地需求，降低部署与运维成本。

2.3.1 大模型训练性能数据

图9呈现大模型推理阶段的 Total_Tps 指标对比，横轴为组合型 Model-Name（格式：模型名 - 并发数 - Input size-Output size），涵盖 Baichuan2、chatglm3、glm4、Llama2、Owen2.5、Mixtral 等模型及不同并发、输入输出尺寸的配置。纵轴左侧为 Total_Tps 数值，右侧为 Total_Tps (C550 / 国际旗舰 A) 的比值；紫色柱代表 Total_Tps (C550)，黄色柱代表 Total_Tps (国际旗舰 A)，绿色折线表征两者的比值，展示了不同模型及配置下的 TPS 表现与相对比值波动。

3、搜广推业务全场景：多技术栈协同的全链路训推适配升级

搜广推（搜索、广告、推荐）是互联网核心流量变现与用户体验优化场景，其核心诉求是在海量数据中精准匹配用户需求，并支持高并发、低延迟的实时决策。随着数据规模爆发式增长和模型复杂度提升，GPU凭借大规模并行计算能力、高内存带宽、专用计算核心，成为搜广推场景的核心算力支撑。本版本技术报告重点讨论TensorFlow/JAX与XLA技术的深度融合，暂不展示TorchRec体系。

图13针对 XLA 优化场景下的常用模型训练效果展开对比，横轴覆盖 VGG19、Xception、NASNetLarge 等多类典型模型，纵轴左侧为训练相关每个迭代步的平均耗时（由于不同模型的运行时间差异比较大，为了便于显示使用了对数纵轴坐标系），右侧为 “国际旗舰产品 A” 与 “C550” 的指标比值。图中以橙色柱形表示 “国际旗舰产品 A” 的指标值，紫色柱形表示 “C550” 的指标值，绿色折线表征两者的比值。该图呈现了多类模型在 XLA 优化下的训练指标差异，比值折线在多数模型区间呈小幅波动，仅在 DRM、YOLOV3 等少数模型处出现显著抬升。

图15聚焦常规模型推理阶段的 FPS（每秒帧率）指标对比，横轴为含精度配置的多类模型（如 ox_bert-fp16、ox_densenet121-int8），纵轴左侧为 FPS 数值（区间 0 至 160000），右侧为 “C550 / 旗舰 A” 的比值。图中黄色柱形代表 “FPS_旗舰 A”，紫色柱形代表 “FPS_C550”，绿色折线代表两者的比值。该图涵盖了 fp16、int8 等精度下的多模型推理 FPS，折线呈现 C550 相对旗舰产品的 FPS 比值在不同模型及精度配置间的波动特征。

PaddleScience是基于PaddlePaddle开发的科学计算套件，凭借深度学习能力与自动（高阶）微分机制，可解决物理、化学、气象等领域问题，支持物理机理驱动、数据驱动、数理融合三种求解方式，并提供基础API与详尽文档供二次开发。目前PaddleScience已完成与沐曦 AI 芯片的适配，双方展开深度合作，覆盖智能仿真、高性能计算、科学建模等方向，成功验证50+科学计算模型全量训练的精度与性能，充分展现国产AI硬件在科学计算场景的潜力。后续沐曦将与飞桨继续在高性能科学计算、智能模拟等方向联合攻关，推动AI for Science从实验室走向产业落地。

针对传统 “试错式” 材料研发的高成本、长周期问题，AI4Materials 构建 “第一性原理 + ML势能+分子动力学+GNN +大模型” 的一体化生态。目前，沐曦平台已兼容ABACUS、DeepMD-kit、LAMMPS等工具链，融合多物理场耦合与原子尺度生成模型，实现国产化材料模拟平台自主可控，推动产学研融合以提升新型功能材料的研发速度。

在技术科学的流体仿真与求解器耦合方向，沐曦平台适配了PaddleScience旗下的paddleCFD组件，可支持圆柱绕流、颅内动脉瘤、空气激波等典型流体问题的仿真计算，结合 CFD-GCN、NSF-Nets等模型，进一步提升了流体仿真的效率与精度，为汽车控制臂、心脏仿真等工业级场景提供了国产化工具支持。

极端天气对多行业冲击显著，AI4Weather以秒级响应的AI模型，弥补传统数值天气预报的高成本短板。沐曦平台适配WRF数值模式及FourCastNet 等AI大模型，可支撑高精度极端天气预警，助力行业风险管理与决策优化。

在药物研发领域，沐曦AI4Drug discovery 平台覆盖分子表征、蛋白结构预测等全流程，集成 AlphaFold3、DiffDock等工具，同时融入PaddlePaddle生态下的paddleHelix工具；该工具可支持分子生成、蛋白配体相互作用预测等关键环节，完善了药物研发的全流程国产化工具链，有效缩短研发周期、降低成本；在医学影像领域，沐曦提供图像重建、分割等工具集，支撑虚拟增强影像、冠脉血流模拟等临床科研方案。

AI4S 通过继承前四范式的优势，实现科研效率与精度的跨越式提升。沐曦的实践证明：基于自主可控的算力底座，结合Paddle、JAX等框架适配及paddleCFD、paddleHelix 等专用组件，可为多领域提供软硬件协同赋能，推动科学研究的范式变革。

后续将推出曦云C600 GPU Beta版，聚焦硬件性能升级并对标国际高端GPU水准；软件层面将同步强化前沿技术适配、多模态模型全流程兼容、行业专用框架适配及边缘部署优化等核心能力，相关版本的正式发布时间后续补充。

总结

沐曦MACA-3.3.0.X版本依托全自研GPGPU架构与MACA 异构计算软件栈，构建了 “1+6+X” 战略生态体系：沐曦 “1+6+X” 战略是其算力生态商业化落地的核心布局，构建了 “算力底座-行业赋能” 的闭环体系。

“1” 为数字算力底座：以沐曦GPU为依托，通过自主 GPGPU 硬件与全栈软件栈，支撑国家人工智能公共算力平台、互联网、运营商、智算中心等主体，提供自主可控的稳定算力基础。

“6” 是6大核心行业赋能：聚焦金融、医疗健康、能源、教科研、交通、大文娱领域，针对各行业场景需求输出行业定制化算力方案，实现场景级效能提升。

“X” 为泛行业拓展：基于标准化算力能力快速适配其他行业需求，扩大生态覆盖边界。

本次版本发布进一步验证了沐曦软硬件生态的 “高性能、高兼容、高可用” 核心特性，不仅实现了与国际旗舰产品的性能对标，更通过降低学习成本、全场景深度适配，为国产算力替代提供了成熟、可靠的解决方案，助力产业数字化转型与技术自主创新。