英特尔锐炫ProB70助力MiniMaxH3视频模型,GPU加速实现2K视频生成
创始人
2026-08-03 17:05:00
0次
今日,英特尔宣布为新一代开源多模态视频模型MiniMaxH3提供Day0首发支持。英特尔锐炫Pro B70显卡率先完成对MiniMaxH3的适配,实现了基于多卡GPU的部署方案。该方案通过Encoder 8卡张量并行、DiT 8卡USP并结合Layer-wise Offloading技术,以及VAE部署于B70 GPU的整体架构,实现了视频生成全流程的GPU加速。其中,Encoder采用8卡张量并行完成文本编码;DiT作为推理过程中计算量最大的模块,采用8卡USP并结合Layer-wise Offloading技术,使模型参数按层动态加载到GPU,突破单卡显存限制,降低模型常驻显存需求,支持更大规模DiT模型的部署;VAE则部署于B70 GPU上完成最终的视频解码。
在此基础上,英特尔团队进一步结合张量并行(Tensor Parallel,TP)与USP的优势,开发了2TP×4USP的混合并行方案。相较于纯8卡USP,该方案将USP并行度由8降至4,并引入2路张量并行对计算进行协同加速,在保持模型扩展能力的同时,减少USP带来的通信开销,实现计算负载与通信开销之间更优的平衡,进一步提升整体推理性能。此外,团队还结合llm-scaler-omni项目的XPU Kernel优化,对矩阵乘法、注意力等关键算子进行了持续优化,进一步提升GPU的计算效率,持续降低端到端推理时延,取得了良好的优化效果。
相关内容