AI风向标

HPC-Ops × SGLang:腾讯混元开源高性能 Attention、Router GEMM 与 MoE 算子

腾讯混元开源算子库 HPC-Ops 已集成至 SGLang 主分支,其 Dynamic Attention 与 Fused MoE 在 Hy3 模型上最高降低 TPOT 48.8%。

详细介绍

腾讯混元开源算子库 HPC-Ops 已集成至 SGLang 主分支,其 Dynamic Attention 与 Fused MoE 在 Hy3 模型上最高降低 TPOT 48.8%。

AI HOT 详情:https://aihot.virxact.com/items/cmsj8rfkl02ruroo5uvyqiqiq

原文链接:https://www.lmsys.org/blog/2026-08-07-hpc-ops-sglang