国产大模型 Day-0 适配方法论：LongCat-2.0 / Hy3 / GLM-5.2 on MTT S5000

大纲调整说明（2026-11-14）

本课提到的“m8-l4（规划中）：FlashAttention-3 与 MATE FMHA 深度”已合并至 m6-l7（MATE引擎），不再单独开课。

📌

本课定位

2026 年 6 月 17 日到 7 月 6 日短短 3 周内，摩尔线程 MTT S5000 连续完成智谱 GLM-5.2、阿里 Qwen3.5、腾讯 Hy3、美团 LongCat-2.0（万亿参数）四款国产旗舰大模型的 Day-0 极速适配。这不是四次独立事件，而是同一套方法论的连续验证。本课把散落在多次官方公告中的技术栈拼装成一个完整方法论：muDNN + MATE + Triton-MUSA + SGLang-MUSA 四层协同，任何新模型都能在发布当日拉起。

一、为什么"Day-0 适配"重要

过去半年，国产大模型进入"周更节奏"：Qwen3.5（6/17）、GLM-5.2（6/17）、MiniMax M3（6/13）、Hy3（7/6）、LongCat-2.0（7/6）——几乎每 2 周就有一款开源旗舰问世。对国产 GPU 厂商而言，"发布当日能跑"（Day-0）与"发布一个月才能跑"（Day-30）之间隔着的是客户能不能选你。摩尔线程从 DeepSeek-V4、MiniMax M3、Kimi 2.6、GLM-5.2 一路走过来，已经把 Day-0 适配从"临时突击"沉淀成了一套可复用的工程方法论。

Day-0 适配意味着：模型开源的当日或次日，官方能给出一个可直接 docker pull 的推理镜像，覆盖模型加载、推理引擎拉起、关键算子优化、部署验证、精度校验全链路。以腾讯 Hy3 为例，7 月 6 日模型在 GitHub / HuggingFace / ModelScope 三地同步开源，同日摩尔线程发布 SGLang-MUSA 推理镜像：registry.mthreads.com/mcconline/inference/sglang:v0.5.12.post1-ph1-4.3.5-torch2.9.0-latest——这是把从 m8-l9、m8-l10 建立的 SGLang-MUSA 底座 + 本课的方法论组合起来的直接产物。

⚠️

Day-0 不是魔法，是积累

摩尔线程官方原话："基于此前对 DeepSeek-V4、MiniMax M3、Kimi 2.6、GLM-5.2 等多款国产旗舰模型的 Day-0 适配经验，已形成一套高效、系统化的复杂推理任务优化方法论。"每一次 Day-0 都是前几次经验的复用与迁移，不是从零开始。

二、方法论四层栈

把公开公告和 m8-l9/l10 已经建立的工具链交叉对齐，Day-0 适配的技术栈可以拆成四层，自下而上：

┌─────────────────────────────────────────────────────────┐
│  L4：框架层 —— SGLang-MUSA（结构化生成 + RadixAttention） │
│         + Triton-MUSA 编译优化                          │
├─────────────────────────────────────────────────────────┤
│  L3：算子层 —— MATE 高效算子库（开源）                    │
│         + Triton-MUSA 用户自定义算子                    │
├─────────────────────────────────────────────────────────┤
│  L2：数值内核 —— muDNN（闭源，类比 cuDNN + cuBLAS）        │
├─────────────────────────────────────────────────────────┤
│  L1：硬件 —— MTT S5000（PH100，第四代 MUSA "平湖"架构）    │
└─────────────────────────────────────────────────────────┘

每一层的职责：

L1 硬件：MTT S5000 单卡 AI 稠密算力 1000 TFLOPS，支持 FP8-FP64 全精度，是全部适配工作的物理基底
L2 muDNN：Moore Threads 自研的高性能数值库，对标 NVIDIA 的 cuDNN + cuBLAS，负责标准矩阵乘、卷积、Attention 的内核实现，用户不直接调用
L3 MATE：开源算子库（github.com/MooreThreads/mate），提供大模型常用的融合算子；同时 Triton-MUSA 允许用户用熟悉的 Triton 语法写自定义算子
L4 SGLang-MUSA：结构化生成 + 高效调度 + P/D 分离；Triton-MUSA 在编译期把 kernel 编译成 MUSA 二进制

每次 Day-0 适配，工程团队要做的工作可以精确对应到这四层：

L1/L2 一般不动——硬件与 muDNN 是稳定基座
L3 是主战场——为新模型的特殊结构（例如 LongCat-2.0 的 MoE 路由、Hy3 的注意力变体）写 1-3 个自定义 Triton 算子，或从 MATE 里挑选已有的融合算子
L4 做拉起——在 SGLang-MUSA 的模型注册表里加一个模型条目，指向 HuggingFace 权重路径，配置 TP/EP/PP 拓扑与量化策略

三、四款模型的适配轨迹对照

把 2026 年 6 月中旬到 7 月初的四次官方公告并列，能看到方法论如何在不同模型上落地：

模型	发布日	参数量 / 特征	公开技术要点
Qwen3.5	2026-06-17	多模态 + 混合注意力	MUSA C 原生 + Triton-MUSA 后端；muDNN + MATE 支持混合注意力长序列
GLM-5.2	2026-06-17	超长上下文 + Agent	SGLang-MUSA + TileLang-MUSA；延续 GLM-5.1 的 P/D 异构分离经验
Hy3（腾讯）	2026-07-06	开源大模型	SGLang-MUSA 镜像 v0.5.12.post1-ph1-4.3.5-torch2.9.0；muDNN + MATE + Triton-MUSA + SGLang-MUSA 全栈
LongCat-2.0（美团）	2026-07-06	万亿参数	SGLang-MUSA + MUSA 软件栈；覆盖模型加载 → 推理引擎拉起 → 关键算子优化 → 部署验证 → 精度校验全链路

观察三个共性：

SGLang-MUSA 是 Day-0 的默认框架——四款模型全部走 SGLang-MUSA 路径，vllm-musa 更多用于稳态生产
Triton-MUSA / TileLang-MUSA 是主要的算子编写工具——避免为每个新模型硬编码 MUSA C++
精度校验是收官步骤——所有公告都提到"模型精度无损"或"精度校验"

四、Step-by-Step：以 Hy3 为例复现 Day-0 部署

以下步骤直接使用摩尔线程官方发布的 Hy3 SGLang-MUSA 镜像，可以在具备 MTT S5000 的机器上端到端复现。

步骤 1：环境准备（沿用 m8-l9 的基础栈）

# 确认 MUSA 驱动与 SDK 版本
musa-smi
# 期望输出：Driver 4.3.5+ / SDK ph1

# 确认 Docker + NVIDIA Container Toolkit 兼容版
docker --version
docker info | grep -i runtime

步骤 2：拉取 Hy3 官方推理镜像

# 摩尔线程官方 Day-0 镜像（Hy3 专用）
IMG=registry.mthreads.com/mcconline/inference/sglang:v0.5.12.post1-ph1-4.3.5-torch2.9.0-latest

docker pull $IMG

# 若网络不通，可先登录内网镜像仓库
# docker login registry.mthreads.com

步骤 3：下载 Hy3 权重

# 三个官方镜像源任选其一：
# 1) HuggingFace
huggingface-cli download tencent/Hy3 --local-dir /data/models/Hy3

# 2) ModelScope（国内推荐）
modelscope download --model Tencent-Hunyuan/Hy3 --local_dir /data/models/Hy3

# 3) GitHub 代码仓库（含配置与 tokenizer）
git clone https://github.com/Tencent-Hunyuan/Hy3 /data/code/Hy3

步骤 4：启动 SGLang-MUSA 服务

docker run -d --name hy3-inference   --device /dev/mthreads/mthreads0   --device /dev/mthreads/mthreads1   --device /dev/mthreads/mthreads2   --device /dev/mthreads/mthreads3   --device /dev/mthreads/mthreads4   --device /dev/mthreads/mthreads5   --device /dev/mthreads/mthreads6   --device /dev/mthreads/mthreads7   --shm-size 32g   --net=host   -v /data/models/Hy3:/models/Hy3   $IMG   python -m sglang.launch_server     --model-path /models/Hy3     --host 0.0.0.0     --port 30000     --tp-size 8     --trust-remote-code     --disable-cuda-graph

步骤 5：冒烟测试

curl -s http://127.0.0.1:30000/v1/chat/completions   -H 'Content-Type: application/json'   -d '{
    "model": "hy3",
    "messages": [{"role": "user", "content": "用一句话介绍摩尔线程 MTT S5000"}],
    "temperature": 0.6,
    "max_tokens": 200
  }' | python3 -m json.tool

如果 3 秒内能拿到 JSON 回复，说明整条链路已经打通：驱动 → SDK → Docker → SGLang-MUSA → Hy3 权重 → Triton-MUSA 内核 → MATE 算子 → muDNN → MTT S5000 硬件。这就是 Day-0 的实际含义——模型开源当日，你的机器就能跑。

五、如何把这套方法论套到"下一个模型"

假设本课发表后（2026-07-13）又有一款新的国产旗舰大模型开源，工程团队会怎么走这套方法论？下面是一个 checklist，你可以拿去按图索骥：

💡

新模型 Day-0 适配 Checklist（7 步）

拿到 HuggingFace / ModelScope 权重路径与 config.json——识别参数量、层数、注意力类型、量化格式
在 SGLang-MUSA 模型注册表里找同族模型（Qwen 系 / GLM 系 / DeepSeek 系 / MoE 系）——大概率能复用 70% 结构
识别"新算子"——例如 LongCat-2.0 的 MoE 路由变体、Hy3 的注意力变体，其余走 muDNN + MATE 默认
用 Triton-MUSA 或 TileLang-MUSA 实现新算子——两者都比 MUSA C++ 开发效率高
在小规模（1-2 卡）先拉起 → 验证精度（用官方 demo prompt 对比 HuggingFace 参考输出）
扩展到完整 TP/EP 拓扑（参考 m8-l10 的 3 大部署模板）→ 压测吞吐 / TTFT / TPOT
发布 registry.mthreads.com/mcconline/inference/sglang:<version>-<model_name> 镜像 → 完成 Day-0

整个流程能在 12-48 小时内完成的关键，是前四层栈已经稳定，工程团队只需要在 L3 算子层做增量工作。这也是为什么 Qwen3.5 与 GLM-5.2 能同日适配、Hy3 与 LongCat-2.0 能同日适配。

六、与后续课程的衔接

m8-l9 / m8-l10：本课依赖的 SGLang-MUSA 环境与 9 模型族部署模板
m7-l8 / m7-l9：MusaCoder 模型——它就是"用 muDNN + MATE + Triton-MUSA 生成新算子"这一步的 AI 辅助工具
m6 模块（CUDA 迁移与进阶）：Triton-MUSA 与 MUSA C++ 编程细节，是本课 L3 层的展开
m8-l4（规划中）：FlashAttention-3 与 MATE FMHA 深度——L3 层的核心算子内幕

下一轮双周巡检（2026-07-27）将根据官方是否公布 Hy3 / LongCat-2.0 的详细性能数据（TPS、TTFT、TFLOPS 实测）决定是否加课。

✓

本课小结

你已经掌握摩尔线程 Day-0 适配的方法论四层栈（muDNN / MATE + Triton-MUSA / SGLang-MUSA / MTT S5000），并能以 Hy3 为例完成端到端部署。这套方法论把"每次新模型都要重新造轮子"变成了"复用四层栈 + 增量 L3 算子"，这也是国产大模型能与国产 GPU 保持同步节奏的工程根本。