摩尔线程 GPU 学习中心:从零开始掌握摩尔线程 GPU
非官方的摩尔线程(Moore Threads)GPU 与 MUSA 中文学习站:MUSA SDK 与驱动安装、MUSA 编程、torch_musa、vLLM-MUSA / SGLang 推理部署、大模型训练与量化,按 12 个模块循序渐进。
🧠 模块一:GPU与AI基础认知
从零开始理解GPU并行计算与AI的关系,认识摩尔线程的MUSA架构与产品家族。
- 什么是GPU?为什么AI需要GPU?
- 认识摩尔线程
- 摩尔线程产品家族:从 KUAE 集群到 MTT AICUBE/AIBOOK
- MUSA vs CUDA(即将推出)
🔧 模块二:MUSA开发环境搭建
从系统准备到SDK安装,搭建完整的摩尔线程GPU开发环境,掌握pymtml设备管理。
💻 模块三:MUSA编程入门
学习MUSA编程模型,编写你的第一个GPU并行程序。
🚀 模块四:AI模型训练实战
使用torch_musa在摩尔线程GPU上训练深度学习模型,覆盖v2.9.0的FSDP2与分布式训练。
- torch_musa入门
- 图像分类实战(即将推出)
- 模型训练流程(即将推出)
- 分布式训练与FSDP2
- 混合精度训练
🤖 模块五:AI模型推理部署
在摩尔线程GPU上部署大语言模型推理:Ollama、vLLM-MUSA、SGLang-MUSA全覆盖。
- 使用Ollama本地部署大模型
- 推理基础概念(即将推出)
- vLLM-MUSA推理部署实战
- SGLang-MUSA推理引擎
- 模型量化技术
🔄 模块六:CUDA代码迁移与进阶
从MUSIFY源码迁移到torchada运行时兼容,再到TileLang算子开发的进阶之路。
- MUSIFY迁移工具实战
- torchada兼容层实战
- TileLang-MUSA算子开发
- 多GPU编程(即将推出)
- KUAE集群概览(即将推出)
- MATE引擎:FlashAttention-3与高性能算子库
- MTClaw Function Router:本地工具路由加速实战
🧪 模块七:LLM 预训练与微调实战(MUSA)
torch_musa 全栈训练:分词器、预训练 mini-GPT、SFT、LoRA、DPO、RLHF;含 MusaCoder 原生 Kernel 生成框架(论文 + 实操,已开源 27B/9B)
- 分词器与数据管线(BPE / SentencePiece on MUSA)(即将推出)
- 从零预训练 124M GPT(torch_musa + FSDP2 + ZeRO-3)(即将推出)
- 指令微调 SFT 实战(LLaMA-Factory + torch_musa 后端)
- LoRA / QLoRA on MUSA
- DPO 直接偏好优化(trl + torch_musa)(即将推出)
- RLHF:Reward Model + PPO 完整流程(即将推出)
- 训练监控与故障定位(pymtml + Tensorboard + wandb)(即将推出)
- MusaCoder:MUSA 上的原生 Kernel 生成后训练框架(KernelBench SOTA)
- MusaCoder 模型实操:从 HuggingFace 下载到 PyTorch 算子 → MUSA Kernel 生成
⚡ 模块八:LLM 推理优化深度(MUSA)
从指标到深度:TTFT/TPOT、KV Cache、投机解码、FA3、MTP、量化、分离式部署、路由,含 SGLang-MUSA 全模型族部署
- 推理指标体系:TTFT / TPOT / ITL / Goodput / P99
- KV Cache 与 PagedAttention(vllm-musa 实战)
- 投机解码(MTP / DSpark on vLLM-MUSA)(即将推出)
- MTP / NSA / 差分注意力(DeepSeek-V4 风格)(即将推出)
- 分离式部署(Disaggregated Prefill/Decode + LMCache)(即将推出)
- 模型路由与多租户(LiteLLM + vllm-musa 集群)(即将推出)
- SGLang-MUSA 概览与环境准备(Docker镜像 v0.5.6.post3-ph1)
- SGLang-MUSA 模型部署实战:9 模型族 × 3 部署模板
- 国产大模型 Day-0 适配方法论:LongCat-2.0 / Hy3 / GLM-5.2 on MTT S5000
- MUSA SDK 5.2.0 与 vLLM-MUSA FP8 MoE 推理调优实战
- Mooncake MUSA 预编译包与 PD 分离部署实操(vLLM / SGLang 双路径)
- Kimi K3 Day-0 适配剖析:KDA/Gated MLA 混合注意力、MXFP4 在线量化与 896 专家 MoE
🤖 模块九:LLM 应用层(RAG / Function Calling / MCP / Agent)
基于 MUSA 后端构建 Embedding → RAG → Function Calling → MCP → Agent → 多 Agent
- Embedding 模型在 MUSA 上的部署(bge / m3 / Qwen3-Embedding)
- 从零搭建 RAG(chunking → 检索 → rerank → 生成)(即将推出)
- 高级 RAG(HyDE / RAG-Fusion / ColPali 多模态)(即将推出)
- Function Calling 与结构化输出(outlines / xgrammar on vllm-musa)(即将推出)
- MCP 协议入门:构建 MUSA 后端的 MCP Server(即将推出)
- Agent 循环与 ReAct(集成 MTClaw 本地工具路由)(即将推出)
- 多 Agent 系统(LangGraph / AutoGen + 本地 MUSA LLM)(即将推出)
- Prompt Caching 与上下文缓存经济学(vllm-musa prefix cache)(即将推出)
🎯 模块十:多模态与生产 Capstone(MUSA)
VLM / 语音 / 扩散模型部署 + 三大端到端 Capstone(企业 RAG、Code Agent、实时语音)
- 视觉-语言模型部署(Qwen3-VL / OCR 模型 on MUSA)
- 语音端到端:Whisper + Qwen + CosyVoice 全链路(即将推出)
- 扩散模型推理(Stable Diffusion / FLUX on MUSA)(即将推出)
- Capstone A:企业级 RAG 客服系统(KUAE + vllm-musa)(即将推出)
- Capstone B:本地 Code Agent(MTClaw + Qwen3-Coder + MCP)(即将推出)
- Capstone C:实时语音助手(ASR → LLM → TTS < 500ms 端到端)(即将推出)
- MiniMax H3 多模态生成模型 MUSA 适配路径(SGLang-Diffusion)
📖 模块十一:官方教材精讲《摩尔线程GPU架构与编程实践》
基于摩尔线程官方、人民邮电出版社出版的《摩尔线程GPU架构与编程实践》逐章精讲,系统解析 MUSA 架构原理、编程模型、软件栈与实战。
- 官方教材导读:全书 10 章知识地图与学习路径
- 第1章精讲:GPU 原理与生态(摩尔定律 / Flynn / SIMT / MUSA 层级)
- 第2章精讲:MUSA 硬件架构(前端调度 / MP-MPE / 存储体系 / 张量核心)
- 第3章精讲:MUSA 编程模型(Kernel / Context / Stream / 内存管理)
- 第4章精讲:MUSA 软件架构(编译器工具链 / 计算加速库 / muDNN / MCCL)
- 第5章精讲:开发环境搭建(驱动 / SDK / 容器 / 冒烟验证)
- 第6章精讲:MUSA 编程基础(编译链接 / 索引 / 错误处理 / 归约实战)
- 第7章精讲:MUSA 程序调试(错误码 / musa-gdb / compute-sanitizer / 精度定位)
- 第8章精讲:性能优化与扩展(Occupancy / 访存 / Flash Attention / GEMM)
- 第9章精讲:性能分析工具(musa-profiler / Roofline / 时间线归因)
- 第10章精讲:应用实战(图像处理 / 科学计算 / AI 推理 / 多卡扩展)
🧱 模块十二:推理运行时与跨框架部署(MUSA)
面向非 LLM 与跨框架推理负载:ONNX Runtime MUSA Plugin EP 的 out-of-tree 架构、构建与部署,并跟踪 xLLM 等第三方运行时接入 MUSA 的进展。