简历

教育背景

重庆大学（985）计算机科学与技术硕士研究生，2018 年 9 月 – 2021 年 6 月
- 学位论文：《面向多领域文本的自动摘要系统》
- 导师：钟将教授
重庆大学（985）计算机科学与技术学士，2014 年 9 月 – 2018 年 6 月
重庆大学法学学士（第二学位），2018 年

工作经历

2026 年 7 月 – 至今 AI 框架研究员
- 北京智源人工智能研究院（BAAI）北京
- 负责 Torch-FL：FlagOS 软件栈中的 PyTorch 设备插件，提供统一 flagos 设备，并按算子路由到厂商原生 kernel、FlagGems/Triton 编译器 kernel、兼容封装或 CPU fallback。
2021 年 7 月 – 2026 年 7 月 AI 基础设施高级工程师 / 关键项目负责人（SE）
- 华为 & MindSpore 团队北京
- 项目一：MSAdapter / MindTorch（项目负责人，2024 年 12 月 – 2026 年 7 月）
  - 主导兼容方案架构，实现 PyTorch 生态向 MindSpore + 昇腾的平滑迁移。
  - 支持盘古模型零代码切换，以及 DeepSeek / Qwen 全系列 Day-0 迁移。
  - 动态图开箱性能约达 torch-npu 的 95%，深度调优后可超越约 10%。
  - 打通 MSAdapter + PIJIT，攻克 MoE 图分支过多导致的裂图问题，实现 DeepSeek-V3 高性能不裂图推理。
- 项目二：MindNLP（项目负责人，2022 年 7 月 – 2026 年 7 月）
  - 负责预训练模型支持与面向 NLP / LLM 开发者的工具链。
  - 针对 DeepSeek-OCR 合并 Expert 计算图，将 NPU 利用率由 8% 提升至 30%。
  - 基于 Apache Arrow 与 mmap 的流水线数据预处理，相对原生 PyTorch DataLoader 约 4 倍吞吐。
  - 支持 Hugging Face Transformers 官方维护的模型类别，覆盖昇腾 910A/910B/310B、GPU 与 CPU。
- 项目三：MindSpore 核心引擎（核心研发工程师，2021 年 7 月 – 2026 年 7 月）
  - 设计自动混合精度（AMP）系统，在昇腾 910 上保证 Float16 训练的数值稳定性。
  - 研究功能式与 OOP 融合的混合编程范式，使静态图具备接近 JAX 的 JIT 优化能力。
  - 开发 RNN 算子，并提供 Encoder、Decoder 与多头注意力的标准化 Transformer 接口。

精选项目

Torch-FL 2026 年 7 月至今
- 智源 FlagOS 的 PyTorch 设备插件。用户使用标准 PyTorch API 与 device="flagos"，由插件屏蔽各厂商设备差异。
- 算子后端包括厂商原生 kernel（如 ACLNN）、CUDA/兼容封装、可移植 FlagGems/Triton kernel，以及显式 CPU fallback。
- 覆盖 eager、autograd、torch.compile、分布式集合通信与 profiler，支持 CUDA、昇腾、沐曦等多种加速器。
PocketLLM 2026 年 5 月至今
- 独立的消费级多 GPU 推理栈（C++/CUDA 与 PyTorch）。从 4× RTX 2080 Ti 上的 DeepSeek-V4-Flash 起步，现已覆盖 MiniMax-M2.7、GLM-5.2、Qwen3.8-27B-FP8。
- 自定义 kernel、低比特格式、张量/专家并行，以及在无原生 FP4/FP8 张量核心的 GPU 上做 CPU 驻留 Routed-Expert staging。
- 4× RTX 2080 Ti 上 C++ FP4 约 401 tok/s prefill、3.7 tok/s decode，上下文 64k。
- 文档 · 技术报告（PDF）

科研经历

CAAI-MindSpore 学术研究基金：MoE 推理优化 2024 年 6 月 – 2025 年 7 月
- 专家委员 / 产业导师。撰写官方申请指南，指导 expert-aware 预取与 expert offload。
- 共同作者论文：Klotski（ASPLOS 2025）、Fate（WWW 2026）。
国家重点研发计划：专业知识服务关键技术与商业模式研究 2017 年 11 月 – 2020 年 12 月
- 机器学习算法工程师。主导 NER、关系抽取与自动摘要，在 ECIR 2021 发表 DSMER。
- 设计标注系统并构建专有 NER 数据集；内部数据上 NER 平均准确率约 80%，摘要 ROUGE 30+。

代表性论文

Fate：面向端侧 MoE 的跨层门控快速推理

Fang, Zhiyuan, Xingfan Yu, Yuegui Huang, Zicong Hong, Yufeng Lyu, Wuhui Chen, Yue Yu, and Fan Yu. "Fate: Fast Edge Inference of Mixture-of-Experts Models via Cross-Layer Gate." In Proceedings of the ACM Web Conference 2026, pp. 5537–5546.

Klotski：专家感知多 batch 流水线的高效 MoE 推理

Fang, Zhiyuan, Yuegui Huang, Zicong Hong, Yufeng Lyu, Wuhui Chen, Yue Yu, Fan Yu, and Zibin Zheng. "Klotski: Efficient Mixture-of-Expert Inference via Expert-Aware Multi-Batch Pipeline." In Proceedings of the 30th ACM International Conference on Architectural Support for Programming Languages and Operating Systems, Volume 2, pp. 574–588. 2025.

ICDT：增量上下文引导的推敲式图像描述 Transformer

Lai, Xinyi, Yufeng Lyu, Jiang Zhong, Chen Wang, Qizhu Dai, and Gang Li. "ICDT: Incremental Context Guided Deliberation Transformer for Image Captioning." In Pacific Rim International Conference on Artificial Intelligence, pp. 444–458. 2022.

DSMER：基于深度语义匹配的命名实体识别

Lyu, Yufeng, and Jiang Zhong. "DSMER: A Deep Semantic Matching Based Framework for Named Entity Recognition." In European Conference on Information Retrieval, pp. 419–432. 2021.

荣誉与奖项

重庆大学一等奖学金 2018 – 2020
重庆大学优秀助教奖 2019 年 3 月
全国大学生计算机系统能力大赛（NSCSCC）三等奖 2018 年 9 月
华为奖学金 2017 年 12 月

技能

深度学习框架： 精通 PyTorch 与 MindSpore 内部机制，擅长自定义算子与高性能模型实现。
大规模 LLM 训练： 熟悉 Megatron-LM、DeepSpeed；具备 100 至 1000+ GPU/NPU 集群上的预训练与微调经验。
高性能推理： 熟悉 vLLM、SGLang，能够进行框架级改造与 kernel 级优化。

吕昱峰

简历

教育背景

工作经历

精选项目

科研经历

代表性论文

Fate：面向端侧 MoE 的跨层门控快速推理

Klotski：专家感知多 batch 流水线的高效 MoE 推理

ICDT：增量上下文引导的推敲式图像描述 Transformer

DSMER：基于深度语义匹配的命名实体识别

教学

特邀讲师：基于 MindSpore 的大语言模型训练与部署优化

特邀讲师：大语言模型开发与创新

计算机组成原理在线实验课

助教：计算机组成原理与综合硬件设计

报告

Torch-FL：面向 PyTorch 的虚拟设备层

Torch-FL：终结多元芯片碎片化噩梦

大模型技术系列短讲

嵌套命名实体识别简介

计算机保研/出国/实习分享会

计算机研究生生活怎么“混”

怎样阅读 NLP 论文

怎样做好计算机本科毕业设计

从数字逻辑到计算机组成原理

荣誉与奖项

技能