岗位描述
岗位职责
1.参与大模型训练/推理框架的适配与开发,包括Megatron、SGLang、vLLM、PyTorch 等框架在自研芯片平台上的功能接入和问题定位。
2. 协助完成主流大模型在自研 AI 芯片上的跑通与验证,包括 LLaMA、Qwen、DeepSeek、MoE 等模型的基础适配、精度验证和性能分析。
3.参与自研算子库、通信库与大模型框架的接口适配,协助完成算子替换、通信流程接入、单测和回归验证。
4. 协助分析训练/推理过程中的常见问题,包括精度不一致、NaN、loss 异常、通信 hang、性能瓶颈、显存/内存占用异常等。
5. 参与大模型框架相关工具建设,包括测试脚本、自动化验证、日志分析、性能 profiling、问题复现工具等。
6. 跟踪开源框架的发展,协助完成技术调研和文档整理。
岗位要求
1.计算机、软件工程等相关专业本科及以上在读学生。
2.熟悉 Python,了解 C++,具备良好的代码阅读和调试能力。
3. 熟悉 PyTorch,了解 Transformer、大模型训练或推理的基本流程。
4. 了解分布式训练、模型推理、GPU / NPU/AI 芯片、算子开发等任一方向。
5. 有相关框架使用或源码阅读经验者优先;有 CUDA、Triton、算子开发、模型部署、性能分析经验者优先。
6.学习能力强,沟通主动,能够在导师指导下完成问题分析、代码开发和验证闭
7. 每周可实习 4 天及以上,实习 3 个月以上优先。