【2027】训推引擎开发工程师（北京）

训推引擎开发及性能优化，国产化芯片适配。

工作职责

1、负责大模型、深度学习、机器学习模型在各类平台上的训练和推理优化实现及性能优化；

2、构建稳定、安全、效价比高的算法训练和推理引擎，提升产品竞争力；

3、将训练、推理引擎适配到主流GPU上并保持性能、效果对齐。

任职资格

1、硕士应届毕业生；

2、计算机、软件或人工智能等相关专业；

3、技能要求：

（1）熟练掌握C++和Python编程语言，编程基本功扎实，熟练掌握计算机体系结构，有性能敏感型系统设计和落地经验；

（2）熟练掌握vLLM、SGLang、Triton等主流开源推理引擎，熟悉昇腾、昆仑、沐曦等国产芯片适配研发；

（3）熟练掌握CUDA编程，理解CUDA的计算、通信和任务管理模型，训练推理调度优化；

（4）熟悉一种主流深度学习框架，熟悉至少一种图调度框架并有性能优化经验；

（5）加分项：熟悉常见LLM、多模态模型算法；有模型剪枝、蒸馏、量化经验；有CUDA kernel开发经验。

4、英语通过CET-4。