岗位描述
岗位职责:
1、负责深度学习模型在自研加速卡上的推理性能优化,工作涵盖计算图优化、算子融合、量化压缩等方向;
2、同时针对多卡推理场景,设计并优化计算与通信的重叠策略,提升并行效率;
3、深入底层进行异构计算平台的性能调优,利用性能剖析工具定位并解决访存、计算、通信等方面的瓶颈,推动模型在实际业务场景中的高效部署落地。
任职要求:
1、计算机、电子、自动化等相关专业,硕士及以上学历。
2、精通 C++/Python,熟悉计算机体系结构、并行编程及内存模型。
3、熟悉TensorFlow/PyTorch等主流框架的内部运行机制,了解megatron-LM等训练框架,了解vllm/sglang等推理框架。
4、具备异构计算编程基础(如CUDA或同类国产平台),了解现代加速芯片的微架构基本概念。
5、熟悉常见集合通信库及其原语,有多卡并行通信优化经验。
6、能熟练使用性能分析工具(如各平台自带的profiler或通用工具)指导优化工作。
7、具备良好的团队协作与沟通能力,能够高效配合完成项目交付。