岗位描述
【职责】
1、将现有AI框架(如PyTorch/vLLM等)优化并适配到自研GPU上
2、结合pytorch compile集成自研GPU计算图编译
3、负责和自研GPU软件栈对接,完成torch/vLLM等框架内存管理、算子调度
4、负责torch/vLLM框架适配性能分析和优化
【要求】
1、精通 C++ 和 Python,熟悉 PyTorch/vllm等源码结构及扩展机制
2、熟悉框架内部机制(PyTorch或vllm等), 具备丰富的框架开发和调试经验者优先
3、熟悉异构计算和并行编程,具有CUDA,ROCM,OpenCL相关开发经验者优先;
4. 熟悉常用的大语言模型,具有大语言模型部署经验者优先;
5、计算机、电子信息、通信工程或相关专业本科及以上学历