岗位描述
BASE:北京、合肥;薪资面议。
职位定位:专注国产化AI芯片(昇腾、海光、壁仞等)的推理加速与适配,推动大模型在国产算力上的高效运行。
岗位职责:
1. 国产芯片算子开发:基于国产软件栈,开发高性能自定义算子。
2. 模型适配与性能调优:负责头部大模型在国产芯片上的端到端适配与性能调优,使用国产性能分析工具定位计算、内存、通信瓶颈。
3. 推理引擎移植与优化:将vLLM、SGLang等推理引擎适配到国产芯片平台,或基于国产SDK构建自研推理引擎。
任职要求:
1. 硕士及以上学历,计算机、电子工程等相关专业,2年以上国产化芯片开发经验。
2. 国产芯片深度经验:熟悉至少一种国产芯片的软件栈,有进行算子开发和优化的经验。
3. 模型理解:熟悉大语言模型、文生图像和视频模型等主流大模型结构,了解推理流程中的关键性能瓶颈。
4. 主导或者深度参与过大模型在国产芯片上的推理优化和集群级别部署。