岗位描述
岗位职责:
1、负责国产大模型的二次开发,完成在不同国产平台上适配调优;
2、负责大模型的应用软件开发,优化大模型一体机中的软件功能;
3、负责AI模型算子库开发调试、分析算子效率,优化kernel性能;
4、负责人工智能编译器的开发与优化,优化异构算力协同推理引擎;
5、负责AI模型训练、推理性能瓶颈分析,根据给定的大规模分布式环境,拟定高效运行策略;
6、负责大模型微调与对齐,设计和开发大模型微调系统,根据硬件配置确定高效微调与对齐的解决方案。
任职要求:
1、博士学历,具备优秀的编码能力,熟练掌握Python/Java/C++等一种或多种编程语言,能够独立编写大模型测试脚本优先;
2、熟悉主流大模型的结构框架与调用的底层算子,能够结合不同国产GPU特点,分析性能瓶颈并进行调优优先;
3、熟悉主流深度学习编程框架(PyTorch/TensorFlow),熟悉主流大模型训练推理框架(Megatron/vLLM/SGLang),了解其底层架构和实现机制,具备优化并行策略(TP/PP/DP/EP等)代码的能力优先。