岗位描述
岗位职责
作为一名系统软件工程师,您将深入底层系统,负责开发深度学习AI模型的运行时环境,通过计算资源调度、内存管理等优化,确保大模型在自研加速器系统的高效执行。
1,开发AI系统的运行时系统,优化学习框架以提升计算效率和系统吞吐量;
2,构建高效的通信和计算资源调度机制,支持多种模型并行策略,提高分布式的效率;
3,与编译器、驱动工程师一起深化硬件加速和性能优化,包括专项硬件优化和支持定制化内核编程接口;
4,实现故障检测和恢复机制,保证AI系统的可靠性;
5,与AI框架团队协作,解决深度学习大模型的优化部署工作。
岗位要求
1,计算机、通信或者电子相关专业,本科及以上学历,有AI芯片系统软件开发或验证经验者优先;
2,5年及以上软件开发经验,熟练掌握C/C++;
3,深入理解计算机体系结构,包括内存优化,SIMD等;
4,熟悉AI框架运行时机制,理解Pytorch Aten,Tensorflow/Jax XLA是大加分项;
5,熟悉分布式训练,LLM推理优化,和通信优化是加分项;
6,熟悉虚拟化技术在AI场景的应用是加分项。
高级岗位要求
1,拥有5年以上系统如设计和架构经验,包括设计模式、可靠性与扩展性的软件研发经历;
2,具备完整软件开发生命周期的经验(包括),具备技术负责人或工程团队领导经验;
3,熟悉AI系统的运行时开发是加分项;
4,熟悉集群通信的原理和实现,包括MPI,NCCL等通信库的开发经验是加分项。