大模型推理引擎开发工程师（高性能算子）

1、通过编译优化、模型并行优化、图融合、高性能算子开发、低精度计算、Memory复用、Cache优化、高并发服务请求优化等技术，打造业界领先的高性能训推引擎；
2、设计和开发高性能算子库，研究最新的GPU计算技术和优化方法，以充分利用GPU的并行计算能力，支持大模型推理优化和部署。

1、硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验，在深度学习领域有深入研究与实践；
2、精通 Python，熟练掌握至少一种深度学习框架（如 PyTorch），理解深度学习和transformer系列算法，有丰富模型开发与调优经验，能独立搭建复杂模型并优化性能；
3、熟悉主流的并行编程以及性能优化技术，熟悉CUDA和TensorCore编程，有相关高性能优化经验(nsys/ncu)优先；
4、熟悉flashattention，TransformerEngine, flashinfer等算子库， 有使用triton/tilelang等做高性能算子开发经验优先。