AI推理平台-大模型推理系统工程师-LLM

岗位描述
本岗位隶属于我们是阿里巴巴大模型推理团队，负责生成式 AI 领域（主要是图像生成和LLM）的内部产品、训练推理服务系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。

主要工作内容如下：
1. 负责设计开发高性能大模型推理引擎；结合流量调度、并行、Cache 等方法构建大规模分布式模型服务系统。
2. 融合业界前沿的算法工程理论，基于量化、动态剪枝等有损方法进行极致的模型加速和成本优化。
3. 结合数据、算法和工程，协同构建 AI Infra 平台，为生成式 AI 提供端到端解决方案，推动业务创新与实践应用。

岗位要求
1. 对 AI 算法和 AI 系统工程（如迭代模式、端到端系统设计、工程框架、性能建模等）有比较深刻的理解，至少熟练掌握一种常见深度学习框架。
2. 理解异构计算和软硬件结合优化，在性能优化方面有一定经验。理解 cutlass 和 trition 编译技术者优先。
3. 理解大模型领域算法原理（Transformer、MoE、MLA、Diffusion 等）。
4. 有大规模分布式系统开发和优化经验者优先。
5. 善于沟通协作，善于动手，乐于学习和接受挑战。