岗位描述
工作职责
1、负责公司AI模型的推理系统研发、性能优化、模型部署、资源调度、可观测性搭建等工作
2、与算法团队深度合作,进行算法与系统的联合设计与优化(如量化、稀疏注意力、投机采样等)
3、保持关注行业前沿技术,且有能力和热情开展创新研究
任职要求
1、有人工智能、计算机系统等相关专业的研究经历
2、熟练掌握Linux环境下的C/C++与Python语言
3、精通以下至少一项的背景知识或经验:推理引擎和框架、高性能计算与通信、模型量化等
4、具有独立解决问题的能力,良好的团队合作精神
5、有强烈的工作责任心,较好的学习能力、沟通能力和自驱精神
6、有良好的文档习惯,及时按要求撰写更新工作流程及技术文档
加分项
- 深入研究过至少一种推理引擎(vLLM/SGLang等)的底层设计和实现机制
- 理解GPU硬件架构,深入理解GPU软件栈,熟练掌握性能分析技能
- 对主流大规模AI推理架构有了解,熟悉并参与过模型部署和上线的全流程
- 有LLM/推荐广告/搜索等在线和离线推理系统架构经验
- 有硕士/博士阶段的计算机系统方向研究背景,作为核心作者在国际顶级AI会议上发表过论文者优先