资深推理系统架构师

岗位职责
· 负责面向下一代大模型推理系统的核心架构设计与研发，探索并实现更高效率、更低成本的推理服务方案。
· 深入研究并应用前沿推理优化技术（如模型量化、剪枝、稀疏化、Continuous Batching、PagedAttention 等），并将其落地于实际生产环境。
· 负责推理框架在复杂负载下的性能调优与稳定性建设，系统性解决高并发、长序列场景中的计算、显存与延迟瓶颈。
· 带领技术团队攻克推理系统研发中的关键技术难题，输出高质量的代码实现与系统设计文档。
· 参与制定推理系统的技术演进路线图（Roadmap），推动关键节点的规划与落地。
· 积极参与开源社区建设，与业界技术专家保持交流，持续跟踪前沿技术动态。
· 指导团队成员进行技术方案选型、系统设计与代码评审，提升团队整体技术能力。
· 与模型训练团队、算法团队及基础设施团队紧密协同，推动大模型在复杂业务场景中的高效部署与规模化落地。

岗位要求
· 计算机科学或相关领域硕士及以上学历，博士优先。
· 5年以上系统软件研发经验，其中至少3年以上大模型推理或深度学习系统相关经验。
· 精通C++与Python编程，深入理解CUDA编程模型及GPU硬件体系架构。
· 对主流推理框架（如vLLM、SGLang、TensorRT-LLM）有深入理解和丰富的二次开发或优化经验。
· 熟悉常见的推理优化技术体系，对显存管理、计算调度、模型压缩等方向有实践经验。
· 具备优秀的系统问题分析与复杂问题排查能力，能够独立主导大型模块的研发与交付。
· 有带领技术团队完成复杂项目的实际管理经验，具备良好的跨团队沟通与协作能力。
· 有AI系统或高性能计算领域开源项目核心贡献者经验者优先。