岗位描述
岗位职责:
1、主导国产 GPU 软件栈端到端性能优化,支撑大规模对外 POC 及生产交付。
2、负责 Qwen3.6、MoE 等主流大模型在国产 GPU 上的适配迁移,深度定制 vLLM 全链路功能(PD 分离、量化、长上下文、CUDA Graph 等),构建高吞吐、低延迟的 Tokens 推理服务。
3、负责智算 K8s 平台架构设计与运维技术难点故障解决,优化 GPU 调度、虚拟化及多租户推理服务编排。
4、主导智能体及相关 AI 应用的研发与工程化落地,完成从模型选型、工具链适配到产品闭环。
5、深度参与客户 POC,精准分析需求、定位性能瓶颈并输出解决方案;跟踪 LLM 推理与 Agent 技术趋势,制定国产 GPU 生态适配路线。
职位要求:
1、博士学历,发表过GPU 集群全栈优化相关高质量论文或国际会议期刊。
2、精通 GPGPU 架构与 CUDA/OpenCL 编程,熟悉国产 GPU 软件栈适配;精通 Python/C++。
3、精通 vLLM/SGLang 源码级开发,具备 MoE 部署、Prefix Caching、Chunked Prefill 等深度优化经验;熟悉 PyTorch 底层及多卡通信机制。
4、熟悉 Qwen/Llama 等主流模型架构及量化方案(AWQ/GPTQ/FP8),具备 Agent(RAG、工具编排)开发经验优先。
5、沟通能力强,表达逻辑性强,自驱力强