锦鲤求职岗位描述
岗位职责
1、负责大模型推理框架的开发与优化，包括算子优化、显存/KV Cache 管理优化、分布式加速等技术方向；
2、参与高并发场景下的推理性能分析与瓶颈定位，推动改进方案落地；
3、探索低资源下的轻量化推理方案：量化、投机采样、Sparse Attention 等；
4、参与 Disaggregated Serving / PD 分离等新型推理架构的设计与实现；
5、与算法、业务团队协作，推动优化技术在业务中的规模化应用。
岗位要求
1、计算机、人工智能、软件工程等相关专业本科及以上；
2、熟悉大模型推理优化方法，对主流开源推理框架（TensorRT-LLM、vLLM、SGLang 等）有开发或深度使用经验；
3、精通 Python/C++ 编程，有 CUDA 开发及 GPU 调优经验者优先；
4、具备良好的系统性能分析能力，熟悉 nsight/nvidia-smi/py-spy 等分析工具者优先。
加分项：
1、有国产 GPU（如昇腾、昆仑、PPU等）适配与优化经验；
2、有 Mooncake 等 KV Cache 分离存储系统的使用或开发经验；
3、有顶会论文、竞赛获奖或相关实习经验；
4、有 Disaggregated Serving、PD 分离等推理架构的实际落地经验。