锦鲤求职岗位描述
一、岗位职责
1.推理框架适配
1)负责主流大模型推理框架（如 vLLM等）在国产算力平台上的移植、兼容性测试与性能调优。
2)对接 ISV 客户，解决其业务模型在国产化环境下的算子不支持、精度对齐及环境依赖冲突等问题，保障客户业务平滑迁移。
2.模型部署与性能优化
1)负责 DeepSeek、Qwen 等主流大模型在国产算力卡上的端到端部署，优化KV Cache管理、批处理等机制，提升推理吞吐量与降低首字延迟。
2)针对业务场景进行算子融合优化，在保留精度的前提下最大化释放硬件算力。
3.工程化交付与支持
1)构建标准化的模型部署流水线，输出高质量的适配指南与故障排查手册。
2)协助客户进行私有化环境的搭建与调试，提供远程或现场的技术支持，快速响应并解决生产环境的推理故障。
二、任职要求
（一）必备条件
1)学历背景：计算机、电子工程、自动化等相关专业本科及以上学历。
2)工作经验：3年以上 AI 部署或高性能计算软件开发经验。
3)框架与工具：
a.精通 vLLM、TensorRT-LLM 或 ONNX Runtime 等至少一种主流推理框架的源码机制。
b.熟练掌握 C/C++ 和 Python，具备优秀的代码调试与性能分析能力。
4)国产化经验：有沐曦、海光等国产芯片的实际模型部署与适配经验者优先。
（二）加分项
1)有2B/2G端AI软件适配项目开发经验者优先。
2)有SDD、TDD经验，熟悉使用Trae、CodeBuddy等国内智能体优先。
3)有向开源社区（如 vLLM）贡献过代码或修复过 Bug 者优先。