大模型推理与应用工程师

【岗位描述】

你将加入公司大模型团队，参与LLM在量化投研场景的深度落地——从底层推理引擎（vLLM/SGLang）的高性能部署与运维，到上层Agent应用的规范建设与规模化推广。

【岗位职责】

1. 负责大模型推理服务、网关的部署与运维，基于vLLM、SGLang等框架搭建在线推理集群，建立监控看板，保障服务高可用。

2. 参与对接各组业务需求，为不同团队部署专用的Agent推理实例，与研究员共同迭代相关服务。

3. 持续调研和评测业界开源的大模型Agent工具与框架，甄选适合公司投研及中后台业务场景的技术方案，推动工具链落地，赋能业务团队提升生产效率。

4. 跟踪Agent应用上线后的效果与反馈，持续迭代优化，沉淀可复用的Agent组件库。

5. 参与GPU性能测试与评测基线建设，协助硬件选型与算力资源评估。

【任职要求】

基本要求：

1. 计算机科学、人工智能等相关专业，海内外知名高校毕业。

2. 具备扎实的计算机网络、计算机系统基础知识，理解OS、网络协议栈及分布式系统基本原理。

3. 熟悉Python，代码风格良好，有实际项目开发经验。熟悉C++者优先。

4. 熟悉vLLM或SGLang推理框架，理解TD、DP等并行推理策略，有实际的模型部署与调优经验。

5. 熟悉Linux操作系统，具备Docker、Kubernetes环境下的服务部署与运维能力。

6. 学习能力强，能够快速上手新技术、新框架，适应多线并行的工作节奏。

加分项：

1. 有大模型推理优化经验（量化、KV Cache优化、Speculative Decoding、Continuous Batching、CUDA编程、NCCL通信库等）。

2. 了解LangChain、LangGraph等Agent开发框架，有实际搭建RAG或Multi-Agent系统的经验，熟悉MCP协议者优先。

3. 有ACM/ICPC、Kaggle、数学建模等竞赛经历并取得优异成绩。

4. 有开源项目贡献经历。

5. 有量化金融相关背景或对金融市场有浓厚兴趣。