推理优化工程师-27届校招

岗位：推理优化工程师-27届校招
学历：本科
需求专业：计算机类
需求人数：2
工作地点：北京市朝阳区,

职位描述：
职责：

1. 调研GLM/Qwen/DeepSeek等KV Cache结构，协助优化方案与实验

2. 学习vLLM/SGLang与PD分离架构，协助分布式KV Cache跨节点测试

3. 参与GPU多级缓存卸载实验，协助128K长上下文显存测试

4. 协助优化推理调度，基于缓存命中率、显存水位提升吞吐延迟

5. 参与分布式KV缓存服务迭代，协助数据统计、监控配置

要求：

- 本科+，计算机/软件/AI/电子信息相关专业

- 掌握Python，有C++/CUDA基础，了解GPU并行计算

- 掌握C++/Rust，熟悉操作系统、内存管理、网络

- 了解大模型推理与KV Cache原理，有vLLM/SGLang经验优先

- 具备调试能力，愿意学习显存优化、缓存优化

- 了解高性能IO、网络基础即可

加分：推理框架使用/调试经历；量化、剪枝、显存优化；长文本推理、GPU调优；分布式系统、NPU开发

招聘简章：首都在线2027届校园招聘（北京首都在线科技股份有限公司）