岗位描述
岗位描述
围绕 Agent Harness 与推理系统的协同开展分析和优化。通过观测不同 Agent 的请求模式、上下文变化、工具调用和执行流程,识别推理侧的优化机会。结合 Harness 特性,探索缓存复用、缓存生命周期管理、请求调度和上下文组织等方案,提升 Agent 的执行效率与任务效果。
岗位要求
1. 计算机或相关专业本科及以上学历,具备扎实的编程能力,熟练使用 Python,具备系统开发和数据分析能力。
2. 熟悉大模型推理的基本原理,了解 KV Cache、Prefix Cache、请求调度等机制,有推理框架使用或开发经验。
3. 熟悉 Agent 的基本执行流程,理解上下文管理、工具调用、多轮交互等 Harness 行为及其对推理负载的影响。
4. 能够采集和分析 Agent 执行轨迹与推理指标,识别重复计算、缓存失效、上下文增长和等待时间等问题。
5. 能够基于分析结果实现优化原型,并通过实验评估缓存命中率、响应时延、资源开销及任务效果的变化。
6. 有 Agent 框架开发、推理缓存优化、性能分析或可观测性系统建设经验者优先。