AI Infra 推理优化工程师

岗位职责：

1. 全场景推理架构优化：负责大语言模型（LLM）、AIGC模型的推理加速方案优化，包括量化、算子融合、KV Cache优化等。

2. 国产化适配与深耕：主导针对国产化芯片（如华为昇腾、寒武纪、海光等）的推理迁移与性能调优，打破软硬件适配瓶颈。

3. 智能体推理引擎：针对智能体复杂任务编排下的长文本、多轮交互场景，设计或复现低延迟、高吞吐的推理技术。

4. 智能体工程化落地：针对特定场景开发高质量的智能体应用。

任职要求：

1. 学历背景：计算机、数学、电子信息等相关专业，硕士及以上学历。

2. 深入理解CUDA/Triton编程，国产化芯片编程，有高性能算子开发经验。

3. 熟悉主流推理框架（如vLLM等）及其底层原理，熟悉其核心设计架构与核心技术。

4. 熟悉模型量化技术、LangChain等智能体框架。

加分项：

1. 有大规模AI基础设施或推理性能优化经验，有大规模GPU集群推理调度经验者优先。

2. 有大模型国产化芯片适配经验者优先。

3. 对AIGC或者其他特定领域的智能体，有实际项目落地经验者优先。