推理框架研发工程师

岗位职责：

负责自研 AI 编译框架的架构设计与核心研发。

实现计算图 IR 及图优化 Pass（算子融合、内存复用、并行调度等）。

开发多后端代码生成与自动调优能力（如 AutoTVM/Ansor）。

完成主流框架（PyTorch/TensorFlow/ONNX）模型到编译框架的转换与部署，支持 LLM 等模型的编译优化。

任职条件：

本科及以上学历，计算机、电子、自动化等相关专业，2 年以上深度学习编译或推理引擎开发经验。

精通 C++/Python，熟悉计算机体系结构、并行编程及内存模型。

深入理解图优化技术（算子融合、内存规划、并行调度）及编译器 Pass 机制。

具备性能分析与调优能力，能利用 profiling 工具定位编译后 kernel 的瓶颈。

良好的团队协作与沟通能力，能推动技术方案落地。

加分项：

熟悉 TVM、MLIR、XLA 等至少一种开源 AI 编译框架，并有深度优化或代码贡献经验。

了解自动调优（AutoTVM/Ansor）或张量化编译（Polyhedral 模型）。

熟悉常见模型（ResNet、BERT、YOLO、LLaMA 等）的推理优化方法（量化、剪枝、蒸馏）。

有 CUDA/OpenCL/汇编优化或算子库开发经验。

• 有 LLM 推理优化经验（如动态 shape、PagedAttention、FlashAttention 等）。