AI模型部署优化工程师

工作内容
1. 具身模型端侧部署：负责感知、VLM、VLA、VLN、WBC 等具身智能模型在机器人端侧芯片上的部署与集成，完成模型导出、转换、引擎构建及性能验证，推动模型工程化落地；
2. 模型推理优化：负责端侧模型推理性能优化，结合量化、算子融合、计算图优化等技术，降低推理时延、显存占用及计算开销，满足端侧实时运行需求；
3. 推理框架与Runtime 集成：基于 TensorRT、ONNX Runtime 等推理引擎，开发和优化 C++ 推理模块，建设统一的模型加载、推理执行、资源管理及接口封装能力；
4. 异步推理与并发优化：负责多模型并发推理、异步执行及 CPU/GPU 资源优化，解决模型推理过程中的资源竞争、数据传输、内存管理及性能瓶颈；
5. 机器人系统集成：负责模型推理模块与机器人 Runtime、感知及运动控制系统的集成，优化模型推理与实时控制之间的数据流转和执行协同；
6. 性能分析与稳定性保障：建立端侧推理 Benchmark、Profiling 及性能监测机制，开展端到端时延、吞吐量、资源利用率分析，解决推理过程中的性能和稳定性问题；
7. 跨团队技术协同：与算法、系统软件及硬件团队协同，制定模型部署规范与性能指标，推动具身模型在不同机器人硬件平台上的适配与落地。

任职条件
1. 计算机、电子工程、自动化、人工智能、机器人等相关专业本科及以上学历，3 年及以上端侧 AI 模型部署或推理系统开发经验；
2. 熟练掌握C++、Python，具备良好的 Linux 系统编程基础，熟悉多线程、内存管理、进程通信及性能调试；
3. 熟悉 PyTorch 等深度学习框架，掌握 ONNX 等模型交换格式，理解深度学习模型结构及推理执行流程；
4. 熟悉TensorRT、ONNX Runtime等至少一种主流推理引擎，具有模型转换、引擎构建、性能调优及 Benchmark 验证经验；
5. 熟悉常见模型优化技术，包括FP16、INT8等混合精度与量化优化，了解算子融合、计算图优化等技术；
6. 具备端侧GPU/NPU推理性能分析能力，能够定位计算、内存、数据传输及资源竞争等性能瓶颈；
7. 具备良好的工程设计与问题定位能力，能够独立完成模型部署、推理模块开发及复杂性能问题分析。
加分项：
1.具备 NVIDIA Jetson Orin/Thor、地平线、瑞芯微、高通或其他端侧 AI 芯片上的模型部署与性能优化经验；
2.熟悉 TensorRT、地平线 BPU 工具链、RKNN、Qualcomm QNN 等推理框架及芯片适配工具链；
3.具备跨芯片平台模型适配、推理引擎封装、算子适配或异构计算优化经验；
4.熟悉 CUDA、CUDA Stream、GPU/NPU 内存管理、异步执行及多模型并发推理优化；
5.具有多模型并发推理、异步推理框架或高性能C++ 推理服务开发经验；
6.熟悉 Nsight Systems、Nsight Compute、TensorRT Profiling 等性能分析工具；
7.参与过机器人 Runtime、AI Runtime、推理 SDK 或模型服务框架开发；
8.具有VLM、VLA、VLN、多模态模型或机器人运动策略模型的实际部署经验；
9.熟悉模型量化、剪枝、知识蒸馏及自定义算子开发等技术；
10.熟悉 ROS2、DDS、Zenoh 等机器人通信框架，具有机器人感知、规划或控制系统集成经验。