岗位描述
岗位职责:
1.模型部署与推理优化:负责具身智能大模型(VLA、LLM/VLM等)在机器人端侧/边缘侧的部署落地,执行模型转换(PyTorch → ONNX/TensorRT)、推理引擎适配与性能调优,确保模型在严格实时约束下稳定运行。
2.模型轻量化与加速:主导模型量化(INT8/INT4 PTQ、QAT)、剪枝、蒸馏等压缩优化工作,在保证模型性能的前提下,降低算力消耗与内存占用,适配人形机器人有限的端侧算力资源。
3.部署工具链与自动化:开发并维护部署脚本与CI/CD流水线,实现从训练环境到端侧部署的自动化转换与验证;搭建部署性能测试体系,持续监控推理延迟、吞吐量、功耗等关键指标。
4.软硬件协同适配:与算法团队、硬件团队紧密协作,针对不同机器人本体配置(传感器型号、算力芯片、通信带宽)制定最优部署方案,解决部署过程中的兼容性、稳定性与实时性问题。
5.前沿技术预研:跟踪模型部署量化领域前沿工具与技术(如云边协同部署、动态推理、分层蒸馏等),评估新技术在具身智能场景中的可行性,推动部署技术持续迭代。
任职要求:
1.学历专业:硕士及以上学历,计算机、电子信息、人工智能、软件工程等相关专业。
2.工作经验:2年以上大模型部署、推理优化相关经验,有具身智能或机器人领域部署经验者优先。
3.推理引擎与优化技术:熟悉TensorRT、ONNX Runtime等推理引擎的使用与调优;深入理解模型量化(PTQ/QAT)、蒸馏、剪枝等原理,能独立完成模型转换与部署调试。
4.编程与框架能力:熟练掌握Python和C++,熟悉PyTorch深度学习框架;了解ROS/ROS2系统,具备部署脚本开发与环境搭建的实战经验。
5.硬件平台知识:了解CPU/GPU/边缘计算芯片(如NVIDIA Jetson系列)的特性,具备多硬件平台部署经验,能根据硬件资源制定部署方案。
加分项:
具有人形机器人、自动驾驶、大模型部署相关行业从业经历,主导过大规模模型端侧部署项目。
熟悉VLA模型(如OpenVLA、Pi0、RT系列)的推理特点与部署难点,有相关模型端侧落地经验。
具备CUDA编程或TensorRT插件开发能力,能进行算子级性能优化。
了解具身智能数据闭环,参与过模型推理结果反馈驱动的迭代优化流程。
具备部署工具链开发经验,能开发自动化部署与评测平台。