端侧AI系统工程师/专家

职责描述
•负责大模型、多模态模型及其他AI模型的端侧部署、性能优化和工程化。

•围绕Quantization、Pruning、Distillation、KVCache、OperatorFusion等技术降低模型计算和存储开销。

•针对CPU/GPU/NPU/DSP等异构硬件优化模型执行，提升时延、吞吐、内存占用和能效。

•参与AICompiler、Runtime、Kernel和算子优化，解决模型在不同硬件平台上的性能瓶颈和兼容性问题。

•建立端侧AIBenchmark、Profiling和回归测试体系，持续评估模型与系统版本变化。

•推动模型、数据、算法与系统协同优化，在模型效果和系统约束之间形成可量化的取舍。

•建设跨平台部署与工具链能力，提高模型从训练环境到产品设备的交付效率。

•与模型、AIInfra、系统架构和产品团队协作，推动端侧AI能力稳定上线并持续迭代。

任职要求
•计算机、电子工程、自动化、通信或相关专业背景。

•熟练掌握C/C++和Python，具备扎实的系统编程与性能优化能力。

•熟悉PyTorch、ONNX、TensorRT、TFLite、OpenVINO、MNN、NCNN等一个或多个模型部署/推理框架。

•理解深度学习模型结构及推理过程，熟悉量化、蒸馏、模型压缩和图优化中的一种或多种技术。

•熟悉CPU/GPU/NPU等硬件体系及性能特征，能够使用Profiling工具定位系统瓶颈。

•具备良好的工程质量意识，重视稳定性、可维护性、自动化测试和跨平台兼容性。

•能够与算法和系统团队共同定位问题并推动端到端优化。