端侧AI系统架构工程师

岗位描述
• 负责大模型、多模态模型及其他 AI 模型的端侧部署、性能优化和工程化。

• 围绕 Quantization、Pruning、Distillation、KV Cache、Operator Fusion 等技术降低模型计算和存储开销。

• 针对 CPU / GPU / NPU / DSP 等异构硬件优化模型执行，提升时延、吞吐、内存占用和能效。

• 参与 AI Compiler、Runtime、Kernel 和算子优化，解决模型在不同硬件平台上的性能瓶颈和兼容性问题。

• 建立端侧 AI Benchmark、Profiling 和回归测试体系，持续评估模型与系统版本变化。

• 推动模型、数据、算法与系统协同优化，在模型效果和系统约束之间形成可量化的取舍。

• 建设跨平台部署与工具链能力，提高模型从训练环境到产品设备的交付效率。

• 与模型、AI Infra、系统架构和产品团队协作，推动端侧 AI 能力稳定上线并持续迭代。

岗位要求
• 硕士及以上，计算机、电子工程、自动化、通信或相关专业背景。

• 熟练掌握 C / C++ 和 Python，具备扎实的系统编程与性能优化能力。

• 熟悉 PyTorch、ONNX、TensorRT、TFLite、OpenVINO、MNN、NCNN 等一个或多个模型部署 / 推理框架。

• 理解深度学习模型结构及推理过程，熟悉量化、蒸馏、模型压缩和图优化中的一种或多种技术。

• 熟悉 CPU / GPU / NPU 等硬件体系及性能特征，能够使用 Profiling 工具定位系统瓶颈。

• 具备良好的工程质量意识，重视稳定性、可维护性、自动化测试和跨平台兼容性。

• 能够与算法和系统团队共同定位问题并推动端到端优化。