锦鲤求职岗位描述
职位描述：
1、 参与大模型在端侧设备的性能优化与模型部署落地；
2、 深入研究生成式多模态大模型的量化、算子优化、内核融合、图优化等关键技术，显著降低模型尺寸与推理延迟；
3、 深度挖掘并利用端侧AI硬件的算力潜力，包括但不限于：高通Hexagon DSP/NPU、MTK平台、CUDA平台；
4、 构建和维护端侧模型自动化优化与部署 pipeline，包括模型转换、量化、编译、测试和性能分析；
5、负责多模态大模型在多平台包括但不限于：高通平台、MTK平台、NV平台，量化、移植、推理加速、SDK封装工作。
任职资格：
1、博士及以上学历，计算机数学理工类专业优先，有端侧AI开发实习经验优先；
2、熟悉C/C++或Python编程语言；熟悉并掌握主流模型压缩技术，如量化（GPTQ/AWQ/SmoothQuant/SpinQuant）、剪枝、蒸馏及NAS；
3、熟悉MLLM/VLM/LLM推理框架（如vLLM、TensorRT-LLM、llama、cpp）及优化加速技术（如Speculative-Decoding、Flashattention）；
4、具备MLLM/VLM/LLM推理优化和加速技术的实践经验；
5、拥有深入研究精神、创新能力及持续学习意愿。