锦鲤求职岗位描述
岗位职责
模型集成与部署：
1、负责算法模型推理速度以及推理效果优化，优化模型资源占用，实现跨平台端侧部署；
2、与硬件和软件开发团队紧密合作，优化模型在端侧设备上的部署和运行，实现模型高性能推理。
岗位要求
1、计算机、微电子、通信、自动化等本科以上；
2、了解Transformer/LLM/CNN，熟悉GEMM/FlashAttention等核心算子及硬件级优化，掌握Page Attention、Continuous Batch等推理优化；
3、了解推理框架如vLLM/SGLang/llama.cpp等；
4、有端侧芯片平台模型部署的项目经验；
5、英语读写流利，能够阅读和理解最新的英文技术文献；
加分项：
1、在知名学术会议或期刊上发表过相关论文；
2、有开源项目贡献或个人技术博客。