岗位描述
岗位职责
1、负责大语言模型LLM、大视觉模型LVM等前沿生成式模型的算法研发工作,跟进业界前沿模型架构,落地创新算法方案
2、深耕生成式模型高级量化算法研发与优化,涵盖FlexRound、PrefixQuant、GPTQ、SpinQuant、AdaRound、CLE等主流INT/FP量化算法,以及自动混合精度量化技术,解决复杂生成模型量化精度损失
3、开展大模型训练与微调相关实验及算法研究,包含预训练、SFT、强化学习、损失函数设计优化,结合先进量化方法实现量化感知训练(QAT)的落地应用。
4、研发大模型高效推理算法,优化批处理、KV缓存、高效注意力机制、长上下文处理、投机解码等核心技术,提升端侧模型推理效率。
5、负责深度学习模型压缩算法研发,涵盖有损/无损压缩、结构化压缩、神经网络搜索等技术,兼顾模型精度与推理性能;
6、研究基于优化的学习算法与基于学习的优化策略,完成生成式AI算法原型搭建与系统原型验证;
7、跟进行业前沿技术,将自研算法方案转化为可落地的工程成果,推动终端设备生成式AI能力迭代升级。
任职要求
1、学历:计算机科学、计算机工程、电子信息、电气工程、信息系统等相关专业,博士优先,硕士及以上学历均可投递。
2、具备2年及以上AI算法、深度学习系统工程相关研发工作经验,有大模型、生成式AI、模型量化压缩相关项目经验者优先。
3、熟练掌握Python、PyTorch开发框架,熟悉深度学习、大模型训练微调、量化推理核心原理。
4、熟悉LLM、LVM等生成式模型架构,了解主流量化、模型压缩、高效推理算法,有相关算法落地经验者加分。
5、具备扎实的机器学习、深度学习算法功底,具备独立算法调研、实验验证、方案迭代优化能力。
6、拥有良好的跨团队协作能力,能够结合硬件特性完成算法适配与系统优化,落地端侧AI优化方案。
7、对端侧生成式AI优化有浓厚兴趣,关注行业前沿技术,具备较强的问题解决能力和创新思维。