岗位描述
岗位职责:
1、负责大模型(AIGC/LLM)推理的研发与优化工作,包括模型量化、算子融合、动态batching、多卡并行等推理加速技术,降低推理成本并提升服务性能;
2、负责模型训练基础设施建设与优化,包括分布式训练框架、混合并行策略优化、通信加速、显存优化等,提升训练效率和稳定性;
3、负责AI系统架构设计与性能调优,包括GPU集群调度、存储系统优化、监控体系建设等,保障模型服务的高可用性;
4、深度参与大模型技术在音视频传媒场景的落地应用,支持AIGC生成、AI Agents等应用层技术实现,推动产业智能化升级;
5、跟踪业界前沿技术动态,深入研究大模型底层算法与系统优化原理,为团队技术创新提供支撑。
任职要求:
1、硕士及以上学历,计算机、数学、电子工程等相关专业;
2、深度学习和系统优化理论基础扎实,在模型训练加速、推理优化、分布式系统等方向有深入理解和实践经验;
3、精通PyTorch、TensorFlow等深度学习框架底层实现,熟悉Megatron-LM、DeepSpeed、vLLM等训练推理框架,深入理解Transformer架构及各类并行策略(数据并行、模型并行、流水线并行、ZeRO等);
4、具备模型压缩与推理优化经验,熟悉量化(INT8/INT4)、剪枝、蒸馏等技术,了解CUDA编程或算子开发者优先;
5、熟悉GPU架构原理、高性能计算、分布式系统设计,有自研训练或推理框架经验者优先;熟悉AIGC DiT相关模型原理与应用优先;
6、对前沿技术保持敏锐洞察,具备快速学习和技术攻坚能力,能够从理论研究到工程落地形成完整闭环;优秀的问题分析与解决能力,良好的沟通协作能力和抗压能力,能够推动跨团队技术协作。