岗位描述
岗位描述/Department Mission
· 负责大模型基础设施平台的设计和实施
主要职责/Your Responsibilities (within 5 lines):
Technical key words (at least 3 words):
· 负责AI基础设施平台的整体架构设计与技术规划,主导Infra方案的落地实施;
· 搭建并优化大规模训练系统,确保稳定性,解决模型训练过程中的系统瓶颈问题,包括通信、存储、调度等关键环节;
· 主导分布式训练框架的选型、优化与二次开发,开发GPU/加速器资源调度策略,持续提升训练效率与资源利用率;
· 与算法团队紧密协作,建立先进的训练调度机制、自动训练框架、模型评估体系;通过自动化、监控及性能调优,持续增强平台易用性、扩展性与可靠性
岗位要求/Required Qualification:
· 本科及以上学历,计算机、软件工程等相关专业,5年以上工作经验
· 熟悉MLOps相关技术,有算法及框架在该领域的落地经验
· 精通分布式训练原理,熟悉Megatron-LM、FSDP、Deepspeed等主流分布式训练框架;
· 熟悉GPU集群架构、高性能网络(RDMA/InfiniBand)、并行存储系统;
· 熟悉NCCL/Gloo等通信库原理,有通信优化经验;
· 具备搭建评估系统或相关自动化工具的经验,对模型指标监控、对比测试、可视化工具(TensorBoard、MLflow等)和可视化等有深入理解
加分项:
· 参与或主导过AI训练平台或数据平台的设计工作
参与或搭建过机器学习数据管理、模型监控、模型可解释性工具的经验