岗位描述
岗位职责
1. 构建下一代具备通用具身能力的大模型,负责具身场景下原生多模态大模型(VLM/VLA)的预训练算法研发,探索基于世界模型、自回归、Diffusion、Flow Matching 等生成式架构在端侧与云端的高效训练方案,支撑通用具身能力的底座建设;
2. 研发面向具身场景的视觉、语言、动作联合预训练范式,提升模型在动态环境感知、空间推理及指令遵循方面的基础能力,使模型具备跨场景、跨本体的通用具身能力,覆盖移动与操作;
3. 参与预训练数据配比策略研究,设计数据过滤、去重及质量评估机制,构建覆盖多样化具身场景的大规模预训练数据集;
4. 跟踪多模态预训练领域前沿进展,如 MoE、多模态融合架构、高效 Attention 机制等,推动新技术在具身场景的快速验证与落地,持续夯实通用具身能力的技术底座。
岗位要求
1. 计算机科学、人工智能、电子信息等相关专业,本科及以上学历,具有多模态大模型预训练项目经验;
2. 深入理解 Transformer 架构及预训练技术,如掩码建模、对比学习、多模态对齐等,具备从零搭建预训练流程的能力;
3. 熟练使用 DeepSpeed、Megatron、LLaMA-Factory 等分布式训练框架,熟悉模型并行、数据并行、流水线并行等加速策略;
4. 精通 PyTorch 与 Python,具备大规模数据处理及高性能计算优化经验。在 CVPR、ICML、NeurIPS、ICLR 等会议发表过相关论文者优先。