高效大模型算法专家

岗位职责：

1. 研究权重/激活半结构化稀疏、动态稀疏、Bank-wise K-sparse、N:M Sparse等算法。

2. 研究INT2、INT4、FP4、FP8、Weight/Activation/KV量化及稀疏量化融合。

3. 负责Dense Checkpoint到Sparse/Quant Checkpoint的Continual Training、QAT及精度恢复。

4. 分析梯度、激活、权重、Mask、Scale和逐Token误差，定位收敛与长上下文退化问题。

5. 输出算法Reference、训练Recipe、Checkpoint、模型质量报告和软硬协同输入。

6. 推动算法在Dense、MoE、长上下文和多模态模型上的适配。

要求：

1. 计算机、人工智能、数学、电子工程等相关专业硕士及以上，博士优先。

2. 在模型稀疏、PTQ/QAT、低比特训练、模型压缩或Continual Training中至少一个方向有深入经验。

3. 熟练使用Python、PyTorch，熟悉Transformer、SwiGLU、RMSNorm、Attention和MoE。

4. 具备7B级及以上模型训练、微调或压缩经验者优先。

5. 能够基于训练日志和模型统计进行问题归因，具备良好实验设计和跨团队沟通能力。

加分项