【2026 实习生】软件工程师实习生 - NCCL

您的职责：

1. 设计、实现并维护针对深度学习框架（例如用于 TensorFlow/PyTorch 的 NCCL）和 HPC 编程接口（例如用于 MPI/OpenSHMEM 的 UCX）在 GPU 集群上的高度优化的通信运行时。

2. 参与并推动并行编程接口规范（如 MPI/OpenSHMEM）的制定。

3. 设计、实现并维护支持 GPU 之间以及 GPU 与系统其他组件之间交互的系统软件。

4. 创建概念验证原型，以评估和推动编程模型扩展、运行时新设计以及硬件新特性。

岗位要求：

1. 您正在攻读 CE（计算机工程）/ CS（计算机科学）/ EE（电子工程）方向的博士学位，并具备扎实的计算机体系结构、操作系统、通信库和/或 AI/ML（人工智能/机器学习）背景。

2. 优秀的 C/C++ 编程和调试能力。

3. 丰富的 Linux 使用经验。

4. 具备并行编程接口和通信运行时的经验。

5. 具备在多国家、多时区的企业环境中高效工作和沟通的能力及灵活性。

加分项（如何脱颖而出）：

1. 深入了解 InfiniBand、RoCE 等高性能网络技术。

2. 具有 HPC（高性能计算）应用程序经验。

3. 具有 PyTorch、TensorFlow、JAX/XLA、vLLM/SGLang 等深度学习框架的使用经验。

4. 具有 AI/DL（人工智能/深度学习）通信模式经验，例如 EP（专家并行）、TP（张量并行）、DP（数据并行）、PP（流水线并行），以及了解如何利用 NCCL 实现这些模式。具有 CUDA 内核优化和性能分析经验。

5. 具有大规模模型训练和生产级推理软件栈的经验。

6. 优秀的团队协作和人际沟通能力，特别是在动态矩阵式管理环境中有效引导和影响他人的能力。