岗位描述
公司介绍
无问芯穹(Infinigence AI)作为国内领先的AI基础设施企业,致力于成为大模型时代首选的算力运营商。依托“多元异构、软硬协同”的核心技术优势,打造了连接“M种模型”和“N种芯片”的“MxN”AI基础设施新范式,实现多种大模型算法在多元芯片上的高效协同部署。无问芯穹Infini-AI异构云平台基于多元芯片算力底座,向大模型开发者提供极致性价比的高性能算力和原生工具链,为大模型从开发到部署的全生命流程降本增效。
无问芯穹以“释放无穹算力,让AGI触手可及”为使命,通过不断的技术创新实现普惠AI,让算力成本实现万倍下降,如同水电煤一般为千行百业注入新质生产力。
职位描述
1. 负责大模型训练和微调的基础软件框架研发
2. 参与实现低开发门槛和用户友好的大模型中间层软件栈
3. 解决在模型训练过程中遇到的技术难题,包括但不限于分布式计算、内存优化、并行处理等
4. 编写技术文档,为团队成员提供框架使用和优化的指导
职位要求
1. 计算机基础扎实,熟悉 C/C++ 和 Python,具备系统软件开发架构能力;
2. 熟悉计算机体系结构以及并行计算基本技术,有 GPU 通用计算研发经验;
3. 熟悉至少一种深度学习框架,如TensorFlow、PyTorch、PaddlePaddle等。
4. 熟悉深度学习分布式训练和微调优化方案,了解以太网或者 infiniband 等高性能网络。
加分项:
1. 熟悉 Colossal-AI,Ray,Deepspeed 或 Megatron-LM 等大模型分布式训练框架的优先;
2. 熟悉大模型压缩,如剪枝或蒸馏等技术的优先;熟悉卷积和 transfomer 类模型低比特定点量化等技术的优先;
3. 有开发运营过开源软件或者为知名开源软件贡献过代码的优先。