岗位描述
岗位职责
1.基于自研AI芯片的框架开发与适配:适配Megatron/DeepSpeed/SGLang等框架;
2.联调自研算子与通信库
3.优化并行策略与KV Cache
4.攻坚Loss/吞吐等性能瓶颈
5.跟进前沿框架技术演进
岗位要求
1.本科及以上学历,计算机,软件等相关专业,精通C++/Python;
2.熟悉DeepSpeed/SGLang源码;
3.精通TP/PP/DP分布式并行
4.具备AI芯片训练或者推理适配经验;
5.熟悉CUDA/Triton优先
岗位职责
1.基于自研AI芯片的框架开发与适配:适配Megatron/DeepSpeed/SGLang等框架;
2.联调自研算子与通信库
3.优化并行策略与KV Cache
4.攻坚Loss/吞吐等性能瓶颈
5.跟进前沿框架技术演进
岗位要求
1.本科及以上学历,计算机,软件等相关专业,精通C++/Python;
2.熟悉DeepSpeed/SGLang源码;
3.精通TP/PP/DP分布式并行
4.具备AI芯片训练或者推理适配经验;
5.熟悉CUDA/Triton优先
先核对岗位要求与自己的经历,再准备档案、投递和面试。