锦鲤求职岗位描述
岗位内容
推理算法工程师：
1.负责大模型推理引擎的系统和架构设计的研发或者剪枝与蒸馏的相关工作。
2.负责深度优化大模型推理引擎的性能，包括提高吞吐与降低延时。
训练算法工程师：
1.负责大模型训练框架的系统和架构设计的研发或相关工作。
2.负责深度优化大模型训练的性能。
岗位要求
推理岗位要求：
1. 硕士及以上，具备机器学习经验基础，熟悉常见机器学习、深度学习算法，熟悉机器学习框架，比如pytorch
2. 有cpu、gpu优化的经验
3. 对大模型推理有深入了解
4. 对推理框架有深入了解
以下是加分项：
1. 有对推理框架的优化经验，比如模型量化、解码器优化、gpu内存优化、算子优化等。
2. 有在顶会顶刊发表过文章
训练岗位需求：
1. 硕士及以上，具备机器学习经验基础，熟悉常见机器学习、深度学习算法，熟悉机器学习框架，比如pytorch
2. 有cpu、gpu优化的经验
3. 对大模型训练性能优化有深入了解
4. 有大模型训练的相关经验，包括预训练与微调
5. 熟悉大模型训练的常见框架，包括deepspeed，megatron等
以下是加分项：
1. 有对大模型训练的优化经验，比如量化感知训练，底层算子加速，课程学习等。
2. 有在顶会顶刊发表过文章