锦鲤求职岗位描述
岗位职责
1. 负责模型部署与运行性能优化：在本地或云端环境中配置大模型，搭建推理服务接口，并持续进行性能调优。
2、负责开源大模型的微调与训练：使用业务数据对模型进行微调，并应用LoRA、P-Tuning、Prompt微调等轻量化训练技术，以适应特定应用场景。
3、主导大模型推理部署的全链路优化：包括模型压缩（量化、剪枝）、动态批处理、KV Cache优化等，确保模型在生产环境中稳定高效运行。
4、构建并管理高质量的训练数据：负责数据的收集、清洗、格式化及标注工作，为模型训练提供可靠的数据支持。
5、跟踪技术前沿并进行新技术预研：关注开源社区动态，评估并引入新技术、新方法，为产品方向提供建设性意见。
6、模型效果评估与持续迭代：构建评估体系，收集反馈，不断改进微调策略和模型输出质量。
岗位要求
学历要求：
计算机科学、人工智能等相关专业，硕士及以上学历
专业要求：
1、具备大模型相关理论及专业知识。
2、精通PyTorch等主流深度学习框架，熟悉DeepSpeed、Megatron-LM等大规模模型训练工具，并掌握Transformer架构及Flash Attention等核心技术栈。
3、拥有大模型的训练、微调、部署项目经验，熟练掌握多种微调技术和模型优化手段。
4、熟悉Docker、K8s等容器化技术，具备CUDA/TPU编程基础，能够完成模型的服务化部署和底层性能调优。
5、熟悉数据清洗和处理流程，具备使用Python等工具构建高质量数据集的能力。
6、对技术有热情，具备良好的问题解决能力、团队合作意识和沟通能力，能快速响应业务需求。
语言要求：英文文献阅读能力