岗位描述
岗位职责
1. 协助开源大语言模型的私有化部署、调试与测试,重点面向 4090、3090、A6000、A100 等 GPU 环境;
2. 协助搭建和维护大模型推理服务,支持问答、知识库、智能体等上层应用的模型调用;
3. 配合完成模型微调相关工作,包括数据清洗、训练数据整理、SFT/LoRA/QLoRA 实验、效果记录与结果分析;
4. 参与 vLLM、Ollama、TGI、SGLang 等推理框架的部署、联调与性能测试;
5. 协助进行模型服务性能优化,包括显存占用、推理速度、响应时延、量化效果等指标记录与分析;
6. 协助完成接口调试、日志排查、测试脚本编写、技术文档整理等研发支持工作;
7. 跟进开源模型、推理部署和微调方向的新技术,参与 Demo 复现与实验验证。
任职要求
8. 本科及以上在读,计算机、人工智能、软件工程、自动化、数学等相关专业优先;
9. 熟悉 Python,具备基本的脚本开发和调试能力;
10. 熟悉 Linux 基本操作,能完成常见环境配置、命令行操作和问题排查;
11. 对大模型部署、模型微调、推理优化等方向有明确兴趣;
12. 了解 Hugging Face、Transformers、LoRA、SFT、RAG 等相关概念者优先;
13. 了解 vLLM、Ollama、TGI、Docker 等工具或框架者优先;
14. 具备较强的动手能力和学习能力,能配合完成实验、部署、测试和文档整理工作;
15. 每周可实习 4 天及以上,连续实习 3 个月以上优先。
薪资待遇:本科3000元/月-4500元/月;硕士4000元/月-5500元/月