大模型推理框架开发工程师(多模态)-2027届

岗位职责
- 负责多模态模型(图像、视频、音频等) 模型适配，性能分析和推理优化，支持实时语音和视频输入和输出
- 负责基于SGLang 等技术的多模态推理框架的开发和优化，包括分布式推理架构，推理引擎， 多模态cache管理，算子优化等
- 负责扩散模型推理优化包括并行优化，稀疏化，cache管理等，以及与语言模型推理架构统一

岗位要求
- 学历背景 ：计算机/电子/数学等相关专业硕士及以上学历
- 精通 Python，熟练掌握至少一种深度学习框架（如 PyTorch），理解深度学习基础算法原理，熟悉基础Transformer，ViT， DiT等模型结构
- 熟悉大模型推理框架的基本原理和流程，了解 vLLM、SGLang, diffusers等大模型推理框架的核心技术和实现优先