岗位描述
岗位职责:
参与金山云智算云模型推理引擎开发
工作要求,以下技能中匹配2个及以上:
熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构,具有一定开发经验
熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术
熟悉分布式训练/分布式推理
熟练掌握大模型低比特量化方法
熟悉GPU架构和CUDA编程,深度学习算子优化方法
这个岗位发布时间较早(或官网没写发布日期),可能已经招满,投递前先到官网确认。
岗位职责:
参与金山云智算云模型推理引擎开发
工作要求,以下技能中匹配2个及以上:
熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构,具有一定开发经验
熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术
熟悉分布式训练/分布式推理
熟练掌握大模型低比特量化方法
熟悉GPU架构和CUDA编程,深度学习算子优化方法
先核对岗位要求与自己的经历,再准备档案、投递和面试。