LLM平台工程师

岗位职责：

1.构建统一的 MaaS 平台：搭建并运营公司级模型即服务(MaaS)网关,统一管理各业务线的 AI Token 调用、配额分配、成本核算与调用审计,为全公司提供标准化的大模型接入能力

2. 本地模型部署与升级：负责开源/自研大模型的私有化部署、版本迭代与灰度升级,保障模型服务的可用性、性能与数据安全

3.本地 GPU 资源池利用率提升：统筹本地 GPU 算力资源池的调度与优化,通过监控、压测、调参持续提升资源利用率,降低单位 Token 的算力成本

4.平台稳定性与工具化：建立模型与 GPU 的监控告警、性能压测与调优体系;借助 AI 编程工具对开源项目进行二次开发与快速迭代,持续完善平台能力

任职要求：

1.学历专业： 本科及以上学历,计算机、软件工程、人工智能、电子信息等相关专业

2.经验背景： 具备大模型部署与推理服务落地经验;有 MaaS/AI 网关平台建设或 GPU 算力平台运维经验者优先;具备借助 AI 工具对开源项目快速迭代开发的能力

3.工具能力：

- 必须熟悉 NewAPI / OneAPI / LiteLLM 等 MaaS 网关;

- 必须熟练 vLLM / SGLang 等推理框架的部署与使用;

- 必须熟练掌握模型 / GPU 的监控、压测与调参;

- 熟悉 Linux、容器化(Docker/K8s)、GPU 驱动与 CUDA 环境者优先

4.软技能： 具备较强的学习能力与技术钻研精神,能快速跟进 AI 领域的新工具、新框架;工作主动,具备良好的问题定位与解决能力