AI Infra工程师(大模型推理平台方向)

岗位职责
1. 基础架构与云原生底座：
- 云原生调度与编排：深度基于 Kubernetes 构建云原生基础设施。熟练开发和维护 K8s Operators 与 CRDs，精细化管理推理服务与分布式任务的生命周期。
- 算力集群与网络：参与大规模 GPU 推理集群架构设计。理解 InfiniBand/RoCE 拓扑，优化大集群网络拥塞，关注机房物理极限（如功耗负载计算及PUE测算）。
2. 推理性能评测与调优：
- 评测体系：设计多维度 Benchmark 体系（Latency/Throughput/Cost/GPU利用率），构建标准化测试集，支持 PyTorch/vLLM/SGLang 等多框架对比。
- 端到端优化：分析推理链路瓶颈（Gateway/Scheduler/Runtime/GPU），结合业务场景（Batch/KV cache/调度）进行调优。识别并定位 Kernel 级瓶颈，优化长文本、多轮对话及 Agent 工具调用链路。
3. 引擎研发与服务部署：
- 深入理解 vLLM/SGLang 等主流引擎机制，优化推理服务稳定性与资源效率。
4. 智能化平台与集群稳定性保障：
- 智能运维与 RCA： 构建基于可观测体系（Metrics/Profiling/Tracing）的性能回归自动化平台。设计高可用架构，建立故障应急、容量评估与限流降级机制，分析线上异常（OOM、延迟抖动、软死锁等）并闭环解决。

岗位要求
基础能力：计算机及相关专业,3-5年分布式系统或AI推理相关工作经验；熟练使用 Linux ；精通Go或Python，熟悉C/C++。
专业技能：
- 熟悉深度学习推理流程，具备vLLM/SGLang等框架调优经验。
- 熟练使用性能分析工具 (nvprof/perf/flamegraph)。
- 具备K8s生态开发经验，熟悉大规模分布式集群的治理。
加分项：熟悉 Prometheus/Grafana/eBPF 等可观测体系；深入理解 KV Cache、PagedAttention、Speculative Decoding 机制；有千卡规模生产环境推理平台及复杂 Agent 链路优化经验。