推理优化工程师（扩散模型/生成式AI方向）

岗位职责：1、针对扩散模型（如图像生成、视频生成、3D生成）的高性能推理引擎，支持多步采样、动态分辨率、多种调度算法等特性；2、借鉴PagedAttention等思想，优化扩散模型中的KVCache（或中间状态）管理，减少显存碎片和冗余存储。探索步数压缩（如LCM/LoRA）、模型剪枝等技术与推理的协同设计；3、应用INT8/FP8/INT4等量化技术，在最小化画质损失前提下大幅提升推理速度；4、基于K8S构建弹性的推理服务集群，实现动态批处理、自动扩缩容，提升GPU平均利用率。设计优雅的请求排队和负载均衡策略；5、跟踪业界最新的推理加速技术，评估并引入新技术以持续优化生产环境成本结构和性能天花板。任职资格：1、精通Python和C++，具备优秀的代码优化和工程实现能力；2、深入理解推理的全流程，熟悉常见优化技术。有丰富的ONNX/TensorRT/vLLM/TGI等推理引擎使用或二次开发经验；3、对扩散模型的原理（前向/反向过程、去噪网络结构）有清晰认识，熟悉HuggingFaceDiffusers库，并了解其性能瓶颈所在；4、熟悉Docker/K8S等云原生技术，有模型服务的部署和调优经验，理解服务化指标（延迟、吞吐、SLO）。