AI Infra工程师/算法专家

岗位职责
1. 负责端侧/云侧多模态大模型（LLM/VLM/原生音频模型）推理框架的深度定制、算子融合与底层调优，极致优化TTFT与端到端交互时延；
2. 设计并实现音视频流、控制流、文本流多路并行的原生流式交互系统架构，构建高效的多模态数据对齐与动态分发管道；
3. 设计端侧轻量模型与云端/主控大模型的协同底座，确保机器人动作流与交互流的精确同步；
4. 负责交互模型在端侧算力平台（如异构NPU、边缘侧算力芯片）以及云端GPU集群的部署、剪枝、高性能量化（如AWQ/GPTQ/FP4等）与多卡/多芯并行优化。

岗位要求
1. 具备主流大模型推理框架加速引擎（如 vLLM, TensorRT-LLM, SGLang, DeepSpeed-FastGen 等）在主流硬件平台（如英伟达Orin）的优化经验，有实际的算子级优化、KV Cache 极限管理或内存带宽优化经验者优先。
2. 计算机、高性能计算、人工智能等相关专业背景，3年以上 AI Infrastructure、深度学习编译器优化或高性能分布式系统研发经验。
3. 精通 C++ 和 Python，深入理解 GPU/NPU 硬件架构，熟练掌握 CUDA 编程、多线程异步编程及并行计算策略（Tensor/Pipeline Parallelism）。
4. 熟悉 Linux 内核网络及高性能通信协议（如 gRPC, WebRTC, 或机器人底层通信 ROS2/CyberRT），对全链路性能分析（Profiling）与瓶颈定位有丰富经验。