岗位描述
职位职责:1、负责自研智算处理器芯片Runtime底层系统架构研发,核心搭建超大参数模型适配的显存管理体系,实现大显存统一分配、显存复用、碎片整理、跨卡显存交互,解决大模型训练/推理超大显存占用、显存碎片化问题,保障大模型稳定运行。
2、负责智算处理器显存虚拟化、算力资源隔离能力研发,设计多进程、多任务、多租户场景下的显存配额、算力抢占、资源泄漏检测机制,解决大模型并发算力场景下的资源冲突、显存溢出、算力抖动问题。
3、负责智算处理器Runtime核心调度体系开发优化,迭代高并发Stream/Event异步调度、批量任务队列管理、大模型任务优先级调度机制,优化Host-Device指令下发、超大批量DMA数据传输链路,降低大模型推理时延、提升训练/推理算力吞吐。
4、配合硬件、驱动团队完成芯片Pre-silicon验证、板级Bring-up调试,制定智算处理器 Runtime底层系统适配规范,输出架构设计文档、接口标准,支撑软件栈底层能力迭代。
5、负责底层系统稳定性与性能攻坚,针对大模型多卡分布式训练、批量推理核心场景,优化系统调度策略、超大显存拷贝逻辑,搭建大模型专属性能、稳定性基线,保障算力芯片商用落地。
职位要求:1、硕士及以上学历,计算机、体系结构、软件工程相关专业,6年以上Linux C++系统开发经验,3年以上智算处理器/AI加速器Runtime底层系统研发经验。
2、熟悉异构计算显存模型、显存管理、显存虚拟化原理,熟练掌握多线程并发、异步调度、资源同步互斥机制,熟悉Linux系统底层编程。
3、深入理解智算处理器 Stream、队列调度、DMA、Host-Device交互机制,具备独立设计Runtime内存、调度子系统的能力。
4、有自研智算处理器 Runtime底层系统搭建、显存虚拟化、多租户资源隔离落地经验者优先。