岗位描述
职位职责:1、对接外部编译团队,承接编译输出的大模型计算图产物,制定自研智算处理器Runtime模型接入规范、算子兼容标准、超大图执行适配整体方案,打通编译产物到芯片算力执行的全链路。
2、负责搭建大模型智算处理器算子运行体系架构,统一大模型核心算子、通用算力算子的注册、调度、生命周期管理规范,解决超大参数模型算子种类多、逻辑复杂、适配难度大等问题。
3、主导超大计算图运行时执行策略优化,针对大模型分布式训练、批量推理场景,设计图分段加载、算子流水线调度、动态负载均衡方案,提升智算处理器算力实际利用率与业务吞吐。
4、统筹大模型整机性能与精度攻坚,制定运行时显存动态调度、算子执行优先级、异常兜底策略,闭环解决模型推理卡顿、精度偏移、显存占用过高等核心卡点问题。
5、沉淀大模型智算处理器运行时适配技术体系与规范,协同硬件、底层系统、内核团队推进技术落地,支撑多类大模型快速适配与商用上线。
职位要求:1、硕士及以上学历,计算机、体系结构、软件工程相关专业,5年以上智算处理器 Runtime、推理引擎、算子体系架构研发经验,有大模型算力芯片落地经验优先。
2、精通大模型核心算子、通用算力算子原理,熟悉超大计算图运行时执行逻辑、大模型训练/推理全链路业务流程。
3、精通C++、Linux开发,具备算子体系架构设计、运行时执行方案攻坚能力,可独立解决大模型落地复杂技术问题。
4、具备良好的跨团队协同能力,可高效对接编译、硬件、底层系统团队,统筹推进技术方案落地与问题闭环。