锦鲤求职岗位描述
岗位职责
1、负责智能算法在硬件平台上的工程化设计、实现和优化，打造高吞吐、低延时推理系统；
2、优化大模型推理性能，提升吞吐并控制成本；
3、优化大模型推理框架，提升框架稳定性、易用性和可调试行；
4、调研业界硬件平台设计、计算优化的发展趋势，进行技术分析与开发实现；
岗位要求
1、硕士及以上学历；计算机、软件工程、通信等相关专业；
2、熟练掌握C、C++、Python至少一种编程语言，编程基础扎实；
3、熟悉CPU/GPU异构减速瓶颈分析方法，有服务器AI芯片、GPU加速经验；
4、熟悉分布式推理常用加速方法，有大模型分布式部署经验者；
5、具备较强的全局观，能够系统的分析问题，良好的沟通协作能力。
6、具备以下开发经验之一者优先：
1）熟悉计算机体系架构、操作系统以及Kubernetes、Docker等云原生技术；
2）有tensorRT/fasterTransformer/vllm/TensorRT-llm /sglang等深度学习推理框架使用经验，了解常用AI算法网络；