**********************
大模型推理优化专家-通信优化
  • 收藏职位
  • 分享职位
60-120万 北京、杭... 本科 5-8年 招聘 3 人 预计佣金 104.4K 6天前发布
职位亮点
面聊
JD基本信息
岗位职责
1、专注于解决大规模分布式模型推理中的通信瓶颈,优化通信效率; 2、深入分析NCCL/MPI等通信库在All-Reduce、All-Gather等集合操作中的性能问题,并利用GPUDirect RDMA、InfiniBand等高速网络技术进行底层优化; 3、设计与实现异步通信、计算-通信重叠、拓扑感知集合通信等策略,实现通信与计算的高效重叠,最大化GPU集群在TP/PP/EP等并行场景下的整体效率。
任职要求
1、精通C++/CUDA/Python编程,具备扎实的算法和数据结构基础; 2、深入理解分布式训练/推理的并行范式(Tensor Parallelism, Pipeline Parallelism, Data Parallelism等); 3、拥有丰富的通信库优化经验,熟练掌握NCCL/RCCL/MPIUCX中至少一种,并理解其内部机制; 4、精通GPU间通信原理,对PCle、NVLink、NVSwitch、InfiniBand网络架构有深刻理解; 5、具备出色的性能分析和调试能力,熟练使用Nsys, Nsight Systems, Nsight Compute, IPM等工具。
所属行业:
互联网、人工智能/大模型/算力
职能分类:
大模型算法
工作城市:
北京,招聘1人,详细地址:北京杭州,招聘1人,详细地址:杭州广州,招聘1人,详细地址:广州
职位要求
学历要求:
本科·统招·985/211
工作年限:
5-8年
技能/证书:
-
薪资福利
年薪范围:
60-120万*16薪
薪资福利:
大厂福利待遇
团队架构
所属部门:
面聊
下属人数:
不限
部门架构:
面聊
汇报对象:
面聊
职级职称:
面聊
面试信息
面试轮次:
4轮
面试流程:
三轮业务+一轮HR
视频面试:
可以接受
为你推荐