5月13日记者获悉,网络通信领域国际顶会SIGCOMM2024确定了收录论文名单,中国企业表现亮眼,阿里云6篇论文入选,其中,介绍阿里云最新一代的智算集群网络架构HPN 7.0的成果论文,成为SIGCOMM历史上在AI智算集群网络架构领域的首篇论文。据了解,SIGCOMM2024将于8月在悉尼线下召开会议。
大模型的火热对AI基础设施提出了更高要求,HPN7.0架构即面向AI时代对网络高性能需求而研发。据介绍,HPN 7.0针对大模型训练场景下规模大、大流多、突发强烈、稳定性需求高的特点,创新性地设计了“双上联+多轨+双平面”的网络架构,并配合最新一代的51.2Tbps单芯片以太网交换机和400G 高性能网卡,自研Solar-RDMA和ACCL通信库,实现了单层千卡、两层万卡的高性能和高稳定互联。
(HPN7.0架构:为AI设计的高性能网络集群)
从2023年9 月开始,HPN7.0在阿里云展开大规模部署,大模型训练性能较上一代架构在典型场景下提升14.9%,且大幅提高了智算网络整体稳定性。前不久阿里云发布通义千问2.5版本大模型,就是基于HPN7.0高性能网络架构训练。通义千问2.5版本较2.1版本在理解能力、逻辑推理、指令遵循、代码能力上分别提升9%、16%、19%、10%,中文性能全面赶超GPT-4Turbo。
网友评论