百度世界2026大会开幕式上,百度集团执行副总裁沈抖发布天池1024卡超节点,该算力集群将于明年推向市场。
该超节点搭载业界领先光引擎技术,卡间互联带宽提升3倍,实现高速数据互联,训练性能提升2.5倍,推理性能提升3倍。
配套G3.5 KV Cache显存加速柜,强化缓存复用能力,长上下文推理性能提升2倍,多轮对话缓存命中场景下,首token等待时间降低90%,整体吞吐提升7倍。
单套天池1024卡超节点可支撑5万亿参数大模型训练,具备优秀横向扩展能力,能够扩展至万卡规模集群。
百度世界2026大会开幕式上,百度集团执行副总裁沈抖发布天池1024卡超节点,该算力集群将于明年推向市场。
该超节点搭载业界领先光引擎技术,卡间互联带宽提升3倍,实现高速数据互联,训练性能提升2.5倍,推理性能提升3倍。
配套G3.5 KV Cache显存加速柜,强化缓存复用能力,长上下文推理性能提升2倍,多轮对话缓存命中场景下,首token等待时间降低90%,整体吞吐提升7倍。
单套天池1024卡超节点可支撑5万亿参数大模型训练,具备优秀横向扩展能力,能够扩展至万卡规模集群。
网友评论