首页 > 热点播报 > 正文

188GB显存 800W功耗!NVIDIA发布H100 NVL加速卡:ChatGPT提速2倍

ChatGPT作为当下最火爆的AI应用,之所以能达到如此“聪明”的程度,背后离不开海量的训练,离不开强大的算力,使用的是NVIDIA A100加速计算卡。

GTC 2023春季技术大会上, NVIDIA又发布了顶级的H100 NVL,它是已有H100系列的特殊加强版,专为大型语言模型(LLM)进行优化,是部署ChatGPT等应用的理想平台。

H100 NVL单卡具备多达94GB HBM3高带宽显存(内存),照此容量看显然是开启了完整的6144-bit位宽,并启用了全部六颗,等效频率按照5.1GHz计算的话,带宽就是恐怖的3.9GB/s。

但也有个问题,六颗HBM3显存总容量应该是96GB,但是 这里少了2GB ,官方没有解释,猜测还是出于良品率考虑,屏蔽了少数存储单元。

网友评论

热门IT产品
  1. ¥7599
    苹果iPhoneX 64GB
    ·
  2. ¥5799
    三星S9
    ·
  3. ¥4498
    vivo NEX旗舰版
    ·
  4. ¥4999
    OPPO Find X
    ·
  5. ¥1799
    努比亚Z18mini
    ·
  6. ¥1499
    OPPO A5
    ·
  7. ¥1999
    荣耀Play(4GB RAM)
    ·
  8. ¥1598
    vivo Y85
    ·
  9. ¥3499
    坚果R1(6GB RAM)
    ·
  10. ¥3599
    一加6(8GB RAM)
    ·