(相关资料图)
ChatGPT作为当下最火爆的AI应用,之所以能达到如此“聪明”的程度,背后离不开海量的训练,离不开强大的算力,使用的是NVIDIA A100加速计算卡。
GTC 2023春季技术大会上,NVIDIA又发布了顶级的H100 NVL,它是已有H100系列的特殊加强版,专为大型语言模型(LLM)进行优化,是部署ChatGPT等应用的理想平台。
H100 NVL单卡具备多达94GB HBM3高带宽显存(内存),照此容量看显然是开启了完整的6144-bit位宽,并启用了全部六颗,等效频率按照5.1GHz计算的话,带宽就是恐怖的3.9GB/s。
但也有个问题,六颗HBM3显存总容量应该是96GB,但是这里少了2GB,官方没有解释,猜测还是出于良品率考虑,屏蔽了少数存储单元。
关键词:

10天超2500万玩家 《守望先
【全球独家】毛发健康产品增
郑州期货交易所交易时间(中
加大图书正版保护力度 抖音
Counterpoint:去年四季度全
埃安Hyper GT官宣风阻系数0
碳纤维之力加持的新锐武器—
48小时点击排行


