快科技4月12日消息,Intel日前发布了新一代AI加速器Gaudi 3,本来美国政府是不会允许卖给中国的,但是没想到Intel已经同步准备好了中国特供版本!
Gaudi 3采用台积电5nm工艺,配备了8个矩阵引擎、64个张量核心、96MB SRAM缓存、1024-bit 128GB HBM2E内存(带宽3.7TB/s),还有16个PCIe 5.0通道、24个2000GbE网络、JPEG/VP9/H.264/H.265解码器,提供OAM兼容夹层卡、通用基板、PCIe扩展卡三种形态。
Intel声称,它相比上代拥有2倍的FP8 AI算力、4倍的BF16 AI算力、2倍的网络功耗为600W带宽、1.5倍的内存带宽,而对比NVIDIA H100 LLM推理性能领先50%、训练时间快40%。
|