3月25日消息,據(jù)媒體報道,英偉達最快將從9月開始大量購買12層HBM3E內(nèi)存,這些內(nèi)存將由三星電子獨家供貨。
在GTC 2024上,黃仁勛曾在三星電子的12層HBM3E實物產(chǎn)品上留下了"黃仁勛認證(JENSEN APPROVED)"的簽名。
而SK海力士因部分工程問題,未能推出12層HBM3E產(chǎn)品,但計劃從本月末開始批量生產(chǎn)8層HBM3E產(chǎn)品。
今年2月27日,三星電子官宣成功開發(fā)出業(yè)界首款36GB 12H(12層堆疊)HBM3E DRAM內(nèi)存。
據(jù)介紹,HBM3E 12H能夠提供高達1280GB/s的帶寬和迄今為止最大的36GB容量,相比于8層堆疊的HBM3 8H,在帶寬和容量上提升超過50%。
同時相比于8層堆疊,其AI訓(xùn)練速度平均提高34%,同時推理服務(wù)用戶數(shù)量也可增加超過11.5倍。
在此前的GTC2024大會上,英偉達正式發(fā)布了B200和GB200系列芯片。
據(jù)黃仁勛介紹,B200擁有2080億個晶體管,采用臺積電4NP工藝制程,可以支持多達10萬億個參數(shù)的AI大模型,還通過單個GPU提供20 petaflops的AI性能。





