Rambus通過9.6 Gbps HBM3內(nèi)存控制器IP大幅提升AI性能
新聞摘要:
· 為增強AI/ML及其他高級數(shù)據(jù)中心工作負載打造的 Rambus 高性能內(nèi)存 IP產(chǎn)品組合
· 高達9.6 Gbps的數(shù)據(jù)速率,支持HBM3內(nèi)存標準的未來演進
· 實現(xiàn)業(yè)界領先的1.2 TB/s以上內(nèi)存吞吐量
中國北京,2023年12月7日——作為業(yè)界領先的芯片和IP核供應商,致力于使數(shù)據(jù)傳輸更快更安全,Rambus Inc.(納斯達克股票代碼:RMBS)今日宣布Rambus HBM3內(nèi)存控制器IP現(xiàn)在可提供高達9.6 Gbps的性能,可支持HBM3標準的持續(xù)演進。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率,Rambus HBM3內(nèi)存控制器的數(shù)據(jù)速率提高了50%,總內(nèi)存吞吐量超過1.2 TB/s,適用于推薦系統(tǒng)的訓練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負載。
Rambus HBM3控制器模塊圖
Rambus IP核部門總經(jīng)理 Neeraj Paliwal 表示:“大語言模型要求高性能內(nèi)存技術的不斷進步,使得HBM3成為AI/ML訓練的首選內(nèi)存。依靠Rambus的創(chuàng)新和卓越的工程技術,我們的HBM3內(nèi)存控制器IP可提供業(yè)界領先的9.6 Gbps性能。”
IDC內(nèi)存半導體副總裁 Soo-Kyoum Kim 表示:“HBM 是更快速且更高效的處理大型 AI 訓練和推理集的關鍵內(nèi)存技術,比如用于生成式 AI 的訓練和推理。對于像Rambus這樣的 HBM IP供應商來說,持續(xù)提高性能來支持滿足市場苛刻要求的領先 AI 加速器的意義重大。”
HBM采用創(chuàng)新的2.5D/3D架構,為AI加速器提供具有高內(nèi)存帶寬和低功耗的解決方案。憑借極低的延遲和緊湊的封裝,HBM已成為AI訓練硬件的首選。
Rambus HBM3 內(nèi)存控制器 IP 專為需要高內(nèi)存吞吐量、低延遲和完全可編程性應用而設計。該控制器是一種高度可配置的模塊化解決方案,可根據(jù)每個客戶對尺寸和性能的獨特要求進行定制。對于選擇第三方HBM3 PHY的客戶,Rambus還提供HBM3控制器的集成與驗證服務。





