Rambus HBM3速率達到9.6 Gbps，大幅提升AI性能

12月15日消息，在人工智能大模型浪潮的推動下，AI訓練數(shù)據(jù)集正極速擴增。以ChatGPT為例，去年11月發(fā)布的GPT-3，使用1750億個參數(shù)構建，今年3月發(fā)布的GPT-4使用超過1.5萬億個參數(shù)。海量的數(shù)據(jù)訓練，這對算力提出了高需求。

而HBM（高頻寬存儲器）作為內存的一種技術類型，采用創(chuàng)新的2.5D/3D架構，能夠為AI加速器提供具有高內存帶寬和低功耗的解決方案，同時憑借極低的延遲和緊湊的封裝，HBM已成為AI訓練硬件的首選。?

TrendForce預估，2024年全球HBM的位元供給有望增長105%；HBM市場規(guī)模也有望于2024年達89億美元，同比增長127%；預計2025年HBM市場規(guī)模將會突破100億美元。?

近日，作為業(yè)界領先的芯片和IP核供應商， Rambus Inc.（納斯達克股票代碼：RMBS）宣布Rambus HBM3內存控制器IP現(xiàn)在可提供高達9.6 Gbps的性能，可支持HBM3標準的持續(xù)演進。

大幅提升AI性能? 提供領先支持

眾所周知，JEDEC（電子工程器件聯(lián)合委員會）將DRAM分為標準DDR、移動DDR以及圖形DDR三類，HBM則屬于圖形DDR中的一種。

在設計上，HBM包含了中介層，以及處理器、內存堆棧。HBM通過使用先進的封裝方法（如TSV硅通孔技術）垂直堆疊多個DRAM，與GPU通過中介層互聯(lián)封裝在一起，打破了內存帶寬及功耗瓶。這也讓傳輸速率成為了HBM的核心參數(shù)。

從2014年全球首款HBM產品問世至今，HBM技術已發(fā)展至第四代，分別為HBM、HBM2、HBM2e、HBM3，帶寬和容量分別從最初128GB/S和1GB提升至819GB/S和24GB，傳輸速度從1Gbps提高至6.4Gbps。據(jù)悉，第五代HBM3E已在路上, 由SK Hynix、美光和三星共同發(fā)布，它所支持的數(shù)據(jù)傳輸速率達到9.6Gb/s。

對于HBM而言，Rambus并不陌生，早于2016年就入局了HBM市場。此次發(fā)布的Rambus HBM3內存控制器IP專為需要高內存吞吐量、低延遲和完全可編程性應用而設計。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率，Rambus HBM3內存控制器的數(shù)據(jù)速率提高了50%，總內存吞吐量超過1.2 TB/s，適用于推薦系統(tǒng)的訓練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負載。

Rambus 接口IP產品管理和營銷副總裁 Joe Salvador介紹稱，該控制器是一種高度可配置的模塊化解決方案，可根據(jù)每個客戶對尺寸和性能的獨特要求進行定制。目前已與SK海力士、美光、三星完成了一整套的測試。對于選擇第三方HBM3 PHY（物理層）的客戶，Rambus還提供HBM3控制器的集成與驗證服務。

就當前HBM市場發(fā)展格局，Joe Salvador坦言道：“目前為止還沒有了解到有哪一家競爭對手跟我們一樣，已經有經過驗證的能夠去支持HBM3 9.6Gbps傳輸速率的內存控制器IP。Rambus HBM3內存控制器將以高達9.6Gb/s的性能，為HBM3提供業(yè)界領先的支持。”

同時，Joe Salvador表示，一家企業(yè)想進入到HBM行業(yè)會面臨相應的一些門檻和有諸多的挑戰(zhàn)，首先就是對于總體架構設計的復雜度和了解程度不夠。Rambus正是得益于積累了多年的技術經驗和跟主流內存廠商合作的經驗，使得所設計出來的內存控制器可以做到高性能、低功耗，而且對于客戶來說成本也相對較低，且具有很好的兼容性。

AI時代? Rambus將全面發(fā)力

當前大模型的百花齊放，讓HBM也水漲船高。

但面對當前AI發(fā)展趨勢，Joe Salvador直言道，目前來說，我們無法預知它未來會發(fā)展到何種程度。“目前，還沒有看到AI相關的應用領域，對于高性能計算、更高的帶寬和內存容量的需求有任何下降的趨勢。所以在可以預見的將來，這都會一直推動我們持續(xù)地創(chuàng)新，以及推動整個行業(yè)進一步地創(chuàng)新?！?/p>

他還表示，目前可以看到的是，AI的應用場景正在從以前集中在數(shù)據(jù)中心當中，逐漸地向邊緣計算去拓展。對于Rambus來說，這也就意味著我們業(yè)務的重心將有可能不再像以前那樣全部集中在數(shù)據(jù)中心當中，而是也會隨著市場需求囊括邊緣計算的場景。?

Rambus 大中華區(qū)總經理蘇雷補充稱，AI向前發(fā)展對技術方面的需求，主要就是算力和內存，算力方面可能不會有太多的挑戰(zhàn)，目前擺在業(yè)界面前的更多是存儲的問題。而Rambus是存儲方面的專家，可以預見到伴隨著AI的新成長，Rambus會在這一輪的科技浪潮中發(fā)揮越來越重要的作用，助力AI的成長。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。