去年，三星公布了為 GPU 和服務(wù)器開(kāi)發(fā) GDDR7 DRAM的計劃。今年早些時(shí)候，該公司透露了有關(guān)這些存儲芯片的更多細節。今天，三星宣布已完成 GDDR7 DRAM 芯片的開(kāi)發(fā)，該芯片將用于未來(lái)的汽車(chē)、游戲機、個(gè)人電腦、服務(wù)器和工作站。它是世界上第一家完成此類(lèi)先進(jìn)存儲芯片開(kāi)發(fā)的公司。

三星的GDDR7 DRAM 擁有破紀錄的 1.5TBps 帶寬，比 GDDR6 DRAM 高出 40%。得益于 PAM3（脈沖幅度調制）信號方法的增強，它的每引腳速度為 32Gbps。PAM3 是一種新的內存標準，允許在同一信令周期內發(fā)送多 50% 的數據。GDDR6 等上一代內存芯片使用 NRZ（不歸零）信號發(fā)送方法。這些新型內存芯片的能效也比 GDDR6 DRAM 芯片高出 20%。三星還為其新芯片提供了較低電壓的選擇，該芯片專(zhuān)門(mén)針對筆記本電腦和其他此類(lèi)設備而設計。

為了減少熱量產(chǎn)生，除了 IC 架構優(yōu)化之外，三星還在封裝中使用了新型 EMC（環(huán)氧樹(shù)脂模塑料）材料，它具有高導熱性。所有這些改進(jìn)使熱阻降低了 70%，從而提供了更穩定的產(chǎn)品，即使在高壓力的操作條件下也能表現良好。三星的重要客戶(hù)將于今年開(kāi)始測試DGGR7 DRAM芯片進(jìn)行驗證。我們預計這些新芯片將用于Nvidia 的RTX 50 系列 GPU。

三星電子內存產(chǎn)品規劃團隊執行副總裁 Yongcheol Bae 表示：“我們的 GDDR7 DRAM 將有助于提升工作站、PC 和游戲機等需要出色圖形性能的領(lǐng)域的用戶(hù)體驗，并且預計將擴展到未來(lái)人工智能、高性能計算 (HPC) 和汽車(chē)等應用。下一代圖形 DRAM 將根據行業(yè)需求推向市場(chǎng)，我們計劃繼續保持在該領(lǐng)域的領(lǐng)先地位?！?/span>

當三星去年 10 月嘲笑GDDR7 內存的持續開(kāi)發(fā)時(shí)， Cadence 沒(méi)有透露即將推出的規范的任何其他技術(shù)細節。但他們最近透露了有關(guān)該技術(shù)的一些額外細節。事實(shí)證明，GDDR7 內存將使用 PAM3 和 NRZ 信號，并將支持許多其他功能，目標是達到每個(gè)引腳高達 36 Gbps 的數據速率。

在較高的層面上，近年來(lái) GDDR 內存的發(fā)展相當簡(jiǎn)單：更新的內存迭代提高了信號速率，增加了突發(fā)大?。╞urst size）以跟上這些信號速率，并提高了通道利用率。但是這些都沒(méi)有顯著(zhù)增加存儲單元的內部時(shí)鐘。例如，GDDR5X 和后來(lái)的 GDDR6 將其突發(fā)大小增加到 16 字節，然后切換到雙通道 32 字節訪(fǎng)問(wèn)粒度。雖然每一代技術(shù)都面臨著(zhù)挑戰，但最終行業(yè)參與者已經(jīng)能夠通過(guò)每個(gè)版本的 GDDR 提高內存總線(xiàn)的頻率，以保持性能的提升。

但即使是“簡(jiǎn)單”的頻率增加也越來(lái)越變得不那么簡(jiǎn)單了。這促使該行業(yè)尋找除了加快時(shí)鐘之外的解決方案。

借助 GDDR6X，美光和 NVIDIA 將傳統的不歸零 (NRZ/PAM2) 編碼替換為四級脈沖幅度調制 (PAM4) 編碼。PAM4 使用四個(gè)信號電平將有效數據傳輸速率提高到每個(gè)周期兩個(gè)數據位，從而實(shí)現更高的數據傳輸速率。實(shí)際上，由于 GDDR6X 在 PAM4 模式下運行時(shí)具有 8 字節 (BL8) 的突發(fā)長(cháng)度（burst length），因此在相同數據速率（或者更確切地說(shuō)，信號速率）下它并不比 GDDR6 快，而是設計為能夠達到比 GDDR6 可以輕松實(shí)現的更高的數據速率。

四級脈沖幅度調制在信號丟失方面優(yōu)于 NRZ。對于給定的數據速率，由于 PAM4 需要 NRZ 信號傳輸波特率的一半，因此產(chǎn)生的信號損失顯著(zhù)減少。隨著(zhù)更高頻率的信號在通過(guò)導線(xiàn)/走線(xiàn)時(shí)衰減得更快——而且按照數字邏輯標準，內存走線(xiàn)的距離相對較長(cháng)——能夠在本質(zhì)上是較低頻率的總線(xiàn)上運行，最終使一些工程和走線(xiàn)更容易實(shí)現更高的數據速率。

權衡（trade-off ）是 PAM4 信號通常對隨機和感應噪聲更敏感；為了換取較低頻率的信號，您必須能夠正確識別兩倍的狀態(tài)。實(shí)際上，這會(huì )導致給定頻率下的誤碼率更高。為了降低BER，需要在Rx端進(jìn)行均衡，在Tx端進(jìn)行預補償，這會(huì )增加功耗。雖然它未用于 GDDR6X 內存，但在更高頻率（例如 PCIe 6.0）下，前向糾錯 (FEC) 也是一項實(shí)際要求。

當然，GDDR6X 內存子系統需要全新的內存控制器，以及用于處理器和內存芯片的全新物理接口 (PHY)。這些復雜的實(shí)現在很大程度上是四級編碼直到最近才幾乎完全用于高端數據中心網(wǎng)絡(luò )的主要原因，在這些網(wǎng)絡(luò )中有支持使用這種尖端技術(shù)的利潤。

GDDR7：PAM3 編碼高達 36 Gbps/pin

考慮到上述在使用 PAM4 信號或 NRZ 信號時(shí)的權衡，事實(shí)證明支持 GDDR7 內存標準的 JEDEC 成員反而采取了一些折衷的立場(chǎng)。GDDR7 內存設置為使用 PAM3 編碼進(jìn)行高速傳輸，而不是使用 PAM4。

顧名思義，PAM3 介于 NRZ/PAM2 和 PAM4 之間，使用三級脈沖幅度調制（-1、0、+1）信號，允許它每個(gè)周期傳輸 1.5 位（或者更確切地說(shuō)是 3 位以上）兩個(gè)周期）。PAM3 提供比 NRZ 更高的每周期數據傳輸速率——減少了遷移到更高內存總線(xiàn)頻率的需要以及由此帶來(lái)的信號丟失挑戰——同時(shí)需要比 PAM4 更寬松的信噪比?？偟膩?lái)說(shuō)，GDDR7 承諾比 GDDR6 具有更高的性能，同時(shí)比 GDDR6X 具有更低的功耗和實(shí)施成本。

對于那些記分的人來(lái)說(shuō)，這實(shí)際上是我們看到的第二個(gè)使用 PAM3 的主要消費技術(shù)。出于類(lèi)似的技術(shù)原因，USB4 v2（又名 80Gbps USB）也在使用 PAM3。那么 PAM3 到底是什么？

PAM3 是一種數據線(xiàn)可以承載 -1、0 或 +1 的技術(shù)。該系統所做的實(shí)際上是將兩個(gè) PAM3 傳輸組合成一個(gè) 3 位數據信號，例如 000 是一個(gè) -1 后跟一個(gè) -1。這變得很復雜，所以這里有一個(gè)表格：

當我們將 NRZ 與 PAM3 和 PAM4 進(jìn)行比較時(shí)，我們可以看到 PAM3 的數據傳輸速率處于 NRZ 和 PAM4 的中間。在這種情況下使用 PAM3 的原因是為了在沒(méi)有 PAM4 需要啟用的額外限制的情況下實(shí)現更高的帶寬。

話(huà)雖如此，三星承諾的具有 36 Gbps 數據傳輸速率的 256 位內存子系統將使用多少功率還有待觀(guān)察。GDDR7 規范本身尚未獲得批準，硬件本身仍在構建中（這正是 Cadence 等工具發(fā)揮作用的地方）。但請記住，AI、HPC 和圖形的帶寬需求量很大，帶寬將永遠受到歡迎。

優(yōu)化效率和功耗

除了提高吞吐量外，GDDR7 有望采用多種方式來(lái)優(yōu)化內存效率和功耗。特別是，GDDR7 將支持四種不同的讀取時(shí)鐘 (RCK) 模式，以便僅在需要時(shí)啟用它：

始終運行：始終運行并在睡眠模式下停止；

禁用：停止運行；

Start with RCK Start command：主機可以在讀出數據之前通過(guò)發(fā)出RCK Start命令來(lái)啟動(dòng)RCK，并在需要時(shí)使用RCK Stop命令停止。

Start with Read：當 DRAM 收到任何涉及讀出數據的命令時(shí)，RCK 自動(dòng)開(kāi)始運行。它可以使用 RCK Stop 命令停止。

此外，GDDR7 內存子系統將能夠并行發(fā)出兩個(gè)獨立的命令。例如，Bank X 可以通過(guò)在 CA[2:0] 上發(fā)出 Refresh per bank 命令來(lái)刷新，而 Bank Y 可以通過(guò)同時(shí)在 CA[4:3] 上發(fā)出讀取命令來(lái)讀取。此外，GDDR7 將支持線(xiàn)性反饋移位寄存器 (LFSR) 數據訓練模式，以確定適當的電壓電平和時(shí)序，以確保一致的數據傳輸。在這種模式下，主機將跟蹤每個(gè)單獨的眼睛（連接），這將允許它應用適當的電壓以更好地優(yōu)化功耗。

最后，GDDR7 將能夠根據帶寬需求在 PAM3 編碼和 NRZ 編碼之間切換。在高帶寬場(chǎng)景中，將使用 PAM3，而在低帶寬場(chǎng)景中，內存和內存控制器可以切換到更節能的 NRZ。

雖然 GDDR7 承諾在不大幅增加功耗的情況下顯著(zhù)提高性能，但技術(shù)觀(guān)眾最大的問(wèn)題可能是  新型內存何時(shí)可用。由于沒(méi)有來(lái)自 JEDEC 的硬性承諾，因此沒(méi)有預計 GDDR7 發(fā)布的具體時(shí)間表。但考慮到所涉及的工作和 Cadence 驗證系統的發(fā)布，預計 GDDR7 將與 AMD 和 NVIDIA 的下一代 GPU 一起進(jìn)入現場(chǎng)并不是沒(méi)有道理的。請記住，這兩家公司傾向于以大約兩年的節奏推出新的 GPU 架構，這意味著(zhù)我們將在 2024 年晚些時(shí)候開(kāi)始看到 GDDR7 出現在設備上。

當然，鑒于如今有如此多的 AI 和 HPC 公司致力于帶寬需求高的產(chǎn)品，其中一兩家可能會(huì )更快發(fā)布依賴(lài) GDDR7 顯存的解決方案。但 GDDR7 的大規模采用幾乎肯定會(huì )與 AMD 和 NVIDIA 的下一代圖形卡的量產(chǎn)同時(shí)發(fā)生。