半導體行業觀察
本文來自 “半導體行業觀察”。
美光科技(MU.US)在上週的虛擬簡報會上分享了有關Nvidia在GeForce RTX 30系列圖形卡中使用的最新GDDR6X SGRAM的其他一些詳細信息。該公司透露，它已經對啟用新型存儲器的技術進行了十多年的試驗，並表示GDDR6X SGRAM尚未得到JEDEC的標準化。目前，只有Nvidia使用GDDR6X內存，但是Micron希望這種情況會隨着時間而改變。
PAM4信令：自2006年以來一直在DRAM中探索
美光公司位於德國慕尼黑的圖形DRAM設計中心擁有圖形設計創新的歷史，因為該設計中心隸屬於奇夢達，而奇夢達則是從英飛凌分拆的。這個實驗室的工程師推出業界首批GDDR5，GDDR5X和現在的GDDR6X芯片。實際上，美光科技是GDDR5X的唯一製造商，現在它是GDDR6X的唯一製造商。
四級脈衝幅度調製(PAM4)信令是GDDR6X存儲器的關鍵功能。該技術使用四個信號電平在每個週期傳輸兩個數據位，因此與上一代SGRAM類型相比，任何工作頻率的有效帶寬都增加了一倍。此外，PAM4為更高的數據傳輸速率(儘管需要付費)打開了大門。結果，PAM4提高了時鐘效率和速度。 不過，有一點需要提醒的是。GDDR6的burst length為16字節(BL16)，這意味着其兩個16位通道中的每個通道每次操作都可以傳送32個字節。GDDR6X的burst length為8字節(BL8)，但是由於PAM4信令，其每個16位通道在每次操作中也將提供32個字節。為此，GDDR6X在同一時鐘下並不比GDDR6快。
PAM4信令已用於數據中心網絡標準(例如Infiniband)已有很多年了，四級編碼本身並不是什麼特別的新事物。與傳統的PAM2 / NRZ調製相比，PAM4只是被應用到大型數據中心和超級計算機的主要原因是其實現成本。 但是高昂的成本並不能阻止實驗室中技術的探索，這是美光美國分公司自2006年以來一直在做的事情。在此過程中，他們已獲得45項專利。 美光公司圖形部門主管拉爾夫·埃伯特(Ralf Ebert)説：“自2006年以來，美光公司的科學家就已經開始研究如何在內存中利用PAM4。”“我之所以説科學家是因為我要區分開發人員和科學家。這些人確實為創新做基礎。他們基本上採用了PAM4技術，並試圖弄清楚我們如何在DRAM中使用它。”
經過多年的PAM4探索，美光公司認為是時候將該技術應用於圖形內存了。GDDR從2007(GDDR5)到2018(GDDR6)的架構演變非常簡單(儘管回到了BL8)，因此引入新的信號方案需要美光將其美國科學家和德國工程師召集在一起。 埃伯特説：“科學家們必須與GDDR開發人員並肩工作。”“他們還與系統和產品工程師緊密合作，這可以讓他們從系統和批量生產的角度瞭解挑戰。” 我們今天所知的GDDR6X的開發工作可以追溯哦到三年前的2017年底。通常，將新型DRAM推向市場需要花費更長的時間，但由於這主要是內部項目(至少在存儲設備級別)上，美光科技已經非常迅速地實施了技術。不過，這是有原因的。
與Nvidia緊密合作開發
開發新型存儲器不僅要考慮某些應用程序，而且還要考慮某些客户。Nvidia是第一家使用GDDR5X和GDDR6(以及2000年代初期的GDDR2和GDDR3)的公司，因此也很早就與美光科技合作進行GDDR6X項目就不足為奇了。實際上，根據美光(Micron)的説法，英偉達(Nvidia)向美光(Micron)請求了一種可提供比GDDR6更高性能的離散存儲解決方案。 Ebert説：“您必須要與客户合作，並且理想情況下，您需要依靠已經建立了多年的密切業務和技術合作。確認該產品從一開始就可以在應用中正常工作。” Nvidia必須為GDDR6X開發全新的內存控制器和PHY，因為PAM4信令改變了內存子系統的總體工作方式。基於迄今為止尚未有IP設計公司宣佈其GDDR6X產品的事實，看來Nvidia已在內部設計了所有產品。
目前，英偉達在其基於GA102 GPU的GeForce RTX 3080/3090圖形卡上使用GDDR6X，這個產品主要針對遊戲玩家。該公司還將提供具有相同芯片和GDDR6X內存的Quadro RTX專業圖形卡。同時，美光表示，該GDDR6X 是也用於AI和HPC應用程序，這兩者都是NVIDIA的GeForce RTX的Quadro(因為這些卡中的AI FP16和FP32張量表現，以及FP64表現為HPC方面封頂)的重點。美光可能是假想的用法，或者暗示即將由GA102提供支持的Nvidia Titan系列卡可以為AI和HPC提供正確的性能(無上限)。 Nvidia是Micron唯一的GDDR6X推出合作伙伴，但Micron強調説，它並不是專門為GPU開發人員設計的新型內存。這家DRAM製造商計劃也向其他公司提供GDDR6X。 Ebert説：“我們現在開始向行業提供並向業界開放，GDDR6X並不是特定於客户的。”“我們希望其他客户有興趣向前發展，然後我們也將與他們互動。”
帶有PAM4的GDDR6X：較難構建，但比HBM2便宜
美光表示，PAM4要求它重新設計其GDDR6X存儲設備中的寫數據捕獲電路(接收器)，以準確地採樣和解析四個不同的信號電平。為此，每個GDDR6X DRAM的每個I / O和數據總線反相(DQ / DBI)引腳都包含三個輸入子接收器。主機可以在寫訓練序列期間微調參考VREFD電壓電平。GDDR6X的輸出驅動器也必須重新設計，但美光表示，重新設計依賴於傳統方法。
美光承認，GDDR6X芯片的生產成本比上一代GDDR6器件高。此外，它們需要非常乾淨和穩定的信號，這就是為什麼為GeForce RTX 3080/3090卡供電的Nvidia GA102 GPU的內存控制器現在位於其自己的powerrail上，以確保非常乾淨和穩定的電源。 就功耗而言，有必要指出的是，由於性能的顯着提高，GDDR6X在設備級別的功耗效率比GDDR6高出15%(7.25 pj / bit與7.5 pj / bit)。 總體來説，GDDR6X芯片及其實現比GDDR6更昂貴，但仍比HBM2類存儲器便宜得多。
GDDR6X不需要堆疊，它以分立芯片的形式出廠，可以在工廠焊接。離散DRAM的整個基礎結構已經存在了數十年，所有過程都是熟悉且便宜的。相比之下，HBM2 KGSD(眾所周知的堆疊die)必須在半導體工廠組裝，然後放置在另一個工廠的潔淨室中與GPU相鄰的中介層上。 Ebert説：“高性能DRAM通常也要付出更高的代價。”“ GDDR6X的最大優勢在於，我們可以將性能提高到更高的水平，同時仍保持在一定的成本範圍內。這是因為GDDR6X仍然是離散存儲解決方案。GDDR6X存儲器可以像其他任何存儲器一樣組裝板載製造商在其標準環境中的PCB上的內存。當您研究內存的不同速度等級時，通常會有成本增加器的範圍;我們將GDDR6X的位置與典型範圍保持一致。
對客户而言，這種方式的成本非常高，這主要是因為它仍然是離散存儲解決方案。” 美光沒有透露其8 Gb GDDR6X器件的die尺寸，也沒有將其與8 Gb GDDR6器件進行比較。該公司強調，這是第一種使用PAM4信號的存儲器，而後者是一項突破，為各種創新打開了大門。 美光公司圖形DRAM主管説：“ PAM4是一個挑戰，我們相信，有了這一突破，就可以向前邁進。”“我們相信，這將改變DRAM行業。我們是第一個這樣做的公司，並且我們已經為此進行了一段時間的研究。”
GDDR6X可擴展密度和數據速率
目前，美光科技提供8 Gb GDDR6X芯片，額定速率分別為19 Gbps和21 Gbps。新的存儲設備是使用該公司成熟的第四代10 nm級工藝技術(也稱為1αnm)生產的。該公司制定了在容量和速度容器方面擴展GDDR6X的路線圖。 明年，美光科技計劃在產品陣容中增加16 Gb密度，並隨着時間的推移提供更快的芯片。目前，美光科技是GDDR6X的唯一生產商，而英偉達是唯一的客户，因此GDDR6X的發展取決於英偉達的需求和美光的批量生產能力。這裏的關鍵信息是GDDR6X將設置為在超過21 Gbps的性能方面進行擴展。
GDDR6X：不是JEDEC標準，但不是專有的
為了儘快完成GDDR6X並使其與Nvidia的Ampere GPU一起使用，兩家公司幾乎以隱形的模式工作。兩家公司從未將規範提交給JEDEC進行標準化，因此GDDR6X是目前只有Micron可提供的專有存儲器。 Ebert説：“目前，它尚未提交給JEDEC進行標準化。” GDDR5X很大程度上是由美光開發的，幾乎沒有其他行業的投入。JEDEC在美光開始批量生產GDDR5X之前正式發佈了該標準，並將其提供給該組織的成員。但是，除Nvidia以外，沒有其他人使用GDDR5X，除Micron以外，沒有人生產這種類型的內存。
傳統上，GDDR類型的內存幾乎僅用於圖形卡和遊戲機。通過GDDR6，美光及其行業同行開始為其他需要高帶寬的應用推廣圖形DRAM。在潛在的用例中，它們針對汽車，網絡和FPGA應用。美光希望GDDR6X能夠解決非GPU市場，但在此並未做出任何真正的承諾。 今天的GPU已廣泛用於各種AI應用程序，因此自然而然，在美光公司的簡報中，當公司談論用於非圖形垂直領域的GDDR6X時，就提到了訓練和推理應用。同時，由於Nvidia將其Titan系列顯卡面向遊戲玩家，AI發燒友和各種專業消費者，因此，如果Nvidia推出Amprere架構的Titan型號，美光的GDDR6X將在技術上針對這些市場。
為了應對新興市場，美光不僅需要提供內存本身，還需要提供內存控制器IP，PHY IP和驗證IP。IP設計公司(如Avery，Cadence，Rambus和Synopsys)提供了這些類型的東西。由於GDDR6X的旅程才剛剛開始，因此，假設IP廠商看到行業對GDDR6X的潛在需求，它們就必須迎頭趕上。不能完全保證，特別是考慮到GDDR6X不是JEDEC支持的行業標準。 美光做了一個有趣的評論，説CPU可以使用GDDR6X： Ebert説：“從歷史上看，沒有什麼可以阻止整個行業使用帶有CPU的GDDRDRAM的。” “在這種情況下相同。但這是CPU公司必須做出的決定。”
圖形內存的未來：即使對於HBM，PAM4也將保留
對於Micron來説，GDDR6X不僅是一種高度競爭的產品，而且是將PAM4信號帶入DRAM的工作的高潮。儘管這種編碼類型不會用於DDR5 SDRAM，但美光科技相信，從長遠來看，這是內存的未來。 美光公司圖形內存總監説：“因此，GDDR6X是我們引入PAM4的地方，我們肯定可以看到它的發展。” “潛在地，PAM4可以用在其他內存標準中。這種類型的技術可能或可能會被具有CPU或我們其他處理器的公司使用。”
實際上，PAM4在業界的使用範圍將比今天廣泛得多。PCIe 6.0將於2021年面世，它使用PAM4信令提取更高的效率和更高的數據速率。考慮到PCIe的廣泛採用，CPU和ASIC公司最終必將同時支持PCIe6.0和PAM4。一旦業界學習到如何使用PCIe 6.0進行四級脈衝幅度調製，它肯定會在其他地方應用。 美光公司表示，它首先將PAM4實施到LPDDR測試芯片中以對該技術進行實驗。此外，在我們準備這個故事時發現的一項專利説，美光三年前就獲得了帶有PAM4和PAM8信號的堆疊式HBM級存儲器的專利。 HBM類型的內存還必須採用分立DRAM設備(QDR，BL8 / BL16等)使用的負載，因此何時可以採用新信令很難做出預測。但是，如果當前可用的HBM2E 3.6 Gbps芯片採用四級脈衝幅度調製，則每設備帶寬將增加一倍，達到922GB / s。這意味着六模塊6144位DRAM子系統將提供高達5.5 TB / s的帶寬。不過，這只是純粹的推測。
總結
美光的GDDR6X是業界首款採用四級脈衝幅度調製信號(PAM4)的量產存儲器。新型編碼使用四個信號電平(在PAM2情況下為1)在每個週期傳輸兩個數據位，併為更高的頻率打開了大門。自2006年以來，美光公司一直在嘗試使用PAM4，因此PAM4不僅是GDDR的演進，而且是整個DRAM的演進。儘管DDR5不使用PAM4，但美光科技已經為PAM4甚至啟用PAM8的HBM存儲器申請了專利。 DRAM製造商承認，與GDDR6相比，GDDR6X的構建和實施難度更大(並且可能更昂貴)。但是，即使在嬰兒期，GDDR6X也比成熟的HBM2E便宜，因為我們在這裏處理離散存儲芯片。同時，由於GDDR6X返回的burst length為8字節(對於GDDR6，則為16字節)，因此在相同的每引腳數據速率下，它不比其前身GDDR6快。 GDDR6X目前最大的詬病是它是由Micron獨家開發，並獲得了Nvidia的一些支持。美光尚未向JEDEC提交該標準，目前尚不清楚GDDR6X是否會成為行業標準。美光希望將GDDR6X用於非圖形應用，但是如果沒有其他公司的支持，將很難推廣這種新型的內存。
（編輯：玉景）