華碩首發無接口4070，英偉達發佈DGX GH200；PS5的2TB硬盤降至399

在我們參觀華碩總部期間，ROG團隊展示了一款即將推出的顯卡(目前仍處於概念階段)，顯卡本身是RTX 4070設計，但它不屬於任何顯卡系列，而且設計有趣

顯卡本身爲2.3插槽設計，三重軸流技術散熱風扇系統，最重要的是這個顯卡不屬於任何系列，不是ROG STRIX、TUF Gaming、Dual，顯卡背面有一個延伸到主板外的擴展背板，且有一個切口供空氣通過。該卡還配備了雙BIOS開關，可在性能/安靜模式之間切換，背板上還有Megalodon命名，但這不是該卡的系列名

這張顯卡最有趣地方在於，除了標準的PCIe 4.0 x16插槽外，它還有一個連接到主板的特殊插槽用於供電，而顯卡上沒有物理供電接口，所以這張顯卡的供電完全通過這個插槽實現

出於演示目，華碩還展示了一個Z790主板，爲裝機猿類型的背插主板，所有接口都在背面

主板是非常標準的Z790 TUF遊戲設計，ATX外形，LGA1700插槽、16+1相供電，60A MOSFET，兩個PCIe 4.0x16，兩個PCIe 4.0x1，一個PCIe 4.0x4，只有第一個PCIe接口是顯卡專用的，而M.2接口則配備了Q-Latch散熱器覆蓋

這款主板計劃於今年下半年上市

定價方面，雖然現在說這些顯卡和主板還爲時過早，但由於重新設計了PCB板，會造成額外製造成本，它的售價會略高於普通主板

華碩的無供電接口顯卡也需要相應地製造外殼，所以價格也會普遍略貴

此外，英偉達推出了DGX GH200超級計算機，搭載Grace Hopper SuperChips

在Computex 2023電腦展上，英偉達CEO黃仁勳發佈了一項重要消息，Grace Hopper已經開始全面投產，Grace是英偉達推出的全新DGX GH200 AI超級計算平臺的核心組件之一，這個平臺專爲大規模生成式AI工作負載而設計，搭載256個GraceHopper芯片，形成一個144TB共享內存的超級計算引擎，這個引擎可以用於處理最苛刻的生成式AI訓練任務

這個重大的發佈使得英偉達能夠與像谷歌、Meta和微軟這樣，爲它提供最AI的超級計算機。同時，英偉達還推出了全新的MGX參考架構，該架構能夠讓原始設備製造商更快地開發新AI超級計算機系統，最多可提供100多個系統，還開發了專門爲AI服務器和超級計算集羣設計和優化的全新Spectrum-X以太網網絡平臺

Grace和Grace Hopper Superchips都是英偉達新系統的核心，Grace芯片是英偉達的Arm CPU處理器，而Grace Hopper Superchip是一個在同封裝中結合Grace CPU和Hopper顯卡，還有96GB HBM3顯存和512GB LPDDR5X內存的硬件，具有2000億個晶體管。這種組合可以提升CPU和顯卡之間的數據帶寬，CPU和顯卡之間的浮點性能達到了1TB/s，給需要大量內存的工作負載提供了巨大的優勢

隨着Grace Hopper Superchips全面投產，衆多OEM廠商，華碩、技嘉、華擎、磐石、和碩都發布了自己的服務器配置，均搭載英偉達正在推出的基於新芯片的系統

英偉達最新發布的DGX GH200 AI超級計算平臺的基本組成部分是該平臺專爲處理最苛刻的AI工作負載而設計的，如生成式AI訓練、大型語言模型和推薦器，通過具備大規模可擴展性和卓越的浮點性能，使用英偉達定製的NVLink交換機芯片，繞過了標準集羣連接選項(如InfiniBand和以太網)的限制

雖然全新的DGX GH200 AI超級計算機的詳細細節仍然有限，但已知的是採用了帶有36個NVLink Switch的全新NVLink Switch System，可以連接256個GH200 GraceHopper芯片和144TB的共享內存，形成一個內聚的計算單元，這一系統與之前的NVLink連接DGX配置(僅8個顯卡)相比翻了32倍，256個Grace Hopper的CPU+顯卡搭配，性能輕鬆超越了以前的記錄，144TB的共享內存比之前的DGX A100(320GB共享內存)多太多了，多了整整500倍，與DGX A100系統需要使用InfiniBand作爲系統之間互連的情況不同，DGX GH200標誌着英偉達首次在整個超級計算機集羣中採用基於NVLink Switch拓撲的連接方式，提供的顯卡到顯卡的帶寬提升，是上一代的10倍，CPU到顯卡帶寬是上一代的7倍，同時還提供了比競爭對手AMD互連高5倍的能耗比(以PJ/bit衡量)，以及128TB/s的對分帶寬

DGX GH200系統使用150英里的光纖，重達40000磅，本質上就是一整個巨大顯卡，不過配備了256顆Grace Hopper芯片，DGX GH200的AI性能達到了1exaflop，相比於使用FP64的HPC和超級計算，此設備採用更適用於AI工作負載的較小數據類型來度量的這種性能的提升，得益於900GB/s的顯卡到顯卡帶寬，Grace Hopper與Grace CPU直接連接在同一塊板上時的浮點性能最高可達到1TB/s。一個關鍵的可擴展性因素是C2C芯片互聯，英偉達也進行了一系列的跑分測試，NVLink Switch System與使用InfiniBand連接的DGX H100集羣進行了正面對決，在這些測試中，英偉達使用不同數量的顯卡，範圍從32到256不等，結果顯示，互連性能實現了2.2到6.3倍的提升

英偉達計劃在2023年底前向主要廠商，如谷歌、Meta和微軟提供DGX GH200，參考藍圖作用參考架構設計，提供該系統給雲服務提供商和大規模企業使用

除了推出DGX GH200，英偉達還在內部部署了一臺全新的超級計算機——英偉達Heli os，這臺超級計算機由四個DGX GH200組成，用於英偉達自身的研發工作，這四個系統共配備了1024個Grace Hopper，通過英偉達的Quantum-2 InfiniBand 400GB/s網絡進行連接

英偉達正在不斷推動AI計算的界限，爲各種應用領域提供更強、更高效的計算模式，DGX GH200和Helios超級計算機的推出爲AI研究、數據分析和超級計算領域帶來重大的突破

在英偉達的戰略中，除了DGX和HGX系統，英偉達還引入了新的MGX系統，以滿足超大規模應用的需求。MGX系統作爲DGX和HGX之間的一個節點，與其他系列共同存在

英偉達面臨着以AI爲中心的服務器設計方面的新挑戰，導致了MGX參考架構的設計和部署的延遲，爲了加速這一過程，英偉達提供了100多個參考設計，MGX系統採用模塊化設計，涵蓋了英偉達的CPU、顯卡、DPU和網絡系統組合，且支持基於服務器中常見的x86和基於Arm的處理器的設計，英偉達還提供了風冷和水冷設計的選項，以滿足不同應用場景下OxM的需求

通過引入MGX系統和提供多樣化的設計選項，英偉達致力於爲廣泛的應用領域提供高性能、高效能的服務器，進一步推動AI技術的發展和應用

英偉達QCT和超微是這些系統的提供商，但隨着時間的推移，x86版本的系統變得更加廣泛可用，華碩、技嘉、華擎、磐石、和碩等廠商也計劃在今年下半年到明年初推出採用MGX參考架構的系統

MGX參考設計是英偉達在Computex發佈會上的重要公告之一，這些參考設計爲主流數據中心和企業部署提供以AI爲中心的架構，相比於相對奇特且成本較高的DGX系統，MGX系統的部署數量要大得多，這些因素共同推動了MGX系統的發展，英偉達正在繼續確定相關規範，計劃在不久的來發布相關的白皮書，以進一步公開和推廣該規範

英偉達正在轉向以太網作爲高性能AI平臺的互連選項，而不是傳統高性能系統中常見的InfiniBand連接，通過採用51Tb/s的Spectrum-4400GbE以太網交換機和Bluefield-3 DPU，以及軟件和SDK，開發人員能夠調整系統以滿足AI工作負載的特殊需求，相比基於以太網的系統，英偉達的Spectrum-X具有無損特性，從而提供卓越的服務質量和延遲，還引入了新的自適應路由技術，特別適用於多租戶環境

Spectrum-X網絡平臺是英偉達組合基礎要素，它爲基於以太網的網絡帶來了高性能的AI集羣功能，爲在超大規模基礎設施中更廣泛地部署，AI提供的新選擇Spectrum-X平臺與基於以太網的堆棧完全兼容，具備重要的可擴展性，在單個交換機上支持最多256個200GB/s接口，或在兩層葉脊拓撲下支持16,000個接口