NVIDIA發佈AI超算DGX GH200：144TB內存、1.8萬核CPU

AI成爲當下的熱點話題，而NVIDIA在今天的臺北電腦展主題演講上發佈了一款專爲AI而推出的大內存超算系統——DGX GH200。這款超算系統配備了256個Grace Hopper芯片，總計擁有1.8萬個CPU核心和144TB內存，相較之前的版本提升了500倍。

由於AI計算對內存容量的要求更高，DGX GH200採用了最新的NVLink、NVLink Switch等技術，將256塊Grace Hopper超級芯片連接在一起，實現了非常驚人的性能和內存能力。

Grace Hopper芯片是一款集成了CPU和GPU的超級芯片。其中，CPU部分採用了NVIDIA自研的72核處理器，搭載了Neoverse V2內核，擁有480GB LPDDR5內存和512GB/s的帶寬。GPU部分則是H100，FP64性能達到34TFLOPS，但更強大的是其在INT8性能方面，AI計算能力可達到3958TFLOPS，搭載了96GB的HBM3內存。

DGX GH200共有256塊Grace Hopper芯片，因此總共擁有18432個CPU核心和144TB的HBM3內存，AI性能達到了1 exaFLOPS，即100億億次。這個性能水平對比目前最強的TOP500超級計算機，雖然也達到了百億億次的性能，但NVIDIA的超算系統側重於AI計算。

爲了實現256個超級芯片之間的互聯，GH200還採用了256塊單口400Gb/s InfiniBand互聯芯片和256塊雙口200Gb/s InfiniBand芯片，此外還有96組L1 NVLink和36組L2 NVLink開關等複雜的設計。

NVIDIA表示，谷歌、Meta和微軟是首批獲得DGX H200系統的公司，未來還將向更多客戶開放，並支持客戶定製化需求。

然而，值得注意的是，DGX H200並不是NVIDIA最強大的超算系統。NVIDIA計劃在今年晚些時候推出名爲"NVIDIA Helios"的AI超算系統，它由4組GH200組成，總計1024個Grace Hopper超級芯片和576TB的HBM內存。這一系統將進一步提升AI計算的性能和能力。