近日,英偉達CEO黃仁勳,在圖形學頂會SIGGRAPH 2023上,發佈了專爲AIGC打造的下一代GH200 Grace Hopper平臺,結合72核Grace CPU和Hopper GPU,帶寬每秒5TB,每塊GH200內存容量141GB,爲全世界目前最強的AI超算芯片,每小時差不多要消耗5000度電,僅需800萬美元,就相當於獲得價值超過1億美元的GPU算力,成本降低12倍,能耗降低20倍!
英偉達
今年英偉達召開的GTC2023大會上,老黃重磅推出專爲ChatGPT訓練的H100 NVL等四款核彈級芯片,性能提升數十倍!
在實際測試中,H100 GPU芯片組,8秒訓練完BERT,11分鐘訓練一遍ChatGPT初代的GPT-3,11秒訓練完ResNet-50,在八項基準測試全部創下了新紀錄!
隨後在2023年臺北電腦展上,發佈了生成式AI超級計算機DGX GH200,助力搭建超級AI平臺!
SIGGRAPH
近日的計算機圖形學頂會SIGGRAPH上,黃仁勳再次亮相,帶來了更加瘋狂的GH200 Grace Hopper平臺,已經在今年5月全面投入生產。
全新的GH200內存容量將增加至原有的3.5倍,帶寬增加至3倍,包含一臺具有 144 個 Arm Neoverse 核心的服務器,提供 8 petaflops 的 AI 算力!
Grace Hopper 超級芯片將配備海力士的 HBM3e 高帶寬內存,下一代 GH200 Grace Hopper 平臺將大幅提升生成式 AI 的計算速度,老黃稱,這臺“龐然大物”就是爲了AIGC時代量身打造的!
GH200
這臺超算以CPU衡量的話,相當於8800個x86架構的處理器,不過卻只能帶動最新的LLaMA 2,功率則爲5兆瓦,相當於每小時消耗5000度電!
以GPU來計算,GH200 Grace Hopper相當於2500塊DGX GH200,老黃可以說是相當“慷慨”,可見未來的AI算力會堆得越來越恐怖。
軟件方面,英偉達和HuggingFace達成合作,隨着transformer大模型的發展,HuggingFace成爲最紅火發展最快的社區,老黃將NVIDIA DGX Cloud AI整合到其中,相當於是專供於AIGC的Colab!
黃仁勳:給AI圈一點小小的英偉達震撼,11分鐘訓練ChatGPT!
英偉達重磅:史上最強AI算力芯片,老黃髮佈會終極大招!
英偉達重磅:AI讀取視頻,可直出3D遊戲模型!
CES大會:英偉達發佈4070Ti,ROG全系40系筆記本配置!
CES大會:索尼汽車官宣亮相,打造元宇宙進軍太空!
英偉達GTC22:40系顯卡參數解讀,你打算購買哪一款?
英偉達GTC22:40系顯卡價格過高,老黃劍指元宇宙AI!
英偉達GTC23:核彈級AI芯片,專供ChatGPT速度提升30倍!
CES 2021:AMD6000系處理器發佈,輕薄本暢玩3A!
CES 2021:英特爾12代處理器發佈,最快的遊戲CPU!
CES 2021:英特爾遊戲性能怪獸,RTX 3090Ti發佈!
CES 2021:英特爾首款ARM架構CPU,超x86架構十倍性能
天價NFT:從290萬美金到280塊,一年縮水99.99%!
以太坊升級:30系顯卡滯銷,價格會崩到什麼程度?
親兒子跳車:“北美七彩虹”怒剛NV,老黃喫相有多難看?
30系破發:比特幣暴跌,礦場鉅虧要“爆金幣”了嗎?
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com