英偉達(NVIDIA)在2024年GTC大會上宣布的下一代人工智能超級計算機以及發布的最強AI加速卡——Blackwell GB200。
這款加速卡采用了新一代AI圖形處理器架構Blackwell,由兩個B200 Blackwell GPU和一個基于Arm的Grace CPU組成。黃仁勛在GTC大會上提到,盡管Hopper架構已經非常出色,但市場需要更強大的GPU。
以下是大會紀要:
- 產品發布:英偉達發布了Blackwell GB200,這是一款新一代的AI加速卡,旨在大幅提升人工智能相關的計算性能。
- 性能提升:Blackwell GPU的AI性能可達20petaflops,而前代H100的性能為4petaflops。這意味著Blackwell GPU在AI性能上有顯著提升。
- 技術規格:Blackwell GPU采用臺積電的4納米工藝制造,包含2080億個晶體管,通過NVLink 5.0技術連接兩個獨立制造的裸晶(Die)。
- 性能對比:英偉達表示,GB200包含兩個B200 Blackwell GPU和一個基于Arm的Grace CPU,其推理大語言模型性能比H100提升30倍,成本和能耗降至25分之一。
- 企業應用:英偉達提供成品服務,包括GB200NVL72服務器,該服務器配備了36個CPU和72個Blackwell GPU,以及一體化水冷散熱方案,能夠提供總計720petaflops的AI訓練性能或1,440petaflops的推理性能。
- 市場合作:亞馬遜、谷歌、微軟和甲骨文等公司計劃在其云服務產品中提供NVL72機架。亞馬遜AWS已計劃采購由2萬片GB200芯片組建的服務器集群。