英偉達在SC24超算大會上推出了兩款全新的AI硬件產品,為AI計算領域帶來了新的突破。此次發布的硬件包括H200 NVL PCIe GPU和GB200 NVL4超級芯片,兩款產品均針對特定的市場需求進行了優化。
針對那些機架電力供應有限且采用空氣冷卻的數據中心,英偉達推出了H200 NVL PCIe GPU。這款AI計算卡采用了PCIe AIC形態,專為低功耗風冷環境設計。盡管其TDP功耗從H200 SXM的700W降低到了600W,但HBM內存容量和帶寬依然保持在141GB和4.8TB/s的高水平。H200 NVL還支持雙路或四路的900GB/s NVLink橋接器互聯,使得多卡之間的數據傳輸更加高效。
英偉達強調,H200 NVL的內存容量是前代產品H100 NVL的1.5倍,帶寬也提升了1.2倍,從而實現了1.7倍的AI推理性能提升。在HPC應用中,其性能也高出30%。這樣的性能提升對于需要處理大量數據和復雜計算任務的企業來說,無疑是一個巨大的福音。
除了H200 NVL之外,英偉達還推出了面向單服務器解決方案的GB200 NVL4超級芯片。這款超級芯片將2個Grace CPU和4個Blackwell GPU進行了聚合,形成了一個強大的計算單元。其HBM內存池容量高達1.3TB,相當于兩組GB200 Grace Blackwell超級芯片的組合。然而,這樣的性能提升也帶來了更高的功耗,整體功耗達到了5.4kW。
與上代GH200 NVL4系統相比,新的GB200 NVL4在模擬性能上提升了2.2倍,AI訓練性能和AI推理性能也分別提升了1.8倍。這樣的性能提升使得GB200 NVL4成為了處理大規模數據和復雜計算任務的首選解決方案。據英偉達透露,GB200 NVL4超級芯片將于2025年下半年正式上市,屆時將為企業帶來更加高效和強大的計算能力。