閃迪公司即將在今年一季度完成從西部數據的拆分,并踏上獨立上市的新征程。近日,在面向投資者的活動中,閃迪揭開了其前沿技術——高帶寬閃存(HBF)的神秘面紗,這一技術有望重塑AI推理GPU存儲生態。
HBF作為閃迪的帶寬優化NAND產品,其設計理念深受HBM啟發,采用了類似的架構特點,如大量的I/O引腳和多層堆疊,并共享了HBM的電氣接口,實現了帶寬的匹配。然而,由于存儲介質從DRAM轉變為NAND,HBF對協議進行了相應的調整,因此與HBM并不完全兼容。
在HBF的內部結構中,多層核心裸晶通過微凸塊和硅通孔技術緊密堆疊,底部則設置了負責與計算芯片通信的邏輯裸晶。閃迪自豪地宣布,其HBF技術能夠實現極低的裸晶翹曲,目前最高已實現16層堆疊,單個堆棧容量驚人地達到了512GB。
這一突破性的技術意味著,在2.5D集成下,僅8個HBF堆棧的單個AI GPU就能擁有4096GB(即4TB)的存儲空間,這一容量是純HBM方案的20倍以上。如此龐大的存儲空間,足以滿足參數約1.8T的前沿大型語言模型(LLM)的推理運行需求。
更令人矚目的是,由于HBF與HBM在技術路線和性能參數上的相似性,AI GPU可以靈活配置這兩種存儲,形成如3072GB HBF + 48GB HBM等高度自定義的組合,為用戶提供前所未有的存儲靈活性。
除了AI推理GPU領域,HBF技術同樣有望在邊緣AI領域大放異彩。單顆HBF就能容納完整的64B模型,這一特性無疑將極大地推動邊緣AI的發展。
閃迪的HBF高帶寬閃存開發并非孤軍奮戰,它得到了眾多主要AI企業的鼎力支持。閃迪計劃推動構建HBF開放標準生態系統,以實現無縫的系統集成,進一步加速技術的普及和應用。
對于未來的HBF產品,閃迪早已有了明確的規劃。他們致力于在第三代產品中實現2倍容量的提升、2倍讀取帶寬的增強,以及36%功耗的降低,持續引領存儲技術的革新。