在科技界的一次重大宣布中，DeepSeek于近日在X平臺上揭曉了其最新的技術(shù)進(jìn)展——DeepSeek-V3/R1推理系統(tǒng)。這一消息引起了業(yè)界的廣泛關(guān)注。
據(jù)悉，DeepSeek-V3/R1推理系統(tǒng)在性能優(yōu)化方面取得了顯著突破。該系統(tǒng)采用了創(chuàng)新的跨節(jié)點EP驅(qū)動批量擴(kuò)展技術(shù)，同時實現(xiàn)了計算與通信的重疊，以及高效的負(fù)載平衡策略，從而大幅提升了系統(tǒng)的吞吐量和降低了延遲。
DeepSeek還分享了其在線服務(wù)的實際運行數(shù)據(jù)，進(jìn)一步證明了該系統(tǒng)的高效性。具體而言，每個H800節(jié)點每秒能夠處理73.7k個輸入令牌和14.8k個輸出令牌，這一數(shù)據(jù)無疑展示了DeepSeek-V3/R1的強(qiáng)大處理能力。
更令人矚目的是，DeepSeek在成本效益方面也展現(xiàn)出了驚人的表現(xiàn)。據(jù)官方透露，假定GPU租賃成本為每小時2美金，那么每天的總成本為87,072美元。然而，如果按照DeepSeek R1的定價來計算所有tokens的收入，理論上一天的總收入竟可達(dá)到驚人的562,027美元，成本利潤率高達(dá)545%。
為了更詳細(xì)地闡述這一技術(shù)突破，DeepSeek還在知乎官方賬號上發(fā)布了一篇題為《DeepSeek-V3/R1推理系統(tǒng)概覽》的文章。文章中詳細(xì)披露了DeepSeek的理論成本和利潤率等關(guān)鍵信息，進(jìn)一步增強(qiáng)了業(yè)界對其技術(shù)實力的認(rèn)可。
文章中提到，DeepSeek通過不斷優(yōu)化其推理系統(tǒng)，實現(xiàn)了在保持高性能的同時，也極大地降低了運行成本。這一成就不僅得益于其先進(jìn)的技術(shù)架構(gòu)，還與DeepSeek團(tuán)隊在算法優(yōu)化和硬件協(xié)同方面的深厚積累密不可分。
DeepSeek的這一宣布無疑為整個AI領(lǐng)域帶來了新的希望和動力。隨著DeepSeek-V3/R1推理系統(tǒng)的廣泛應(yīng)用，我們有理由相信，未來AI技術(shù)將在更多領(lǐng)域展現(xiàn)出其強(qiáng)大的潛力和價值。
