微軟近日宣布了一項重要進展,正式為Copilot+ PC引入了DeepSeek-R1的7B和14B蒸餾模型,這一功能通過Azure AI Foundry平臺實現。此舉標志著微軟在將AI能力進一步融入個人電腦方面邁出了關鍵一步。
早在今年年初,微軟便透露了將DeepSeek-R1模型的NPU優化版本引入搭載高通驍龍X處理器的Copilot+ PC的計劃。如今,這一承諾已如期兌現,為用戶帶來了更為強大的本地AI運算能力。
據微軟官方博客介紹,這一新功能將首先從搭載高通驍龍X處理器的Copilot+ PC開始部署,隨后將逐步擴展到英特爾酷睿Ultra 200V和AMD銳龍系列的設備。這意味著,越來越多的用戶將能夠享受到由AI帶來的便捷與高效。
由于DeepSeek模型運行在NPU上,這大大減輕了對PC電池續航和散熱性能的壓力。同時,用戶能夠持續獲得強大的AI計算能力,而CPU和GPU則可以專注于執行其他任務,從而提升了整體系統的運行效率。
微軟在模型優化方面下足了功夫。他們使用了內部開發的Aqua自動量化工具,成功將所有DeepSeek模型的變量量化為int4權重。然而,目前模型的標記速度尚有待提高。據微軟報告,14B模型的標記速度僅為8 tok/秒,而1.5B模型的標記速度則接近40 tok/秒。不過,微軟表示他們正在積極優化,以期進一步提高速度。
對于開發者而言,這一新功能無疑是一個利好消息。他們現在可以通過AI Toolkit VS Code擴展,在Copilot+ PC上輕松下載和運行DeepSeek模型的1.5B、7B和14B版本。這將為他們提供更加豐富的AI工具,助力他們開發出更加智能、高效的應用程序。