Mistral公司近期隆重推出了兩款全新的AI模型——Ministral 3B與Ministral 8B，專為提升筆記本電腦和智能手機等設(shè)備的本地化AI體驗而設(shè)計。據(jù)官方宣稱，這兩款模型堪稱“全球頂尖的邊緣模型”。
隨著企業(yè)對在個人設(shè)備上運行AI模型的需求日益增長，Mistral公司此次推出的模型旨在確保數(shù)據(jù)處理的安全性，并顯著提升響應(yīng)速度。這兩款模型均能在無互聯(lián)網(wǎng)連接的情況下，執(zhí)行翻譯、本地分析及機器人等多項任務(wù)。
值得注意的是，Ministral 3B與8B均擁有128K的上下文窗口，能夠一次性處理長達(dá)50頁的文檔內(nèi)容。
價格方面，Ministral 8B的定價為每百萬個tokens售價0.1美元，而3B版本則更為親民，售價為0.04美元，非常適合小規(guī)模操作或初創(chuàng)開發(fā)者使用。尤為Ministral 8B采用了獨特的交錯滑動窗口注意力機制，這一設(shè)計使得其在推理過程中更為迅速且內(nèi)存占用更少。
這兩款A(yù)I模型的推出，無疑為需要在本地設(shè)備上高效運行AI應(yīng)用的企業(yè)和個人提供了更為優(yōu)質(zhì)的選擇。
