2025年2月4日，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū)，支持一鍵獲取DeepSeek系列模型，支持昇騰硬件平臺(tái)上開(kāi)箱即用，推理快速部署，帶來(lái)更快、更高效、更便捷的AI開(kāi)發(fā)和應(yīng)用體驗(yàn)，歡迎廣大開(kāi)發(fā)者體驗(yàn)使用。

一、 權(quán)重轉(zhuǎn)換

GPU：

NPU：

二、 加載鏡像

在昇騰社區(qū)/開(kāi)發(fā)資源下載適配DeepSeek-V3的鏡像包：

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

完成之后，請(qǐng)使用docker images命令確認(rèn)查找具體鏡像名稱與標(biāo)簽。

三、 容器啟動(dòng)

提供的MindIE鏡像預(yù)置了DeepSeek-V3模型推理腳本，從您信任的來(lái)源自行獲取權(quán)重后，放置在從上述下載的模型代碼的主目錄下，修改模型文件夾屬組為1001，執(zhí)行權(quán)限為750，啟動(dòng)容器。

四、 服務(wù)化測(cè)試

配置服務(wù)化環(huán)境變量，expandable_segments-使能內(nèi)存池?cái)U(kuò)展段功能，即虛擬內(nèi)存特性。

修改服務(wù)化參數(shù)

拉起服務(wù)化

出現(xiàn)“Daemon start success!”，則認(rèn)為服務(wù)成功啟動(dòng)。