近日消息,阿里巴巴(中國(guó))有限公司面向外界正式發(fā)文宣告,阿里云PAI Model Gallery現(xiàn)已具備對(duì)DeepSeek-V3、DeepSeek-R1以及所有蒸餾小參數(shù)模型(DeepSeek-R1-Distill)進(jìn)行一鍵部署的強(qiáng)大功能。
據(jù)介紹,Model Gallery 是阿里云人工智能平臺(tái) PAI 的產(chǎn)品組件,它集成了國(guó)內(nèi)外 AI 開源社區(qū)中優(yōu)質(zhì)預(yù)訓(xùn)練模型,涵蓋了 LLM、AIGC、CV、NLP 等各個(gè)領(lǐng)域。
附 PAI Model Gallery 一鍵部署Deep Seek-V3、Deep Seek-R 步驟如下:
1. 進(jìn)入Model Gallery。
登錄 PAI 控制臺(tái)。
在頂部左上角根據(jù)實(shí)際情況選擇地域。
在左側(cè)導(dǎo)航欄選擇工作空間列表,單擊指定工作空間名稱,進(jìn)入對(duì)應(yīng)工作空間內(nèi)。
在左側(cè)導(dǎo)航欄選擇快速開始 > Model Gallery。
2.在 Model Gallery 頁面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁面。
3.單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應(yīng)用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個(gè) PAI-EAS 服務(wù)。
4. 使用推理服務(wù)。部署成功后,在服務(wù)頁面可以點(diǎn)擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務(wù)調(diào)用方式可以點(diǎn)擊預(yù)訓(xùn)練模型鏈接,返回模型介紹頁查看調(diào)用方式說明。
Copyright 2025 //www.ahlmtdl.com/ 版權(quán)所有 豫ICP備2021037741號(hào)-1 網(wǎng)站地圖