近日消息,阿里巴巴(中國)有限公司面向外界正式發文宣告,阿里云PAI Model Gallery現已具備對DeepSeek-V3、DeepSeek-R1以及所有蒸餾小參數模型(DeepSeek-R1-Distill)進行一鍵部署的強大功能。
據介紹,Model Gallery 是阿里云人工智能平臺 PAI 的產品組件,它集成了國內外 AI 開源社區中優質預訓練模型,涵蓋了 LLM、AIGC、CV、NLP 等各個領域。
附 PAI Model Gallery 一鍵部署Deep Seek-V3、Deep Seek-R 步驟如下:
1. 進入Model Gallery。
登錄 PAI 控制臺。
在頂部左上角根據實際情況選擇地域。
在左側導航欄選擇工作空間列表,單擊指定工作空間名稱,進入對應工作空間內。
在左側導航欄選擇快速開始 > Model Gallery。
2.在 Model Gallery 頁面的模型列表中,單擊找到并點擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進入模型詳情頁面。
3.單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務,生成一個 PAI-EAS 服務。
4. 使用推理服務。部署成功后,在服務頁面可以點擊“查看調用信息”獲取調用的 Endpoint 和 Token,想了解服務調用方式可以點擊預訓練模型鏈接,返回模型介紹頁查看調用方式說明。