阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

阿里巴巴(中国)有限公司今日发文宣布,阿里云 PAI Model Gallery 已经支持 DeepSeek-V3DeepSeek-R1 以及所有蒸馏小参数模型(DeepSeek-R1-Distill)一键部署。

据介绍,Model Gallery 是阿里云人工智能平台 PAI 的产品组件,它集成了国内外 AI 开源社区中优质预训练模型,涵盖了 LLM、AIGC、CV、NLP 等各个领域。

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

IT之家附 PAI Model Gallery 一键部署 Deep Seek-V3、Deep Seek-R 步骤如下:

1. 进入 Model Gallery。

  • 登录 PAI 控制台。

  • 在顶部左上角根据实际情况选择地域。

  • 在左侧导航栏选择工作空间列表,单击指定工作空间名称,进入对应工作空间内。

  • 在左侧导航栏选择快速开始 > Model Gallery。

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

2. 在 Model Gallery 页面的模型列表中,单击找到并点击需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,进入模型详情页面。

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

3. 单击右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 应用部署;DeepSeek-R1 蒸馏小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。选择部署方式和部署资源后,即可一键部署服务,生成一个 PAI-EAS 服务。

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

4. 使用推理服务。部署成功后,在服务页面可以点击“查看调用信息”获取调用的 Endpoint 和 Token,想了解服务调用方式可以点击预训练模型链接,返回模型介绍页查看调用方式说明。

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

免责声明:文章内容来自IT之家

本站不对其内容的真实性、完整性、准确性给予任何担保、明示、暗示和承诺,本文仅供读者参考!

数码迷尊重原作者的辛勤劳动并致力于保护原著版权以及相关的知识产权,所转载的文章,其版权归原作者所有。

如本文内容影响到您的合法权益(内容、图片等),请通过邮箱5937331#qq.com联系我们,我们将第一时间回复处理。

(0)
上一篇 2025年2月7日 下午1:03
下一篇 2025年2月9日 上午9:28

相关推荐