DeepSeek 登岸阿里云,支撑云上一键安排 V3、R1 模
栏目:媒体新闻 发布时间:2025-02-05 08:35
[db:摘要]...
IT之家 2 月 4 日新闻,阿里云盘算无限公司昨日发文官宣,阿里云 PAI Model Gallery 支撑云上一键安排 DeepSeek-V3、DeepSeek-R1。IT之家附步调如下:第一步:进入 Model Gallery 页面点击链接:https://pai.console.aliyun.com/#/quick-start/ models 登岸 PAI 把持台,在顶部左上角依据现实情形抉择地区。并在左侧导航栏抉择任务空间列表,单击指定任务空间称号,进入对应任务空间内。最后在左侧导航栏抉择疾速开端 Model Gallery。第二步:进入 DeepSeek 模子概况页在 Model Gallery 页面的模子列表中,单击找到并点击须要安排的模子卡片,比方“DeepSeek-R1-Distill-Qwen-7B”模子,进入模子概况页面。第三步:一键安排 DeepSeek 模子天生效劳单击右上角安排:现在 DeepSeek-R1 支撑采取 vLLM 减速安排;DeepSeek-V3 支撑 vLLM 减速安排以及 Web 利用安排;DeepSeek-R1 蒸馏小模子支撑采取 BladeLLM(阿里云 PAI 自研高机能推理框架)跟 vLLM 减速安排。抉择安排方法跟安排资本后,即可一键安排效劳,天生一个 PAI-EAS 效劳。安排胜利后,在效劳页面能够点击“检查挪用信息”获取挪用的 Endpoint 跟 Token,想懂得效劳挪用方法能够点击预练习模子链接,前往模子先容页检查挪用方法阐明。须要留神的是,阿里云官方教程安排的模子为蒸馏当时的 DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理才能,经由过程蒸馏技巧将推理形式迁徙到了较小的 Qwen 模子上。同时,阿里云 PAI Model Gallery 也供给 DeepSeek-R1、DeepSeek-V3 原始模子的一键安排。据IT之家此前报道,Gitee AI 结合沐曦首发全套 DeepSeek R1 千问蒸馏模子,支撑全收费休会。秘塔 AI 秘塔 AI 已官宣接入满血版 DeepSeek R1 推理模子。别的,DeepSeek-R1 年夜模子登岸腾讯云,声称“一键安排、3 分钟挪用”