当前位置：首页 > news >正文

利用Ollama部署DeepSeek模型

news 来源：原创 2025/8/20 22:58:57

利用Ollama部署DeepSeek模型

最近，DeepSeek作为一款高效的推理模型受到了广泛关注，但在使用网页版过程中，总是遇到服务器繁忙，因此尝试在本地部署DeepSeek来使用。

一、Ollama安装指南

Ollama是一个开源的AI大模型部署工具，专注于简化大语言模型的部署和使用，支持一键下载和运行各种大模型。在开始使用Ollama之前，首先需要完成Ollama平台的安装，下面是具体的安装步骤：

访问官方网站
打开浏览器，前往Ollama的官方网站 https://ollama.com/。

在这里插入图片描述

下载安装包
根据你的操作系统（Windows、macOS或Linux），选择并下载相应的安装包。
运行安装程序
下载完成后，双击运行安装包，按照提示完成安装。
验证安装
安装完成后，打开命令行终端（Windows用户可以按 Win + R 输入 cmd 打开命令行窗口），输入 ollama 命令。如果系统成功返回Ollama版本信息，则说明安装成功。

示例命令行输出如下：

C:\用户\用户名>ollama
Usage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any command

在这里插入图片描述

二、DeepSeek模型概述

DeepSeek是一款高效的推理模型，通过知识蒸馏技术将大型深度学习模型的推理能力压缩至更小的模型中，既提升了推理性能，又减少了计算资源的消耗。DeepSeek通过对多个主流密集型模型的微调，在多个基准测试中表现出色，适用于多种应用场景。

与传统的大型模型相比，DeepSeek保留了大规模模型的推理能力，并通过强化学习（RL）进一步优化了小模型的推理模式。这样，小模型不仅保留了大模型的推理效果，还能够在推理速度和准确度上取得显著优势，尤其适合资源有限的环境。

核心优势

DeepSeek的核心优势在于其通过蒸馏技术将复杂的推理模式迁移到小模型中，解决了大模型计算资源需求过大的问题，具体优势如下：

推理速度提升： 小模型在保持推理能力的同时，大幅提高推理速度。
计算资源优化： 相较于大型模型，小型模型的计算资源消耗显著降低，适合部署在边缘设备或资源有限的环境中。
高效训练方法： 结合强化学习，DeepSeek优化了小模型的推理模式，避免了传统小模型在训练中常见的精度损失问题。

关键参数对比

DeepSeek-R1系列提供了多个版本，每个版本的规模、性能和硬件要求有所不同。以下是各版本的简要对比：

1.5B、7B、8B版本：
适用于轻量级任务，如本地智能问答系统、基础AI助手应用，适合消费级GPU（如RTX 3090、4090）。
14B、32B版本：
适用于复杂推理任务，如代码自动补全、高级数据分析等，建议使用高端GPU（如NVIDIA A100、H100等）。
70B、671B版本：
适用于高级科研数据分析和大规模数据挖掘，需在大规模云端计算环境中运行，通常需要专门的高性能计算集群。

三、部署DeepSeek模型

在Ollama平台上部署DeepSeek模型可以先打开安装Ollama时候所用的官网，然后左上角有Models，点击进入后就可以找到相关模型。

打开官网：

在这里插入图片描述

点击Models查找相关模型：

在这里插入图片描述

点击 DeepSeek-r1 查看模型部署步骤：

根据任务需求，选择合适的版本并复制运行命令到本地命令行即可自动开始部署(不同版本的差别可以看第二部分介绍)

为了方便查看，以下是从网页上获取到的相关运行命令。更详细的内容可以从官网查看：

DeepSeek-R1-Distill-Qwen-1.5B：
```
ollama run deepseek-r1:1.5b
```
DeepSeek-R1-Distill-Qwen-7B：
```
ollama run deepseek-r1:7b
```
DeepSeek-R1-Distill-Llama-8B：
```
ollama run deepseek-r1:8b
```
DeepSeek-R1-Distill-Qwen-14B：
```
ollama run deepseek-r1:14b
```
DeepSeek-R1-Distill-Qwen-32B：
```
ollama run deepseek-r1:32b
```
DeepSeek-R1-Distill-Llama-70B：
```
ollama run deepseek-r1:70b
```

运行这些命令后，Ollama会自动从远程服务器下载并部署所选的DeepSeek模型到本地。下载完成后，模型将在本地环境中启动。你可以通过命令行查看部署状态并开始使用。

在这里插入图片描述

交互演示

例如，在启动模型后，输入“你好”进行对话，模型会返回相应的回答。输入/bye可以结束对话。如果想再次启动对话，可以先用ollama list查看已部署的模型名称，再使用ollama run [模型名]来启动。

在这里插入图片描述

四、Ollama常用命令

通过Ollama平台部署DeepSeek模型，不仅能够简化部署过程，还能显著提升推理效率和准确性。以下是一些常用的Ollama命令，帮助你更好地管理和使用模型：

启动Ollama服务
```
ollama serve
```
从模型文件创建模型
```
ollama create
```
显示模型信息
```
ollama show
```
运行模型
```
ollama run <模型名称>
```
运行指定的模型，如：ollama run deepseek-r1:8b。
从注册表中拉取模型
```
ollama pull <模型名称>
```
列出所有模型
```
ollama list
```
复制模型
```
ollama cp
```
删除模型
```
ollama rm <模型名称>
```
获取Ollama命令帮助
```
ollama help
```

本文介绍了如何利用Ollama快速、方便地部署DeepSeek模型。通过这种方式，可以在本地使用DeepSeek，至于和网页版区别，还没有更深入的对比研究，目前是尝试部署并且在本地可以用，其余功能还未探索。

以上为个人观点，仅供参考。

利用Ollama部署DeepSeek模型

利用Ollama部署DeepSeek模型最近，DeepSeek作为一款高效的推理模型受到了广泛关注，但在使用网页版过程中，总是遇到服务器繁忙，因此尝试在本地部署DeepSeek来使用。一、Ollama安装指南 Ollama是一个开源的AI大模型部署工具&…...

编程日记 2025/8/20 22:58:57

数字孪生储能充电站，实现智慧能源设施全景管控

图扑将储能充电站的电池组、充电桩、配电系统等设备进行数字孪生，通过实时接入充放电数据、设备状态及能耗信息，以三维可视化界面直观呈现储能动态、电力调度与运维场景，助力运营方优化资源配置、预判设备故障，推动储能充电设施高…...

编程日记 2025/8/20 22:49:16

MCP服务发展现状的有趣发现

MCP服务发展现状的有趣发现当前，MCP（Model Context Protocol）在AI领域逐渐成为一个热门话题。其核心意义在于赋予大模型直接调用外部工具的能力，从而打破“数据孤岛”，实现真正的工具增强型AI。然而，在深…...

编程日记 2025/8/19 7:25:56

aws平台windows虚拟机扩容

收到aws平台windows虚拟机扩容磁盘的请求登陆aws平台ec2找的对应的虚拟机进入实例详情然后点击存储点击进入卷然后远程登陆这台虚拟机在运行对话框中，输入 diskmgmt.msc 并按 Enter。然后，磁盘管理实例程序随之打开在 Disk Management 菜单上&am…...

编程日记 2025/8/19 21:15:12

QuecPython+Aws:快速连接亚马逊 IoT 平台

提供一个可接入亚马逊 Iot 平台的客户端，用于管理亚马逊 MQTT 连接和影子设备。初始化客户端 Aws class Aws(client_id,server,port,keep_alive,ssl,ssl_params)参数： client_id (str) - 客户端唯一标识。server (str) - 亚马逊 Iot 平台服务器地址…...

编程日记 2025/8/18 13:05:54

从创业踩雷到依法解债：湖北理元理律师事务所的危机拆解逻辑

“本以为最坏结果是创业失败，没想到差点毁了家庭。”34岁的武汉宝妈李婷（化名）在咖啡厅里翻着厚厚的案件材料。因参与朋友奶茶店项目，她在网贷平台借款28万，却因合同漏洞陷入债务旋涡。本文将拆解专业机构处理此类案件…...

编程日记 2025/8/20 13:23:51

1、Kafka与消息队列核心原理详解

消息队列（Message Queue, MQ）作为现代分布式系统的基础组件，极大提升了系统的解耦、异步处理和削峰能力。本文以Kafka为例，系统梳理消息队列的核心原理、架构细节及实际应用。 Kafka 基础架构及术语关系图术语简要说明 Produce…...

编程日记 2025/8/18 12:35:59

【Linux系统】线程安全

线程安全和重入问题概念线程安全：多个线程在访问共享资源时，能够正确地执行，不会相互干扰或破坏彼此的执行结果。一般而言，多个线程并发同一段只有局部变量的代码时，不会出现不同的结果。但是对全局变量或者静态变…...

编程日记 2025/8/19 22:11:17

什么是gitlab自动部署，怎么配置gitlab自动部署

在现代软件开发流程中，自动化部署是提高效率和确保软件质量的关键环节。GitLab作为一个强大的DevOps平台，提供了完整的自动部署工具，帮助开发团队实现代码从编写到生产的无缝转换。本文将详细解析GitLab的自动部署功能是什么，如何进行操作，以及这一功能的实用性评估，帮助…...

编程日记 2025/8/18 13:05:46

Android开发-工程结构

在进行Android应用开发时，了解并掌握项目的工程结构是非常重要的一步。一个典型的Android项目由多个模块组成，每个模块又包含不同的目录和文件，它们各自承担着特定的功能。本文将带你深入了解Android Studio生成的默认项目结构，并…...

编程日记 2025/8/18 13:05:44

典籍知识问答模块AI问答功能feedbackBug修改+添加对话名称修改功能

1.feedbackBug修改由于原先定为enum类型，导致无法正常评价，一直报错Data truncated for column feedback at row 1，将其修改为varchar类型，而类型选择在代码中实现 QAService代码修改后如下： 2.添加对话名称修改功…...

编程日记 2025/8/18 13:05:42

极狐Gitlab 里程碑功能介绍

极狐GitLab 是 GitLab 在中国的发行版，关于中文参考文档和资料有： 极狐GitLab 中文文档极狐GitLab 中文论坛极狐GitLab 官网里程碑 (BASIC ALL) 极狐GitLab 中的里程碑是一种跟踪议题和合并请求的方法，这些请求是为了在特定时间段内实现更…...

编程日记 2025/8/18 13:05:40

信奥赛CSP-J复赛集训（DP专题）（37）：P4170 [CQOI2007] 涂色

信奥赛CSP-J复赛集训（DP专题）（37）：P4170 [CQOI2007] 涂色题目描述假设你有一条长度为 5 5 5 的木板，初始时没有涂过任何颜色。你希望把它的 5 5 5 个单位长度分别涂上红、绿、蓝、绿、红色&#xff0c…...

编程日记 2025/8/18 13:05:37

代码随想录算法训练营第五十六天| 图论2—卡码网99. 岛屿数量（dfs bfs）

假期归来继续刷题，图论第二天，主要是进一步熟悉dfs 和 bfs 的运用。 99. 岛屿数量（dfs） 99. 岛屿数量 ACM模式还是需要练，不过现在输入输出的感觉已经比较熟悉了。首先是要按照输入搭建一个grid，然后有一…...

编程日记 2025/8/20 7:35:29

iOS开发架构——MVC、MVP和MVVM对比

文章目录前言MVC（Model - View - Controller）MVP（Model - View - Presenter）MVVM（Model - View - ViewModel） 前言在 iOS 开发中，MVC、MVVM、和 MVP 是常见的三种架构模式，它们主…...

编程日记 2025/8/20 20:17:53

文章目录 5. pretty6. matterIt does not matter ...7. stage8. draw... draw attention ...5. pretty 23个大满贯单打冠军，传奇网球运动员 WIlliams 曾经说过： I’ve always been pretty confident in my abilities. 翻译：我一直对自己的能力很有信心。分析：在本句中，“…...

编程日记 2025/8/18 13:05:32

精益数据分析（44/126）：深度解析媒体网站商业模式的关键要点

精益数据分析（44/126）：深度解析媒体网站商业模式的关键要点在创业与数据分析的探索道路上，我们不断挖掘不同商业模式的核心要素，今天将深入剖析媒体网站商业模式。希望通过对《精益数据分析》相关内容的解读&#xf…...

编程日记 2025/8/18 13:05:30

【回眸】QAC使用指南——导出 Dashboard Report个性化定制Report

前言按错误级别导出Dashboard的报告导出Dashboard个性化定制报告添加个性化设计导出个性化报告（HTML/PDF/XML） 过滤级别错误后记前言 QAC除了导出常规的报告之外，还可以导出Dashboard的报告（XML格式或者PDF格式&…...

编程日记 2025/8/20 12:24:29

高铁座位指示灯系统技术深度解析：从物联网到智慧出行的实践路径

摘要高铁座位指示灯系统作为铁路数字化转型的核心场景，通过物联网、实时数据同步等技术，实现了客票系统与列车座位状态的动态联动。本文结合权威技术文档与现场实践，从系统架构、数据交互、工程实现等维度展开深度解析，并探讨其…...

编程日记 2025/8/19 15:12:33

ReSearch：强化学习赋能大模型，推理与搜索的创新融合

ReSearch：强化学习赋能大模型，推理与搜索的创新融合大语言模型（LLMs）的推理能力不断提升，却在与外部搜索结合处理复杂问题时遇阻。本文提出的ReSearch框架，借助强化学习让LLMs学会将搜索融入推理&#xf…...

编程日记 2025/8/19 22:59:09

python的selenium操控浏览器

咱们以操控谷歌浏览器为例子各系统谷歌浏览器及其工具最新版本下载地址 Chrome for Testing availability 查看谷歌浏览器版本设置->关于Chrome->查看当前谷歌浏览器版本下载与谷歌浏览器版本对应的chromedriver 注意：与谷歌浏览器版本一模一样的不一定…...

编程日记 2025/8/19 12:26:56

1、PLC控制面板 - /自动化与控制组件/plc-control-panel

76个工业组件库示例汇总 PLC控制系统监控面板这是一个用于PLC控制系统监控面板的自定义组件，提供了PLC编程与自动化控制逻辑设计的可视化监控界面。组件采用工业风格设计，包含实时数据展示、系统状态监控、控制功能以及报警和日志记录等功能。功能特…...

编程日记 2025/8/18 14:47:06

LeetCode 热题 100 279. 完全平方数

LeetCode 热题 100 | 279. 完全平方数大家好，今天我们来解决一道经典的动态规划问题——完全平方数。这道题在 LeetCode 上被标记为中等难度，要求找到和为给定整数 n 的完全平方数的最少数量。问题描述给定一个整数 n，返回和为 n 的完全…...

编程日记 2025/8/18 10:11:17

USB学习【2】通讯的基础-反向不归零编码

一.写在前面所有的通讯协议，发送端和接收端必须按照同一节奏发送信号和接受信号才能保证通讯的正常进行，否则会出现错位。这个节奏用我自己的话说：时间卡尺。串口协议是通过约定好波特率来进行解析信号。IIC是专门有一个时钟线作为时间卡…...

编程日记 2025/8/18 13:05:22

Polygon Miden网络：具有客户端执行的边缘区块链

1. 引言 LambdaClass与Miden已合作超过18个月，这段合作关系始于帮助 Miden 开发客户端，为 Miden 网络提供交易执行和证明的支持。随着时间推移，双方的合作不断加深，工作也扩展到了协议和节点的开发上，涵盖了多个方面。…...

编程日记 2025/8/18 13:05:20

临床智能体AI与环境感知AI的融合：基于python的医疗自然语言处理深度分析

引言医疗领域的数智化进程正以前所未有的速度推进，人工智能技术的应用尤为显著。随着大型语言模型（LLMs）的迅猛发展，医疗AI已从简单的辅助工具升级为复杂的智能体系统。临床智能体AI与环境感知AI的融合代表了医疗AI的最新发展方向，为重塑医疗运营自然语言处理提供了全新…...

编程日记 2025/8/20 4:20:59

Spring AI Alibaba-03- Spring AI + DeepSeek-R1 + ES/Milvus + RAG 智能对话应用开发全流程

Spring AI Alibaba-03- Spring AI DeepSeek-R1 ES/Milvus RAG 智能对话应用开发全流程在[人工智能]（AI）应用中，模型通常需要访问外部资源或执行特定操作，例如数据库查询、调用外部API或执行计算任务。Spring AI，作…...

编程日记 2025/8/20 1:47:42

20250506异形拼图块（圆形、三角、正方，椭圆/半圆）的中2班幼儿偏好性测试（HTML）

背景介绍最近在写一份工具运用报告，关于剪纸难度的。所以设计了蝴蝶描边系列和异形凹凸角拼图。【教学类-102-20】蝴蝶三色图作品2——卡纸蝴蝶“满格变形图”（滴颜料按压对称花纹、原图切边后变形放大到A4横版最大化）-CSDN博客文章浏览阅读609次，点赞8次，收藏3次。【…...

编程日记 2025/8/18 13:05:15

Edge浏览器PDF字体显示错误

Edge浏览器PDF字体显示错误软件版本信息 Edge Version: 136.0.3240.50 Word Version: Microsoft Office 专业增强版2021问题描述在Word中使用多级列表自动编号, 并使用Word软件自带的导出为PDF文件功能, 在Word中显示正常的数字, 在Edge中查看PDF将会出现渲染错误的现象,…...

编程日记 2025/8/17 8:55:21

git中android studio不想提交文件

修改.gitignore文件 *.iml .gradle /local.properties /.idea/caches /.idea/libraries /.idea/modules.xml /.idea/workspace.xml /.idea/navEditor.xml /.idea/assetWizardSettings.xml /.idea/* /app/* .DS_Store /build /captures .externalNativeBuild .cxx local.propert…...

编程日记 2025/8/20 15:49:18

利用Ollama部署DeepSeek模型

一、Ollama安装指南

二、DeepSeek模型概述

核心优势

关键参数对比

三、部署DeepSeek模型

交互演示

四、Ollama常用命令

相关文章：