当前位置：首页 > news >正文

DeepSeek与llama本地部署(含WebUI)

news 来源：原创 2025/5/9 12:48:50

DeepSeek从2025年1月起开始火爆，成为全球最炙手可热的大模型，各大媒体争相报道。我们可以和文心一言一样去官网进行DeepSeek的使用，那如果有读者希望将大模型部署在本地应该怎么做呢？本篇文章将会教你如何在本地傻瓜式的部署我们的deepseek，即便你是文科生也可以做到，不会涉及代码编程，只需要一些命令。

我笔记本：2019款拯救者，windows 10；内存8G，CPU：intel 9th i5；GPU：NVIDIA 1650 4G，256G固态+1T机械硬盘。其实只要你电脑系统是在windows 10及以上，且具有8G内存和30GB可用空间就基本可以部署最小版本的DeepSeek R1大模型和LLama3.2大模型。

相关的资源可以从我的百度网盘下载，当然也可以从各官网去下载，只不过会慢一些。

链接: https://pan.baidu.com/s/15H48zFG394P23b7wM2nTXA

提取码: iipt

本地部署DeepSeek和llama

本节将详细介绍如果通过Ollama和Open WebUI在本地计算机环境中部署DeepSeek R1和LLama 3.2大模型。

1.安装Ollama

Ollama是一个开源的本地化大模型部署工具，旨在简化大型语言模型（LLM）的安装、运行和管理。它支持多种模型架构，并提供与OpenAI兼容的API接口，适合开发者和企业快速搭建私有化AI服务。

Ollama官方网址：https://ollama.com/

点进去以后界面如下，然后点击Download。

我们这里选择Windows版本，所以选择Windows，然后点击Download for Windows，这里有时候会让你登录注册后才可以下载，有些同学从这里下载会很慢，因此还是推荐从我的百度网盘下载。

下载完成以后，双击安装包文件“OllamaSetup.exe”完成安装。

注意：这里默认安装为C盘。

1.1更改大模型下载位置

这一步并不是必须的，如果你C盘位置足够可以不用管。如果你希望更改其他位置可以看这一部分。

安装完毕后，如何检验Ollama是否安装完毕呢？方法很简单，按键盘上的windows键+R键，然后输入cmd并确定，如下：

紧接着在跳出的窗口输入以下命令： ollama --version 当我们可以看到打印的ollama版本就说明安装成功了。

后续下载的各类大模型也均存储在C盘，因此如果你希望把大模型放在其他盘，例如我这里是F盘，操作如下：

我是在F盘新建了一个ollama的文件夹。如下：

下载的各类大模型一般默认位置为：C:/User/你的用户名/.ollama/models/

然后将上述models整个文件夹剪切到你自己新建的文件中，我这里是F:/ollama/models，如下：

到了这还没有完，我们还需要修改环境变量，便于让后续的Ollama自动找到我们的大模型。

右键“此电脑”：

然后点击属性，点击高级系统设置。

在系统属性窗口，点击高级-->环境变量。

在跳出来的环境变量窗口用户变量中点击新建。

输入以下内容：

变量值为你存储大模型的位置，根据自己的实际位置进行修改。

2.下载DeepSeek R1大模型

我这里仅以DeepSeek R1大模型为例，其他大模型例如LLama也是一样的操作。

模型下载地址：https://ollama.com/library/，该地址进去后有各类大模型。

但这里给一个更方便的下载方法，让Ollama为我们自己下载。

因为我这里的显存比较小，因此我选择下载的是deepseel-R1，llama3.2也可以带起来。

只需要在cmd中输入ollama run deepseek-r1:1.5b命令即可下载或运行。(如果之前没有下载会自动下载，如果已经下载过了，输入该命令后会自动运行大模型)，这里的下载速度取决你的网速的和模型大小。

安装成果后你就可以和deepseek对话了，如下，关闭窗口就退出模型了：

如果你要查看你下载了哪些大模型，命令如下：

ollama list

3.安装Open-WebUI

上述的方法使用大模型是不是感觉太Low了，不像GPT或者文心一言有一个网页的交互界面，因此也有前人为我们造好了轮子，我们直接拿来用就行，这个框架框架就是Open-WebUI。

但是安装此框架之前需要你电脑上安装好python3.12，注意要3.12版本！太低不兼容，也不建太新的，咱们就按官方推荐的来。

然后在cmd中输入以下命令：

pip install open-webui -i https://pypi.tuna.tsinghua.edu.cn/simple

注意：这里的安装的时间可能会比较长，如果长时间不动或者卡住，可尝试按一下回车键。

安装完成后，同样在cmd中输入open-webui serve命令开启我们的UI界面,看到下面界面并不意味着已经完全启动成功，咱们还需要继续等待。

直到出现以下类似的信息后，才说明启动成功。

接下来就是见证奇迹的时刻！！！打开你的浏览器，输入网址：

http:/localhost:8080

注意：第一次登录的时候，需要你自己先注册到本地一个管理员账户。

如果你想切换大模型，可以点击下面的选项。

接下来你就可以实现对话啦~~~

注意：默认大模型是离线的，也就是不接入互联网。如果你希望联网，那么你可以进行如下设置：

点击左下角的账户，然后点击设置，找到如下设置，也可以用其他的搜索引擎，但需要API。

但是尝试了一下deepseek r1，感觉效果很一般，更大参数的模型效果会好一些。

相关文章：

DeepSeek与llama本地部署(含WebUI)

DeepSeek从2025年1月起开始火爆，成为全球最炙手可热的大模型，各大媒体争相报道。我们可以和文心一言一样去官网进行DeepSeek的使用，那如果有读者希望将大模型部署在本地应该怎么做呢？本篇文章将会教你如何在本地傻瓜式的部署我们的…...

编程日记 2025/5/9 12:48:50

leetcode_双指针 557. 反转字符串中的单词 III

557. 反转字符串中的单词 III 给定一个字符串 s ，你需要反转字符串中每个单词的字符顺序，同时仍保留空格和单词的初始顺序。思路: 1.首先用split()切割字符串中用空格分隔的单词2.用切片法反转每个单词3.用join()把反转后的单词用空格连接 class Solu…...

编程日记 2025/5/9 12:14:51

Python用langchain、OpenAI大语言模型LLM情感分析苹果股票新闻数据及提示工程优化应用...

全文链接：https://tecdat.cn/?p39614 本文主要探讨了如何利用大语言模型（LLMs）进行股票分析。通过使用提供的股票市场和金融新闻获取数据，结合Python中的相关库，如Pandas、langchain等，实现对股票新闻的情…...

编程日记 2025/5/5 0:10:53

通过多层混合MTL结构提升股票市场预测的准确性，R²最高为0.98

“Boosting the Accuracy of Stock Market Prediction via Multi-Layer Hybrid MTL Structure” 论文地址：https://arxiv.org/pdf/2501.09760 摘要本研究引入了一种创新的多层次混合多任务学习架构，致力于提升股市预测的效能。此架构融…...

编程日记 2025/5/7 1:46:48

#渗透测试#批量漏洞挖掘#微商城系统 goods SQL注入漏洞

免责声明本教程仅为合法的教学目的而准备，严禁用于任何形式的违法犯罪活动及其他商业行为，在使用本教程前，您应确保该行为符合当地的法律法规，继续阅读即表示您需自行承担所有操作的后果，如有异议，请立即停止本文章读。目录一、漏洞概述二、漏洞复现步骤三、技术…...

编程日记 2025/5/5 2:56:17

python Excel 表读取合并单元格以及清除空格符

读取合并单元格并保留合并信息读取合并单元格并保留合并信息清除各单元格的空格和换行符，并去除列名中的空格和换行符读取合并单元格并保留合并信息当我们只是使用 pandas 的 read_excel 方法读取 Excel 文件时，我们可能会遇到一个很棘手的问题&…...

编程日记 2025/5/9 12:20:08

jakarta EE学习笔记-个人笔记

WebServlet注解：声明一个类为Servlet Target({ElementType.TYPE}) Retention(RetentionPolicy.RUNTIME) Documented public interface WebServlet {// 指定Servlet的影子String name() default ""; // 匹配地址映射(URL)String[] value() default {};// …...

编程日记 2025/5/9 12:43:49

TCP服务器与客户端搭建

一、思维导图二、给代码添加链表【server.c】 #include <stdio.h> #include <sys/socket.h> #include <sys/types.h> #include <fcntl.h> #include <arpa/inet.h> #include <unistd.h> #include <stdlib.h> #include <string.…...

编程日记 2025/5/8 4:45:58

回退 android studio emulator 的版本

前情提要最近用 frida 需要一个完全跑 arm64 的手机 os，因为雷电实时转义 arm 到 x64 的方案本质上还是 x64，会导致 frida 有 bug。查了一下有帖子说 android studio 自带的模拟器支持直接跑 arm64 的镜像 (Other Images) 直接跑跑不通，调…...

编程日记 2025/5/1 16:50:23

Oracle CDB自动处理表空间不足脚本

之前我曾经发过一个自动处理表空间的脚本，可以通过定时任务自动处理表空间不足的问题；但是之前那个脚本没有涵盖CDB模式下的PDB，这里将脚本做了一下更新，可以处理CDB模式下多PDB的表空间问题。传统模式的脚本请参考这个链接 Or…...

编程日记 2025/5/6 0:55:22

ES6 迭代器 (`Iterator`)使用总结

Iterator（迭代器）是 ES6 引入的一种接口，用于顺序访问可迭代对象（Array、Set、Map、String、arguments、自定义对象等）。 Iterator（迭代器）的作用有三个： 为各种数据结构提供一个…...

编程日记 2025/5/4 21:46:54

赛博算命之 ”梅花易数“ 的 “JAVA“ 实现 ——从玄学到科学的探索

hello~朋友们！好久不见！ 今天给大家带来赛博算命第三期——梅花易数的java实现赛博算命系列文章： 周易六十四卦掐指一算——小六壬更多优质文章：个人主页 JAVA系列：JAVA 大佬们互三哦~互三必回！&#xf…...

编程日记 2025/5/9 12:46:49

MongoDB开发规范

分级名称定义P0核心系统需7*24不间断运行，一旦发生不可用，会直接影响核心业务的连续性，或影响公司名誉、品牌、集团战略、营销计划等，可能会造成P0-P2级事故发生。P1次核心系统这些系统降级或不可用，会间接影响用户使用…...

编程日记 2025/5/9 12:08:42

让相机自己决定拍哪儿！——NeRF 三维重建的主动探索之路

我在 NeRF 中折腾自动探索式三维重建的心得写在前面： 最近我在研究三维重建方向，深切感受到 NeRF (Neural Radiance Fields) 在学术界和工业界都备受瞩目。以往三维重建通常要依赖繁琐的多视图几何管线（比如特征匹配、深度估计、网格融合等&…...

编程日记 2025/5/8 14:31:41

git reset和git revert的区别

git reset和git revert都是实现撤销的命令。 git reset是通过回退提交记录来实现撤销，原来指向的记录就像没提交过一样。 git revert是用于远程分支。执行后会产生一个新提交记录，而新提交的记录跟上一级的内容是相同的。 #恢复到当前上一级记录, 其中 …...

编程日记 2025/5/9 12:29:27

免费windows pdf编辑工具Epdf

Epdf（完全免费） 作者：不染心时间：2025/2/6 Github: https://github.com/dog-tired/Epdf Epdf Epdf 是一款使用 Rust 编写的 PDF 编辑器，目前仍在开发中。它提供了一系列实用的命令行选项，方便用户对 PDF …...

编程日记 2025/5/4 11:25:03

11.PPT：世界动物日【25】

目录 NO12 NO34 NO56 NO789视频音频 NO10/11/12 NO12 设计→幻灯片大小→ →全屏显示（16：9）确定调整标题占位符置于图片右侧：内容占位符与标题占位符左对齐单击右键“世界动物日1”→复制版式→大小→对齐幻灯片大小…...

编程日记 2025/5/6 19:58:46

计算机网络的组成，功能

目录编辑什么是计算机网络？ 一个最简单的计算机网络集线器（Hub）： 交换机（Switch） 路由器（router） 互联网计算机网络的组成：从组成部分看硬件软件协议…...

编程日记 2025/5/4 15:43:28

LabVIEW铅酸蓄电池测试系统

本文介绍了基于LabVIEW的通用飞机铅酸蓄电池测试系统的设计与实现。系统通过模块化设计，利用多点传感器采集与高效的数据处理技术，显著提高了蓄电池测试的准确性和效率。项目背景随着通用航空的快速发展，对飞机铅酸蓄电池的测试需求也…...

编程日记 2025/5/1 21:46:28

Vue3+codemirror6实现公式（规则）编辑器

实现截图实现/带实现功能插入标签插入公式提示补全公式验证公式计算需要的依赖 "codemirror/autocomplete": "^6.18.4","codemirror/lang-javascript": "^6.2.2","codemirror/state": "^6.5.2","cod…...

编程日记 2025/5/9 12:43:49

Mac M1 ComfyUI 中 AnyText插件安装问题汇总？

Q1：NameError: name ‘PreTrainedTokenizer’ is not defined ? 该项目最近更新日期为2024年12月，该时间段的transformers 版本由PyPI 上的 transformers 页面可知为4.47.1. A1: transformers 版本不满足要求，必须降级transformors &#…...

编程日记 2025/5/6 10:24:35

Github 2025-02-01 开源项目月报 Top20

根据Github Trendings的统计，本月(2025-02-01统计)共有20个项目上榜。根据开发语言中项目的数量，汇总情况如下：开发语言项目数量Python项目8TypeScript项目3Jupyter Notebook项目2Rust项目2HTML项目2C++项目1Ruby项目1JavaScript项目1Svelte项目1非开发语言项目1Go项目1Oll…...

编程日记 2025/5/6 1:27:14

k8s部署go-fastdfs

前置环境：已部署k8s集群，ip地址为 192.168.10.1~192.168.10.5，总共5台机器。 1. 创建provisioner制备器（如果已存在，则不需要）制备器的具体部署方式可参考我的上一篇文章： k8s部署rabbitmq-CSDN博客文章浏览阅读254次，点赞3次，收藏5次。k8s部署rabbitmqhttps://blo…...

编程日记 2025/5/9 7:49:56

快速优雅解决webview_flutter不能Safari调试的问题

这个问题，网上一搜，又是让你去检索WKWebView，找到FWFWebViewHostApi.m文件，然后再改 iOS 的代码， 加一行 self.inspectable YES; 我们开发Flutter项目，尽量还是不要去改插件里的代码，好了不费…...

编程日记 2025/5/9 8:20:58

Linux——基础命令1

$：普通用户 #：超级用户 cd 切换目录 cd 目录 （进入目录） cd ../ （返回上一级目录） cd ~ （切换到当前用户的家目录） cd - （返回上次目录） pwd 输出当前目录…...

编程日记 2025/5/9 5:16:41

区块链技术：Facebook 重塑社交媒体信任的新篇章

在这个信息爆炸的时代，社交媒体已经成为我们生活中不可或缺的一部分。然而，随着社交平台的快速发展，隐私泄露、数据滥用和虚假信息等问题也日益凸显。这些问题的核心在于传统社交媒体依赖于中心化服务器存储和管理用户数据，这种模…...

编程日记 2025/5/7 9:52:45

268. 丢失的数字

文章目录 1.题目2.思路3.代码 1.题目 268. 丢失的数字给定一个包含 [0, n] 中 n 个数的数组 nums ，找出 [0, n] 这个范围内没有出现在数组中的那个数。示例 1： **输入：**nums [3,0,1] **输出：**2 解释：n 3&a…...

编程日记 2025/5/4 23:37:26

机器学习-关于线性回归的表示方式和矩阵的基本运算规则

最近在学习机器学习的过程中，发现关于线性回归的表示和矩阵的运算容易费解，而且随着学习的深入容易搞混，因此特意做了一些研究，并且记录下来和大家分享。一、线性模型有哪些表示方式？ 器学习中，线性模型…...

编程日记 2025/5/5 3:28:26

el-table表格点击单元格实现编辑

使用 el-table 和 el-table-column 创建表格。在单元格的默认插槽中，使用 div 显示文本内容，单击时触发编辑功能。使用 el-input 组件在单元格中显示编辑框。data() 方法中定义了 tableData，tabClickIndex: null,tabClickLabel: ,用于判断是否…...

编程日记 2025/5/5 6:08:51

10分钟带你了解前端Vue Router

作者：CSDN-PleaSure乐事欢迎大家阅读我的博客希望大家喜欢使用环境：WebStorm 目录一、Vue Router 的基本概念 1.1 什么是 Vue Router？ 1.2 Vue Router 的核心功能二、Vue Router 的原理 2.1 路由模式 2.1.1 Hash 模式 2.1.2 Histo…...

编程日记 2025/5/6 1:55:21

maven如何分析指定jar包的依赖路径

在Maven项目中，分析指定JAR包的依赖路径是非常有用的，尤其是在解决依赖冲突时。Maven提供了一个命令行工具来帮助查看特定依赖的传递性依赖（即依赖路径）。以下是具体步骤： 使用 mvn dependency:tree 命令打开命令行或…...

编程日记 2025/5/3 23:03:40

react的antd中Cascader级联选择如何回显

如果你的数据都是这个样子的 {"id": 1015,"pid": 0,"name": "电力、热力、燃气及水生产和供应业","children": [{"id": 1403,"pid": 1015,"name": "热力",},{"id": 140…...

编程日记 2025/5/5 23:56:24

工业物联网平台-视频识别视频报警新功能正式上线

前言视频监控作为中服云工业物联网平台4.0的功能已经上线运行。已为客户服务2年有余，为客户提供多路视频、实时在线监视和控制能力。服务客户实时发现现场、产线、设备出现随机故障、事故等，及时到场处理维修。视频识别&视频报警新功能当前正式上…...

编程日记 2025/5/8 20:06:58

【HarmonyOS NEXT】systemDateTime 时间戳转换为时间格式 Date，DateTimeFormat

【HarmonyOS NEXT】systemDateTime 时间戳转换为时间格式 Date，DateTimeFormat 一、前言在鸿蒙应用开发中，经常需要将时间戳转化为标准时间格式。即：一串数字转化为年月日时分秒。时间戳通常是一个长整型的数字，如 163041600…...

编程日记 2025/5/9 11:23:55

React 设计模式：实用指南

React 提供了众多出色的特性以及丰富的设计模式，用于简化开发流程。开发者能够借助 React 组件设计模式，降低开发时间以及编码的工作量。此外，这些模式让 React 开发者能够构建出成果更显著、性能更优越的各类应用程序。本文将会为您介绍五…...

编程日记 2025/5/3 19:08:27

在rtthread中，scons构建时，它是怎么知道是从rtconfig.h找宏定义,而不是从其他头文件找？

在rtthread源码中，每一个bsp芯片板级目录下都有一个 SConstruct scons构建脚本的入口， 在这里把rtthread tools/目录下的所有模块都添加到了系统路径中： 在tools下所有模块中，最重要的是building.py模块，在此脚本里面…...

编程日记 2025/5/9 12:02:25

寒假2.6--SQL注入之布尔盲注

知识点原理：通过发送不同的SQL查询来观察应用程序的响应，进而判断查询的真假，并逐步推断出有用的信息适用情况：一个界面存在注入，但是没有显示位，没有SQL语句执行错误信息，通常用于在无法直接…...

编程日记 2025/5/9 11:22:54

嵌入式面试题 C/C++常见面试题整理_7

一.什么函数不能声明为虚函数? 常见的不能声明为虚函数的有:普通函数(非成员函数):静态成员函数;内联成员函数;构造函数;友元函数。 1.为什么C不支持普通函数为虚函数?普通函数(非成员函数)只能被overload，不能被override，声明为虚函数也没有什么意思…...

编程日记 2025/5/7 9:20:20

说一下 Tcp 粘包是怎么产生的？

TCP 粘包是什么？ TCP 粘包（TCP Packet Merging） 是指多个小的数据包在 TCP 传输过程中被合并在一起，接收方读取时无法正确分辨数据边界，导致数据解析错误。 TCP 是流式协议，没有数据包的概念，…...

编程日记 2025/5/4 7:19:37

基于STM32设计的仓库环境监测与预警系统

目录项目开发背景设计实现的功能项目硬件模块组成设计思路系统功能总结使用的模块的技术详情介绍总结 1. 项目开发背景随着工业化和现代化的进程，尤其是在制造业、食品业、医药业等行业，仓库环境的监控和管理成为了至关重要的一环。尤其是在存储易腐…...

编程日记 2025/5/9 11:47:50

在uniapp中修改打包路径

在uniapp中修改打包路径，主要涉及到对manifest.json文件的编辑。以下是详细的步骤： 1. 确定当前uniapp项目的打包配置位置 uniapp项目的打包配置通常位于项目的根目录下的manifest.json文件中。这个文件包含了项目的全局配置信息，包括应用的…...

编程日记 2025/5/9 11:01:33

Kali Linux 渗透测试环境配置（Metasploit + Burp Suite）

一、Kali Linux 系统准备首先，确保你已经成功安装了 Kali Linux 系统。可以从官方网站下载镜像文件，并通过 U 盘引导安装等常规方式完成系统部署。建议使用最新稳定版本，以获取最新的软件包支持和安全更新。安装完成后，登录系…...

编程日记 2025/5/7 9:07:17

Oracle 变更redo log文件位置

更改Oracle数据库的Redo log文件位置，可以按照以下步骤操作。 1.查询当前Redo log文件信息 select * from v$log; select * from v$logfile;通过查询结果可知Redo log文件放在/oradata/redofile 目录下。 2.拷贝redo log文件到新的位置/Data/redolog $cd /orada…...

编程日记 2025/5/7 17:19:43

力扣题库第495题目解析

文章目录 1.题目再现2.思路分析&&示例说明2.1第一个示例2.2第二个示例 3.代码解释 1.题目再现这个题目的名字叫做提莫攻击，如果是玩游戏的小伙伴对于这个场景就很熟悉了； 这个实际上是说：已知的条件会给我们一个数组，在…...

编程日记 2025/5/7 23:32:21

Milvus 存储设计揭秘：从数据写入到 Segment 管理的全链路解析

作为一款云原生向量数据库，Milvus 的高效查询性能有赖于其独特的存储架构设计。然而，在实际使用过程中，许多社区用户常常会遇到以下问题： 为什么频繁调用 flush 后，查询速度会变慢？ 数据删除后，…...

编程日记 2025/5/3 11:45:26

单片机通讯中的时序图：初学者的入门指南

一、什么是时序图？ 在单片机的世界里，时序图是一种非常重要的工具，它用于描述信号在时间上的变化规律。简单来说，时序图就像是信号的“时间线”，它展示了各个信号线在不同时间点上的电平状态。通过时序图，我…...

编程日记 2025/5/4 8:45:37

ASP.NET Core JWT

目录 Session的缺点 JWT（Json Web Token） 优点： 登录流程 JWT的基本使用生成JWT 解码JWT 用JwtSecurityTokenHandler对JWT解码注意 Session的缺点对于分布式集群环境，Session数据保存在服务器内存中就不合适了&#…...

编程日记 2025/5/9 10:30:03

Linux基础命令之Nginx中的rewrite功能(重新)

一、什么是Rewrite Rewrite也称URL Rewrite，即URL重写，就是把传入Web的请求重定向到其他URL的过程。 1. URL Rewrite最常见的应用是URL伪静态化，是将动态页面显示为静态页面方式的一种技术。比如http://www.123.com/news/index.php?id123 使…...

编程日记 2025/5/2 1:33:24

4 前端前置技术（上）：AJAX技术、Axios技术（前端发送请求）

文章目录前言一、Ajax技术（从服务端获取数据，发送各种请求）0 接口文档管理：使用apipost等接口测试软件创建接口便于前端后端分离测试1 基本概念2 原生Ajax使用示例（几年前的早期用法） 二、 Axios技术(对原…...

编程日记 2025/5/6 15:02:50

三星手机为何不大力扩展中国市场？

三星在中国市场的手机销量长期低迷，主要原因可以归结为以下几点，这也解释了为什么三星可能没有大力扩展中国市场的计划： 1. 市场竞争激烈中国市场已经被华为、OPPO、vivo、小米和苹果等品牌牢牢占据，这些品牌在产品设计、本地化…...

编程日记 2025/4/27 4:33:35