Ollama 部署本地大语言模型
一、下载安装ollama
1.百度 ollama
Ollama
2.点击下载
可以复制下载链接，使用下载器下载。
3.双击安装
默认安装目录：C:\Users\用户名\AppData\Local\Programs\Ollama
二、更改模型下载目录
0.默认下载目录 (跳过)
之前没下载过模型，不涉及转移模型，可以跳过此步骤
C:\Users\用户名\.ollama\models\
如果之前下载过了，可将默认目录里的
复制到更改后的目录里
1.打开系统属性
右键点击桌面上的“此电脑”或“计算机”图标，选择“属性”。
2.进入高级系统设置
在系统属性窗口中，点击左侧的“高级系统设置”按钮。
3.编辑环境变量
4.新建环境变量
在“环境变量”窗口中，找到“系统变量”部分，点击“新建”按钮。
输入变量名为OLLAMA_MODELS。
在“变量值”文本框中输入希望保存模型文件的新目录路径，例如D:\OllamaModels。
5.保存并重启Ollama
点击“确定”按钮保存设置。
重启Ollama应用，以使新的环境变量生效。
为了保证生效，可以重启电脑。
三、常用命令
1.win+R键--->cmd
输入 ollama
这是Ollama命令行工具的帮助信息，它列出了所有可用的命令和标志，以及如何使用它们。以下是对这些命令和标志的详细解释：
命令
- serve
- 描述：启动Ollama服务，使其能够处理模型运行和API请求。
- 用法：
ollama serve
- create
- 描述：使用包含模型信息的Modelfile来创建一个新模型。
- 用法：
ollama create /path/to/Modelfile
- show
- 描述：显示特定模型的详细信息，如模型名称、版本等。
- 用法：
ollama show [模型名称]
- run
- 描述：运行一个已安装的模型，执行某些任务。
- 用法：
ollama run [模型名称]
- stop
- 描述：停止一个正在运行的模型。
- 用法：
ollama stop [模型名称]
- pull
- 描述：从模型注册表中拉取一个模型到本地使用。
- 用法：
ollama pull [模型名称]
- push
- 描述：将本地模型推送到模型注册表中，以便他人或其他系统使用。
- 用法：
ollama push [模型名称]
- list
- 描述：列出本地所有可用的模型。
- 用法：
ollama list或ollama ls
- ps
- 描述：列出当前正在运行的模型。
- 用法：
ollama ps
- cp
- 描述：复制一个模型到另一个位置或给定名称的地方。
- 用法：
ollama cp [原模型名称] [新模型名称]
- rm
- 描述：删除一个已安装的模型。
- 用法：
ollama rm [模型名称]
- help
- 描述：获取有关Ollama任何命令的帮助信息。
- 用法：
ollama help [命令名称]或ollama --help
标志
- -h, --help
- 描述：显示帮助信息，包括所有可用命令和标志。
- 用法：在任何命令后添加
-h或--help以获取该命令的详细帮助信息。
- -v, --version
- 描述：显示Ollama工具的版本信息。
- 用法：
ollama -v或ollama --version
注意： create命令，可以基于某个模型创建指定角色的模型。
具体用法可以搜索：
ollama create怎么用？
ollama
四、下载模型
1.搜索模型
2.下载模型
（模型越大功能越强，但是所需要的电脑硬件设备越高，根据个人情况自行选择）
命令粘贴的到 命令窗口(win+R键--->cmd)
ollama run deepseek-r1:7b
下载慢怎么办？
第一步
点击选中终端窗口，然后点击 ctr+c 暂停下载。
第二步
重新粘贴 命令 ，等待重新链接即可。
注意事项：
有小概率出现从头开始下载的可能性，目前题主暂未出现此情况。
五、测试
run命令 运行存在的模型就是打开，不存在的模型，就是先下载再打开。
可直接在此窗口进行对话
六、基于已有模型，创造模型
github有教程 ，ollama github页面搜索 Create a Modelfile 定位到指定位置。
在Ollama中，你还可以自定义模型的启动提示词来调整其行为。例如，要自定义 deepseek模型，你首先需要拉取(下载)该模型：(上面操作已经下载过了，跳过)
ollama pull deepseek-r1:7b创建一个Modelfile，在其中设置参数和系统消息：
FROM deepseek-r1:7b# 设置创造力参数，1表示更高的创造性，较低则表示更加连贯
PARAMETER temperature 1# 设置系统消息
SYSTEM """
You are Mario from Super Mario Bros. Answer as Mario, the assistant, only.
"""创建并运行自定义模型：
ollama create custom-model-name -f F:\路径\Modelfile ollama run custom-model-name
七、安装web UI
1.搜索 page Assist github
2.解压
3.Chrome浏览器加载插件
4.Ctrl+Shift+L 打开
5.设置中文
6.RAG设置
Ollama 下载 模型
ollama pull nomic-embed-text刷新当前页面
可以设置联网或上传图片等。
八、Ollama手动导入GGUF模型文件
1.下载模型文件
进入该网站https://huggingface.co/
(其他平台)
点击模型
直接搜索模型关键词，以QWen2.5 GGUF为例
可以复制下载链接，到下载器下载
2.创建一个Modelfile
在其中设置参数和系统消息：
# 指定本地模型的位置
FROM F:\ollama\QWen_GGUF\Qwen2.5-1.5B-Instruct.Q5_K_S.gguf# 指定模型参数
PARAMETER temperature 0.7# 设置系统消息，定义助手行为
SYSTEM """
You are a helpful assistant.
"""
3.执行以下命令
ollama create QWen_2.5_gguf -f F:\ollama\QWen_GGUF\qw_Modelfile
ollama run custom-model-name4.注意
page Assist使用时，从新配置设置一遍，否则可能出现不智能的情况
九、使用API方式远程调用ollama模型
1.设置环境变量(参考第二步)
OLLAMA_HOST="0.0.0.0:11434"
2.命令
ollama serve3.配置防火墙（可选）
-
如果希望从外部网络访问 Ollama server，需要在 Windows 防火墙中开放 Ollama 使用的端口（默认是
11434）。 -
打开“控制面板” -> “系统和安全” -> “Windows Defender 防火墙”，点击“高级设置”，在“入站规则”中创建一条新的规则，允许 TCP 端口
11434的入站连接。
3.下载客户端
①搜索chatbox
Chatbox AI官网：办公学习的AI好助手，全平台AI客户端，官方免费下载
②下载
③下一步、下一步安装就行
4.配置客户端
设置好IP、端口后保存.
5、测试
略
相关文章：
Ollama 部署本地大语言模型
一、下载安装ollama 1.百度 ollama Ollama 2.点击下载 可以复制下载链接，使用下载器下载。 3.双击安装 默认安装目录：C:\Users\用户名\AppData\Local\Programs\Ollama 二、更改模型下载目录 0.默认下载目录 (跳过) 之前没下载过模型，不…...
sql批量更新和删除语句
1.更新一条数据 update om_sellorder set SOSTATUS2 where id 283d3eb87b134e1c993b70b018406285 2.更新多个数据为某一个特点值 string ID context.Request["ID"]; //需要替换‘,’逗号，不然识别不出ID数据这里注意 ‘ID’ 是一个逗号（&a…...
探索从传统检索增强生成（RAG）到缓存增强生成（CAG）的转变
在人工智能快速发展的当下，大型语言模型（LLMs）已成为众多应用的核心技术。检索增强生成（RAG）（RAG 系统从 POC 到生产应用：全面解析与实践指南）和缓存增强生成（CAG&#x…...
基于ArcGIS的SWAT模型+CENTURY模型模拟流域生态系统水-碳-氮耦合过程研究
流域是一个相对独立的自然地理单元，它是以水系为纽带，将系统内各自然地理要素连结成一个不可分割的整体。碳和氮是陆地生态系统中最重要的两种化学元素，而在流域系统内，水-碳-氮是相互联动、不可分割的耦合体。随着流域内人类活动…...
深入浅出：机器学习的全面解析
深入浅出：机器学习的全面解析 引言 机器学习（Machine Learning, ML）作为人工智能的一个重要分支，近年来取得了显著进展，并在多个领域中得到了广泛应用。本文将从基础概念、核心算法、应用场景以及未来发展趋势等方面…...
go运算符
内置运算符 算术运算符关系运算符逻辑运算符位运算符赋值运算符 算术运算符 注意： （自增）和–（自减）在 Go 语言中是单独的语句，并不是运算符 package mainimport "fmt"func main() {fmt.Printl…...
w196Spring Boot高校教师科研管理系统设计与实现
🙊作者简介：多年一线开发工作经验，原创团队，分享技术代码帮助学生学习，独立完成自己的网站项目。 代码可以查看文章末尾⬇️联系方式获取，记得注明来意哦~🌹赠送计算机毕业设计600个选题excel文…...
SQL Server 数据库迁移到 MySQL 的完整指南
文章目录 引言一、迁移前的准备工作1.1 确定迁移范围1.2 评估兼容性1.3 备份数据 二、迁移工具的选择2.1 使用 MySQL Workbench2.2 使用第三方工具2.3 手动迁移 三、迁移步骤3.1 导出 SQL Server 数据库结构3.2 转换数据类型和语法3.3 导入 MySQL 数据库3.4 迁移数据3.5 迁移存…...
安卓7以上抓包证书安装
安卓7以上抓包证书安装 fiddler 用户可以直接试试这个文件 前提是要root过了，如果是模拟器就很容易开启 前提：要有openssl工具，在linux一个指令就可以下载了：sudo apt-get install openssl,windons则是在https://www.openssl.org/…...
)
C基础寒假练习(8)
一、终端输入10个学生成绩，使用冒泡排序对学生成绩从低到高排序 #include <stdio.h> int main(int argc, const char *argv[]) {int arr[10]; // 定义一个长度为10的整型数组，用于存储学生成绩int len sizeof(arr) / sizeof(arr[0]); // 计算数组…...
10. k8s二进制集群之Kube Scheduler部署
在开始之前需要准备什么？创建kube-scheduler证书请求文件【即证书的生成⓵】根据上面证书配置文件生成kube-scheduler证书【即证书的生成⓶】创建与关联kube-scheduler配置文件（为后面生成系统服务做准备）创建kube-scheduler服务配置文件【准备系统服务⓵】创建kube-schedul…...
低代码开发与传统开发：未来的技术路线选择
在科技飞速发展的当下，软件开发技术日新月异，低代码开发与传统开发作为两种重要的开发模式，正站在未来技术路线选择的十字路口，引发了众多企业和开发者的关注。它们各自有着独特的优势和适用场景，究竟该如何抉择&#…...
HIVE如何注册UDF函数
如果注册UDF函数的时候报了上面的错误，说明hdfs上传的路径不正确， 一定要用下面的命令 hadoop fs -put /tmp/hive/111.jar /user/hive/warehouse 一定要上传到上面路径，这样在创建函数时，引用下面的地址就可以创建成功...
Got socket exception during request. It might be caused by SSL misconfiguration
引入xutils3依赖，结果包找不到 maven里面添加阿里云镜像 核心 maven { url uri("https://maven.aliyun.com/nexus/content/groups/public/") }repositories {google()maven { url uri("https://maven.aliyun.com/nexus/content/groups/public/"…...
ORACLE 数据库的启动和关闭
文章目录 1、 启动 ORACLE 数据库的三步操作2、 关闭 ORACLE 数据库的三步操作3 、启动和关闭 ORACLE 数据库的相关命令4、 启动和关闭 ORACLE 数据库 1、 启动 ORACLE 数据库的三步操作 1、启动数据库并使它可用，有三步操作：a、启动一个实例b、装配数据…...
搭建集成开发环境PyCharm
1.下载安装Python（建议下载并安装3.9.x） https://www.python.org/downloads/windows/ 要注意勾选“Add Python 3.9 to PATH”复选框，表示将Python的路径增加到环境变量中 2.安装集成开发环境Pycharm http://www.jetbrains.com/pycharm/…...
Python 学习与开发：高效编程技巧与实用案例
Python 学习与开发：高效编程技巧与实用案例 Python 是现代编程语言中最受欢迎的一种，它以简洁、易读的语法和强大的功能广泛应用于数据分析、人工智能、Web开发等多个领域。无论你是 Python 新手还是有经验的开发者，掌握一些高效编程技巧和实…...
Twitter 安卓客户端安装包下载
Twitter 安卓客户端安装包下载 项目地址:https://gitcode.com/open-source-toolkit/a16c4 欢迎来到Twitter安卓客户端安装包资源页！在这里，您可以获取适用于Android设备的Twitter应用安装文件。请注意，下载过程中可能会遇到速度较慢的情况&…...
openAI官方prompt技巧（一）
1. 使用最新的模型 2. 将指令放在提示词的开头，并使用 ### 或 """ 来分隔指令和上下文，例如 错误示范❌ 将下面的文本总结为一个要点列表，列出最重要的内容。 Summarize the text below as a bullet point list of the most…...
小众收集癖好
文章目录 邮票收藏古钱币收藏手表收藏黑胶唱片收藏文玩核桃收藏紫砂壶收藏陶瓷收藏书画收藏古籍收藏奇石收藏根雕艺术其他 邮票收藏 稀有性：越少见的邮票通常价值越高，特别是那些发行量极小或因为某种原因被召回的邮票。例如：早期邮票、错版…...
从 .NET Framework 升级到 .NET 8 后 SignalR 问题处理与解决方案
随着 .NET Framework 向 .NET 8 的迁移，许多开发者在使用 SignalR 时遇到了一些前后端连接、配置、调用等方面的问题。尤其是在处理 SignalR 实时通信功能时，升级后的一些兼容性问题可能导致应用程序无法正常工作。本文将介绍在从 .NET Framework 升级到…...
)
【2024华为OD-E卷-100分-箱子之字形摆放】（（题目+思路+JavaC++Python解析)
题目描述 给定一个宽度为 width 的仓库，要求将 n 个箱子按之字形（Zigzag）方式摆放。每个箱子的宽度都是 1，箱子必须摆放在仓库的同一层上，且摆放过程中不能重叠。 之字形摆放的定义是：箱子交替地向左和向…...
基于SpringBoot养老院平台系统功能实现五
一、前言介绍： 1.1 项目摘要 随着全球人口老龄化的不断加剧，养老服务需求日益增长。特别是在中国，随着经济的快速发展和人民生活水平的提高，老年人口数量不断增加，对养老服务的质量和效率提出了更高的要求。传统的养…...
如何打造一个更友好的网站结构？
在SEO优化中，网站的结构往往被忽略，但它其实是决定谷歌爬虫抓取效率的关键因素之一。一个清晰、逻辑合理的网站结构，不仅能让用户更方便地找到他们需要的信息，还能提升搜索引擎的抓取效率 理想的网站结构应该像一棵树，…...
蓝桥杯备赛——进制转化相关问题
目录 一、基础概念 二、问题研究（1） 代码解读： 1. transfer 函数 代码功能概述 详细步骤 2. main 函数 代码功能概述 详细步骤 三、运用递归解决 （一） 代码如下： 代码解读： &#…...
ubuntu20.04+RTX4060Ti大模型环境安装
装显卡驱动 这里是重点，因为我是跑深度学习的，要用CUDA，所以必须得装官方的驱动，Ubuntu的附件驱动可能不太行. 进入官网https://www.nvidia.cn/geforce/drivers/，选择类型，最新版本下载。 挨个运行&#…...
汽车智能座舱的技术演进与用户体验重构 —— 基于多模态交互与 AI 融合的范式创新
摘要： 汽车智能座舱作为人 - 车 - 环境交互的核心载体，正经历从功能驱动到体验驱动的范式变革。本文通过技术解构与用户行为分析，深入揭示智能座舱在异构计算、多模态感知、服务生态等维度的创新路径。研究表明，智能座舱的竞争焦…...
TresJS：用Vue组件构建3D场景的新选择
在当今数字化时代，3D图形技术正以前所未有的速度发展，从游戏开发到虚拟现实（VR）、增强现实（AR），再到各种沉浸式体验，3D技术的应用场景日益丰富。TresJS作为一款基于Three.js的Web3D开…...
【鸿蒙HarmonyOS Next实战开发】实现ArkTS/JS和C/C++的交互-Node-API
一、HarmonyOS Node-API简介 在HarmonyOS应用开发中，通常以ArkTS/JS语言为主，但在一些特殊场景下，例如游戏开发、物理模拟等，由于对性能、效率等有较高要求，需要借助现有的C/C库来实现。为了满足这种需求，…...
QT笔记——多语言翻译
文章目录 1、概要2、多语言切换2.1、结果展示2.2、创建项目2.2、绘制UI2.2、生成“.st”文件2.4、生成“.qm”文件2.5、工程demo 1、概要 借助QT自带的翻译功能，实现实际应用用进行 “多语言切换” 2、多语言切换 2.1、结果展示 多语言切换 2.2、创建项目 1、文件…...
JPG、PNG、GIF有什么区别？
JPG、PNG、GIF是三种常见的数字图像格式，它们各自具有不同的特点和适用场景。以下是它们之间的主要区别以及如何进行选择： 一、JPG与PNG、GIF的区别 1. JPG（JPEG）： 特点：JPG是一种有损压缩的图像格式&…...
Excel 融合 deepseek
效果展示 代码实现 Function QhBaiDuYunAIReq(question, _Optional Authorization "Bearer ", _Optional Qhurl "https://qianfan.baidubce.com/v2/chat/completions")Dim XMLHTTP As ObjectDim url As Stringurl Qhurl 这里替换为你实际的URLDim postD…...
机器学习在环境科学中的应用
机器学习在环境科学中的应用 第一节 机器学习的基本概念 什么是机器学习 机器学习是一种通过对大量数据的学习和分析，让计算机系统能够逐渐改善其性能和行为的技术。它通过建立数学模型来识别数据中的模式和规律，进而进行预测和决策。 机器学习在环境科学…...
【AIGC魔童】DeepSeek v3推理部署：vLLM/SGLang/LMDeploy
【AIGC魔童】DeepSeek v3推理部署：vLLM/SGLang/LMDeploy （1）使用vLLM推理部署DeepSeek（2）使用SGLang推理部署DeepSeek（3）使用LMDeploy推理部署DeepSeek （1）使用vLLM推理部…...
Monorepo保姆级教程
Monorepo是一种将多个项目或组件存储在一个统一的代码仓库中的策略，旨在提高代码复用性和团队协作效率。以下是一个详细的Monorepo管理多个项目的保姆级教程： 1. 初始化项目 首先，创建一个新的项目目录并初始化为Git仓库： mkdi…...
【蓝桥杯—单片机】第十一届省赛真题代码题解题笔记 | 省赛 | 真题 | 代码题 | 刷题 | 笔记
第十一届省赛真题代码部分 前言赛题代码思路笔记竞赛板配置内部振荡器频率设定键盘工作模式跳线扩展方式跳线 建立模板明确设计要求和初始状态显示功能部分数据界面第一部分第二部分第三部分调试时发现的问题 参数设置界面第一部分第二部分和第四部分第三部分和第五部分 按键功…...
hive的几种复杂数据类型
Hive的几种复杂数据类型 Hive 提供了几种复杂数据类型，能够支持更灵活和多样的数据存储。这些复杂数据类型对于处理嵌套数据或不规则数据特别有用。主要包括以下几种： 文章目录 Hive的几种复杂数据类型1. 数组（ARRAY）2. 结构体&a…...
使用 `WITH` 子句优化复杂 SQL 查询
使用 WITH 子句优化复杂 SQL 查询 在 SQL 中，处理复杂的查询需求时，代码往往会变得冗长且难以维护。为了解决这个问题，SQL 提供了 WITH 子句（也称为公用表表达式，Common Table Expression，CTE）…...
k8s网络插件及基础命令
一、k8s的cni网络插件 1.k8s的内部网络模式 pod内的容器与容器之间的通信。一个节点上的pod之间的通信，docker0网桥直接通信。不同节点上的pod之间的通信：通过物理网卡的ip地址和其他节点上的物理网卡的设备进行通信，然后把流量转发到指定的…...
)
组合总和II(力扣40)
这道题的难点就在于题目所给的集合中有重复的数字，我们需要进行去重操作。首先明确去重指的是去重哪一部分。注意并不是对递归的集合去重，而是对当前集合的遍历进行去重。这么说可能有点抽象，举个例子：假设集合为1,1,2,3,4&#x…...
【vue3 入门到实战】7. 标签中的 ref
目录 1. ref 的作用 2. 如何使用 1. ref 的作用 用于注册模板引用 用在普通DOM标签上，获取的是DOM节点。 用在组件标签上，获取的是组件的实例对象。 2. 如何使用 代码如下 <template><div class"app"><h2 ref"titl…...
MAC OS安装Homebrew
文章目录 1.下载Homebrew2.完成安装3.验证安装4.更新 Homebrew作为一个包管理器，提供了一种简便的方式来安装、更新和卸载各种命令行工具和应用程序。相比于手动下载和编译源代码，或者从不同的网站下载安装包，使用Homebrew可以显著减少这些操…...
)
数据结构之栈和队列(超详解)
文章目录 概念与结构栈队列 代码实现栈栈是否为空，取栈顶数据、栈的有效个数 队列入队列出队列队列判空，取队头、队尾数据，队列的有效个数 算法题解有效的括号用队列实现栈用栈实现队列复用 设计循环队列数组结构实现循环队列构造、销毁循环队…...
[Deepseek-自定义Ollama 安装路径+lmStudio 简易安装]
ollama 先下载 https://ollama.org.cn/download 使用 发现报错 检查路径 自己的路径! 再用 .\OllamaSetup.exe /DIRE:\MySoftware\Ollama 删除掉 多余模型 ollama delete <model_name> 例如 ollama delete deepseek-r1:1.5b 下载 ollama run deepseek-r1:1.5b…...
uniapp mqttjs 小程序开发
在UniApp中集成MQTT.js开发微信小程序时，需注意平台差异、协议兼容性及消息处理等问题。以下是关键步骤与注意事项的综合指南： 一、环境配置与依赖安装 安装MQTT.js 推荐使用兼容性较好的版本：mqtt4.1.0（H5和小程序兼容性最佳&…...
LabVIEW位移测量系统
本文介绍了一种基于LabVIEW的位移测量系统，结合先进的硬件设备与LabVIEW平台的强大功能，能够实现对位移的精确测量和高效数据处理。该系统具备高精度、实时性和良好的可扩展性，适用于工程与科学实验中对位移测量的多种需求。 项目背景 位移…...
VMware下Linux和macOS遇到的一些问题总结
1.解决.NET程序通过网盘传到Linux和macOS不能运行的问题 这是文件权限的问题。当你通过U盘将文件传输到虚拟机的macOS和Linux系统时，文件的权限和所有权可能得到了保留或正确设置。但如果你通过网盘上传，文件的权限或所有权可能没有正确设置，…...
Mac: docker安装以后报错Command not found: docker
文章目录 前言解决办法（新的）解决步骤（原来的）不推荐总结 前言 本操作参考 http://blog.csdn.net/enhenglhm/article/details/137955756 原作者，更详细请，查看详细内容请关注原作者。 一般，…...
深度学习里面的而优化函数 Adam，SGD，动量法，AdaGrad 等 | PyTorch 深度学习实战
前一篇文章，使用线性回归模型逼近目标模型 | PyTorch 深度学习实战 本系列文章 GitHub Repo: https://github.com/hailiang-wang/pytorch-get-started 本篇文章内容来自于 强化学习必修课：引领人工智能新时代【梗直哥瞿炜】 深度学习里面的而优化函数 …...
C++自研3D教程OPENGL版本---动态批处理的基本实现
又开始找工作了，借机休息出去旅行两个月，顺便利用这段时间整理下以前写的东西。 以下是一个简单的动态批处理实现： #include <GL/glew.h> #include <GLFW/glfw3.h> #include <iostream> #include <vector>// 顶点结…...