当前位置：首页 > news >正文

搭建大语言模型

news 来源：原创 2025/6/19 20:53:47

安装和配置Ollama

首先在官网上下载Ollama，同时支持window，linux，macos系统。

下载下来是一个压缩包，直接解压缩即可，然后点击安装程序开始安装。

linux下载

执行以下命令，即可自动下载安装，但是这种方式对网络要求比较高。

curl -fsSL https://ollama.com/install.sh | sh

如果下载不了的话，就需要下载离线安装包

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

如果再不行，就在本地计算机中访问 https://github.com/ollama/ollama/releases 地址，然后选择 ollama-linux-amd64.tgz手动下载，然后再上传到linux系统上，然后再解压缩。

然后下载完毕后，在浏览器中输入: http://localhost:11434 ，如果页面显示 Ollama is running 就说明运行起来了。

启动ollama

window系统下，在命令提示窗口中输入：

ollama list # 查看本地安装的所有大模型
ollama run llama3.2 # 下载llama3.2模型

由于模型文件非常大，所以需要一定的时间。

等待安装完毕之后，就会自动进入人机交互的界面，然后就可以开始提问大模型了，这里依赖的是GPU，如果有的话，那基本上就可以有秒回的效果。

退出对话

/byt #退出对话

安装UI界面

MaxKB的官网

不过maxkb是需要付费的，但是有免费适用额度。

首先从官网安装MaxKB，它是基于大预言模型和RAG的知识库问答系统。

不过MaxKB 不支持windows系统和Max系统，但是可以在window系统下使用docker容器来运行。

docker安装

docker的官网

从官网下安装windows版的安装包。

安装完之后打开一个命令行终端，输入以下命令

docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb# 用户名: admin
# 密码: MaxKB@123..

以上命令会从dockerhub上下载maxkb的镜像文件。

maxkb的docker镜像仓库

执行完之后，在浏览器中输入 http://localhost:8080 , 然后就会进入到登录界面，账号和密码是admin 和 MaxKB@123… 第一次登录会要求更改密码。

点击左侧菜单栏中模型设置 ，就可以在右侧界面中配置各种我们想要的大模型，比如，这里选择Ollama模型；

然后点击右侧添加模型按钮来添加模型；

模型名称随便填；

权限 就选择公用；

模型类型选择大语言模型；

基础模型选择llama3:8b,API域名填入 http://host.docker.intemal:11434 ；

API Key 就随便填写，最后点击添加按钮即可。

等待一段下载时间。

然后点击应用按钮，来创建应用

应用名称 随便写；

应用描述 选填；

选择应用类型 ：简单配置

然后点击创建，就会跳转到应用的配置页面。

AI模型参数设置 ：Llama3

其他内容，可选参数，然后在右侧，就可以测试使用了。

最后在右上角，点击保存并发布按钮。

在概览页面可以看到它的一些基本信息，包括它的公开访问链接和API接口地址等信息。

复制一下公开访问链接，在浏览器中访问，就可以通过浏览器来适用了。

发布到公网

在自定的域名后，添加 /ui/chat/xxxx

搭建大语言模型

安装和配置Ollama 首先在官网上下载Ollama，同时支持window，linux，macos系统。下载下来是一个压缩包，直接解压缩即可，然后点击安装程序开始安装。 linux下载执行以下命令，即可自动下载安装&#xff0c…...

编程日记 2025/6/19 20:53:47

QT6 Socket通讯封装（TCP/UDP）

为大家分享一下最近封装的以太网socket通讯接口效果演示如图，界面还没优化，后续更新废话不多说直接上教程添加库如果为qmake项目中，在.pro文件添加 QT network QT core gui QT networkgreaterThan(QT_MAJOR_VERS…...

编程日记 2025/6/20 5:11:23

Linux中 vim 常用命令大全详细讲解

文章目录前言一、Vim 基本操作 🕹️1.1 打开或创建1.2 退出编辑1.3 模式切换二、Vim 光标移动命令 ↕️2.1 基本移动2.2 行内移动2.3. 单词移动2.4. 页面移动2.5. 行跳转三、Vim 文本编辑命令 📋3.1 插入和删除3.2 复制、剪切与粘贴3.3 替换与修改四…...

编程日记 2025/6/20 3:57:55

vs 调试

常用： 调试->窗口-> 断点监视自动窗口局部变量调用堆栈内存反汇编（也可以右键，转到反汇编） 寄存器快捷键： F5:启用调试，经常用来跳到下一个断点处 F9创建断点和取消断点。断点的重要作用&…...

编程日记 2025/6/20 5:20:19

使用 Kubernetes 部署 Redis 主从及 Sentinel 高可用架构(未做共享存储版)

文章目录使用 Kubernetes 部署 Redis 主从及 Sentinel 高可用架构Redis 主从架构部署 (1.yaml)Redis Sentinel 部署 (2.yaml)Sentinel 服务暴露 (3.yaml)部署步骤总结使用 Kubernetes 部署 Redis 主从及 Sentinel 高可用架构本文将详细介绍如何在 Kubernetes 中部署 Redis …...

编程日记 2025/6/20 4:59:19

PLC网关，plc远程通信 —— 跨越距离远程控制运维升级

在日新月异的工业4.0时代，智能化、网络化已成为制造业转型升级的关键词。其中，PLC（可编程逻辑控制器）作为工业自动化控制的核心设备，其远程通信技术的突破，正引领着一场前所未有的工业变革。今天&#xff0…...

编程日记 2025/6/4 0:35:54

MySQL的历史和地位

秋招之后，开始深入学习后端开发知识啦。把学到的东西分享给大家最开心啦。就从MySQL开始吧。首先说一下MySQL的历史和地位。主要是看一下我们为什么要学习，而不是说让我们学什么我们就学什么。地位这张图是我从DB-Engines截取的2024年12月最新的数据…...

编程日记 2025/6/20 4:44:36

零基础洛谷刷题记录 Day01 2024.11.18 Day02 2024.11.25 Day03 2024.11.26 Day04 2024.11.28 Day05 2024.11.29 Day06 2024 12.02 Day07 2024.12.03 Day08 2024 12 05 Day09 2024.12.07 Day10 2024.12.09 Day11 2024.12.10 Day12 2024.12.14 文章目录零基础洛谷刷题记录1320&…...

编程日记 2025/6/20 4:39:48

四十六：如何使用Wireshark解密TLS/SSL报文？

TLS/SSL是保护网络通信的重要协议，其加密机制可以有效地防止敏感信息被窃取。然而，在调试网络应用或分析安全问题时，解密TLS/SSL流量是不可避免的需求。本文将介绍如何使用Wireshark解密TLS/SSL报文。前提条件在解密TLS/SSL报文之前&…...

编程日记 2025/6/20 5:34:37

【网络安全设备系列】7、流量监控设备

0x00 定义: 网络流量控制是一种利用软件或硬件方式来实现对电脑网络流量的控制。它的最主要方法，是引入QoS的概念，从通过为不同类型的网络数据包标记，从而决定数据包通行的优先次序。 0x01 类型: 流控技术分为两种： 一种是…...

编程日记 2025/6/20 4:33:36

SpringCloud无介绍快使用，sentinel注解@SentinelResource的基本使用（二十三）

TOC 问题背景从零开始学springcloud微服务项目注意事项： 约定 > 配置 > 编码IDEA版本2021.1这个项目，我分了很多篇章，每篇文章一个操作步骤，目的是显得更简单明了controller调service，service调dao默认安装ngi…...

编程日记 2025/6/20 3:52:58

vue3 父组件调用子组件 el-drawer 抽屉

之前 Vue3 只停留在理论，现在项目重构，刚好可以系统的实战一下，下面是封装了一个抽屉表单组件，直接在父组件中通过调用子组件的方法打开抽屉： 父组件： <template><div id"app"><…...

编程日记 2025/6/20 4:14:36

JVM运行时数据区内部结构

VM内部结构对于jvm来说他的内部结构主要分成三个部分，分别是类加载阶段，运行时数据区，以及垃圾回收区域，类加载我们放到之后来总结，今天先复习一下类运行区域首先这个区域主要是分成如下几个部分下面举个例子来解释…...

编程日记 2025/6/2 23:24:10

luckysheet与superslide冲突解决

[现象]控制台报错、界面无法操作 $是jquery。查看源码，发现mousewheel方法来自插件mousewheel，luckysheet初始应该会将mousewheel挂载在jquery上。在控制台打印jquery取dom及其方法，结果如下： 不存在mousewheel方法&#xff0c…...

编程日记 2025/6/4 9:40:22

ubuntu环境调用onnxruntime找不到GPU的问题

问题： python安装好onnxruntime无法调用gpu。通过如下代码测试，均为False。 import onnxruntime as ort# 检查ONNX Runtime是否支持CUDA def is_onnxruntime_cuda_supported():return ort.get_device() GPU# 检查ONNX Runtime是否使用CUDA def is_onn…...

编程日记 2025/6/3 2:25:25

【iOS】《Effective Objective-C 2.0》阅读笔记（一）

文章目录前言了解OC语言的起源在类的头文件中尽量少引入其他头文件多用字面量语法，少用与之等价的方法字面量数值字面量数组字面量字典多用类型常量，少用#define预处理指令用枚举法表示状态、选项、状态码总结前言最近开始阅读一些iOS开发的相关书籍…...

编程日记 2025/6/20 4:07:48

linux在没网的情况下如何校验时间超详细拿来即用

一、没有校时服务器的话 1、手动修改 sudo date --set"2024-06-17 13:44:00"二、有校时服务器的话 1、手动校时 ntpdate 14.193.73.22、自动校时写一个校时服务脚本 14.193.73.2 是校验时间服务器 #!/bin/sh while true dontpdate 14.193.73.2sleep 5;hwclock…...

编程日记 2025/6/20 4:34:50

springBoot项目框架创建后缺少iml文件

springBoot项目创建好之后缺少iml文件解决方案： 按两下ctrl出现一下内容在右上角project的下拉框中选中缺少文件的项目输入 mvn idea:module 回车执行重构...

编程日记 2025/5/30 15:33:54

【OJ题解】最长回文子串

个人主页: 起名字真南的CSDN博客个人专栏: 【数据结构初阶】 📘 基础数据结构【C语言】 💻 C语言编程技巧【C】 🚀 进阶C【OJ题解】 📝 题解精讲目录 **题目链接****解题思路****1. 初步判断****2. 回文子串性质****3. 判断是…...

编程日记 2025/6/20 5:23:03

kubeadm安装K8s高可用集群之集群初始化及master/node节点加入calico网络插件安装

系列文章目录 1.kubeadm安装K8s高可用集群之基础环境配置 2.kubeadm安装K8s集群之高可用组件keepalivednginx及kubeadm部署 3.kubeadm安装K8s高可用集群之集群初始化及master/node节点加入集群calico网络插件安装 kubeadm安装K8s高可用集群之集群初始化及master/node节点加入ca…...

编程日记 2025/6/19 20:22:18

动态设置路由标题title；动态设置路由配置meta；独享的守卫beforeEnter

案例：同一个页面即使新增，又是编辑、详情页。导致路由配置里的title无法固定通过路由的独享的守卫beforeEnter解决配置；同时beforeEnter一定程度上可以帮助处理vue3缓存问题 {path: "methodApplicationFormOperate",name: "M…...

编程日记 2025/6/20 5:31:51

探秘UI自动化测试工具Playwright工作原理

相关文章：playwright系列教程 Playwright简介微软出品的强大工具 Playwright是由微软推出的一款开源自动化测试工具，专门为Web测试和自动化场景而设计。在现代Web开发的快节奏环境下，其凭借出色的性能和丰富的功能，成为众多开…...

编程日记 2025/6/20 5:19:12

111.【C语言】数据结构之二叉树的销毁函数

目录 1.知识回顾 2.分析 3.代码后序遍历销毁(最简洁) 前序遍历销毁(不推荐) 中序遍历销毁(不推荐) 4.将函数嵌入main函数中执行 1.知识回顾 106.【C语言】数据结构之二叉树的三种递归遍历方式 2.分析销毁二叉树需要按照一定的顺序去销毁,例如:先销毁根还是先销毁根…...

编程日记 2025/6/20 5:35:41

WPF xaml 文件详解

<div id"content_views" class"htmledit_views"><h2><a name"t0"></a>1.总述</h2> 创建好了WPF项目后，最重要的是对 App和MainWindow的理解，在一开始的时候，极容易就直接在Main…...

编程日记 2025/6/20 5:07:53

win10配置免密ssh登录远程的ubuntu

为了在终端ssh远程和使用VScode远程我的VM上的ubuntu不需要设置密码，需要在win10配置免密ssh登录远程的ubuntu。在win10打开cmd，执行下面的代码生成密钥对（会提示进行设置，按照默认的配置就行，一直回车）&…...

编程日记 2025/6/20 1:42:13

Android命令行工具--apksigner

使用 Android SDK Build Tools 修订版 24.0.3 及更高版本中提供的 apksigner 工具为 APK 签名，并确保 APK 的签名将在该 APK 支持的所有版本 Android 平台上成功通过验证。注意：如果在使用 apksigner 为 APK 签名后又对 APK 做了更改，则 APK…...

编程日记 2025/6/20 4:32:08

Linux高性能服务器编程 | 读书笔记 |9.定时器

9. 定时器网络程序需要处理定时事件，如定期检测一个客户连接的活动状态。服务器程序通常管理着众多定时事件，有效地组织这些定时事件，使其在预期的时间被触发且不影响服务器的主要逻辑，对于服务器的性能有至关重要的影响。为此&…...

编程日记 2025/6/20 4:12:10

UE5制作伤害浮动数字

效果演示： 首先创建一个控件UI 添加画布和文本文本设置样式添加伤害浮动动画，根据自己喜好调整，我设置了缩放和不透明度添加绑定转到事件图表，事件构造设置动画创建actor蓝图类添加widget 获取位置设置位移创建一个被击中…...

编程日记 2025/6/20 4:53:06

双亲委派机制是Java类加载器的一种工作模式

双亲委派机制是Java类加载器的一种工作模式，确保了类加载的一致性和安全性。以下是对双亲委派机制的详细解析： 一、定义与工作原理双亲委派机制（Parent Delegation Model）要求除了顶层的启动类加载器外，其余的类加载…...

编程日记 2025/6/20 5:00:19

AI智算-k8s部署大语言模型管理工具Ollama

文章目录简介k8s部署OllamaOpen WebUI访问Open-WebUI 简介 Github：https://github.com/ollama/ollama 官网：https://ollama.com/ API：https://github.com/ollama/ollama/blob/main/docs/api.md Ollama 是一个基于 Go 语言开发的可以本地运…...

编程日记 2025/6/20 5:30:17

百度23届秋招研发岗A卷

百度23届秋招研发岗A卷 2024/12/16 1.下面关于 SparkSQL 中 Catalyst 优化器的说法正确的是（ABC） A.Catalyst 优化器利用高级编程语言功能（例如 Scala 的模式匹配）来构建可扩展的查询优化器 B.Catalyst 包含树和操作树的规则集…...

编程日记 2025/6/20 1:39:25

米哈游大数据面试题及参考答案

怎么判断两个链表是否相交？怎么优化？判断两个链表是否相交可以采用多种方法。一种方法是使用双指针。首先分别遍历两个链表，得到两个链表的长度。然后让长链表的指针先走两个链表长度差的步数。之后，同时移动两个链表的指针，每次比较两个指针是否指向相同的节点。如果指…...

编程日记 2025/6/3 13:38:11

Android14 AOSP 允许system分区和vendor分区应用进行AIDL通信

在Android14上，出于种种原因，system分区的应用无法和vendor分区的应用直接通过AIDL的方法进行通信，但是项目的某个功能又需要如此。好在Binder底层其实是支持的，只是在上层进行了屏蔽。修改 frameworks/native/libs/binder/Bp…...

编程日记 2025/6/4 15:34:16

llm chat场景下的数据同步

背景正常的chat/im通常是有单点登录或者利用类似广播的机制做多设备间内容同步的。而且由于长连接的存在，数据同步（想起来）相对简单。而llm的chat在缺失这两个机制的情况下，没见到特别好的做到了数据同步的产品。 llm chat主要两…...

编程日记 2025/6/20 4:40:47

视频去重原理及 Demo 示例

视频去重是一个常见的需求，主要用于视频库或平台管理中，通过判断视频是否相同（或相似）来移除冗余内容。实现视频去重可以通过多种方法，具体选择取决于业务场景和性能要求。 1. 视频去重的原理 1.1 基本原理视频去重…...

编程日记 2025/6/20 4:53:06

【GIS教程】使用GDAL-Python将tif转为COG并在ArcGIS Js前端加载-附完整代码

目录一、数据格式二、COG特点三、使用GDAL生成COG格式的数据四、使用ArcGIS Maps SDK for JavaScript加载COG格式数据一、数据格式 COG（Cloud optimized GeoTIFF）是一种GeoTiff格式的数据。托管在 HTTP 文件服务器上，可以代替geose…...

编程日记 2025/6/20 5:12:31

【ETCD】【源码阅读】深入解析 EtcdServer.applySnapshot方法

今天我们来一步步分析ETCD中applySnapshot函数一、函数完整代码函数的完整代码如下： func (s *EtcdServer) applySnapshot(ep *etcdProgress, apply *apply) {if raft.IsEmptySnap(apply.snapshot) {return}applySnapshotInProgress.Inc()lg : s.Logger()lg.In…...

编程日记 2025/6/20 4:38:08

C# 实现 10 位纯数字随机数

本文将介绍如何用 C# 实现一个生成 10 位纯数字随机数的功能。以下是完整的代码示例： using System; using System.Collections.Generic; using System.Linq; using System.Text;namespace RandomTset {class Program{// 使用GUID作为种子来创建随机数生成器static…...

编程日记 2025/6/20 5:15:52

【热力学与工程流体力学】流体静力学实验,雷诺实验,沿程阻力实验,丘里流量计流量系数测定,局部阻力系数的测定,稳态平板法测定材料的导热系数λ

关注作者了解更多我的其他CSDN专栏过程控制系统工程测试技术虚拟仪器技术可编程控制器工业现场总线数字图像处理智能控制传感器技术嵌入式系统复变函数与积分变换单片机原理线性代数大学物理热工与工程流体力学数字信号处理光电融合集成电路…...

编程日记 2025/6/4 15:34:14

黑盒白盒测试

任务1 黑盒测试之等价类划分法【任务需求】【问题】例：某报表处理系统要求用户输入处理报表的日期，日期限制在2003年1月至2008年12月，即系统只能对该段期间内的报表进行处理，如日期不在此范围内，则显示输入错误信息…...

编程日记 2025/5/30 18:05:20

D99【python 接口自动化学习】- pytest进阶之fixture用法

day99 pytest使用conftest管理fixture 学习日期：20241216 学习目标：pytest基础用法 -- pytest使用conftest管理fixture 学习笔记： fixture(scope"function") conftest.py为固定写法，不可修改名字，使用c…...

编程日记 2025/6/4 5:43:08

RFDiffusion 计算二面角函数解读

th_dih函数来自util.py包，get_dih函数来自kinematics.py包。th_dih函数计算输入向量定义的二面角的余弦值和正弦值，返回一个包含 (cos⁡(ϕ),sin⁡(ϕ)) 的张量。get_dih 函数计算的是传统意义上的二面角。源代码： def th_dih_v(ab, bc, cd):def th_cross(a, b):a, b = t…...

编程日记 2025/6/4 4:44:59

卓易通：鸿蒙Next系统的蜜糖还是毒药？

哈喽，我是老刘最近很多人都在问鸿蒙next系统新上线的卓易通和出境易两款应用。老刘分析了一下这个软件的一些细节，觉得还是蛮有意思的，我觉得可以从使用体验、底层原理和对鸿蒙生态的影响这三个角度来分析一下。使用体验性能看到了一些测…...

编程日记 2025/6/4 0:16:56

Android：展锐T760平台camera PDAF调试

一、平台PDAF流程目前展锐平台主要支持Shield PD Sensor、Dual PD Sensor 1、Shield PD Sensor Type1相位差和信心度结果直接从Sensor输出，不经过平台算法库。 Type2Sensor端抽取PD信息, 放在一块buffer输出， PDAF算法库算出相位差和信心度。 Type3Sensor端直接输出将带有…...

编程日记 2025/6/1 0:59:52

泷羽Sec学习笔记-zmap搭建炮台

zmap搭建炮台 zmap扫描环境：kali-linux 先更新软件库 sudo apt update 下载zmap sudo apt install zmap 开始扫描(需要root权限) sudo zmap -p 80 -o raw_ips.txt 代码解析： sudo：以超级用户（管理员）权限运行…...

编程日记 2025/6/1 19:18:30

web遇到的安全漏洞

最近项目又在做安全漏扫，记录下遇到的常见的web安全问题越权漏洞介绍攻击者可以在授权状态下，通过修改数据包的参数，操作超出现有权限操作的功能点。举例修改密码时，可以通过修改名称参数，修改任意用户密码。任…...

编程日记 2025/6/20 1:39:05

Starfish 因子开发管理平台快速上手：如何完成策略编写与回测

DolphinDB 开发的因子开发管理平台 Starfish 围绕量化投研的因子、策略开发阶段设计，为用户提供了一个从数据管理、因子研究到策略回测的完整解决方案。因子平台的回测引擎提供了多个关键的事件函数，涵盖策略初始化、每日盘前和盘后回调、逐笔、快照和…...

编程日记 2025/6/19 23:46:41

Oracle 数据库中，UNION ALL创建视图的使用详解

目录 UNION ALL 的特点 UNION ALL 的作用 1. 合并结果集 2. 保留重复行 3. 提高性能 UNION ALL 的使用场景 1. 日志或数据拼接 2. 区分数据来源 3. 解决分区表查询注意事项在创建视图中的作用场景 1：合并多个表的数据到视图表结构目标 SQL 实现…...

编程日记 2025/6/3 5:07:02

无名信号量和条件变量

1.使用无名信号量实现春夏秋冬的输出 #include <myhead.h> sem_t sem1,sem2,sem3,sem4; void *fun1() {while(1){sem_wait(&sem1);sleep(1);printf("春\n");sem_post(&sem2);} } void *fun2() {while(1){sem_wait(&sem2);sleep(1);printf("夏…...

编程日记 2025/6/1 18:28:06

之前使用vue-element-admin框架开发的项目无法启动，可能是这个原因

最近运行之前的项目，发现无法正常启动，可能有以下几种情况： 一、版本问题报错： this[kHandle] new _Hash(algorithm, xofLen); Error: error:0308010C:digital 因为在 node V17 版本发布了 OpenSSL3.0 对算法…...

编程日记 2025/5/30 18:44:07