当前位置： 首页 > news >正文

大模型系列4--开源大模型本地部署到微调（WIP）

news 来源：原创 2025/6/24 3:09:53

背景

一直想真正了解大模型对硬件资源的需求，于是准备详细看一篇视频，将核心要点总结记录下。本文内容参考视频：保姆级教程：6小时掌握开源大模型本地部署到微调，感谢up主

训练成本

  • 训练 > 微调 > 推理
  • 训练GPT3.5： 1000块80G的A100，训练1个月
    • GP3训练一次：200w到1200w美元
  • 推理：9块80G的A100

对GPU的要求高，对CPU和存储的要求不高
在这里插入图片描述

ChatGLM-6B
少量对话的时
在这里插入图片描述
多轮对话，单机多卡

  • 3090双卡 和 4090单卡价格差不多
    在这里插入图片描述
    A100、A800，H100，H800等对比图
    在这里插入图片描述
    从架构上
  • V100： 2017年 伏特 GPU第6代
  • A100： 2020年 安培 GPU第8代
  • H100： 2022年 赫伯 GPU第9代
  • A100是上一代V100的6倍：在跑 AI 模型时，如果用 PyTorch 框架，相比上一代 V100 芯片，A100 在 BERT 模型的训练上性能提升 6 倍，BERT 推断时性能提升 7 倍。
  • H100是V100的6倍：与上一代 A100 相比，采用 Hopper 的 FP8 Tensor Core 的新 Transformer 引擎使大型语言模型的 AI 训练速度提升 9 倍，AI 推理速度提升 30 倍。针对用于基因组学和蛋白质测序的 Smith-Waterman 算法，Hopper 的新 DPX 指令可将其处理速度提升 7 倍。
  • A800是A100的阉割版本，降低了NVlink带宽，影响不大
  • H800是H100的阉割版本，影响不大

GPU选择

大模型阶段GPU型号

有双精度：不能用4090
训练：不能用4090
微调：最好A100，或者4090多卡
推理：4090，性价比优于A100

4090笔记本：16G显存
4090台式机：24G显存
3090台式机：24G显存，性能是4090的一半
3080台式机：12G显存

单卡：4090 vs A100系列

  • 训练：大模型的参数依赖多卡，参数存储以及GPU通信，对内存容量，内存带宽，通信带宽都是强需，4090不适合
  • 推理：只需要单个模型，4090单卡可行
  • 4090价格是A100的1/100，其计算能力和A100差不多
    在这里插入图片描述
    单卡4090 vs 双卡3090，建议双卡3090
  • 价格差不多
  • 总算力和单张4090持平，显存多了一倍到48GB
  • 双卡流水线效果更好（？）

实验室配置

  • 10w预算：4张4090
  • 20-30w预算：8张4090，或者两张A100 80G
  • 预算不限：8卡 A100
  • 双卡GPU升级路线：3090 -> 4090 -> A100 40G -> A100 80G
  • 一定要买涡轮版，不能买风扇卡，涡轮卡尺寸和高度低，便于多卡

组装机

  • CPU有超频需求，上水冷；否则上风冷
  • 2*3090 搭配 i7-13700
  • 主板：Intel Z系列（高端），B系列（中端），A系列（低端，不要考虑）
  • 硬盘：接口SATA or M.2，建议M.2；协议类型：SATA协议（最高600MB/s），NVME协议（速度快 4GB/s），至少选择PCI-e 4.0
  • 内存：是显存容量的2倍
  • 电源：主要关注功耗，（CPU+GPU）*2，例如 65w CPU加125w GPU，电源一般400w；双GPU卡至少1000w，四GPU卡 1600w
  • 机箱：机箱的长度高出显卡的长度至少30mm

最强算力 H200

  • 显存 141GB，显存带宽 4.8TB/s（相比于A100 3.35TB/s）
  • 内存带宽1.15TB/s 如何理解

个人配置-多卡

GPU: 3090双卡，涡轮版;共48G显存;
CPU:AMD 5900X;12核24线程;
存储: 64GB内存+2T SSD 数据盘;
电源: 1600W单电源;
主板:华硕ROG X570-E;服务级PCE，支持双卡PCIE;
机箱: ROG太阳神601, ATX全塔式大机箱，便于大功率下散热;

租用服务器

平台推荐

在这里插入图片描述

付费GPU在这里插入图片描述

在这里插入图片描述

视频中采用的Windows和Linux双系统，本人更喜欢WSL

安装cuda

cuda driver和cuda runtime API

CUDA提供了两种API，分别是运行时API（CUDA Runtime API）和驱动API（Driver API）

  • 驱动API（Driver API）的版本对应nvidia-smi显示的CUDA Driver结果（该NVIDIA驱动程序所支持的最高CUDA版本），它提供了更细粒度的控制，允许直接与 CUDA 驱动交互。它通常用于需要精细控制的高级应用。
  • 运行时API（CUDA Runtime API）对应于nvcc -V显示的结果，它是一种更高级别的抽象，旨在简化编程过程，它自动处理很多底层细节。大多数 CUDA 程序员使用。

通常情况下，当提到CUDA时，指的是CUDA Runtime版本。

如何查看cuda driver API版本（cuda driver版本）
  • linux使用命令nvidia-smi也可查看driver版本，538.18我安装的具体版本
  • windows环境可以使用nvdia control panel应用并查看系统信息，可以查看该driver版本
    在这里插入图片描述
如何查看cuda runtime API版本（cuda版本）
  • 使用命令nvidia-smi看到的CUDA Version，是指该NVIDIA驱动程序所支持的最高CUDA版本，下图显示的即为支持的最高CUDA版本为12.2，需要安装小于12.2版本的CUDA。
  • 使用nvcc -V可以查看当前安装的cuda版本，可以通过 显示的版本号是小于等于nvidia-smi所显示的cuda版本，这就是二者显示版本不一致的原因。
    在这里插入图片描述
    通过这里CUDA和Driver版本适配关系可以查看适应当前机器的driver版本配套的cuda版本。可以通过cuda tookit下载来下载相应的cuda tookit。 可参考这篇文章
    在这里插入图片描述

安装GPU版本的pytorch

在WSL命令行输入以下命令：

conda create --name pytorch_gpu python=3.11
conda activate pytorch_gpu
conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch -c nvidia

测试GPU

import torchdef check_cuda_support():if torch.cuda.is_available():print(f"CUDA is available. Number of GPUs: {torch.cuda.device_count()}")print(f"Current CUDA device: {torch.cuda.current_device()}")print(f"CUDA device name: {torch.cuda.get_device_name(torch.cuda.current_device())}")else:print("CUDA is not available. PyTorch is running on CPU.")if __name__ == "__main__":check_cuda_support()

命令输出
在这里插入图片描述

测试下带宽性能：/usr/local/cuda/extras/demo_suite/bandwidthTest
在这里插入图片描述

在这里插入图片描述

WSL 安装ollama

参照网站提供的帮组：https://github.com/ollama/ollama

  • curl -fsSL https://ollama.com/install.sh | sh

下载hugging face ChatGLM数据集

使用命令git clone https://huggingface.co/THUDM/chatglm-6b进行下载，这个需要科学上网。可以启动windows cmd，然后参照文档代理设置来设置本地代理。命令列表如下：

# 在代码仓库下载目录中，启动windows cmd
set all_proxy=http://127.0.0.1:7890
git clone https://huggingface.co/THUDM/chatglm-6b

微调模型需要多少显存

全量微调

  • model权重
    1B参数，10亿参数，每个参数占用2B，则一共占用2GB
  • 梯度：和model权重类似，也是2GB
  • 优化器：比梯度大很多，以4倍估计，大约是8GB
  • Activation：暂时忽略不计
    常用的全量微调内存消耗约为模型权重的6倍。

高效微调

LoRA模式：base模型+Adapter 2.5%，此时消耗的内存为 2GB + 2.5% * 10GB，约为2.3GB
QLoRA模式：对model权重对2B进一步量化

qwen微调1.B 5GB内存

参考链接：基于qwen的法律大模型微调

下载代码

git clone https://github.com/QwenLM/Qwen.git

安装依赖

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install -r requirements_web_demo.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

下载模型

git clone https://www.modelscope.cn/qwen/Qwen-1_8B-Chat.git
git clone https://www.modelscope.cn/qwen/Qwen1.5-1.8B-Chat-GPTQ-Int4.git

启动web界面并加载指定目录的模型

python web_demo.py --server-name 0.0.0.0 -c ../Qwen-1_8B-Chat
python web_demo.py --server-name 0.0.0.0 -c ../Qwen-1_8B-Chat --cpu-only

在这里插入图片描述

界面呈现，默认是8000端口

http://localhost:8000/

在这里插入图片描述

下载法律数据集

git clone https://www.modelscope.cn/datasets/Robin021/DISC-Law-SFT.git
选择数据文件，下载 DISC-Law-SFT-Triplet-released.jsonl

转换数据集

将json中的input/ouput条目转换为from user & from assistant的形式

安装微调依赖

pip install "peft<0.8.0" deepspeed  -i https://pypi.tuna.tsinghua.edu.cn/simple

设置model路径和data路径，启动微调

bash finetune/finetune_lora_single_gpu.sh

在这里插入图片描述

安装pip使用清华镜像加速

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple pandas

相关文章：

大模型系列4--开源大模型本地部署到微调（WIP）

背景 一直想真正了解大模型对硬件资源的需求&#xff0c;于是准备详细看一篇视频&#xff0c;将核心要点总结记录下。本文内容参考视频&#xff1a;保姆级教程&#xff1a;6小时掌握开源大模型本地部署到微调&#xff0c;感谢up主 训练成本 训练 > 微调 > 推理训练GPT…...

编程日记 2025/6/24 3:09:53

Linux 磁盘满了怎么办？快速排查和清理方法

当 Linux 磁盘满了&#xff0c;会导致系统无法正常运行&#xff0c;比如无法写入文件、服务停止、甚至系统崩溃。因此&#xff0c;快速排查并清理磁盘空间是非常重要的。以下是详细的排查和解决步骤&#xff1a; 一、快速定位磁盘占用原因 1. 检查磁盘使用情况 使用 df 命令查…...

编程日记 2025/6/23 15:39:58

go 协程练习例题

go 协程练习例题 例1&#xff1a;统计 1-200000 的数字中&#xff0c;哪些是素数例2&#xff1a;使用单通道、2个协程交替读取字符串例3&#xff1a;使用1个管道&#xff0c;2个协程写数据、1个协程读例4&#xff1a;完成一个并发任务调度器&#xff0c;按照指定顺序执行一系列…...

编程日记 2025/6/19 22:39:29

JAVA：访问者模式（Visitor Pattern）的技术指南

1、简述 访问者模式（Visitor Pattern）是一种行为型设计模式，允许你将操作分离到不同的对象中，而无需修改对象本身的结构。这种模式特别适合复杂对象结构中对其元素进行操作的场景。 本文将介绍访问者模式的核心概念、优缺点，并通过详细代码示例展示如何在实际应用中实现…...

编程日记 2025/5/31 1:06:58

如何实现邮箱+验证码登录功能（express+vue+MySQL版）

目录 1. 初始化项目2. 配置环境变量3. 更新数据库4. 编写路由函数5. 前端调用接口 1. 初始化项目 前端根目录&#xff1a;/web 后端根目录&#xff1a;/api_server 安装依赖&#xff1a; npm install express mysql nodemailer randomstring dotenv其中&#xff0c;nodemaile…...

编程日记 2025/6/24 3:00:50

Pycharm访问MySQL数据库·上

1.MySQL驱动模块Connector #导入数据库的驱动工具 import mysql.connector #连接数据库必备的条件 config {"host": "localhost","port": 3306,"user": "root","password": "888888","database&…...

编程日记 2025/6/1 16:07:49

vscode+msys2+clang+xmake c++开发环境搭建

转载请标明出处&#xff1a;小帆的帆的专栏 安装msys2 下载msys2安装包&#xff1a;清华源下载地址安装msys2&#xff1a;安装目录&#xff0c;C:\Softwares\msys64 安装cling工具链&#xff0c;xmake &#xff01;&#xff01;&#xff01;在开始菜单中启动MSYS2 CLANG64,…...

编程日记 2025/6/22 14:56:51

Python面试常见问题及答案5

一、基础语法相关 问题1&#xff1a; Python的可变数据类型和不可变数据类型有哪些&#xff1f; 答案&#xff1a; 在Python中&#xff0c;可变数据类型有列表&#xff08;list&#xff09;、字典&#xff08;dict&#xff09;、集合&#xff08;set&#xff09;。这些数据类型…...

编程日记 2025/6/21 10:58:17

威联通docker无法拉取镜像

链接：威联通TS-464C 折腾--Container Station国内无法拉取镜像_docker_wangguanghe-开放原子开发者工作坊我这里用的是IPV6 ，没有公网资源啊。 wangguanghe...

编程日记 2025/6/1 10:11:54

3D 生成重建034-NerfDiff借助扩散模型直接生成nerf

3D 生成重建034-NerfDiff借助扩散模型直接生成nerf 文章目录 0 论文工作1 论文方法2 实验结果 0 论文工作 感觉这个论文可能能shapE差不多同时期工作&#xff0c;但是shapE是生成任意种类。 本文提出了一种新颖的单图像视图合成方法NerfDiff&#xff0c;该方法利用神经辐射场 …...

编程日记 2025/6/24 3:07:54

ASP.net Core EntityFramework Code EF code 汇总

Entity FrameWork EF 总结 EF Core EF Core 如果实体模型很多&#xff0c;全部放在 上下文中的 OnModelCreating(ModelBuilder modelBuilder) 不太好维护 可以把实体模型 分离出去&#xff0c;每个类创建一个实体模型 public class BookConfiguration &#xff1a;IEntityT…...

编程日记 2025/6/24 2:41:30

AtCoder Beginner Contest 384 Solution

文章目录 ABCDEFG A void solve() {string s; char x, y;qr(n, x, y, s);for(auto i: s) {if(i ! x) i y;cout << i;} }B void solve() {qr(n, m);for (int i 1; i < n; i) {int x, y;qr(x, y);x--;if(1600 - x * 400 < m && m < 2799 - x * 400) m…...

编程日记 2025/6/19 23:11:44

c# TaskScheduler

这里记录下 TaskScheduler 的简单用法。 使用场景&#xff1a; 使用 Task 的时候&#xff0c;大家知道用 TaskFactory.StartNew 可以用来创建一个 Task 。这里如果创建了 3 个&#xff0c;那么这3个 Task 就各自放飞直接运行了。 class Program {private static TaskFactory…...

编程日记 2025/6/23 21:40:05

FFMPEG视频转图片

用FFMPEG视频转图片&#xff0c;并且for循环 import os import subprocess# 输入文件夹和输出文件夹路径 input_folder r"I:\xxx" output_base_folder r"D:\xxx\YOLO\data\video" output_subfolder_name "20240609"# 创建输出子文件夹 output…...

编程日记 2025/6/24 2:40:21

激活函数-swiGLU

swiGLU&#xff08;Switch Gated Linear Unit&#xff09;简介 swiGLU 是一种改进的激活函数模块&#xff0c;主要用于深度学习中的 Transformer 模型和其他神经网络架构。它在 GLU&#xff08;Gated Linear Unit&#xff09; 的基础上进行了修改&#xff0c;以提升模型的表现…...

编程日记 2025/5/31 0:06:33

PCIe学习笔记

PCIE高速串行数据总线 当拿到一块板子 比如你要用到PCIE 首先要看这块板子的原理图 一般原理图写的是 PCI express 表示PCIE 以下是Netfpga为例下的PCIE插口元件原理图 ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/01dc604fbdc847e8998a978c83c7b2eb.png 一般主…...

编程日记 2025/6/2 5:29:30

制作容器镜像

容器基础镜像制作 由于项目使用麒麟操作系统&#xff0c;需要在麒麟桌面操作系统和服务器操作系统里编译代码&#xff0c;如果每次都在物理机和虚拟机里编译太不方便&#xff0c;也无法使用常用的 jenkins k8s 组成的 CI/CD 编译环境&#xff0c;如果基于整个ISO太大了&#…...

编程日记 2025/6/3 2:36:14

mysql系列4—mysql数据库设计和查询优化

背景 数据库作为持久层需要从磁盘读写数据&#xff0c;是整个系统的短板&#xff0c;其性能会直接体现在产品性能上。因此数据库的设计和优化再怎么强调也不为过。本文将从数据库设计和查询优化两个角度思考如何提高数据库性能&#xff0c;内容包括数据库范式与表设计、基本字…...

编程日记 2025/6/2 7:03:31

音视频入门基础：MPEG2-TS专题（16）——PMT简介

一、引言 PMT&#xff08;Program Map Table&#xff09;与PAT表成对出现&#xff0c;其PID由PAT表给出。通过PMT表可以得到该节目包含的视频和音频信息&#xff0c;从而找到音视频流&#xff1a; 二、PMT表中的属性 根据《T-REC-H.222.0-202106-S!!PDF-E.pdf》第79页&#x…...

编程日记 2025/6/24 2:59:29

2024小迪安全信息收集第三课

目录 一、Web应用-架构分析-WAF&蜜罐识别 二、Web应用-架构分析-框架组件指纹识别 #Web架构 开源CMS 前端技术 开发语言 框架组件 Web服务器 应用服务器 数据库类型 操作系统信息 应用服务信息 CDN信息 WAF信息 蜜罐信息 其他组件信息 #指纹识别 #WAF识别…...

编程日记 2025/6/22 10:20:05

ESP32-C3 入门笔记07: ESP-NOW动态绑定MAC地址. (ESP-IDF + VSCode)

ESP-NOW 简介 ESP-NOW [gitbuh] ESP-NOW 是一种由乐鑫公司定义的无连接 Wi-Fi 通信协议。在 ESP-NOW 中&#xff0c;应用程序数据被封装在各个供应商的动作帧中&#xff0c;然后在无连接的情况下&#xff0c;从一个 Wi-Fi 设备传输到另一个 Wi-Fi 设备。 CTR 与 CBC-MAC 协…...

编程日记 2025/6/20 16:48:36

Windows如何安装go环境，离线安装beego

一、安装go 1、下载go All releases - The Go Programming Language 通过网盘分享的文件&#xff1a;分享的文件 链接: https://pan.baidu.com/s/1MCbo3k3otSoVdmIR4mpPiQ 提取码: hxgf 下载amd64.zip文件&#xff0c;然后解压到指定的路径 2、配置环境变量 需要新建两个环境…...

编程日记 2025/6/20 5:29:55

【Unity技巧】如何设置屏幕最小宽度

在 Unity 中&#xff0c;设置屏幕最小宽度可以通过调整 Canvas 的 CanvasScaler 组件来控制 UI 元素的缩放&#xff0c;并确保 UI 在不同屏幕宽度下始终能保持适当的布局。 不过&#xff0c;如果你想要限制游戏的实际窗口宽度&#xff0c;通常是通过代码来实现的。例如&#x…...

编程日记 2025/6/23 7:42:29

【新版】阿里云ACP云计算题库及答案解析

阿里云ACO云计算考试提醒都是选择题&#xff0c;70道单选题30道单选题&#xff0c;聪明的小伙伴都知道刷题备考加深记忆&#xff0c;给大家分享一波阿里云ACP云计算题库及答案&#xff0c;希望对大家顺利拿到阿里云ACP云计算高级工程师证书有所帮助&#xff01; 1、设计云上架…...

编程日记 2025/6/24 2:45:32

【蓝桥杯每日一题】推导部分和——带权并查集

推导部分和 2024-12-11 蓝桥杯每日一题 推导部分和 带权并查集 题目大意 对于一个长度为 ( N ) 的整数数列 A 1 , A 2 , ⋯ , A N A_1, A_2, \cdots, A_N A1​,A2​,⋯,AN​ &#xff0c;小蓝想知道下标 ( l ) 到 ( r ) 的部分和 ∑ i l r A i A l A l 1 ⋯ A r \sum_{…...

编程日记 2025/6/23 22:40:35

【Linux服务器nginx前端部署详解】ubantu22.04，前端Vue项目dist打包

本文主要讲一下在Linux系统环境下&#xff08;以ubantu22.04为例&#xff09;&#xff0c;如何用nginx部署前端Vue项目打包的dist静态资源。有些具体的命令就不展开讲了&#xff0c;可以自行查看其他博主的文章&#xff0c;我主要讲整体的步骤和思路。 一、ubantu系统安装ngin…...

编程日记 2025/6/4 8:22:09

Groovy 语法快速入门

文章目录 1. Groovy 的特点2. 基本语法2.1. 变量2.2. 字符串2.3. 条件语句 3. 集合操作3.1. 列表&#xff08;List&#xff09;3.2. 映射&#xff08;Map&#xff09; 4. 循环语句4.1. 普通循环4.2. 闭包遍历 5. 方法定义6. 闭包&#xff08;Closure&#xff09;6.1. 定义与调用…...

编程日记 2025/6/20 16:01:25

vue3 Textarea在光标定位处，增加一定的关键词。

1、经常碰到这种情况&#xff0c;有一些是系统预留的关键词可以选择&#xff0c;当用户把光标定位到什么地方&#xff0c;我们就要在这个位置插入指定的关键词。 2、光标定位在今天的前面&#xff0c;那么我们点击【逗号】按钮&#xff0c;在这个位置增加一个逗号。 3、代码&…...

编程日记 2025/6/20 10:52:17

硬件设计-电源轨噪声对时钟抖动的影响

目录 定义 实际案例 总结 定义 首先了解抖动的定义&#xff0c;在ITU-T G.701中有关抖动的定义如下&#xff1a; 数字信号重要瞬间相对于其理想时间位置的短期非累积变化。 抖动是时钟或数据信号时序的短期时域变化。抖动包括信号周期、频率、相位、占空比或其他一些定时特…...

编程日记 2025/6/23 15:09:15

Graspness 端到端抓取点估计 | 环境搭建 | 模型推理测试

在复杂场景中实现抓取检测&#xff0c;Graspness是一种端到端的方法&#xff1b; 输入点云数据&#xff0c;输出抓取角度、抓取深度、夹具宽度等信息。 开源地址&#xff1a;https://github.com/rhett-chen/graspness_implementation?tabreadme-ov-file 论文地址&#xff1…...

编程日记 2025/6/23 15:58:18

大模型呼入机器人的缺点是什么？(转)

大模型呼入机器人的缺点是什么&#xff1f;(转) 原作者&#xff1a;开源呼叫中心FreeIPCC&#xff0c;其Github&#xff1a;https://github.com/FreeIPCC/FreeIPCC 大模型呼入机器人在提供高效、自动化服务的同时&#xff0c;也存在一些缺点。以下是对其缺点的详细归纳&#…...

编程日记 2025/6/23 8:12:53

ASP.NET ｜日常开发中连接Oracle数据库详解

ASP.NET &#xff5c;日常开发中连接Oracle数据库详解 前言一、安装和配置 Oracle 数据访问组件1.1 安装ODP.NET&#xff08;Oracle Data Provider for.NET&#xff09;&#xff1a;1.2 引用相关程序集&#xff1a; 二、配置连接字符串2.1 连接字符串的基本组成部分&#xff1a…...

编程日记 2025/6/23 7:05:13

Kaggler日志-Day4

进度24/12/14 昨日复盘&#xff1a; Pandas课程完成 Intermediate Mechine Learning2/7 今日记录&#xff1a; Intermediate Mechine Learning之类型变量 读两篇讲解如何提问的文章&#xff0c;在提问区里发起一次提问 实战&#xff1a;自己从头到尾首先Housing Prices Compe…...

编程日记 2025/6/23 17:01:34

onnx算子的注册详解及案例 （完整版）

文章目录 1. 介绍1.1 导出onnx不成功1.2 分析和解决方案2. 案例2.1 Asinh算子注册2.1.1 导出onnx2.1.2 算子注册2.2 自定义算子的注册2.1 直接导出自定义算子2.2 自定义算子的注册并导出2.3 导出带deformable conv 的onnx2.3.1 直接导出deformable conv2.3.2 注册并导出deforma…...

编程日记 2025/6/22 13:28:28

2024生命科学前沿技术

前沿技术是指高技术领域中具有前瞻性、先导性和探索性的重大技术&#xff0c;是未来高技术更新换代和新兴产业发展的重要基础&#xff0c;是国家高技术创新能力的综合体现。选择前沿技术的主要原则一是代表世界高技术前沿的发展方向。二是对国家未来新兴产业的形成和发展具有引…...

编程日记 2025/6/21 11:37:32

游戏引擎学习第47天

仓库: https://gitee.com/mrxiao_com/2d_game 昨天我们花了一点时间来修复一个问题&#xff0c;但基本上是在修复这个问题的过程中&#xff0c;我们决定添加一个功能&#xff0c;那就是在屏幕上控制多个实体。所以如果我有一个手柄&#xff0c;我可以添加另一个角色&#xff0…...

编程日记 2025/6/1 8:11:54

1.编写 Prompt 的原则

一、环境配置 使用 OpenAI 的 ChatGPT API&#xff0c;需要有 API_KEY&#xff0c;并安装 OpenAI 库。安装命令&#xff1a;pip install openai 和 pip install zhipuai。配置方法&#xff1a;直接设置 openai.api_key 或通过环境变量设置。 二、两个基本原则 2.1 原则一&am…...

编程日记 2025/6/1 16:23:24

【JavaEE】网络（2）

一、网络编程套接字 1.1 基础概念 【网络编程】指网络上的主机&#xff0c;通过不同的进程&#xff0c;以编程的方式实现网络通信&#xff1b;当然&#xff0c;我们只要满足进程不同就行&#xff0c;所以即便是同一个主机&#xff0c;只要是不同进程&#xff0c;基于网络来传…...

编程日记 2025/6/20 7:33:13

SAS - Subtractive Port

在SAS&#xff08;串行连接SCSI&#xff0c;Serial Attached SCSI&#xff09;协议中&#xff0c;subtractive port 是一种特殊类型的端口&#xff0c;主要用于设备间的路由功能。它的作用是在路径选择过程中充当默认路径&#xff0c;以处理未明确指定路径的请求。以下是它的定…...

编程日记 2025/6/3 15:37:26

Unity3D项目为什么要使用FairyGUI

前言 Unity3D项目选择使用FairyGUI的原因是多方面的&#xff0c;主要涵盖性能优化、设计模式、编辑器支持、跨平台兼容性以及丰富的功能特性。以下是对这些方面的详细解析以及相关的代码实现。 对惹&#xff0c;这里有一个游戏开发交流小组&#xff0c;希望大家可以点击进来一…...

编程日记 2025/6/23 19:05:07

Pytest接口自动化测试框架Python自动化测试开发

一、引言 在软件开发过程中&#xff0c;接口测试是确保软件各个组件之间数据传输和功能交互正常工作的重要环节。通过接口测试&#xff0c;可以提高软件的整体质量和稳定性。Pytest是一个流行的Python自动化测试框架&#xff0c;提供了丰富的断言方法和灵活的测试组织结构&…...

编程日记 2025/6/2 5:58:53

MySQL追梦旅途之性能优化

1、索引优化 索引可以显著加速查询操作&#xff0c;但过多或不适当的索引也会带来负面影响&#xff08;如增加写入开销&#xff09;。因此&#xff0c;选择合适的索引至关重要。 创建索引&#xff1a; 为经常用于WHERE子句、JOIN条件和ORDER BY排序的列创建索引。 CREATE I…...

编程日记 2025/6/4 7:22:51

数字校园：信息时代的教育新形态

现如今&#xff0c;我们生活在一个信息爆炸的时代&#xff0c;每一天都有海量的信息产生。而在教育领域&#xff0c;也正在经历一场数字化的变革&#xff0c;这就是所谓的“数字校园”。数字校园可不是简单的把课本搬到电脑上那么简单&#xff0c;它其实是一个综合性的平台&…...

编程日记 2025/6/20 5:43:56

数字产业化和产业数字化到底是什么？

“数字产业化”和“产业数字化”在很多官方文件和领导人讲话中都是成对出现的&#xff0c;这两个术语看起来非常相似&#xff0c;但它们作为数字经济的两个重要组成部分&#xff0c;既有联系又有区别。 在谈数字产业化和产业数字化之前&#xff0c;我这里需要先给大家介绍一个概…...

编程日记 2025/6/22 18:20:20

每日十题八股-2024年12月14日

1.类加载器有哪些&#xff1f; 2.双亲委派模型的作用 3.讲一下类加载过程&#xff1f; 4.讲一下类的加载和双亲委派原则 5.什么是Java里的垃圾回收&#xff1f;如何触发垃圾回收&#xff1f; 6.判断垃圾的方法有哪些&#xff1f; 7.垃圾回收算法是什么&#xff0c;是为了解决了…...

编程日记 2025/6/23 20:52:03

大模型呼入机器人有哪些功能特点？(转)

大模型呼入机器人有哪些功能特点&#xff1f;(转) 原作者&#xff1a;开源呼叫中心FreeIPCC&#xff0c;其Github&#xff1a;https://github.com/lihaiya/freeipcc 大模型呼入机器人&#xff0c;作为现代通信技术与人工智能深度融合的产物&#xff0c;正逐渐成为企业提升服务…...

编程日记 2025/5/25 11:56:00

EasyExcel设置表头上面的那种大标题（前端传递来的大标题）

1、首先得先引用easyExcel的版本依赖&#xff0c;我那 <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>2.2.6</version> </dependency> 2、然后得弄直接的实体类&#xff0c;&…...

编程日记 2025/6/20 15:49:35

[笔记] 编译LetMeowIn（C++汇编联编程序）过程

文章目录 前言过程下载源码vs2017 创建空项目 引入编译文件改项目依赖属性改汇编编译属性该项目还需注意编译运行 总结 前言 编译LetMeowin 项目发现是个混编项目&#xff0c;c调用汇编的程序&#xff0c;需要配置一下&#xff0c;特此记录一下 过程 下载源码 首先下载源码…...

编程日记 2025/6/20 16:02:34

（三）机器学习 - 标准差/方差

标准差 标准差是统计学中一个非常重要的概念&#xff0c;它用来衡量一组数据的离散程度&#xff0c;即数据点与平均值之间的偏离程度。标准差越大&#xff0c;表示数据点越分散&#xff1b;标准差越小&#xff0c;表示数据点越集中。 标准差的计算步骤如下&#xff1a; 计算数…...

编程日记 2025/6/20 1:52:42

笔记：在WPF中InvalidateMeasure，InvalidateArrange，InvalidateVisual，UpdateLayout主要功能

一、目的&#xff1a;简要介绍在WPF中InvalidateMeasure&#xff0c;InvalidateArrange&#xff0c;InvalidateVisual&#xff0c;UpdateLayout主要功能 在 WPF 中&#xff0c;InvalidateMeasure、InvalidateArrange、InvalidateVisual 和 UpdateLayout 是用于控制布局系统的四…...

编程日记 2025/6/1 18:20:47