当前位置： 首页 > news >正文

大模型本地部署硬件资源学习（包含模型微调所需资源）

news 来源：原创 2025/9/16 5:46:39

大模型本地部署硬件配置学习

  • 前言
    • 1.大模型应用需求分析扩展框架
    • 2.华为昇腾算力
    • 3.显卡信息汇总对比表
    • 4.大模型微调显卡资源指南（Qwen系列与DeepSeek蒸馏模型）
        • 一、Qwen系列模型微调显存需求
        • 二、DeepSeek-R1蒸馏模型微调显存需求
        • 三、显存优化策略与硬件选型建议
        • 四、典型场景配置示例

前言

本博客将全面探讨构建系统的需求分析框架到深入解析华为昇腾算力的支持能力，再到提供详尽的显卡信息对比和大模型微调所需的显存资源指南。特别针对Qwen系列与DeepSeek蒸馏模型，将详细介绍其微调显存需求、优化策略及硬件选型建议。

1.大模型应用需求分析扩展框架

从行业落地、技术实现、资源匹配、场景适配等多维度展开需求分析，结合大模型技术特性与业务痛点，形成系统性评估体系。

行业需求分析：聚焦降本增效与创新驱动

行业核心痛点需求及解决方案目标
通信行业- 人工拼装方案效率低、质量不稳定
- 客户需求变更频繁		- RAG检索增强生成
- 业务参数固化
- 标准化章节模板
实现方案自动化生成与动态调整		效率提升
金融行业- 数据分散、合规要求高
- 分析时效性强		- 构建行业知识库（监管规则、历史案例）
- 结合多模态数据分析生成合规报告		质量优化
医疗行业- 影像数据量大
- 医生经验依赖度高		- 视觉大模型结合病理文本数据
- 实现病灶标注与诊断建议生成		创新赋能
制造业- 设备数据孤岛
- 故障响应滞后		- 时序数据分析模型+知识图谱
- 生成维修指南与备件调度方案		效率提升/质量优化

目标：

  • 效率提升（自动化）：通过自动化工具和技术减少人力投入，提高工作效率。
  • 质量优化（标准化）：通过制定和应用标准流程或模板，确保输出的一致性和高质量。
  • 创新赋能（智能化）：利用先进的技术手段如AI，为行业带来新的可能性和服务能力。

资源需求分析：分级匹配投入规模
根据业务目标划分资源投入层级，避免资源浪费：

场景分级参数量范围硬件配置典型应用
轻量级（实验）1.5B-7B单卡RTX 3060+32GB内存内部知识问答、文本校对
企业级（生产）14B-70B多卡RTX 4090/A5000+128GB内存自动化报告生成、智能客服
科研级（创新）100B+昇腾910B集群/A100 SuperPODAGI研究、多模态生成

资源匹配原则：

  • 显存瓶颈：模型参数量×2 ≈ 最小显存需求（例：7B模型需14GB显存，实际需16GB以上冗余）；
  • 成本控制：企业级场景优先采用量化技术（4-bit）与模型剪枝，显存占用降低50%。

用户场景需求分析：从通用到垂直

通用场景（L0级模型）：

  • 需求：多轮对话、跨领域知识问答；
  • 案例：ChatGPT式交互，需长上下文支持（16K+ tokens）与意图识别 。

行业场景（L1级模型）：

  • 需求：领域术语理解、规则约束（如法律条文）；
  • 案例：通信行业售前方案生成需固化报价模板、对接设备库 。

垂直场景（L2级模型）：

  • 需求：高精度任务执行（如医疗影像分割）；
  • 案例：制造业质检模型需融合视觉大模型与缺陷数据库 。

主流显卡性能分析**

显卡型号显存容量FP16算力（TFLOPS）适用场景性价比推荐
RTX 306012GB25.97B模型推理/微调入门级
RTX 309024GB71.014B-32B模型训练中高端
RTX 409024GB130.070B模型推理/多卡并行旗舰级
A100 40GB40GB312.0科研级大模型分布式训练企业级
AMD RX 7900XTX24GB122.0光栅化任务（性价比高）替代方案

2.华为昇腾算力

华为昇腾系列是专为AI计算设计的芯片组，分为 训练卡 和 推理卡 两类，适配不同算力需求场景：

  1. 昇腾910B（训练卡）
    • 算力：FP16算力376 TFLOPS，INT8算力512 TOPS，支持大规模分布式训练。
    • 架构：基于达芬奇3D Cube架构，集成HCCS高速互联接口（带宽392GB/s），支持多卡集群扩展。
    • 应用：100B+参数大模型训练、多模态学习（如医疗影像与文本联合建模）。
  2. 昇腾310（推理卡）
    • 算力：FP16算力8 TFLOPS，INT8算力16 TOPS，功耗仅8W，适合边缘端部署。
    • 特性：支持16路超高清视频解码（H.264/H.265），适用于安防监控、工业质检等实时分析场景。
  3. Atlas 300I系列（推理加速卡）
    • 型号：Atlas 300I Pro（24GB显存）和Atlas 300I Duo（96GB显存）。
    • 场景：7B-70B参数模型的低延迟推理，兼容华为CANN框架和MindSpore生态。

Atlas智能计算硬件矩阵

昇腾芯片通过 Atlas产品家族 实现多形态部署，覆盖端边云全场景：

  1. 边缘设备
    • Atlas 500智能小站：集成昇腾310芯片，支持-40°C至70°C宽温运行，用于油气巡检、电力监测等严苛环境。
    • Atlas 800边缘服务器：搭载4-8张昇腾310卡，提供边缘侧AI推理集群能力，支持智慧城市交通调度。
  2. 云端服务器与集群
    • Atlas 900 PoD：单集群支持4096颗昇腾910B，算力达256 PFLOPS（FP16），用于国家级AI计算中心建设。
    • Atlas 300T Pro训练服务器：单机配置8张昇腾910B，支持千亿参数模型微调，适配金融、运营商行业需求。

命名规则：

  • I后缀为推理卡，V为视频解析卡，T为训练卡；
  • Pro/Duo代表增强版或多卡协同设计。
指标昇腾910B（训练）NVIDIA A100（训练）Atlas 300I Duo（推理）NVIDIA T4（推理）
FP16算力 (TFLOPS)37631214065
显存容量64GB HBM40GB HBM2e96GB GDDR616GB GDDR6
显存带宽392GB/s1.55TB/s800GB/s320GB/s
功耗350W400W250W70W
生态兼容性MindSpore/CANNCUDA/TensorRT华为云AI框架CUDA/TensorRT

昇腾核心优势：

  • 能效比：昇腾910B在FP16算力上超越A100，功耗降低12.5%，适合数据中心绿色化需求。
  • 国产化适配：与鲲鹏CPU、欧拉OS深度集成，支持信创场景的本地化部署。
  • 长序列处理：Atlas 300V Pro的视频解析能力在医疗影像、工业质检中表现突出。
  • 达芬奇架构 ：3D Cube矩阵运算单元提升AI计算密度，相比传统GPU能效比提升50%。
  • 软硬协同生态 ：CANN（Compute Architecture for Neural Networks）：异构计算架构，实现昇腾芯片与TensorFlow/PyTorch框架无缝对接。
  • MindSpore：支持自动并行与混合精度训练，降低大模型开发门槛。
  • 国产化适配 ：与鲲鹏CPU、欧拉OS深度集成，满足政府、国防等领域的安全可控需求。

3.显卡信息汇总对比表

以下为华为昇腾、英伟达（消费级/数据中心）、以及混合型号的全面对比，覆盖性能参数、应用场景及技术特性。此表为参考，并不能完全保证数据准确无误。

制造商型号架构显存容量显存类型显存带宽FP16算力 (TFLOPS)INT8算力 (TOPS)功耗 (W)应用场景关键特性
华为昇腾910B达芬奇架构64GBHBM392GB/s376512350大模型训练/多模态高能效比，国产化适配
华为昇腾310达芬奇架构8GBLPDDR464GB/s8168边缘推理/视频分析低功耗，支持16路视频解码
华为Atlas 300I Duo达芬奇架构96GBGDDR6800GB/s140280250大模型推理多任务并行，高显存容量
华为Atlas 300I Pro达芬奇架构24GBGDDR6512GB/s130260200企业级推理兼容MindSpore生态
英伟达H100Hopper80GBHBM33.35TB/s3122000700千亿参数模型训练第四代Tensor Core，NVLink高速互联
英伟达B100Blackwell192GBHBM3e5TB/s400+（预估）1600+（预估）1000+多模态/AGI研究3nm工艺，3D堆叠技术
英伟达A100Ampere40GBHBM2e1.55TB/s156624400中等模型训练/HPC支持MIG技术，高性价比
英伟达L20Ada Lovelace48GBHBM31.9TB/s90360275云端推理/多模态高显存带宽，支持光追与DLSS
英伟达A30Ampere24GBHBM2933GB/s20.6（FP16）330165企业级训练/推理MIG多实例分割，低功耗
英伟达RTX 4090Ada Lovelace24GBGDDR6X1TB/s1305204504K光追游戏/AI推理消费级旗舰，支持DLSS 3.0
英伟达RTX 5090Blackwell32GBGDDR72TB/s200+（预估）800+（预估）600+下一代光追/大模型推理3nm制程，DLSS 4.0支持
英伟达RTX 4070 SuperAda Lovelace12GBGDDR6X504GB/s80（FP16）3202202K游戏/轻量AI任务高性价比，AV1编码支持

4.大模型微调显卡资源指南（Qwen系列与DeepSeek蒸馏模型）

一、Qwen系列模型微调显存需求
模型规模微调方式FP16显存需求INT8显存需求INT4显存需求推荐显卡配置适用场景
Qwen2-1.5B全参微调8-10GB4-5GB2-3GBRTX 3060/昇腾310（8GB）轻量级对话/边缘推理
LoRA微调5-6GB3-4GB1.5-2GBRTX 4070 Super（12GB）本地多任务适配
Qwen2-7B全参微调24GB+12-14GB6-8GBRTX 4090（24GB）企业级垂直领域优化
LoRA微调16-18GB8-10GB4-6GB双RTX 4090（NVLink）高并发推理/多任务并行
Qwen2-14B全参微调32GB+16-18GB8-10GBA100 80GB（单卡）长文本生成/复杂逻辑推理
LoRA+QLoRA12-14GB6-8GB3-4GBRTX 4090（24GB）低成本快速迭代
Qwen2-72B全参微调300GB+150-180GB80-100GB4×H100 80GB（NVLink集群）千亿参数科研级训练
分布式微调单卡80GB+单卡40-50GB单卡20-25GB8×A100 80GB（RDMA互联）多模态联合训练

关键数据来源：

  • Qwen1.5-7B/14B模型需24GB+显存，INT8量化显存降低50%。
  • 72B模型需多卡集群，显存总量需覆盖参数+梯度+优化器状态。
二、DeepSeek-R1蒸馏模型微调显存需求
模型规模微调方式FP16显存需求INT8显存需求INT4显存需求推荐显卡配置适用场景
DeepSeek-R1-1.5B全参微调4-5GB2-3GB1-1.5GB昇腾310（8GB）嵌入式设备/实时视频分析
LoRA微调2.5-3GB1.2-1.8GB0.6-1GBJetson AGX Orin（32GB）边缘端多模态推理
DeepSeek-R1-7B全参微调12-14GB6-8GB3-4GBRTX 4070 Super（12GB）轻量级代码生成/合同审核
QLoRA微调5-6GB2.5-3GB1.2-1.5GBRTX 3060（8GB）中小企业本地部署
DeepSeek-R1-14B全参微调24GB+12-14GB6-8GBRTX 4090（24GB）长文本摘要/法律文书生成
分布式微调单卡16GB+单卡8-10GB单卡4-6GB2×A30（24GB HBM2）医疗影像与文本联合训练
DeepSeek-R1-70B全参微调80GB+40-50GB20-25GB4×H100 80GB（3.2TB/s带宽）金融预测/超大规模知识图谱
异构分布式单卡24GB+单卡12-15GB单卡6-8GB混合NVIDIA/昇腾集群跨平台多任务推理

关键数据来源：

  • DeepSeek-R1-14B量化后显存降低至6-8GB，支持单卡推理。
  • 70B模型需多卡并行，HBM3e显存带宽需≥5TB/s。
三、显存优化策略与硬件选型建议

  1. 量化技术选择：

    • INT8：适用于显存紧张场景，Qwen2-7B量化后显存降至12GB。
    • INT4+QLoRA：DeepSeek-R1-7B仅需1.2GB显存，适合边缘设备。

  2. 分布式训练配置：

    • Qwen2-72B：需4×H100集群，显存带宽≥3.2TB/s以避免通信瓶颈。
    • DeepSeek-R1-70B：推荐阿里云GN7实例（A100集群），按需扩展算力。

  3. 性价比方案：

    • 中小模型：RTX 4090（24GB）单卡覆盖Qwen2-14B和DeepSeek-R1-14B的LoRA微调。
    • 企业级部署：华为昇腾910B（64GB HBM）适配国产化需求，支持Qwen全系列。
四、典型场景配置示例
场景模型与配置硬件方案性能指标
医疗报告生成DeepSeek-R1-14B + LoRA（FP16）双RTX 4090（48GB显存） + 128GB DDR5吞吐量120样本/秒，延迟<0.5秒
金融风险预测Qwen2-72B + 分布式全参微调（INT8）8×H100 80GB + InfiniBand网络训练速度1.2小时/epoch，精度99.2%
工业质检边缘推理DeepSeek-R1-1.5B + QLoRA（INT4）昇腾310集群（4节点） + 32GB内存支持16路视频流，功耗<50W
  • 显存计算工具：使用公式 显存 ≈ 参数量 × 精度字节数 × 3 快速估算（如Qwen2-7B FP16：7B×2×3=42GB → 实际优化后24GB。
  • 监控工具：SwanLab或NVIDIA DCGM实时追踪显存与算力利用率。
  • 云服务对比：阿里云GN6i（T4 16GB）时租成本低于自建机房的30%。

相关文章：

大模型本地部署硬件资源学习（包含模型微调所需资源）

大模型本地部署硬件配置学习 前言1.大模型应用需求分析扩展框架2.华为昇腾算力3.显卡信息汇总对比表4.大模型微调显卡资源指南&#xff08;Qwen系列与DeepSeek蒸馏模型&#xff09;一、Qwen系列模型微调显存需求二、DeepSeek-R1蒸馏模型微调显存需求三、显存优化策略与硬件选型…...

编程日记 2025/9/16 5:46:39

【DeepSeek系列】05 DeepSeek核心算法改进点总结

文章目录 一、DeepSeek概要二、4个重要改进点2.1 多头潜在注意力2.2 混合专家模型MoE2.3 多Token预测3.4 GRPO强化学习策略 三、2个重要思考3.1 大规模强化学习3.2 蒸馏方法&#xff1a;小模型也可以很强大 一、DeepSeek概要 2024年&#xff5e;2025年初&#xff0c;DeepSeek …...

编程日记 2025/9/16 5:46:38

Java基础常见的面试题（易错！！）

面试题一&#xff1a;为什么 Java 不支持多继承 Java 不支持多继承主要是为避免 “菱形继承问题”&#xff08;又称 “钻石问题”&#xff09;&#xff0c;即一个子类从多个父类继承到同名方法或属性时&#xff0c;编译器无法确定该调用哪个父类的成员。同时&#xff0c;多继承…...

编程日记 2025/9/11 5:55:30

山东大学软件学院nosql实验四

实验题目&#xff1a; 使用Java做简单数据插入 实验内容 用API方式&#xff0c;做数据插入。 使用Java语言实现数据插入界面&#xff0c;为实验一建立的学生、教师、课程表插入数据&#xff0c;可以在前端界面中录入数据之后保存&#xff0c;也可以导入Excel中的数据。 实…...

编程日记 2025/9/13 8:37:00

Linux | man 手册使用详解

注&#xff1a;本文为 “Linux man 手册” 相关文章合辑。 略作重排。 man 手册常用命令 1. 查看和搜索手册页 查看特定软件包的手册页&#xff0c;并使用 grep 命令过滤出包含特定关键字的行&#xff1a; man <package> | grep <keyword>在整个系统的手册页中…...

编程日记 2025/9/15 16:01:32

初阶数据结构（C语言实现）——1数据结构前言

1. 什么是数据结构 数据结构(Data Structure)是计算机存储、组织数据的方式&#xff0c;指相互之间存在一种或多种特定关系的数据元素的集合。 2.什么是算法&#xff1f; 算法(Algorithm):就是定义良好的计算过程&#xff0c;他取一个或一组的值为输入&#xff0c;并产生出一…...

编程日记 2025/9/16 1:38:06

Windows - 通过ssh打开带有图形界面的程序 - 一种通过计划任务的曲折实现方式

Windows(奇思妙想) - 通过ssh打开带有图形界面的程序 - 一种通过计划任务的曲折实现方式 前言 Windows启用OpenSSH客户端后就可以通过SSH的方式访问Windows了。但是通过SSH启动的程序&#xff1a; 无法显示图形界面会随着SSH进程的结束而结束 于是想到了一种通过执行“计划…...

编程日记 2025/9/10 6:53:47

基于 SpringBoot 的 “电影交流平台小程序” 系统的设计与实现

大家好&#xff0c;今天要和大家聊的是一款基于 SpringBoot 的 “电影交流平台小程序” 系统的设计与实现。项目源码以及部署相关事宜请联系我&#xff0c;文末附上联系方式。 项目简介 基于 SpringBoot 的 “电影交流平台小程序” 系统设计与实现的主要使用者分为 管理员 和…...

编程日记 2025/9/12 21:25:35

工具方法 - 合规性矩阵

Compliance matrix &#xff08;合规性矩阵&#xff09;是产品需求管理中的一个重要工具&#xff0c;它是用来识别、跟踪、监控和组织所有客户和利益相关方需求是否被满足的工具。具体来说&#xff0c;Compliance matrix需要用一行一行的证据来证明被设计的产品针对每个需求的实…...

编程日记 2025/9/15 22:46:21

2.2 STM32F103C8T6最小系统板的四种有关固件的开发方式

2.2.1 四种有关固件的开发方式 四种有关于固件的开发方式从时间线由远及近分别是&#xff1a;寄存器开发、标准外设驱动库开发、硬件抽象层库开发、底层库开发。 四种开发方式各有优缺点&#xff0c;可以参考ST官方的测试与说明。 1.寄存器开发 寄存器编程对于从51等等芯片过渡…...

编程日记 2025/9/9 21:34:18

go 环境准备

配置路径&#xff1a; GOROOT&#xff1a;D:\GoGOPATH&#xff1a;go的工作目录 D:\workspacego 验证版本&#xff1a;go version 配置第三方仓库&#xff1a; GO111MODULE&#xff1a;开启mod模式GOPROXY&#xff1a;go语言三方库地址GOSUMDB&#xff1a;go语言软件包的M…...

编程日记 2025/9/15 13:01:03

VMware安装Centos 9虚拟机+设置共享文件夹+远程登录

一、安装背景 工作需要安装一台CentOS-Stream-9的机器环境&#xff0c;所以一开始的安装准备工作有&#xff1a; vmware版本&#xff1a;VMware Workstation 16 镜像版本&#xff1a;CentOS-Stream-9-latest-x86_64-dvd1.iso &#xff08;kernel-5.14.0&#xff09; …...

编程日记 2025/8/22 17:01:39

高中数学基础-平面向量

文章目录 1、平面向量2、复数 高中数学-平面向量、复数 1、平面向量 向量&#xff1a;具有大小和方向的量称为向量&#xff1b;物理学中向量也称矢量&#xff0c;只有大小没有方向的量称为标量&#xff1b;向量的大小称为模&#xff0c;大小为1的是单位向量&#xff0c;长度为0…...

编程日记 2025/9/15 17:57:27

v4l2子系统学习（三）编写虚拟摄像头驱动

文章目录 1、声明2、前言3、虚拟摄像头驱动编写3.1、编写硬件相关代码3.2、程序示例 1、声明 本文是在学习韦东山《驱动大全》V4L2子系统时&#xff0c;为梳理知识点和自己回看而记录&#xff0c;全部内容高度复制粘贴。 韦老师的《驱动大全》&#xff1a;商品详情 其对应的…...

编程日记 2025/9/14 15:32:38

堆排序（详解）c++

堆排序 &#xff08;可以⽤ ppt 演⽰流程&#xff09; 堆排序(Heap Sort)是指利⽤堆这种数据结构所设计的⼀种排序算法。本质上是优化了选择排序算法&#xff0c;选择排序的思想是在堆排序元素中拿出最大值或最小值&#xff0c;然后把这个位置的值放在它该放的位置上就可以了&a…...

编程日记 2025/9/14 16:17:39

API测试工具：Swagger vs Postman 2025最新全面对比

随着微服务架构的普及和云原生应用的激增&#xff0c;高效的 API 开发、测试和文档管理工具变得越来越重要。在众多 API 工具中&#xff0c;Swagger 和 Postman 各自以不同的方式解决着 API 开发生命周期中的关键问题&#xff0c;本文将从多个维度深入对比这两款工具&#xff0…...

编程日记 2025/9/15 1:14:50

算法-图-数据结构（邻接矩阵）-BFS广度优先遍历

邻接矩阵广度优先遍历&#xff08;BFS&#xff09;是一种用于遍历或搜索图的算法&#xff0c;以下是具体介绍&#xff1a; 1. 基本概念 图是一种非线性的数据结构&#xff0c;由顶点和边组成&#xff0c;可分为无向图、有向图、加权图、无权图等。邻接矩阵是表示图的一种数…...

编程日记 2025/9/9 14:40:16

List的模拟实现（2）

前言 上一节我们讲解了list的基本功能&#xff0c;那么本节我们就结合底层代码来分析list是怎么实现的&#xff0c;那么废话不多说&#xff0c;我们正式进入今天的学习&#xff1a;&#xff09; List的底层结构 我们先来看一下list的底层基本结构&#xff1a; 这里比较奇怪的…...

编程日记 2025/9/13 19:12:40

【C++设计模式】观察者模式（1/2）：从基础到优化实现

1. 引言 在 C 软件与设计系列课程中&#xff0c;观察者模式是一个重要的设计模式。本系列课程旨在深入探讨该模式的实现与优化。在之前的课程里&#xff0c;我们已对观察者模式有了初步认识&#xff0c;本次将在前两次课程的基础上&#xff0c;进一步深入研究&#xff0c;着重…...

编程日记 2025/9/13 19:26:02

可狱可囚的爬虫系列课程 13：Requests使用代理IP

一、什么是代理 IP 代理 IP&#xff08;Proxy IP&#xff09;是一个充当“中间人”的服务器IP地址&#xff0c;用于代替用户设备&#xff08;如电脑、手机等&#xff09;直接与目标网站或服务通信。用户通过代理IP访问互联网时&#xff0c;目标网站看到的是代理服务器的IP地址&…...

编程日记 2025/9/14 13:18:08

冒险岛079 V8 整合版源码搭建教程+IDEA启动

今天教大家来部署下一款超级怀旧游戏冒险岛&#xff0c;冒险岛源码是开源的&#xff0c;但是开源的代码会有各种&#xff0c;本人进行了加工整合&#xff0c;并且用idea进行了启动测试&#xff0c;经过修改后没有任何问题。 启动截图 后端控制台 前端游戏界面 声明 冒险岛源码…...

编程日记 2025/9/15 12:25:58

Web刷题之PolarDN（中等）

1.到底给不给flag呢 代码审计 一道典型的php变量覆盖漏洞 相关知识 什么是变量覆盖漏洞 自定义的参数值替换原有变量值的情况称为变量覆盖漏洞 经常导致变量覆盖漏洞场景有&#xff1a;$$使用不当&#xff0c;extract()函数使用不当&#xff0c;parse_str()函数使用不当&…...

编程日记 2025/9/15 19:27:50

[250224] Yaak 2.0：Git集成、WebSocket支持、OAuth认证等 | Zstandard v1.5.7 发布

目录 Yaak 2.0 发布&#xff1a;Git 集成、WebSocket 支持、OAuth 认证等众多功能&#xff01;Zstandard v1.5.7 发布&#xff1a;性能提升&#xff0c;稳定性增强 Yaak 2.0 发布&#xff1a;Git 集成、WebSocket 支持、OAuth 认证等众多功能&#xff01; Yaak&#xff0c;一款…...

编程日记 2025/9/15 20:02:36

插入排序：一种简单而直观的排序算法

大家好&#xff01;今天我们来聊聊一个简单却非常经典的排序算法——插入排序&#xff08;Insertion Sort&#xff09;。在所有的排序算法中&#xff0c;插入排序是最直观的一个。 一、插入排序的基本思想 插入排序的核心思想是&#xff1a;将一个待排序的元素&#xff0c;插…...

编程日记 2025/9/9 1:50:28

vue2响应式数据原理

1. 核心原理 Vue 2 的响应式系统基于 Object.defineProperty&#xff0c;通过 依赖收集 和 派发更新 来实现数据的响应式 依赖收集&#xff1a;在读取数据时&#xff0c;记录哪些函数&#xff08;或组件&#xff09;依赖了该数据。派发更新&#xff1a;在修改数据时&#xff…...

编程日记 2025/9/13 22:25:32

对免认证服务提供apikey验证

一些服务不带认证&#xff0c;凡是可以访问到服务端口&#xff0c;都可以正常使用该服务&#xff0c;方便是方便&#xff0c;但是不够安全。 比如ollama默认安装后就是这样。现在据说网上扫一下端口11434&#xff0c;免apikey的ollama服务一大堆。。。 那我们怎样将本机安装的o…...

编程日记 2025/9/13 16:54:24

算法——Trie 树

Trie 树&#xff08;前缀树或字典树&#xff09;是一种高效处理字符串集合的树形数据结构&#xff0c;核心思想是通过共享公共前缀来优化存储和查询。以下是 Trie 树的详细介绍&#xff1a; 1. Trie 树的基本概念 结构特点&#xff1a; 每个节点表示一个字符。从根节点到某一节…...

编程日记 2025/9/15 17:31:58

python中的JSON数据格式

文章目录 什么是json主要功能Python数据和Json数据的相互转化 什么是json JSON是一种轻量级的数据交互格式。可以按照JSON指定的格式去组织和封装数据。JSON本质上是一个带有特定格式的字符串。 主要功能 json就是一种在各个编程语言中流通的数据格式&#xff0c;负责不同编…...

编程日记 2025/9/12 5:22:14

服务器能否拒绝非浏览器发起的HTTP请求？

互联网各领域资料分享专区(不定期更新)： Sheet 前言 服务器可以采取多种方法来拒绝非浏览器发起的HTTP请求，但需要明确的是：HTTP协议本身并不限制客户端类型，任何符合协议规范的请求都会被处理。因此，拒绝非浏览器请求需依赖额外策略。 正文 一、基于请求头过滤 1、Us…...

编程日记 2025/9/15 16:40:01

深度学习之图像分类（二）

前言 文章主要是通过实战项目——食品分类来理解分类项目的整体流程。除此之外&#xff0c;还需要对半监督学习&#xff0c;迁移学习&#xff0c;数据增广&#xff0c;Adam和AdamW进行了解。 数据增广 图片增广&#xff08;Image Data Augmentation&#xff09;是深度学习中一种…...

编程日记 2025/9/13 22:58:11

数据库高安全—openGauss安全整体架构安全认证

openGauss作为新一代自治安全数据库&#xff0c;提供了丰富的数据库基础安全能力&#xff0c;并逐步完善各类高阶安全能力。这些安全能力涵盖了访问登录认证、用户权限管理、审计与追溯及数据安全隐私保护等。本章节将围绕openGauss安全机制进行源码解读&#xff0c;以帮助数据…...

编程日记 2025/9/15 20:02:48

利用开源小智AI制作桌宠机器狗

本文主要介绍如何利用开源小智AI制作桌宠机器狗 1 源码下载 首先下载小智源码，下载地址, 下载源码后，使用vsCode打开，需要在vscode上安装esp-idf，安装方式请自己解决 2 源码修改 2.1添加机器狗控制代码 在目录main/iot/things下添加dog.cc文件，内容如下； #include…...

编程日记 2025/9/11 10:22:21

uniapp在app下使用mqtt协议！！！支持vue3

什么&#xff1f;打包空白&#xff1f;分享一下我的解决方法&#xff01; 第一步 找大师算过了&#xff0c;装4.1版本运气好&#xff01; 所以根目录执行命令… npm install mqtt4.1.0第二步 自己封装一个mqtt文件方便后期开坛做法&#xff01; // utils/mqtt.js import mqt…...

编程日记 2025/9/15 13:28:55

Orange 开源项目 - 集成阿里云大模型

1 阿里云的大模型服务平台百炼 阿里云的大模型服务平台百炼是一站式的大模型开发及应用构建平台。不论是开发者还是业务人员&#xff0c;都能深入参与大模型应用的设计和构建。您可以通过简单的界面操作&#xff0c;在5分钟内开发出一款大模型应用&#xff0c;或在几小时内训练…...

编程日记 2025/9/11 21:40:22

DSP芯片C6678的SRIO及其中断跳转的配置

C6678SRIO读写测试门铃中断跳转测试 SRIO简述代码前言SRIO配置原始代码1.使能电源2.初始化SRIO回环修改 3.SRIO测试 Doorbell门铃中断1.初始化中断函数2.中断向量表建立3.中断向量表的链接 本博客基于创龙“678ZH产品线”的SRIO代码&#xff0c;部分参考于网友们的博客&#xf…...

编程日记 2025/9/15 22:20:53

MongoDB#常用脚本

批量插入数据脚本 const oneDayAgo new Date(Date.now() - 1 * 24 * 60 * 60 * 1000);const documents []; for (let i 1; i < 100; i) {documents.push({id: i, // 递增的 idcreateTime: oneDayAgo, // 1天前的日期data: Sample data ${i} // 其他字段&#xff08;可选…...

编程日记 2025/9/12 4:25:14

MySQL 主从集群同步延迟问题分析与解决方案

MySQL 主从复制&#xff08;Replication&#xff09;是构建高可用架构的核心技术&#xff0c;但在实际应用中&#xff0c;主从同步延迟&#xff08;Replication Lag&#xff09;是常见且棘手的问题。延迟会导致从库数据不一致、读请求返回旧数据&#xff0c;甚至引发业务逻辑错…...

编程日记 2025/9/13 19:30:10

论文笔记（七十二）Reward Centering（五）

Reward Centering&#xff08;五&#xff09; 文章概括摘要附录B 理论细节C 实验细节D 相关方法的联系 文章概括 引用&#xff1a; article{naik2024reward,title{Reward Centering},author{Naik, Abhishek and Wan, Yi and Tomar, Manan and Sutton, Richard S},journal{arX…...

编程日记 2025/9/15 1:56:16

FFmpeg 是什么？为什么？怎么用？

摘要&#xff1a;本文介绍了 FFmpeg&#xff0c;一个功能强大的开源多媒体处理工具&#xff0c;广泛应用于视频和音频文件的处理。FFmpeg 支持多种多媒体格式&#xff0c;能够实现视频编码/解码、格式转换、裁剪、合并、音频提取、流媒体处理等功能。本文详细阐述了 FFmpeg 的主…...

编程日记 2025/9/8 1:12:56

雷池WAF动态防护技术实测

作者&#xff1b; Hacker / 0xh4ck3r 介绍 长亭雷池&#xff08;SafeLine&#xff09;是由北京长亭科技有限公司耗时近10年研发并推出的Web应用防火墙&#xff08;WAF&#xff09;&#xff0c;其核心检测能力由智能语义分析算法驱动。雷池旨在为用户提供高质量的Web攻击防护、…...

编程日记 2025/9/14 16:11:18

BUU40 [CSCCTF 2019 Qual]FlaskLight1【SSTI】

模板&#xff1a; {{.__class__.__base__.__subclasses__()[80].__init__.__globals__[__builtins__].eval("__import__(os).popen(type flag.txt).read()")}} 是个空字符串&#xff0c;.__class__代表这个空字符串的类是什么&#xff08;这里是单引号双引号都行&a…...

编程日记 2025/9/10 18:54:43

【每日八股】Redis篇（二）：数据结构

Redis 数据类型&#xff1f; 主要有 STRING、LIST、ZSET、SET 和 HASH。 STRING String 类型底层的数据结构实现主要是 SDS&#xff08;简单动态字符串&#xff09;&#xff0c;其主要应用场景包括&#xff1a; 缓存对象&#xff1a;可以用 STRING 缓存整个对象的 JSON&…...

编程日记 2025/9/16 1:38:08

VScode+stfp插件，实现文件远程同步保存【2025实操有效】

目录 1 痛点2 准备工作3 操作步骤3.1 第一步&#xff0c;下载STFP插件3.2 第二步&#xff0c;修改配置文件3.3 第三步&#xff0c;测试是否成功 4 后记 1 痛点 我一直用vscode远程连接服务器&#xff0c;传代码文件等到服务器上面&#xff0c;突然有一次服务器那边尽心维修&am…...

编程日记 2025/9/15 0:32:51

115 道 MySQL 面试题，从简单到深入！

1. 什么是数据库事务&#xff1f; 数据库事务是一个作为单个逻辑工作单元执行的一系列操作。事务具有ACID属性&#xff0c;即原子性&#xff08;Atomicity&#xff09;、一致性&#xff08;Consistency&#xff09;、隔离性&#xff08;Isolation&#xff09;和持久性&#xf…...

编程日记 2025/9/13 17:33:17

不同安装路径重复R包清理

df <- as.data.frame(installed.packages()) table(duplicated(df$Package)) ids <- df$Package[duplicated(df$Package)] df2 <- subset(df, df$Package %in% ids)...

编程日记 2025/8/23 17:05:15

Grouped-Query Attention（GQA）详解: Pytorch实现

Grouped-Query Attention&#xff08;GQA&#xff09;详解 Grouped-Query Attention&#xff08;GQA&#xff09; 是 Multi-Query Attention&#xff08;MQA&#xff09; 的改进版&#xff0c;它通过在 多个查询头&#xff08;Query Heads&#xff09;之间共享 Key 和 Value&am…...

编程日记 2025/9/15 14:19:26

选择排序：简单高效的选择

大家好&#xff0c;今天我们来聊聊选择排序&#xff08;Selection Sort&#xff09;算法。这是一个非常简单的排序算法&#xff0c;适合用来学习排序的基本思路和操作。选择排序在许多排序算法中以其直观和易于实现的特点著称&#xff0c;虽然它的效率不如其他高效算法&#xf…...

编程日记 2025/9/10 17:44:51

（教程）PDF 字体技术入门

PDF字体技术 许多人觉得PDF字体令人困惑的主要原因在于PDF文件可以使用多种不同的字体技术。PDF文件规范已经存在16年&#xff0c;在此期间&#xff0c;出现了多种不同的字体技术&#xff08;既有技术方面的原因&#xff0c;也有商业方面的原因&#xff09;。因此&#xff0c;…...

编程日记 2025/9/14 18:22:16

LabVIEW中CFURL.llb 工具库说明

CFURL.llb 是 LabVIEW 2019 安装目录下 C:\Program Files (x86)\National Instruments\LabVIEW 2019\vi.lib\Platform\ 路径下的工具库&#xff0c;主要用于处理 LabVIEW 与 URL 相关的操作&#xff0c;涵盖 URL 解析、HTTP 请求发送、数据传输等功能模块&#xff0c;帮助开发者…...

编程日记 2025/9/15 16:40:02

BGP配置华为——路径优选验证

实验拓扑 实验要求 实现通过修改AS-Path属性来影响路径选择实现通过修改Local_Preference属性来影响路径选择实现通过修改MED属性来影响路径选择实现通过修改preferred-value属性来影响路径选择 实验配置与效果 1.改名与IP配置 2.as300配置OSPF R3已经学到R2和R4的路由 3.…...

编程日记 2025/9/14 11:48:31