当前位置：首页 > news >正文

5 什么情况下需要微调

news 来源：原创 2025/7/14 21:04:18

这个问题其实很重要，因为现代大模型训练出来已经非常强大，可能真的不需要微调。

我们可以通过 RAG 或提示词工程来实现目标。

需要微调的场景与替代方案分析

微调(Fine-tuning)确实不是所有场景都必需的，特别是考虑到现代大型语言模型(LLMs)的强大基础能力

现代大型语言模型(LLMs)就像一位完成全面学习的大学生。然而，并非所有应用场景都需要对这位"大学生"进行额外的微调训练。让我们通过几个通俗易懂的例子来理解何时需要微调，何时不需要。

场景分析

场景一：标准任务 - 无需微调，只需优化提示词

当要求模型完成它已具备能力的标准任务时，如果你想让他写一篇”上班下班打卡流程规范” , 那么我理解这种任务,大学生就是会做的, 为啥做不好?问题通常不在于模型能力不足，而在于指令不够明确。

解决方案：优化提示词(Prompt Engineering)

提供明确的文档结构和要求
说明写作风格、格式和重点内容
给出示例或模板参考

这类情况无需微调，因为模型已经理解这种任务的基本逻辑,只需要写好提示词就好了.

场景二：知识欠缺 - 无需微调，使用RAG或上下文补充

当模型需要处理特定领域知识，尤其是公司内部专有名词(如内部系统代号"abc"、"bbc"等)时，模型缺乏的是信息而非能力。模型本身不知道这些都是什么东西是写不出来的.

解决方案：

上下文补充：在提示词中直接提供必要的背景信息
检索增强生成(RAG)：构建知识库，让模型在回答时自动检索相关信息

这种情况下，微调成本过高且不必要，因为模型只需要获取这些专有名词的对应关系，而不需要学习新的推理模式。只是需要一个知识库的补充就好了.

场景三：独特逻辑 - 需要微调

如果想你去做一个公司内部, 这个非常内部, 有自己的独有的一套逻辑, 有自己的运行方式, 自定义的公式. 比如对某个业务有自己独特的理解方式, 有一套自己的复杂逻辑. 那么这就需要微调

微调的必要性：

模型需要学习特定领域的思维方式,需要独特复杂的决策流程和判断标准
要求在特定情境下保持一致的响应模式, 和通常不一样

这种情况下，微调是有效的，因为您实际上是在教会模型一种新的专业能力，而不仅是提供信息。

新的疑问 ?

但是实际情况下, 我们在场景 2 和 3 其实混在一起的, 因为你用两种方法都可以实现同样的效果,知识库的的内容我们也可以通过微调给模型学会, 那么独特的逻辑知识, 也可以通过知识库告诉模型. 最终得到的效果

所以实际上我们并不是固定使用某种方法, 我们要结合实际情况, 来做选择我会在下一篇来描述这个情况.

5 什么情况下需要微调

这个问题其实很重要，因为现代大模型训练出来已经非常强大，可能真的不需要微调。我们可以通过 RAG 或提示词工程来实现目标。需要微调的场景与替代方案分析微调(Fine-tuning)确实不是所有场景都必需的，特别是考虑到现代大型语言模型(LLM…...

编程日记 2025/7/14 21:04:18

Docker 渡渡鸟镜像同步站使用教程

Docker 渡渡鸟镜像同步站使用教程 🚀 介绍 Docker.aityp.com（渡渡鸟镜像同步站）是一个专注于为国内开发者提供 Docker 镜像加速和同步服务的平台。它通过同步官方镜像源（如 Docker Hub、GCR、GHCR 等），为…...

编程日记 2025/6/28 20:05:12

位图的实现和拓展

一：位图的介绍 ①：需要位图的场景给40亿个不重复的无符号整数，没排过序。给一个无符号整数，如何快速判断一个数是否在这40亿个数中？ 要判断一个数是否在某一堆数中，我们可能会想到如下方法： A…...

编程日记 2025/7/12 8:30:37

字符串问题c++

题目描述小 Z 有一个字符串 s，他对这个字符串会进行如下两个操作： 1 p c 把字符串的第 p 个字符改成 c2 l r 把 s 的第 l 个字符到第 r 个字符按顺序输出。这里『第 i 个字符』的下标计数从 1 开始，例如，a 是字符串 abc 的第…...

编程日记 2025/6/28 20:05:07

Redis事务

Redis中的事务是指提供一种将多个命令打包到一起，一次性按照顺序执行的机制。Redis在执行事务期间，不会接收处理其他操作命令。 Redis事务有以下局限性无回滚机制：如果某个命令执行失败，不会影响其他命令的执行，因此…...

编程日记 2025/7/4 1:52:00

【PostgreSQL数据分析实战：从数据清洗到可视化全流程】3.3 异常值识别（Z-score法/IQR法/业务规则法）

👉 点击关注不迷路 👉 点击关注不迷路 👉 点击关注不迷路文章大纲 PostgreSQL数据分析实战：数据质量分析之异常值识别（Z-score法 / IQR法 / 业务规则法）3.3 异常值识别3.3.1 Z-score法3.3.2 IQR法3.3.3 业…...

编程日记 2025/7/9 1:00:54

MCP底层协议完整通信过程

2025 年是智能体的元年，也注定是智能体集中爆发的一年！两个互联领域的重大挑战：第一、 Agent 与 Tools （工具）的交互 Agent 需要调用外部工具和 API...

编程日记 2025/6/28 20:05:00

C语言指针(5)

目录 1.冒泡排序 2.二级指针 3.指针数组 4.指针数组模拟二级数组 1.冒泡排序 1.1 基本概念冒泡排序（Bubble Sort） 是一种简单的排序算法，它重复地遍历要排序的数列，一次比较两个元素，如果它们的顺序错误就把它…...

编程日记 2025/7/8 20:14:34

MYSQL-联合查询

经过上节课，我们学会了如何设计表以及了解到各种范式，这节课就请大家和小L一起来学习设计表之后如何使用 1.为什么要使用联合查询在数据设计时由于范式的要求，数据被拆分到多个表中，那么要查询⼀个条数据的完整信息&#xff0c…...

编程日记 2025/6/29 7:50:10

一篇撸清 Http,SSE 与 WebSocket

HTTP,SSE 和WebSocket都是网络传输的协议，本篇快速介绍三者的概念和比较。 SSE（Server-Sent Events）是什么？ SSE（Server-Sent Events），服务器发送事件，是一种基于 HTTP 的轻量级协议，允许服务器主动向客户端（如浏览器）推送实时数据。它设计用于单向通信（服务器到…...

编程日记 2025/6/28 20:04:58

系统架构设计师：设计模式——行为设计模式

一、行为设计模式行为模式涉及算法和对象间职责的分配。行为模式不仅描述对象或类的模式，还描述它们之间的通信模式。这些模式刻画了在运行时难以跟踪的、复杂的控制流。它们将用户的注意力从控制流转移到对象间的联系方式上来。行为类模式使用继承机制在类间分…...

编程日记 2025/7/12 8:06:30

OpenCV入门指南：从环境搭建到第一个图像处理程序

引言你是否想让计算机"看懂"世界？OpenCV（Open Source Computer Vision Library）正是打开计算机视觉大门的钥匙。本文将带你从零开始搭建开发环境，理解图像处理核心概念，并完成第一个OpenCV程序。无论你是想…...

编程日记 2025/6/29 5:11:52

基于STM32的温湿度光照强度仿真设计(Proteus仿真+程序设计+设计报告+讲解视频）

这里写目录标题 **1.****主要功能****2.仿真设计****3.程序设计****4.设计报告****5.下载链接** 基于STM32的温湿度光照强度仿真设计(Proteus仿真程序设计设计报告讲解视频） 仿真图Proteus 8.9 程序编译器：keil 5 编程语言：C语言设计编号…...

编程日记 2025/6/29 5:19:34

4个纯CSS自定义的简单而优雅的滚动条样式

今天发现 uni-app 项目的滚动条不显示，查了下原来是设置了 ::-webkit-scrollbar {display: none; } 那么怎么用 css 设置滚动条样式呢？ 定义滚动条整体样式‌ ::-webkit-scrollbar 定义滚动条滑块样式 ::-webkit-scrollbar-thumb 定义滚动条轨道样式‌…...

编程日记 2025/6/29 5:41:49

修复笔记：SkyReels-V2项目中的 from_config 警告

#工作记录 Windows避坑部署SkyworkAI/SkyReels-V2昆仑万维电影生成模型_skyreels-v2本地部署-CSDN博客一、项目背景项目名称：SkyReels-V2 项目简介：由昆仑万维开源的全球首个无限时长电影生成模型，支持文本到视频、图像到视频等多种生成方…...

编程日记 2025/6/29 8:01:46

[硬件电路-11]：模拟电路常见元器件 - 什么是阻抗、什么是输入阻抗、什么是输出阻抗？阻抗、输入阻抗与输出阻抗的全面解析

1. 阻抗（Impedance） 定义：阻抗是电路或元件对交流信号（AC）流动的阻碍能力，用符号Z表示，单位为欧姆（Ω）。它综合了电阻（R）、电感（L&am…...

编程日记 2025/6/29 7:16:15

MCP协议与Dify集成教程

一、MCP协议概述 MCP（Model Control Protocol）是一种新兴的开放协议，为大型语言模型（LLM）与外部应用之间构建了双向通信通道。它就像是AI的"USB-C"接口，帮助模型发现、理解并安全调用各种外部工…...

编程日记 2025/7/3 16:01:30

flink常用算子整理

文章目录前言1.重新分配(即打散)2.合并流的算子3.算子链操作4.侧边输出(目前只有一种)5.键控进行分区6.输出算子7.其他基础操作算子8.其他常用的算子9.Flink窗口等情况10.窗口举例前言提示：以下是本篇文章正文内容，下面案例可供参考 1.重新分配(即打散) 2.合并流的算子 3…...

编程日记 2025/7/10 22:28:28

【SimSession】1：将视频发送逻辑与 libuv 事件循环集成是一个典型的并发设计问题

之前对SimSession的信令进行测试，echo可以与relay联通，现在单独提取已经集成了webrtc的发送模块及libuv框架与SimSession和echo集成：采集、编码和发送之前在pacedsender内部实现的现在从pacedsender中去掉采集、编码，放在session中运行。而pacedsender仅暴露发送部分：…...

编程日记 2025/6/29 8:21:02

Circular Plot系列(五): circle plot展示单细胞互作

这是我们circle系列的最后一节，我想常见的弦图是绕不开的，所以最后从前面介绍的circle plot思路，做一遍弦图。其实前面的内容如果消化了，plot互作弦图也就不成什么问题了。效果如下： #cellchat提取互作结果&#xff…...

编程日记 2025/6/29 8:12:59

LLama-v2 权重下载

地址：llama模型官方github仓库：llama仓库注意点网络代理位置：美国下面的国家选择 United States 克隆仓库后运行bash download.sh输入邮箱收到的URL选择要下载的权重等待下载完成即可有问题留言！！&#xff01…...

编程日记 2025/6/29 8:11:52

深入解析Linux进程间通信（IPC）：机制、应用与最佳实践

引言在多任务操作系统中，进程间通信（Inter-Process Communication, IPC）是协同工作的核心机制。Linux作为现代操作系统的典范，提供了8种主要IPC方式，从传统的管道到面向网络的套接字，每种方法都暗藏独特的…...

编程日记 2025/7/3 13:27:53

基于开源AI大模型AI智能名片S2B2C商城小程序源码的私域流量稳定性构建研究

摘要：在私域流量时代，传统实体零售的"时间积累"逻辑被直播电商等新业态颠覆。完美日记等新锐品牌通过构建私域流量池，实现了从0到1的指数级增长，而传统品牌却陷入"流量焦虑"。本文提出以开源AI大模型AI智能名…...

编程日记 2025/7/11 19:17:43

第13章：陈默再访海奥华

第13章：陈默再访海奥华第一节：启程——穿越虫洞的旅程 2046年，赤色世界的和平与繁荣达到了前所未有的高度。人类已经完成了从物质文明向意识文明的转变，精神力的普及让每一个人都拥有了学习、修复和感知的能力。然而&#xff0…...

编程日记 2025/6/29 6:58:53

Prompt compress 技术探究-LLMLingua2

LLMLingua2 https://arxiv.org/pdf/2403.12968是LLMLingua的改进版本。我们知道 LLMLingua需要用小模型压缩，模型太小不一定能保证性能，模型太大耗费时间又太长。这个方法理论上可以，但实际上不是很方便用。很难选择到合适的小模型。小模型…...

编程日记 2025/6/29 7:34:02

【机器学习案列-22】基于线性回归（LR）的手机发布价格预测

🧑 博主简介：曾任某智慧城市类企业算法总监，目前在美国市场的物流公司从事高级算法工程师一职，深耕人工智能领域，精通python数据挖掘、可视化、机器学习等，发表过AI相关的专利并多次在AI类比赛中获奖。CSDN…...

编程日记 2025/7/3 21:18:17

python调用国税乐企直连接口开数电票之获取数字化电子发票批量预赋码信息

乐企平台介绍乐企平台作为国家税务总局推出的唯一数电票标准化的API接口重要平台，旨在通过税务系统与企业自有信息系统的直连涉税服务，开票员登录企业自有系统（ERP、OMS、发票管理系统等）无需通过第三方平台即可实现国税直连开票…...

编程日记 2025/6/29 8:14:14

Axure打开html文件失败，解决方案：

1、在原型文件中找到 2、文件后缀名改为 axure-chrome-extension.rar ,解压后到axure-chrome-extension 3、打开Chrome浏览器，找到扩展程序选择刚刚解压的文件axure-chrome-extension文件夹，配置完成，打开html试试吧...

编程日记 2025/6/29 7:34:09

Android第四次面试总结之Java基础篇（补充）

一、设计原则高频面试题（附大厂真题解析） 1. 单一职责原则（SRP）在 Android 开发中的应用（字节跳动真题） 真题：“你在项目中如何体现单一职责原则？举例说明。”考点：结合…...

编程日记 2025/7/8 18:30:07

网络开发基础（游戏）之心跳机制

简介心跳机制：是指客户端定时（比如每隔着10秒）向服务端发送PING消息，服务端收到后回应PONG消息。服务端会记录客户端最后一次发送PING消息的时间，如果很久没有收到下一次客户端发来的消息，服务端就就判…...

编程日记 2025/6/29 5:49:49

Hive进阶之路

目录一、Hive 基础回顾二、数据定义语言（DDL）进阶 2.1 复杂表创建 2.2 分区与分桶优化三、数据操作语言（DML）深入 3.1 高效的数据加载 3.2 灵活的数据更新与删除四、Hive 函数高级应用 4.1 内置函数的巧用 4.2 自定义…...

编程日记 2025/6/29 8:07:05

imx6uLL应用-v4l2

Linux V4L2 视频采集 JPEG 解码 LCD 显示实践本文记录一个完整的嵌入式视频处理项目：使用 V4L2 接口从摄像头采集 MJPEG 图像，使用 libjpeg 解码为 RGB 格式，并通过 framebuffer 显示在 LCD 屏幕上。适用于使用 ARM Cortex-A 系列开发板进…...

编程日记 2025/7/14 9:46:58

以太坊智能合约开发框架：Hardhat v2 核心功能从入门到基础教程

一、设置项目 Hardhat 项目是安装了 hardhat 包并包含 hardhat.config.js 文件的 Node.js 项目。操作步骤： ①初始化 npm npm init -y②安装 Hardhat npm install --save-dev hardhat③创建 Hardhat 项目 npx hardhat init如果选择 Create an empty hardhat.…...

编程日记 2025/6/29 5:11:55

【现代深度学习技术】现代循环神经网络06：编码器-解码器架构

【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈PyTorch深度学习 ⌋ ⌋ ⌋ 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重…...

编程日记 2025/6/29 5:11:54

Jasper and Stella: distillation of SOTA embedding models

摘要 Dense检索是许多深度学习应用系统中（例如常见问题 （FAQ） 和检索增强生成 （RAG））关键组成部分。在此过程中，Embedding模型将原始文本转换为向量。然而，目前在文本Embedding基准…...

编程日记 2025/6/29 8:10:03

程序的本质—API接口

API 是什么官方定义：API 英文全称 Application Programming Interface，翻译过来为程序之间的接口。也是程序与外部世界的桥梁，实现了服务拆分与解藕的核心机制大白话：按照规则提供输入，它帮你得到对应的输出 API可…...

编程日记 2025/6/29 7:56:56

Python函数完全指南：从零基础到灵活运用

Python函数是组织代码、实现代码复用的基本单元，也是Python编程中最重要的概念之一。本文将全面介绍Python函数的知识体系，帮助初学者系统掌握函数的使用方法。一、函数基础概念 1. 什么是函数？ 函数是一段可重复使用的代码块&#xff0c…...

编程日记 2025/6/28 20:04:56

第十章.XML

文章目录 1.XMl简介2.解析XML技术2.1DOM解析XML 2.2DOM4j3.json 1.XMl简介 EXtensible Markup Language ,可扩充标记语言特点: XML与操作系统,编程语言的开发平台无关实现不同系统之间的数据交换作用: 数据交互配置应用程序和网站 XML标签 xml文档由一系列标签元素组成<…...

编程日记 2025/7/3 14:28:51

5个情感丰富GPT-4o图像提示词（不是吉卜力风格）

一场新的创意运动正在迅速兴起——人们不仅使用ChatGPT进行写作，还用它来构思富有想象力、情感丰富的视觉概念。这一趋势正在改变我们讲故事、建立品牌和探索创意的方式。从异想天开的海报世界到基于物品的故事叙述，各行业的创作者正在将ChatGPT与视觉生成工具结合使用，赋…...

编程日记 2025/7/4 4:52:41

华为OD机试真题——求最多可以派出多少支队伍（2025A卷：100分）Java/python/JavaScript/C/C++/GO最佳实现

2025 A卷 100分题型本专栏内全部题目均提供Java、python、JavaScript、C、C、GO六种语言的最佳实现方式； 并且每种语言均涵盖详细的问题分析、解题思路、代码实现、代码详解、3个测试用例以及综合分析； 本文收录于专栏：《2025华为OD真题目录…...

编程日记 2025/7/8 20:17:16

《七年一剑》速读笔记

文章目录书籍信息概览知己知彼市场的本质认识自我了解他人人剑合一技术分析精要K线分型均线节奏形态画线成交量周期级别指标之王——MACD波动理论管窥基本面A股周期论实战角度看财报构建交易系统打开交易之门交易基础之买卖依据风险控制与仓位管理系统评估及情绪管理实战秘…...

编程日记 2025/6/29 8:07:02

VMware-centOS7安装redis分布式集群

1.部署redis包 1.1 在usr/local文件夹里创建文件夹 mkdir software 1.2 进入文件夹 cd /usr/local/software/ 下载redis wget http://download.redis.io/releases/redis-6.2.6.tar.gz解压 tar zxvf redis-6.2.6.tar.gz重命名文件夹 mv redis-6.2.6 redis安装gcc编译器 yum i…...

编程日记 2025/6/29 7:17:10

Kubernetes(k8s)学习笔记(六)--KubeSphere前置环境安装

1、安装 helm（master 节点执行） Helm 是 Kubernetes 的包管理器。包管理器类似于我们在 Ubuntu 中使用的apt、Centos 中使用的 yum 或者 Python 中的 pip 一样，能快速查找、下载和安装软件包。Helm由客户端组件 helm 和服务端组件 Tiller 组…...

编程日记 2025/6/29 5:11:56

黑马点评day01(基于Redis)

1.7 Redis代替session的业务流程 1.7.1、设计key的结构首先我们要思考一下利用redis来存储数据，那么到底使用哪种结构呢？由于存入的数据比较简单，我们可以考虑使用String，或者是使用哈希，如下图，如果使用…...

编程日记 2025/6/29 5:41:41

14.Excel：排序和筛选

一位置两个位置。二排序：如何使用 1.常规使用补充：不弹出排序提醒排序。选中要排序列中的任意一个单元格，然后排序。 2.根据要求进行排序 1.根据姓名笔画进行降序排序要勾选上数据包含标题，默认是勾选了。 2.根据运营部、…...

编程日记 2025/6/29 7:51:22

力扣-字符串-468 检查ip

思路考察字符串的使用，还有对所有边界条件的检查 spilt（“\.”），toCharArray，Integer.parseInt() 代码 class Solution {boolean checkIpv4Segment(String str){if(str.length() 0 || str.length() > 4) retur…...

编程日记 2025/6/29 7:58:34