当前位置：首页 > news >正文

大模型学习

news 来源：原创 2025/6/24 15:10:39

ChatTempate，Completion Only，NEFTune，SFTTrainer 微调技术
（背景：预训练后的大模型只会根据上文，输出下文，但效果不好，要微调帮他更好理解）

ChatTemplate 是一种用于定义和格式化聊天对话结构的工具或模板，通常用于构建对话式 AI 模型的输入和输出。
我理解就是一种数据格式，标准化了Prompt,和回答，生成可以tokenizer的形式
Completion Only 输入通常是一个前缀（Prompt），模型根据前缀生成后续内容。模型只根据当前输入生成文本，不涉及多轮对话或上下文历史。
NEFTune（Noisy Embedding Fine-Tuning）
通过在嵌入层（Embedding Layer）中引入噪声来增强模型鲁棒性和泛化能力的微调技术。

大模型预训练

在这里插入图片描述

大模型学习

ChatTempate，Completion Only，NEFTune，SFTTrainer 微调技术 （背景：预训练后的大模型只会根据上文，输出下文，但效果不好，要微调帮他更好理解） ChatTemplate 是一种用于定…...

编程日记 2025/6/24 15:10:39

print()函数详解：输出文字、变量与格式化

用ChatGPT做软件测试 “掌握输出，才能掌控信息；理解输出，才能洞悉程序运行的本质。” 当我们敲下人生第一个 Python 代码： print("Hello, World!")也许并未意识到，我们接触的是整个编程世界中最基础、却也最…...

编程日记 2025/6/24 13:47:09

RPC与SOAP的区别

一.RPC（远程过程调用）和SOAP（简单对象访问协议）均用于实现分布式系统中的远程通信，但两者在设计理念、协议实现及应用场景上存在显著差异。二.对比 1.设计理念 2.协议规范 3.技术特性 4.典型应用场景 5.总结三.总结…...

编程日记 2025/6/24 8:19:42

2025认证杯数学建模A题思路+代码+模型：小行星轨迹预测

2025认证杯数学建模A题思路代码模型，详细内容见文末名片近地小行星（ Near Earth Asteroids, NEAs ）是轨道相对接近地球的小行星，它的正式定义为椭圆轨道的近日距不大于 1.3 天文单位（ AU ）的小行星。 …...

编程日记 2025/6/23 22:39:03

Axure中继器高保真交互原型的核心元件

Axure作为一款强大的原型设计工具，中继器无疑是打造高保真交互原型的核心利器。今天，就让我们深入探讨一下Axure中继器的核心地位、操作难点，以及如何借助优秀案例来提升我们的中继器使用技能。一、核心地位中继器在Axure中的地位举足轻重…...

编程日记 2025/6/24 13:47:09

Java中Money类的使用及与BigDecimal的对比

精心整理了最新的面试资料和简历模板，有需要的可以自行获取点击前往百度网盘获取点击前往夸克网盘获取一、为什么需要Money类？ 在金融和商业计算中，精确的货币处理是至关重要的。虽然Java提供了BigDecimal类来处理高精度计算&#xff0c…...

编程日记 2025/6/24 13:58:41

第三章：系统命令

1.系统当前时间 date命令： 2.切换用户 su 用户名 sudo 命令：表示使用超级管理员身份执行该命令，如果你当前不是管理员，希望以管理员身份执行某个命令时，使用sudo，需要输入超级管理员的密码： …...

编程日记 2025/6/24 14:22:04

第 83 场周赛：较大分组的位置、隐藏个人信息、连续整数求和、统计子串中的唯一字符

Q1、[简单] 较大分组的位置 1、题目描述在一个由小写字母构成的字符串 s 中，包含由一些连续的相同字符所构成的分组。例如，在字符串 s "abbxxxxzyy" 中，就含有 "a", "bb", "xxxx", "z&qu…...

编程日记 2025/6/20 21:42:44

NY244NY249美光闪存颗粒NY252NY256

NY244NY249美光闪存颗粒NY252NY256 美光闪存颗粒技术解析：从架构创新到性能突围在数据中心轰鸣的服务器阵列中，某款新型存储颗粒正悄然改变着数据吞吐的规则。以NY系列为代表的美光闪存，凭借3D NAND架构与电荷捕获技术的深度融合&#xff…...

编程日记 2025/6/24 14:01:10

MCP本地高效与云端实时：stdio 与 HTTP+SSE 传输机制深度对比

概览模型上下文协议（MCP）定义了客户端与服务器之间通信的统一标准，所有消息均采用 JSON-RPC 2.0 格式进行封装，并在此基础上支持两种传输机制：stdio（标准输入/输出） 与 HTTPSSE（Se…...

编程日记 2025/6/24 13:52:37

[IP地址科普] 服务器公网IP、私网IP、弹性IP是什么？区别与应用场景详解

更多服务器知识，尽在hostol.com 当我们谈论让一台服务器连接到互联网，或者让服务器上的网站、应用能够被用户访问时，IP 地址是绝对绕不开的核心概念。它就像是每台联网设备的唯一“身份证号码”和“邮政编码”，使得数据包能够在浩…...

编程日记 2025/6/20 6:17:20

【Python】在vscode利用pyinstaller中的.spec文件把py项目打包为.exe实现非py环境下使用的操作步骤

【需要打包的项目结构-简单】【打包步骤】【1-将图标以.ico的格式保存在项目中】可以用.jpg或.png的图像进行重名，注意要和项目在同一个路径下【2-创建并填写main.sepc文件】在终端输入以下指令自动创建main.sepc文件，会自动生成标准的文件 pyi…...

编程日记 2025/5/29 7:03:39

MySQL如何查看某个表所占空间大小？（表空间大小查看方法）

文章目录一、使用SQL查询查看表空间1.1 查询所有表的大小（包括数据和索引）1.2 查询特定数据库的表大小1.3 查询单个表的详细空间信息二、使用命令行工具查看表空间2.1 使用mysql客户端查询2.2 查看物理文件大小（适用于MyISAM/InnoDB&#x…...

编程日记 2025/6/24 15:04:44

[数据结构]7. 堆-Heap

堆-Heap 1. 介绍2. 堆的实现3. 堆操作InitlilzeDestorySwapPushPopTopEmptySizeAdjustUpAdjustDown 4. HeapSort5. Top-K 1. 介绍堆（heap） 是一种满足特定条件的完全二叉树。小顶堆（min heap）：任意节点的值 ≤ 其子…...

编程日记 2025/6/24 14:58:46

注：机翻，未校。 Happiness Is Everything, or Is It? Explorations on the Meaning of Psychological Well-Being 幸福就是一切吗？对心理幸福感含义的探索 Journal of Personality and Social Psychology 1989, Vol. 57, No. 6,1069-1081 …...

编程日记 2025/6/22 9:38:11

Java应用OOM排查：面试通关“三部曲”心法

开篇点题：OOM——Java应用的“内存爆仓”警报 OOM (OutOfMemoryError) 是啥病？想象一下，你的Java应用程序是一个大仓库，内存就是仓库的存储空间。如果货物（程序运行时创建的对象）越来越多，超出了…...

编程日记 2025/6/24 13:45:02

第28周——InceptionV1实现猴痘识别

前言 🍨 本文为🔗365天深度学习训练营中的学习记录博客🍖 原作者：K同学啊一、前期准备 1.检查GPU import torch import torch.nn as nn import torchvision.transforms as transforms import torchvision from torchvision im…...

编程日记 2025/6/24 6:47:48

云上玩转 Qwen3 系列之三：PAI-LangStudio x Hologres构建ChatBI数据分析Agent应用

本文详细介绍了如何使用 LangStudio 和 Qwen3 构建基于 MCP 协议的 Hologres ChatBI 智能 Agent 应用。该应用通过将 Agent、MCP Server 等技术和阿里最新的推理模型 Qwen3 编排在一个应用流中，为大模型提供了 MCPOLAP 的智能数据分析能力，使用自然语言即…...

编程日记 2025/6/24 14:39:46

Android开发-在应用之间共享数据

在Android系统中，应用之间的隔离机制（沙箱机制）保障了系统的安全性与稳定性。然而，在实际开发中，我们经常需要实现跨应用的数据共享，例如： 从一个应用向另一个应用传递用户信息；多个…...

编程日记 2025/6/24 13:44:01

MySQL-数据库分布式XA事务

准备 innodb存储引擎开启支持分布式事务 set global innodb_support_axonMySQL数据库XA事务的SQL语法如下： XA {START| BEGIN} xid {JOIN | RESUME} XA END xid {SUSPEND [ FOR MIGRATE]} XA PREPARE xid XA COMMIT xid [ONE PHASE] XA ROLLBACK xid XA RECOVER 完…...

编程日记 2025/6/23 10:58:32

如何快速入门-衡石科技分析平台

快速指南创建管理员账号按照文档安装成功之后，假设安装所在服务器 IP 是<Server IP>，端口是<Server Port>，则可以通过浏览器访问http://<Server IP>:<Server Port>/ 访问衡石分析平台，如果正常&a…...

编程日记 2025/6/23 15:40:12

20250515通过以太网让VLC拉取视熙科技的机芯的rtsp视频流的步骤

20250515通过以太网让VLC拉取视熙科技的机芯的rtsp视频流的步骤 2025/5/15 20:26 缘起：荣品的PRO-RK3566适配视熙科技的4800W的机芯。 1080p出图预览的时候没图了。通过105的机芯出图确认荣品的PRO-RK3566 的硬件正常。然后要确认视熙科技的4800W的机芯是否出…...

编程日记 2025/6/23 23:42:40

OpenCV CUDA模块中矩阵操作-----矩阵最大最小值查找函数

操作系统：ubuntu22.04 OpenCV版本：OpenCV4.9 IDE:Visual Studio Code 编程语言：C11 算法描述在OpenCV的CUDA模块中，矩阵最大最小值查找操作用于快速获取矩阵中的全局最小值、最大值及其位置。这些函数对于图像处理任务特别有用…...

编程日记 2025/6/24 13:43:00

OpenCv高阶（4.0）——案例：海报的透视变换

文章目录前言一、工具函数模块1.1 图像显示函数1.2 保持宽高比的缩放函数1.3 坐标点排序函数二、透视变换核心模块2.1 四点透视变换实现三、主流程技术分解3.1 图像预处理3.2 轮廓检测流程3.3 最大轮廓处理四、后处理技术4.1 透视变换4.2 形态学处理五、完整代码总结前言…...

编程日记 2025/6/23 23:11:34

JavaScriptWeb API (DOM和BOM操作)

Web API (基础部分) 作用: 使用 JS 去操作 html 和浏览器分类: DOM 和 BOM DOM: 操作 HTML 文档的 APIBOM: 操作浏览器的 API DOM(文档对象模型) 是用来呈现以及与任意 HTML 或 XML 文档进行交互的 API 作用: 开发网页内容特效和实现用户交互动态创建 HTML 元素改变 HTML…...

编程日记 2025/6/24 14:47:33

AM-Thinking-v1论文解读：以32B规模推进推理前沿

《AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale》论文解读一、引言过去半年，大型语言模型（LLMs）在推理领域（如数学问题求解和代码生成）取得了显著进展，扩大了其在现实场景中的应…...

编程日记 2025/5/30 3:49:24

Spark--RDD中的转换算子

1、算子的简单介绍 Transformation(转换)算子:根据数据集创建一个新的数据集,计算后返回一个新RDD,例如一个rdd进行map操作后生了一个新的rdd。 Action(动作)算子:对rdd结果计算后返回一个数值value给驱动程序(driver),例如collect算子将数据集的所有元素收集完成返回给驱动程…...

编程日记 2025/5/29 20:01:23

【文件上传漏洞】

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文件上传漏洞定义客户端js检测服务器检测后缀黑名单白名单检测内容其他定义文件上传漏洞是指用户上传了一个可执行的脚本文件，并通过此脚本文件获得了执行服…...

编程日记 2025/6/24 14:28:31

electron进程通信

electron进程通信模式 1：渲染器进程到主进程（单向） send和on 1.渲染器进程调用方法 click setTitle2.预加载进程暴露setTile方法 setTitle: (title) > ipcRenderer.send(set-title, title),3.主进程监听到方法 ipcMain.on(set-title…...

编程日记 2025/6/24 14:28:32

[C++面试] lambda面试点

一、入门 1、什么是 C lambda 表达式？它的基本语法是什么？ Lambda 是 C11 引入的匿名函数对象，用于创建轻量级的可调用对象。 [捕获列表] (参数列表) mutable（可选） 异常声明（可选） -> 返回…...

编程日记 2025/6/24 14:47:32

【愚公系列】《Manus极简入门》040-科技与组织升级顾问：“项目掌舵人”

🌟【技术大咖愚公搬代码：全栈专家的成长之路，你关注的宝藏博主在这里！】🌟 📣开发者圈持续输出高质量干货的"愚公精神"践行者——全网百万开发者都在追更的顶级技术博主！ &#x1f…...

编程日记 2025/6/24 14:01:09

2505C++,py和go调用雅兰亭库的协程工具

原文神算调用C 一般调用pybind11封装的C库实现神算调用C库,pybind11封装c的接口很简单. 创建一个py_example.cpp文件 #include <pybind11/pybind11.h> #include <string> namespace py pybind11; PYBIND11_MODULE(py_example, m) {m.def("hello", …...

编程日记 2025/6/24 13:44:02

题解：P12207 [蓝桥杯 2023 国 Python B] 划分

链接题目描述给定 40 个数，请将其任意划分成两组，每组至少一个元素。每组的权值为组内所有元素的和。划分的权值为两组权值的乘积。请问对于以下 40 个数，划分的权值最大为多少。 5160 9191 6410 4657 7492 1531 8854 1253 4520 9231126…...

编程日记 2025/6/21 14:18:16

英迈国际Ingram Micro EDI需求分析

Ingram Micro（英迈国际）成立于1979年，是全球领先的技术和供应链服务提供商，总部位于美国加州尔湾。公司致力于连接全球的技术制造商与渠道合作伙伴，业务涵盖IT分销、云服务、物流和供应链优化等多个领域。Ingram Micro…...

编程日记 2025/6/22 23:49:25

【Linux】网络基础与socket编程基础

一.网络发展计算机的出现是在网络之前的。而网络产生之初就是为了解决局部计算机无法交互的问题。所以，网络在诞生之初，最先出现的就是我们的局域网LAN，用来结局局部多台计算机的通信问题。而随着时间的推移，局域网已经不能满…...

编程日记 2025/6/23 6:01:45

漂亮的收款打赏要饭网HTML页面源码

这是一款专为个人收款及接受打赏设计的HTML页面，其设计简洁且美观。下载地址：漂亮的收款打赏要饭网HTML页面源码备用地址：漂亮的收款打赏要饭网HTML页面源码...

编程日记 2025/5/31 7:56:48

【图书推荐】几本人工智能实用性图书

《OpenCV计算机视觉开发实践：基于Python》《OpenCV计算机视觉开发实践:基于Python》【摘要书评试读】- 京东图书《PyTorch深度学习与计算机视觉实践》《PyTorch深度学习与计算机视觉实践（人工智能技术丛书）》(王晓华)【摘要书评试读…...

编程日记 2025/6/1 4:08:05

uniapp+vite+cli模板引入tailwindcss

目前vitecli方式用的都是官方提供的模板，vite版本还是4.14版本，较旧，而tailwindcss已经有了4版本，实际发现引入最新版会报错，因而继续使用3.3.5版本 pnpm install tailwindcss3.3.5 uni-helper/vite-plugin-uni-tail…...

编程日记 2025/6/24 5:27:14

【使用 C# 获取 USB 设备信息及进行通信】

文章目录使用 C\# 获取 USB 设备信息及进行通信为什么需要获取 USB 设备信息？方法一：使用 C\# 库 (推荐)1. HidSharp2. LibUsbDotNet 方法二：直接调用 Windows API (P/Invoke)理解设备通信协议 (用于数据交换)总结使用 C# 获取 USB 设备信息…...

编程日记 2025/6/4 1:19:07

Spring Cloud探索之旅：从零搭建微服务雏形 (Eureka, LoadBalancer 与 OpenFeign实战)

引言大家好！近期，我踏上了一段深入学习Spring Cloud构建微服务应用的旅程。我从项目初始化开始，逐步搭建了一个具备服务注册与发现、客户端负载均衡以及声明式服务调用功能的基础微服务系统。本文旨在记录这一阶段的核心学习内容与实践成果…...

编程日记 2025/6/23 9:53:59

四维时空数据安全传输新框架：压缩感知与几何驱动跳频

四维时空数据安全传输新框架：压缩感知与几何驱动跳频 1. 引言 1.1 研究背景随着三维感知技术（如激光雷达、超宽带定位）与动态数据流（如无人机集群、工业物联网）的快速发展，四维时空数据（三维…...

编程日记 2025/6/23 11:29:52

CSS相关知识补充

:root伪类 css自定义变量和var()引用自定义变量 https://developer.mozilla.org/zh-CN/docs/Web/CSS/var 在 SCSS 中，变量的声明和使用是用 $ 符号，比如： $primary-color: #ff5722;.button {color: $primary-color; }SCSS 里没有 var() 这…...

编程日记 2025/6/23 16:44:11

DeepSeek 赋能物联网：从连接到智能的跨越之路

目录一、引言：物联网新时代的开启二、DeepSeek 技术揭秘2.1 DeepSeek 是什么2.2 DeepSeek 技术优势三、DeepSeek 与物联网的融合之基3.1 物联网发展现状与挑战3.2 DeepSeek 带来的变革性突破四、DeepSeek 在物联网的多元应用场景4.1 智慧电力：开启能源…...

编程日记 2025/5/31 7:38:49

谷歌量子计算机：开启计算新纪元

量子计算的黎明原始尺寸更换图片在科技迅猛发展的时代，量子计算作为前沿领域，正逐渐崭露头角，吸引着全球无数科研人员与科技巨头的目光。它宛如一把开启未来科技大门的钥匙，为解决诸多复杂难题提供了前所未有的可…...

编程日记 2025/6/22 23:50:50

桃芯ingchips——windows HID键盘例程无法同时连接两个，但是安卓手机可以的问题

目录环境现象原理及解决办法环境 PC：windows11 安卓：Android14 例程使用的是HID Keyboard，板子使用的是91870CQ的开发板，DB870CC1A 现象连接安卓手机时并不会出现该现象，两个开发板都可以当做键盘给手机发按…...

编程日记 2025/6/22 7:29:42

AMC8 -- 2009年真题解析（中文解析）

Problem 1 Answer: E 中文解析： Bridget最后有4个，给了Cassie3个， 则给Cassie之前有7个。在此之前给了一半的苹果给Ann， 那么在给Anna之前，他有7*214个苹果。因此答案是E。 Problem 2 Answer: D 中文解析&#xff1…...

编程日记 2025/6/21 1:41:13

深入解析CountDownLatch的设计原理与实现机制

精心整理了最新的面试资料和简历模板，有需要的可以自行获取点击前往百度网盘获取点击前往夸克网盘获取一、概述 CountDownLatch是Java并发包（java.util.concurrent）中用于协调多线程同步的核心工具类，其设计目标是允许一个或…...

编程日记 2025/6/23 14:52:37

缓存的相关内容

缓存是一种介于数据永久存储介质与数据应用之间数据临时的存储介质实用化保存可以有效地减少低俗数据读取的次数 (例如磁盘IO), 提高系统性能缓存不仅可以用于提高永久性存储介质的数据读取效率，还可以提供临时的数据存储空间 spring boot中提供了缓存技术, 方便…...

编程日记 2025/6/21 1:29:12

JVM方法区核心技术解析：从方法区到执行引擎

方法区方法区的内部结构在经典方法区设计中，主要存储以下核心数据内容： 一、类型信息方法区维护的类型信息包含以下要素： 类全称标识类名称（含完整包路径）直接父类的完全限定名（包含完整包路径&am…...

编程日记 2025/6/23 23:44:29

AIbase推出全球MCP Server集合平台收录超12万个MCP服务器客户端

2025年，AI领域迎来了一项重要的技术进展——MCP（Model Context Protocol，模型上下文协议）的广泛应用。全球MCP Server集合平台AIbase(https://mcp.aibase.cn/)应运而生，为AI开发者提供了一站式的MCP服务器和客户端整合…...

编程日记 2025/6/22 6:29:30

相关文章：