当前位置：首页 > news >正文

使用LLaMA Factory踩坑记录

news 来源：原创 2025/5/10 5:44:23

前置条件：电脑显卡RTX 4080

问题：LLaMA-Factory在运行的时候，弹出未检测到CUDA的报错信息

结论：出现了以上的报错，主要可以归结于以下两个方面：

1、没有安装GPU版本的pytorch，下载的是CPU版本的pytorch；

2、安装的CUDA和安装的pytorch的版本不相互对应。

这里要注意，python的版本对应者pytorch的版本，pytorch的版本又对应着CUDA的版本。

可以参考这个博文：Torch not compiled with CUDA enabled问题解决过程记录-CSDN博客

问题解决过程：

我本机出现这个报错时的CUDA环境是这样的：

最高支持12.6，我装了12.2版本的cuda。python版本为3.11。

为解决问题所进行的操作：

1.看到llamaFactory的python版本推荐，于是将python的版本降到了3.10。没能解决。

2.安装了Anaconda，和问题的解决没有关系。

3.既然是环境问题，那应该是安装的pytorch版本有问题，于是使用 pip list 来查看在该环境下安装了哪些
依赖项。如果像图中这种torch的版本号的后面没有cu,就说明安装的是CPU版本的，需要重装GPU版本。

如果像图中这种torch的版本号的后面时候加上了cu,就说明安装的是GPU版本，这是我安装更新后的版本截图。

于是去pytorch官网下载GPU版本的。

Start Locally | PyTorch Start Locallyhttps://pytorch.org/get-started/locally/https://pytorch.org/get-started/locally/

因为本机的cuda是12.2的，本来想尝试安装11.8版本的，但是安装失败，于是尝试安装12.4版本的，才安装成功。

使用python进行环境检测：

import torch
print(torch.cuda.is_available())  # 是否可以用gpu False不能，True可以
print(torch.cuda.device_count())  # gpu数量， 0就是没有，1就是检测到了
print(torch.__version__) #结果X.X.X+cpu不行

重新运行LLaMA-Factory，不在报错。

使用LLaMA Factory踩坑记录

前置条件：电脑显卡RTX 4080 问题：LLaMA-Factory在运行的时候，弹出未检测到CUDA的报错信息结论：出现了以上的报错，主要可以归结于以下两个方面： 1、没有安装GPU版本的pytorch，下载的是CPU版本…...

编程日记 2025/5/10 5:44:23

四柱预测学

图表后天八卦十二地支不仅代表了时间，还代表了方位。具体来说： ‌子‌：代表正北方‌丑寅‌：合起来代表东北方‌卯‌：代表正东方‌辰巳‌：合起来代表东南方‌午‌：代表正南方‌未申‌：合起来代表西南方‌酉‌：代表正西方‌戌亥‌：合起来代表西北方‌四季-五行-六神…...

编程日记 2025/5/7 13:18:21

使用 JFreeChart 创建动态图表：从入门到实战

文章目录前言一、JFreeChart 简介二、环境准备三、创建第一个折线图四、自定义图表样式4.1 设置背景色4.2 设置折线颜色4.3 设置字体（解决中文乱码）4.4 设置横坐标的标签宽度和方向五、导出图表六、实战：动态生成日报图表总结前言在数据…...

编程日记 2025/5/6 21:55:11

【自学笔记】文言一心的基础知识点总览-持续更新

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录文心一言知识点总览一、文心一言简介二、文心一言的核心功能三、文心一言的技术特点四、文心一言的应用场景五、文心一言的使用技巧六、文心一言的未来发展总结文…...

编程日记 2025/4/30 21:04:49

解锁AI语音魅力——yoyo鹿鸣在线语音合成器，让创意声音即刻绽放！

yoyo鹿鸣-在线语音合成人工智能语音克隆生成，二次元～ AI工具 | AI探金可以在AI探金社区来找我～ yoyo鹿鸣 - 在线语音生成器需求人群： 有语音合成需求的用户。使用场景示例： 合成yoyo鹿鸣语音等等产品特色&a…...

编程日记 2025/5/4 20:44:57

【无标题】堆

[TOC](优先级队列（堆）) 【本节目标】 1. 掌握堆的概念及实现 2. 掌握 PriorityQueue 的使用 # 1. 优先级队列 ## 1.1 概念前面介绍过队列，**队列是一种先进先出(FIFO)的数据结构**，但有些情况下，**操作的数据可…...

编程日记 2025/5/9 4:07:49

【工具变量】上市公司企业绿色新闻数据（2013-2023年）

测算方式： 参考《中国工业经济》周泽将(2023)老师的做法，首先通过网络爬虫的方法检索并爬取上市公司相关新闻，并辅以人工检索补充校对；新闻文本清理，并通过公司相关性判定以及主题模型识别该新闻是否为上市公司环保主…...

编程日记 2025/5/6 17:49:13

【vue】高德地图AMap.Polyline动态更新画折线，逐步绘制

可以使用 setTimeout 或 setInterval 来逐个点绘制折线，确保每次添加新的点到 path 并更新 Polyline，如下所示： localPolyline(path) {console.log(逐点绘制 polyline...);let drawnPath []; // 用于存储当前绘制的点let index 0;let poly…...

编程日记 2025/5/6 23:18:43

Review: Lecture 7 | Lecture 8 LPV (Light Propagation Volumes) Light Propagation Volumes(LPV)-孤岛惊魂CryEngine引进的技术 LPV做GI快|好大体步骤： Step1.Generation of Radiance Point Set Scene Representation 生成辐射点集的场景表示：辐射…...

编程日记 2025/4/24 9:05:55

三种Excel文本连接方法！

大家好，我是小鱼。在处理Excel表格数据时，有时需要对表格某些单元格中的文本进行连接组合。今天就跟大家分享3种Excel文本连接方法！学会后遇到Excel文本连接问题也不求人！ 方法一、使用&符号连接使用&符号连接文本的话…...

编程日记 2025/5/5 8:36:59

ubuntu 本地部署deepseek r1 蒸馏模型

本文中的文件路径或网络代理需要根据自身环境自行删改一、交互式chat页面 1.1 open-webui 交互窗口部署：基于docker安装，且支持联网搜索 Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，旨在完全离线操作。它支持各种 LLM…...

编程日记 2025/5/6 5:14:55

如何删除本地大模型

随着Deepseep模型的爆火，越来越多的用户尝试在本地安装并体验这一强大的AI工具。然而，许多人在安装过程中发现，模型默认会安装在C盘，而C盘的空间通常有限，尤其是对于那些系统盘容量较小的用户来说，这无疑是…...

编程日记 2025/5/9 3:03:08

【共享文件夹】使用Samba服务可在Ubuntu和Windows系统之间共享一个实际的文件夹

目标：在Ubuntu和Windows系统之间共享一个实际的文件夹，并能够共同编辑其中的文件安装Samba创建共享文件夹配置Samba设置Samba密码重启Samba服务以应用更改：在Windows中访问共享文件夹如果客户机无法访问 Samba 服务器，解决方法①…...

编程日记 2025/5/9 17:24:29

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

接着上一篇博客：在Ubuntu上用Llama Factory命令行微调Qwen2.5的简单过程_llamafactory 微调qwen 2.5-CSDN博客如果需要微调比较大的模型，例如Qwen2.5-32B，那么在两个3090上可能不够用，这里我用A60004的服务器。但如果仿照上篇博…...

编程日记 2025/5/9 14:43:39

第 26 场蓝桥入门赛

3.电子舞龙【算法赛】 - 蓝桥云课问题描述话说这年头，连舞龙都得电子化！这不，蓝桥村的老程序员王大爷突发奇想，用LED灯带和一堆传感器鼓捣出了一条“电子舞龙”，它能根据程序指令在村里的广场上“翩翩起舞”。广…...

编程日记 2025/5/9 16:09:32

文华财经期货支撑压力多空K线变色期货指标，博易大师指标公式大全

低线:25,DOT; 中线:55,DOT; 高线:85,DOT; LOWV:LLV(LOW,9); HIGHV:HHV(HIGH,9); RSV:EMA((CLOSE-LOWV)/(HIGHV-LOWV)*100,3); K:EMA(RSV,3); 趋势线:MA(K,3); DBA:K-趋势线; STICKLINE(DBA>0,(K-DBA*0.1),(K-DBA*0.75),2,0),COLORRED; STICKLINE(DBA<0,(趋势线DBA*0.1),…...

编程日记 2025/5/9 16:07:27

基于大模型的围术期脆弱性评估系统研究报告

一、引言 1.1 研究背景与意义围术期是指从患者决定接受手术治疗开始，到手术治疗直至基本康复的全过程，包括术前、术中和术后三个阶段。围术期管理对于保障患者安全、提高治疗效果具有至关重要的意义。在术前阶段，全面准确的评估患者身体状况能够帮助医生提前发现潜在风险…...

编程日记 2025/5/9 16:02:04

星网锐捷视频话机设备pwdsetting管理密码信息泄漏

星网锐捷视频话机设备pwdsetting管理密码信息泄漏漏洞描述星网锐捷视频话机设备泄露管理员密码，攻击者可利用密码直接进入后台配置页面，执行恶意操作，进行一步攻击。威胁等级: 高危漏洞分类: 信息泄露涉及厂商及产品：…...

编程日记 2025/5/9 16:13:23

深入理解小波变换：信号处理的强大工具

引言在科学与工程领域，信号处理一直是关键环节，傅里叶变换与小波变换作为重要的分析工具，在其中发挥着重要作用。本文将深入探讨小波变换，阐述其原理、优势以及与傅里叶变换的对比，并通过具体案例展示其应用价值。一…...

编程日记 2025/5/9 15:16:09

Python----Python高级（并发编程：协程Coroutines，事件循环，Task对象，协程间通信，协程同步，将协程分布到线程池/进程池中）

一、协程 1.1、协程协程，Coroutines，也叫作纤程(Fiber) 协程，全称是“协同程序”，用来实现任务协作。是一种在线程中，比线程更加轻量级的存在，由程序员自己写程序来管理。当出现IO阻塞时，…...

编程日记 2025/5/9 15:50:54

神经网络（Neural Network）

引言神经网络，作为人工智能和机器学习领域的核心组成部分，近年来在诸多领域取得了显著的进展。受生物神经系统的启发，神经网络通过模拟人脑神经元的工作机制，能够从大量数据中学习复杂的模式和关系。其强大的非线性建模能力使其在图像识别、自然语言处理、语音识别和预测…...

编程日记 2025/5/9 16:14:23

AIGC-微头条爆款文案创作智能体完整指令(DeepSeek，豆包，千问，Kimi，GPT)

Unity3D特效百例案例项目实战源码Android-Unity实战问题汇总游戏脚本-辅助自动化Android控件全解手册再战Android系列Scratch编程案例软考全系列Unity3D学习专栏蓝桥系列AIGC(GPT、DeepSeek、豆包、千问、Kimi)👉关于作者专注于Android/Unity和各种游戏开发技巧，以及各种资…...

编程日记 2025/5/9 15:45:32

A股level2高频数据分析20250205

A股level2高频数据分析20250205 通过Level2的逐笔成交与委托记录，这种高精度的毫秒级数据能够洞察诸多重要信息，包括庄家目的、误导性行为，使所有交易操作透明化。这对于分析高手的交易策略极为有益，对机器学习的研究也极具价值&…...

编程日记 2025/5/9 16:04:47

【Pytorch实战教程】PyTorch中的Dataset用法详解

PyTorch中的Dataset用法详解在深度学习中，数据是模型训练的基石。PyTorch作为一个强大的深度学习框架，提供了丰富的工具来处理和加载数据。其中，Dataset类是PyTorch中用于处理数据的重要工具之一。本文将详细介绍Dataset的用法，帮助你更好地理解和使用它。 1. 什么是Dat…...

编程日记 2025/5/9 16:06:31

UIAbility 生命周期方法

生命周期流程图 UIAbility的生命周期官方文档地址https://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V13/uiability-lifecycle-V13 1. onCreate(want: Want, launchParam: LaunchParam) 触发时机：Ability首次创建时作用：初始化核心资源…...

编程日记 2025/5/9 16:01:14

UML学习

定义：UML是一种用于软件系统分析和设计的标准化建模语言。作用：用于描述系统的结构、行为、交互等。共定义了10种,并分为4类 ①用例图 user case diagram : 从外部用户的角度描述系统的功能,并指出功能的执行者. 静态图(②类图 class diagram ③,对象…...

编程日记 2025/5/9 16:11:25

DeepSeek-R1 32B Windows+docker本地部署

最近国产大模型DeepSeek兴起，本地部署了一套deepseek同时集成Open WebUI界面,给大家出一期教程。软件：Ollama、docker、Open WebUI 一、用Ollama下载模型首先我们需要安装Ollama，它可以在本地运行和管理大模型。到Ollama官网 https://ol…...

编程日记 2025/5/9 15:16:09

界址点成果表批量生成（新增.docx格式）-附工具下载链接

界址点编号工具20250208更新（成果表新增.docx格式）。【工具简介】工具可根据面图层，西北角顺时针批量生成界址点，可以设置角度、距离参数，来减少生成界址点的数量（不用全部节点生成界址点）。生…...

编程日记 2025/5/9 16:01:14

计算机组成原理（3）

计算机组成原理（3） 存储器层次结构存储器概述存储器分类存储器性能指标半导体随机存储SRAM和DRAM 存储器层次结构主存-辅存：实现了虚拟存储系统，解决了主存容量不足的问题； Cache-主存：解决了主存于CPU速…...

编程日记 2025/4/30 21:04:48

【新书速荐】《Information-Theoretic Radar Signal Processing（信息论雷达信号处理）》

引言最近，由Yujie Gu 博士和 Yimin D. Zhang 教授主编的新书 Information-Theoretic Radar Signal Processing由 Wiley-IEEE Press 正式出版。这是信息论雷达信号处理领域的首部专著，全书共分 14 章，汇集了来自学术界、工业界和政府机构的…...

编程日记 2025/5/9 16:02:04

ES冷热数据分离配置

冷热数据是根据索引创建时间来进行迁移的。一旦迁移到冷数据节点，则无法再恢复成热数据，因为热数据节点中该索引已经没有分片存在了。基于Docker搭建ES集群,并设置冷热数据节点配置冷热数据迁移策略 PUT https://192.168.x.xx:19200/_ilm/policy/my…...

编程日记 2025/5/9 16:06:31

Docker 构建镜像并搭建私人镜像仓库教程

构建镜像教程步骤 1：安装 Docker #在安装 Docker 之前，建议先更新系统软件包。 sudo yum update -y # 移除旧的Docker版本和Podman、runc软件包及其相关依赖。 yum remove -y docker docker-client docker-client-latest docker-ce-cli docker-commo…...

编程日记 2025/5/9 15:47:23

蓝牙耳机降噪进化：从物理阻隔到声波抵消的跨越

目录一、降噪技术的核心分类（一）被动降噪：物理屏障的“静音盾”（二）主动降噪：声波抵消的“黑科技”（三）混合降噪：双重技术的“强强联合” 二、细分技术及应用场景&#…...

编程日记 2025/5/9 16:08:31

23.PPT：校摄影社团-摄影比赛作品【5】

目录 NO12345 NO6 NO7/8/9/10 单元格背景填充表格背景填充文本框背景填充幻灯片背景格式设置添加考生文件夹下的版式 NO12345 插入幻灯片和放入图片☞快速：插入→相册→新建相册→文件→图片版式→相框形状→调整边框宽度左下角背景图片：视图→…...

编程日记 2025/5/9 16:11:26

systemverilog的program和module的区别

1. 设计目的 module 硬件建模：用于描述数字电路的结构和行为（如组合逻辑、时序逻辑、连线等）。层次化设计：支持模块化设计，可嵌套其他模块或接口（interface）。仿真周期内持续存在&#xff1…...

编程日记 2025/5/9 12:15:09

AI大模型零基础学习（2）：提示词工程进阶——让AI听懂你的“弦外之音“

从“基础对话”到“精准操控”的思维跃迁一、为什么你的提问总被AI“误解”？ 1.1 大模型的“思维盲区” 知识边界：ChatGPT等模型的训练数据截止于特定时间（如2023年1月），无法主动获取最新资讯文化差异：…...

编程日记 2025/5/9 16:00:23

如今物联网的快速发展对hmi的更新有哪些积极影响

一、功能更加丰富物联网的快速发展使得 HMI（人机界面）能够连接更多的设备和系统，从而实现更加丰富的功能。例如，通过与传感器网络的连接，HMI 可以实时显示设备的运行状态、环境参数等信息，为用户提供更加…...

编程日记 2025/5/9 16:05:39

基于yolov11的阿尔兹海默症严重程度检测系统python源码+onnx模型+评估指标曲线+精美GUI界面

【算法介绍】基于YOLOv11的阿尔兹海默症严重程度检测系统是一种创新的医疗辅助工具，旨在通过先进的计算机视觉技术提高阿尔兹海默症的早期诊断和病情监测效率。阿尔兹海默症是一种渐进性的神经退行性疾病，通常表现为认知障碍、记忆丧失和语言障碍等症状…...

编程日记 2025/5/9 15:47:23

redis之GEO 模块

文章目录背景GeoHash 算法redis中的GeoHash 算法基本使用增加距离获取元素位置获取元素的 hash 值附近的元素注意事项原理背景如果我们有需求需要存储地理坐标，为了满足高性能的矩形区域算法，数据表需要在经纬度坐标加上双向复合索引 (x, y)&#x…...

编程日记 2025/5/9 16:04:47

Java/Kotlin双语革命性ORM框架Jimmer（一）——介绍与简单使用

概览 Jimmer是一个Java/Kotlin双语框架包含一个革命性的ORM 以此ORM为基础打造了一套综合性方案解决方案，包括 DTO语言更全面更强大的缓存机制，以及高度自动化的缓存一致性更强大客户端文档和代码生成能力，包括Jimmer独创的远程异常 …...

编程日记 2025/5/9 5:44:12

如何修改DNS解析?

DNS(域名系统)就像互联网的“电话簿”，负责将我们输入的网址转换为计算机能够理解的IP地址。如果DNS解析出现问题，访问网站就会受到影响。那我们该如何修改DNS解析呢?接下来，我们就来介绍一下这个话题。为什么要修改DNS解析? 使用默认的…...

编程日记 2025/5/9 5:27:41

使用 POI-TL 和 JFreeChart 动态生成 Word 报告

文章目录前言一、需求背景二、方案分析三、 POI-TL JFreeChart 实现3.1 Maven 依赖3.3 word模板设置3.2 实现代码踩坑前言在开发过程中，我们经常需要生成包含动态数据和图表的 Word 报告。本文将介绍如何结合 POI-TL 和 JFreeChart，实现动态生成 W…...

编程日记 2025/5/9 15:22:34

Python的那些事第十五篇：数据分析中的“三剑客”NumPy、Pandas与Matplotlib

数据分析中的“三剑客”：NumPy、Pandas与Matplotlib 在数据分析的世界里，有三位“大侠”常常携手并肩，共同应对各种复杂的数据挑战。它们就是NumPy、Pandas和Matplotlib。这三位“大侠”各怀绝技，相互配合，让数据分析…...

编程日记 2025/5/9 14:18:54

25/2/7 ＜机器人基础＞牛顿-欧拉递推公式，开闭环

牛顿-欧拉递推公式是用于计算刚体动力学中，刚体的角速度和角加速度的递推关系。这个公式是牛顿第二定律和欧拉旋转定理的结合，适用于描述刚体在空间中的旋转运动。对于一个刚体，设其在某时刻的角速度为 ω，角加速度为 α&#xf…...

编程日记 2025/5/9 14:09:51

vue3父子组件传值方式

父子组件传值方式在 Vue 3 中，父子组件之间传值主要有以下几种常见方式，下面将详细介绍并给出演示代码。 1. 父组件向子组件传值：使用 props 原理 props 是 Vue 中用于在父组件向子组件传递数据的机制。父组件通过在子组件标签上绑定属性…...

编程日记 2025/5/3 17:19:33

树和二叉树_6

树和二叉树_6 一、leetcode-105二、题解1.引库2.代码一、leetcode-105 从前序与中序遍历序列构造二叉树给定两个整数数组 preorder 和 inorder ，其中 preorder 是二叉树的先序遍历， inorder 是同一棵树的中序遍历，请构造二叉树并返回其根节…...

编程日记 2025/5/9 15:52:33

使用wpa_supplicant和wpa_cli 扫描wifi热点及配网

一：简要说明交叉编译wpa_supplicant工具后会有wpa_supplicant和wpa_cli两个程序生产，如果知道需要连接的wifi热点及密码的话不需要遍历及查询所有wifi热点的名字及信号强度等信息的话，使用wpa_supplicant即可，否则还需要使用wpa_…...

编程日记 2025/5/9 11:04:23

个人职业发展——效率为王：AI赋能前端开发

在竞争激烈的IT行业，个人职业发展至关重要。而提升工作效率，无疑是加速职业发展的关键引擎。对于前端开发者而言，面对日益复杂的项目需求、不断变化的技术栈以及大量重复性的工作，如何提升效率，成为一个亟待解决的难题…...

编程日记 2025/5/9 13:39:51

【Android】Android开发应用如何开启任务栏消息通知

Android开发应用如何开启任务栏消息通知 1. 获取通知权限2.编写通知工具类3. 进行任务栏消息通知 1. 获取通知权限在 AndroidManifest.xml 里加上权限配置，如下。 <?xml version"1.0" encoding"utf-8"?> <manifest xmlns:android…...

编程日记 2025/5/9 9:09:43

c语言：取绝对值

假设我们有一个 long 类型的变量 l，我们希望恢复其绝对值。以下是两种方法的对比： 方法1：使用条件语句这个很好理解，负数时取负运算 ，用于数值的符号反转。 long abs_value(long l) {if (l < 0) {return -l;} e…...

编程日记 2025/5/9 14:58:06

相关文章：