当前位置：首页 > news >正文

win10 笔记本电脑安装 pytorch+cuda+gpu 大模型开发环境过程记录

news 来源：原创 2025/8/29 15:37:23

win10 笔记本电脑安装 pytorch+cuda+gpu 大模型开发环境过程记录

文章部分内容参考 deepseek。

以下使用命令行工具 mingw64。

安装 Anaconda

安装位置：

/c/DEVPACK/Anaconda3

然后安装 Python 3.10.16
（略）

$ conda create -n pytorch_env python=3.10
$ conda activate pytorch_env

安装 CUDA cuDNN

安装 cuda toolkit 会更新系统的显卡驱动。尽管我的 Thinkpad X1 驱动已经是最新，但是仍然比 Nvidia 提供的旧。所以要更新 N 卡驱动。因为 pytorch 支持 12.6，所以我选择 cuda12.6。

下载：
cuda_12.6.3_561.17_windows.exe
cudnn_9.6.0_windows.exe
然后安装位置：

C:\NVIDIA\cuda126
C:\NVIDIA\cudnn9.6

系统环境变量设置如下：

CUDA_PATH=C:\NVIDIA\cuda126
CUDA_PATH_V12_6=C:\NVIDIA\cuda126
Path=C:\NVIDIA\cuda126;C:\NVIDIA\cuda126\bin;C:\NVIDIA\cuda126\libnvvp;C:\NVIDIA\cuda126\lib\x64;C:\NVIDIA\cudnn9.6\bin\12.6;C:\NVIDIA\cudnn9.6\lib\12.6\x64;...

安装 CUDA 时，不要勾选（名字记不清了，大概意思）：

Nsight SVE
Cuda Visual Studio 整合

安装完毕测试：

$ nvcc -V

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Wed_Oct_30_01:18:48_Pacific_Daylight_Time_2024
Cuda compilation tools, release 12.6, V12.6.85
Build cuda_12.6.r12.6/compiler.35059454_0

$ nvidia-smi

    Sat Apr  5 16:43:53 2025+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 561.17                 Driver Version: 561.17         CUDA Version: 12.6     ||-----------------------------------------+------------------------+----------------------+| GPU  Name                  Driver-Model | Bus-Id          Disp.A | Volatile Uncorr. ECC || Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. ||                                         |                        |               MIG M. ||=========================================+========================+======================||   0  NVIDIA GeForce GTX 1650      WDDM  |   00000000:01:00.0 Off |                  N/A || N/A   56C    P8              4W /   35W |      81MiB /   4096MiB |      0%      Default ||                                         |                        |                  N/A |+-----------------------------------------+------------------------+----------------------+

说明cuda显卡驱动和开发环境安装成功。

安装 pytorch

访问 PyTorch官网 https://pytorch.org/get-started/locally/，选择下图橙色所示部分，注意安装的Python和CUDA版本。

在这里插入图片描述打开 mingw64 命令行工具窗口，运行下面命令：

$ conda config --set show_channel_urls yes
$ conda config --set always_yes yes
# 默认重试次数为 30
$ conda config --set remote_max_retries 30
# 连接超时$ conda config --set remote_connect_timeout_secs 600
# 读取超时$ conda config --set remote_read_timeout_secs 1200
$ conda activate pytorch_env
$ pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

漫长的等待之后安装成功。

Downloading https://download.pytorch.org/whl/cu126/torch-2.6.0%2Bcu126-cp310-cp310-win_amd64.whl (2496.1 MB)━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 2.5/2.5 GB 236.1 kB/s eta 0:00:00
Downloading https://download.pytorch.org/whl/cu126/torchaudio-2.6.0%2Bcu126-cp310-cp310-win_amd64.whl (4.2 MB)━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 4.2/4.2 MB 276.7 kB/s eta 0:00:00
Downloading https://download.pytorch.org/whl/fsspec-2024.6.1-py3-none-any.whl (177 kB)
Installing collected packages: sympy, fsspec, torch, torchvision, torchaudioAttempting uninstall: sympyFound existing installation: sympy 1.13.3Uninstalling sympy-1.13.3:Successfully uninstalled sympy-1.13.3Attempting uninstall: torchFound existing installation: torch 2.5.1Uninstalling torch-2.5.1:Successfully uninstalled torch-2.5.1
Successfully installed fsspec-2024.6.1 sympy-1.13.1 torch-2.6.0+cu126 torchaudio-2.6.0+cu126 torchvision-0.21.0+cu126
(pytorch_env)

编写一个测试文件：check_pytorch_env.py

import torchprint(torch.__version__)          # 查看 PyTorch 版本
print(torch.cuda.is_available())  # 输出 True 表示 CUDA 可用
print(torch.cuda.get_device_name(0))  # 显示 GPU 型号（如 NVIDIA RTX 3090）

运行测试：

$ python check_pytorch_env.py

2.6.0+cu126
True
NVIDIA GeForce GTX 1650
(pytorch_env)

说明 pytorch+cuda+gpu 安装成功。

安装 hugging-face

在安装好 PyTorch 后，安装 Hugging Face 的 transformers 库（核心工具库）和其他相关依赖的步骤如下。

系统环境变量增加：

HF_ENDPOINT=https://hf-mirror.com            # 模型下载网站
HF_HOME=D:\huggingface                       # hf 主目录。下载缓存目录自动在： $HF_HOME/hub
HF_MODELS=D:\huggingface\models              # 模型保存的本地目录
HF_HUB_DISABLE_SYMLINKS_WARNING=1

完整安装命令：

$ conda activate pytorch_env
$ pip3 install transformers datasets tokenizers accelerate peft safetensors soundfile librosa Pillow huggingface_hub python-dotenv

说明：

transformers（模型加载与推理）：支持加载预训练模型（如 BERT、GPT、T5）、进行文本生成、分类、翻译等任务。
datasets（数据集加载与处理）：快速加载和处理 NLP、CV、语音等公开数据集（如 GLUE、SQuAD）。
tokenizers（高性能分词工具）：用于文本分词（支持 BPE、WordPiece 等算法），比 transformers 内置分词器更快。
huggingface_hub：通过镜像站下载模型：huggingface-cli download --resume-download --cache-dir “本地路径” 模型名称
python-dotenv：读取 .env 保存的环境变量

可选：

accelerate（分布式训练）：加速库。简化多 GPU/TPU 训练代码，支持混合精度训练。
evaluate：模型评估库。提供标准评估指标（如准确率、F1、BLEU）。
peft：模型压缩库。支持参数高效微调（如 LoRA、Prefix Tuning）。
safetensors：模型序列化库。安全高效的模型权重序列化格式，替代传统 pickle。
soundfile、librosa：音频处理
Pillow：图像处理

编写一个测试文件：check_huggingface.py

	import transformersfrom transformers import pipeline# 应输出版本号（如 4.50.3）print(transformers.__version__)# 示例：情感分析管道classifier = pipeline("sentiment-analysis")result = classifier("Hugging Face is amazing!")print(result)  # 输出示例：[{'label': 'POSITIVE', 'score': 0.9998}]

运行测试：

$ python check_huggingface.py

报错。因为 https://huggingface.co 无法访问，所以需要使用Hugging Face Pipeline在本地运行模型。模型下载脚本文件：
$HF_HOME/scriptes/download_models.py

import os
import transformers
from transformers import AutoModelForSequenceClassification, AutoTokenizerhf_models_dir = os.getenv("HF_MODELS")
# 指定模型名称
model_name = "nlptown/bert-base-multilingual-uncased-sentiment"
local_dir = os.path.join(hf_models_dir, "bert-base-multilingual-uncased-sentiment")print("local_dir=", local_dir)
# 下载模型和分词器
model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)
# 保存到本地
model.save_pretrained(local_dir)
tokenizer.save_pretrained(local_dir)

执行上面的脚本： $HF\_HOME/scriptes/download\_models.py，模型下载到本地目录：$ HF_MODELS/bert-base-multilingual-uncased-sentiment

情感分析测试 sentiment-analysis.py：

import os
from transformers import pipeline# D:\huggingface\models
hf_models_dir = os.environ["HF_MODELS"]print("hf_models_dir=", hf_models_dir)# 加载本地模型
classifier = pipeline("sentiment-analysis",model = os.path.join(hf_models_dir, "bert-base-multilingual-uncased-sentiment"),tokenizer= os.path.join(hf_models_dir, "bert-base-multilingual-uncased-sentiment")
)print("classifier ok")# 测试文本
test_lines = ["傻!","关税战没有赢家","中国国必胜。yeah yeah"
]for l in test_lines:result = classifier(l)print(l, result)print("test exit ok")

执行：python sentiment-analysis.py

win10 笔记本电脑安装 pytorch+cuda+gpu 大模型开发环境过程记录

win10 笔记本电脑安装 pytorchcudagpu 大模型开发环境过程记录文章部分内容参考 deepseek。以下使用命令行工具 mingw64。安装 Anaconda 安装位置： /c/DEVPACK/Anaconda3 然后安装 Python 3.10.16 （略） $ conda create -n pytorch_…...

编程日记 2025/8/29 15:37:23

LeetCode 2442：统计反转后的不同整数数量

目录核心思想：数字的“拆分”与“重组” 分步拆解（以输入 123 为例） 关键操作详解为什么能处理中间或末尾的0？ 数学本质总结题目描述解题思路代码实现代码解析复杂度分析示例演示总结核心思想：…...

编程日记 2025/8/29 8:54:25

获取inode的完整路径包含挂载的路径

一、背景在之前的博客缺页异常导致的iowait打印出相关文件的绝对路径-CSDN博客里的 2.2.3 一节和关于inode，dentry结合软链接及硬链接的实验-CSDN博客里，我们讲到了在内核里通过inode获取inode对应的绝对路径的方法。对于根目录下的文件而言&#…...

编程日记 2025/8/29 15:36:06

解决上传PDF、视频、音频等格式文件到FTP站点时报错“将文件复制到FTP服务器时发生错误。请检查是否有权限将文件放到该服务器上”问题

一、问题描述可以将文本文件（.txt格式），图像文件(.jpg、.png等格式)上传到我们的FTP服务器上；但是上传一些PDF文件、视频等文件时就会报错“ 将文件复制到FTP服务器时发生错误。请检查是否有权限将文件放到该服务器上。详细信息： 200 Type set to l. 227 Entering Pas…...

编程日记 2025/8/28 17:44:16

git push

在 git push 命令中，分支名称的顺序和含义非常重要。其基本格式如下： git push <remote> <local_branch>:<remote_branch>各部分解释 <remote>：远程仓库的名称（如 origin）。<local_branc…...

编程日记 2025/8/29 10:14:13

Java中的四大引用类型详解

Java中的四大引用类型详解：强引用、软引用、弱引用、虚引用 1. 引用类型概览 Java提供了四种不同强度的引用类型，用于控制对象的生命周期和垃圾回收行为： 引用类型回收时机典型应用场景是否影响GC强引用永不回收（除非断开引用&…...

编程日记 2025/8/28 21:41:39

MySQL慢查询日志通俗指南

🍀 前言如果你发现自己新写或者重写的接口查询速度变慢，你怎么定位原因呢？可以用explain分析我们的SQL原生代码，又或者可以考虑使用MySQL慢查询日志。这篇文章主要讲述什么是慢查询日志以及开发中可能用到的场景。但是&#x…...

编程日记 2025/8/29 15:37:22

Kafka 如何保证消息可靠性？

Kafka 保证消息可靠性主要通过以下几个机制来实现，从生产者到消费者的整个链路上都设计了相应的保障措施： 1. 生产者（Producer）端的可靠性 ✅ a. acks 参数（确认机制） acks0：生产者不等待任何…...

编程日记 2025/8/29 15:36:07

【嵌入式系统设计师】知识点：第2章嵌入式系统硬件基础知识

提示：“软考通关秘籍” 专栏围绕软考展开，全面涵盖了如嵌入式系统设计师、数据库系统工程师、信息系统管理工程师等多个软考方向的知识点。从计算机体系结构、存储系统等基础知识，到程序语言概述、算法、数据库技术（包括关系数据库、非关系型数据库、SQL 语言、数据仓库等）…...

编程日记 2025/8/26 11:09:51

C++重载运算符的本质

C 中运算符重载的本质就是函数调用，编译器会将运算符表达式转换为对特定函数的直接调用。以下是具体原理和实现细节： 1. 运算符重载的底层实现当重载一个运算符（如、、<<）时，实际上是在定义一个特殊名称的函数…...

编程日记 2025/8/29 7:01:16

Python解决“数字插入”问题

Python解决“数字插入”问题问题描述测试样例解题思路代码问题描述小U手中有两个数字 a 和 b。第一个数字是一个任意的正整数，而第二个数字是一个非负整数。她的任务是将第二个数字 b 插入到第一个数字 a 的某个位置，以形成一个最大的可能数字。你…...

编程日记 2025/8/29 7:25:56

深入讲解：智能合约中的读写方法

前言在探秘区块链开发：智能合约在 DApp 中的地位及与传统开发差异一文中我提到对于智能合约中所有的写入其实都算是交易。而在一个完整的智能合约代码中最大的两个组成部分就是读取和写入。本文将为你深入探讨该两者方法之间的区别。写方法写方法其实就是对区块链这一…...

编程日记 2025/8/28 18:59:51

Java进阶之旅-day05：网络编程

引言在当今数字化的时代，网络编程在软件开发中扮演着至关重要的角色。Java 作为一门广泛应用的编程语言，提供了强大的网络编程能力。今天，我们深入学习了 Java 网络编程的基础知识，包括基本的通信架构、网络编程三要素、IP 地址、…...

编程日记 2025/8/28 16:57:28

Eliet Chat开发日志：信令服务器注册与通信过程

目录 1. 架构设计：信令服务器与客户端 2. 选择技术栈 3. 实现信令服务器 4. 客户端实现 5. 测试 6. 下一步计划日期：2025年4月5日今天的工作重点是实现两个设备通过信令服务器注册并请求对方公网地址信息，以便能够进行点对点通信。我…...

编程日记 2025/8/29 3:17:42

如何设计一个本地缓存

想获取更多高质量的Java技术文章？欢迎访问Java技术小馆官网，持续更新优质内容，助力技术成长 Java技术小馆官网https://www.yuque.com/jtostring 如何设计一个本地缓存随着系统的复杂性和数据量的增加，如何快速响应用户请求、减…...

编程日记 2025/8/27 19:32:40

2024版idea使用Lombok时报找不到符号

今天在springboot项目中使用Lombok的Builder注解，启动时居然报了找不到符号的错，如下图于是开始了漫长的寻找之路，首先去settings->Plugins中看自己的Lombok插件是否启动，发现确实是如此，然后看网上的教程去加上这…...

编程日记 2025/8/29 12:46:30

[Android安卓移动计算]：新建项目和配置环境步骤

文章目录一：AndroidStudio 创建项目1. New Project2. 选择：Empty Activity 二：配置和下载SDK点击SDK 配置按钮选择API32和Android 9.0（Pie）再点击Apply点击接受条款声明进行安装安装完后点击NEXT和OK出现&#xff1a…...

编程日记 2025/8/29 15:37:06

$R^n$平面约束下的向量列

原向量： x → \overset{\rightarrow}{x} x→ 与 x → \overset{\rightarrow}{x} x→法向相同的法向量（与 x → \overset{\rightarrow}{x} x→同向） ( x → ⋅ n → ∣ n → ∣ 2 ) n → (\frac{\overset{\rightarrow}x\cdot\overset{\righta…...

编程日记 2025/8/29 4:19:22

混合编程的架构

在混合使用QML和Qt Widgets的环境中，是否必须严格遵循分层架构需要根据项目规模和复杂度来决定。以下是具体的决策指南和实施建议： 一、分层架构的适用性分析 #mermaid-svg-61Mlp9MrpFOoZPAO {font-family:"trebuchet ms",verdana,arial,sans…...

编程日记 2025/8/28 20:28:10

联网汽车陷入网络安全危机

有人能够入侵并控制汽车这一事实本身就令人恐惧，电影中的场景变成了现实。再加上汽车中的软件会处理和存储我们的个人数据，这种恐惧达到了一个新的高度。一旦发生安全漏洞，我们的驾驶数据、联系人、通话记录、消息甚至位置信息等信息都可能…...

编程日记 2025/8/29 15:37:22

基于Spark的招聘数据预测分析推荐系统

【Spark】基于Spark的招聘数据预测分析推荐系统 （完整系统源码开发笔记详细部署教程）✅ 目录一、项目简介二、项目界面展示三、项目视频展示一、项目简介该系统能够高效处理海量招聘数据，利用Spark的强大计算能力实现快速分析和预测。该系…...

编程日记 2025/8/29 8:48:50

基于Spark的酒店数据分析系统

【Spark】基于Spark的酒店数据分析系统 （完整系统源码开发笔记详细部署教程）✅ 目录一、项目简介二、项目界面展示三、项目视频展示一、项目简介本项目基于Python语言开发，借助Django进行后台框架的开发，搭建大数据虚拟机集群…...

编程日记 2025/8/29 15:37:06

在FW1上，将接口g1/0/0添加进去trust区域 [USG6000V1]firewall zone trust [USG6000V1-zone-trust]add interface GigabitEthernet 1/0/0 在放通安全策略在FW2上配置ip [USG6000V1]int g1/0/1 [USG6000V1-GigabitEthernet1/0/1]ip address 20.1.1.1 24 [USG6000…...

编程日记 2025/8/29 15:36:06

18.1.go连接redis

开发调试 Tiny RDM：跨平台GUI工具windows版本下载 https://download.csdn.net/download/chxii/90562932 支持多种格式查看：内置高级文本代码编辑器，支持语法高亮/代码折叠/错误提示便捷搜索过滤：使用正则匹配搜索键后，仍可进行二级过滤，组合筛选数据更方便调试分析…...

编程日记 2025/8/29 1:56:45

innodb如何实现mvcc的

InnoDB 实现 MVCC（多版本并发控制）的机制主要依赖于 Undo Log（回滚日志）、Read View（读视图） 和隐藏的事务字段。以下是具体实现步骤和原理： 1. 核心数据结构 InnoDB 的每一行数据&#xff08…...

编程日记 2025/8/29 15:37:05

递归实现组合型枚举（DFS）

从 1∼n 这 n 个整数中随机选出 m 个，输出所有可能的选择方案。输入格式两个整数 n,m,在同一行用空格隔开。输出格式按照从小到大的顺序输出所有方案，每行 1 个。首先，同一行内的数升序排列，相邻两个数用一个空格隔开。…...

编程日记 2025/8/28 2:46:28

【Java学习日记18】：三元运算符和运算符的优先级

一、三元运算符 2. 示例代码例题1: 例题2: 二、运算符优先级 1. 优先级规则 Java 运算符的执行顺序由优先级决定，优先级高的先执行。只要记住小括号优先级最大即可,以后就用这玩意四、总结运算符优先级：小括号 () 是最高优先级工具...

编程日记 2025/8/29 15:36:08

基于springboot放松音乐在线播放系统(源码+lw+部署文档+讲解)，源码可白嫖!

摘要本放松音乐在线播放系统采用B/S架构，数据库是MySQL，网站的搭建与开发采用了先进的Java进行编写，使用了Spring Boot框架。该系统从两个对象：由管理员和用户来对系统进行设计构建。前台主要功能包括：用户注册、登录…...

编程日记 2025/8/27 5:08:10

【Scratch编程系列】Scratch编程软件界面

Scratch是一款由麻省理工学院(MIT） 设计开发的少儿编程工具。其特点是：使用者可以不认识英文单词，也可以不使用键盘，就可以进行编程。构成程序的命令和参数通过积木形状的模块来实现。用鼠标拖动指令模块到脚本区就可以了。这个软…...

编程日记 2025/8/29 5:05:45

技术驱动革新，强力巨彩LED软模组助力创意显示

随着LED显示技术的不断突破，LED软模组因其独特的柔性特质和个性化显示效果，正逐渐成为各类应用场景的新宠。强力巨彩软模组R3.0H系列具备独特的可塑造型能力与技术创新，为商业展示、数字艺术、建筑装饰等领域开辟全新视觉表达空间。　　 LED…...

编程日记 2025/8/28 23:21:25

历年跨链合约恶意交易详解（三）——Nomad Bridge20220801

漏洞合约函数 /*** notice Given formatted message, attempts to dispatch* message payload to end recipient.* dev Recipient must implement a handle method (refer to IMessageRecipient.sol)* Reverts if formatted messages destination domain is not the Replicas d…...

编程日记 2025/8/29 15:37:05

win10 笔记本电脑安装 pytorch+cuda+gpu 大模型开发环境过程记录

安装 Anaconda

安装 CUDA cuDNN

安装 pytorch

安装 hugging-face

相关文章：