当前位置：首页 > news >正文

ubuntu20.04+RTX4060Ti大模型环境安装

news 来源：原创 2025/5/9 21:56:30

装显卡驱动

这里是重点，因为我是跑深度学习的，要用CUDA，所以必须得装官方的驱动，Ubuntu的附件驱动可能不太行.

进入官网https://www.nvidia.cn/geforce/drivers/，选择类型，最新版本下载。

在这里插入图片描述
挨个运行，更新/安装必须的包

sudo apt-get update
sudo apt-get install g++
sudo apt-get install gcc
sudo apt-get install make

禁用自带的显卡驱动nouveau

终端运行以下命令：

sudo gedit /etc/modprobe.d/blacklist.conf

在弹出的文本文档最后写入以下两行内容：

blacklist nouveau
options nouveau modeset=0

（3）终端依次运行以下代码更新系统，并重启

sudo update-initramfs -u  # 更新
sudo reboot  # 重启

（4）验证禁用是否成功

lsmod | grep nouveau

若没有任何输出，则禁用成功。

（5）卸载原有驱动，这个新装系统的话可以跳过，不过跑一遍也没影响

sudo apt-get remove nvidia-*

命令行输入以下命令进入命令行界面，注意要黑屏了，不要慌

sudo telinit 3

进去之后就会弹出来login让你登录，你就先输入用户名回车，然后输入密码回车，这里输入是不会显示的，不用管，你输完回车就行

接着关闭显示服务，Ubuntu20.04的显示是gdm3，老版本Ubuntu的可能是lightdm

输入以下命令或者直接按Ctrl + Alt + F1_{F6中的一个（分别对应进入tty1}tty6）

sudo service gdm3 stop

sudo chmod 777 NVIDIA-Linux-x86_64-550.54.14.run  # 给安装文件root权限
sudo ./NVIDIA-Linux-x86_64-550.54.14.run -no-opengl-files -no-x-check -no-nouveau-check

如果你忘了下载的显卡驱动版本，你就输入 ls 查看当前目录下的文件夹，然后 cd 你之前放显卡驱动的文件夹

ls  # 查看文件夹
cd /home/xxx  # 进入你放驱动的文件夹

进入文件夹后你输入NVI的时候就可以按一下tab，应该会自动补全

然后就跳出来几个选项：

①选continue install

②Install NVIDIA’s 32-bit compatibility libraries? 选no

③Would you like to run the nvidia-xconfig 选no

（7）打开显示服务，然后会跳回桌面界面

输入以下命令或者直接按Ctrl + Alt + F1/F7/F8

sudo service gdm3 start

（8）验证是否安装成功

nvidia-smi

每隔1秒刷新一次显卡状态信息，可以用来监控显卡状态
watch -n 1 nvidia-smi

装conda

下载anaconda或者miniconda都可以，这里下载anaconda也没有那个可视化界面，所以推荐下载miniconda（https://docs.anaconda.com/miniconda/）比较轻量 Miniconda — Anaconda 文档

可以手动下载.sh文件，然后在文件夹鼠标右键-在终端命令打开，然后终端输入以下命令安装：

bash Miniconda3-latest-Linux-x86_64.sh

中间出现[y/n]或者[yes/no]就输入y回车，如果出现很长的用户协议就输入q跳过

这里最后一步有个问你是否init，他默认“no>>”，你直接回车就麻烦了，你要输入yes再回车

还有注意不要用sudo bash，这样会把你安装的文件夹锁住（root权限才能打开）

执行命令：
source ~/.bashrc
conda -V

然后就能看到版本输出了

py虚拟环境创建

使用国内镜像源

由于你遇到的错误可能与国际网络连接有关，如果你位于中国大陆，访问国外的 conda 仓库可能会较慢。此时你可以考虑使用国内镜像源，这样可以显著提高访问速度和稳定性。

你可以选择 Anaconda 或 conda-forge 的国内镜像，例如清华大学镜像源。以下是将 conda 配置为使用国内镜像的步骤：
步骤 1: 配置 Anaconda 使用清华镜像

首先，打开终端，执行以下命令：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --set show_channel_urls yes

步骤 2: 配置 conda-forge 镜像

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/

步骤 3: 检查配置

你可以通过以下命令查看当前配置的镜像源：

conda config --show channels

然后设置不自动激活base虚拟环境，执行如下命令
conda config --set auto_activate_base false

激活、关闭基础虚拟环境，如下：

conda activate base
conda deactivate

此时，anaconda安装完成。

创建虚拟环境

创建一个自定义的虚拟环境，如下:

conda create -n test_env -y python=3.8

Westlake - Omni本地部署实践

环境准备

创建新的conda环境并安装所需的软件包:

conda install pytorch2.3.0 torchvision0.18.0 torchaudio==2.3.0 -c pytorch

git clone https://github.com/xinchen-ai/Westlake-Omni.git
cd Westlake-Omni
pip install -r requirements.txt

如果pip很慢，则指定一下源：
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/

然后报错
在这里插入图片描述

运行：
pip install --upgrade python-dateutil

2、启动运行

1）gradio启动演示

python gradio_demo.py
在这里插入图片描述
打开py文件
从huggingface上把模型下载下来，放到同级文件夹下的ckpt文件夹中

2）本地cli测试

python generate.py – 用户音频数据/声音/输入.Wav – 用户文本嗯，最近心情不是很好，能聊聊吗？
python generate.py – 用户音频数据/声音/input.wav

ubuntu20.04+RTX4060Ti大模型环境安装

装显卡驱动这里是重点，因为我是跑深度学习的，要用CUDA，所以必须得装官方的驱动，Ubuntu的附件驱动可能不太行. 进入官网https://www.nvidia.cn/geforce/drivers/，选择类型，最新版本下载。挨个运行&#…...

编程日记 2025/5/9 21:56:30

汽车智能座舱的技术演进与用户体验重构 —— 基于多模态交互与 AI 融合的范式创新

摘要： 汽车智能座舱作为人 - 车 - 环境交互的核心载体，正经历从功能驱动到体验驱动的范式变革。本文通过技术解构与用户行为分析，深入揭示智能座舱在异构计算、多模态感知、服务生态等维度的创新路径。研究表明，智能座舱的竞争焦…...

编程日记 2025/5/5 23:37:36

TresJS：用Vue组件构建3D场景的新选择

在当今数字化时代，3D图形技术正以前所未有的速度发展，从游戏开发到虚拟现实（VR）、增强现实（AR），再到各种沉浸式体验，3D技术的应用场景日益丰富。TresJS作为一款基于Three.js的Web3D开…...

编程日记 2025/5/9 21:40:11

【鸿蒙HarmonyOS Next实战开发】实现ArkTS/JS和C/C++的交互-Node-API

一、HarmonyOS Node-API简介在HarmonyOS应用开发中，通常以ArkTS/JS语言为主，但在一些特殊场景下，例如游戏开发、物理模拟等，由于对性能、效率等有较高要求，需要借助现有的C/C库来实现。为了满足这种需求，…...

编程日记 2025/5/8 8:09:15

QT笔记——多语言翻译

文章目录 1、概要2、多语言切换2.1、结果展示2.2、创建项目2.2、绘制UI2.2、生成“.st”文件2.4、生成“.qm”文件2.5、工程demo 1、概要借助QT自带的翻译功能，实现实际应用用进行 “多语言切换” 2、多语言切换 2.1、结果展示多语言切换 2.2、创建项目 1、文件…...

编程日记 2025/5/9 13:00:04

JPG、PNG、GIF有什么区别？

JPG、PNG、GIF是三种常见的数字图像格式，它们各自具有不同的特点和适用场景。以下是它们之间的主要区别以及如何进行选择： 一、JPG与PNG、GIF的区别 1. JPG（JPEG）： 特点：JPG是一种有损压缩的图像格式&…...

编程日记 2025/5/4 23:52:11

效果展示代码实现 Function QhBaiDuYunAIReq(question, _Optional Authorization "Bearer ", _Optional Qhurl "https://qianfan.baidubce.com/v2/chat/completions")Dim XMLHTTP As ObjectDim url As Stringurl Qhurl 这里替换为你实际的URLDim postD…...

编程日记 2025/5/6 4:57:59

机器学习在环境科学中的应用

机器学习在环境科学中的应用第一节机器学习的基本概念什么是机器学习机器学习是一种通过对大量数据的学习和分析，让计算机系统能够逐渐改善其性能和行为的技术。它通过建立数学模型来识别数据中的模式和规律，进而进行预测和决策。机器学习在环境科学…...

编程日记 2025/5/3 12:14:29

【AIGC魔童】DeepSeek v3推理部署：vLLM/SGLang/LMDeploy

【AIGC魔童】DeepSeek v3推理部署：vLLM/SGLang/LMDeploy （1）使用vLLM推理部署DeepSeek（2）使用SGLang推理部署DeepSeek（3）使用LMDeploy推理部署DeepSeek （1）使用vLLM推理部…...

编程日记 2025/5/8 0:40:12

Monorepo保姆级教程

Monorepo是一种将多个项目或组件存储在一个统一的代码仓库中的策略，旨在提高代码复用性和团队协作效率。以下是一个详细的Monorepo管理多个项目的保姆级教程： 1. 初始化项目首先，创建一个新的项目目录并初始化为Git仓库： mkdi…...

编程日记 2025/5/9 21:50:01

【蓝桥杯—单片机】第十一届省赛真题代码题解题笔记 | 省赛 | 真题 | 代码题 | 刷题 | 笔记

第十一届省赛真题代码部分前言赛题代码思路笔记竞赛板配置内部振荡器频率设定键盘工作模式跳线扩展方式跳线建立模板明确设计要求和初始状态显示功能部分数据界面第一部分第二部分第三部分调试时发现的问题参数设置界面第一部分第二部分和第四部分第三部分和第五部分按键功…...

编程日记 2025/5/9 21:48:50

hive的几种复杂数据类型

Hive的几种复杂数据类型 Hive 提供了几种复杂数据类型，能够支持更灵活和多样的数据存储。这些复杂数据类型对于处理嵌套数据或不规则数据特别有用。主要包括以下几种： 文章目录 Hive的几种复杂数据类型1. 数组（ARRAY）2. 结构体&a…...

编程日记 2025/5/9 21:44:34

使用 `WITH` 子句优化复杂 SQL 查询

使用 WITH 子句优化复杂 SQL 查询在 SQL 中，处理复杂的查询需求时，代码往往会变得冗长且难以维护。为了解决这个问题，SQL 提供了 WITH 子句（也称为公用表表达式，Common Table Expression，CTE）…...

编程日记 2025/5/6 12:23:32

k8s网络插件及基础命令

一、k8s的cni网络插件 1.k8s的内部网络模式 pod内的容器与容器之间的通信。一个节点上的pod之间的通信，docker0网桥直接通信。不同节点上的pod之间的通信：通过物理网卡的ip地址和其他节点上的物理网卡的设备进行通信，然后把流量转发到指定的…...

编程日记 2025/5/8 7:24:55

组合总和II(力扣40)

这道题的难点就在于题目所给的集合中有重复的数字，我们需要进行去重操作。首先明确去重指的是去重哪一部分。注意并不是对递归的集合去重，而是对当前集合的遍历进行去重。这么说可能有点抽象，举个例子：假设集合为1,1,2,3,4&#x…...

编程日记 2025/5/9 17:36:23

【vue3 入门到实战】7. 标签中的 ref

目录 1. ref 的作用 2. 如何使用 1. ref 的作用用于注册模板引用用在普通DOM标签上，获取的是DOM节点。用在组件标签上，获取的是组件的实例对象。 2. 如何使用代码如下 <template><div class"app"><h2 ref"titl…...

编程日记 2025/5/1 12:33:41

MAC OS安装Homebrew

文章目录 1.下载Homebrew2.完成安装3.验证安装4.更新 Homebrew作为一个包管理器，提供了一种简便的方式来安装、更新和卸载各种命令行工具和应用程序。相比于手动下载和编译源代码，或者从不同的网站下载安装包，使用Homebrew可以显著减少这些操…...

编程日记 2025/5/7 21:13:53

数据结构之栈和队列(超详解)

文章目录概念与结构栈队列代码实现栈栈是否为空，取栈顶数据、栈的有效个数队列入队列出队列队列判空，取队头、队尾数据，队列的有效个数算法题解有效的括号用队列实现栈用栈实现队列复用设计循环队列数组结构实现循环队列构造、销毁循环队…...

编程日记 2025/5/9 21:33:54

[Deepseek-自定义Ollama 安装路径+lmStudio 简易安装]

ollama 先下载 https://ollama.org.cn/download 使用发现报错检查路径自己的路径! 再用 .\OllamaSetup.exe /DIRE:\MySoftware\Ollama 删除掉多余模型 ollama delete <model_name> 例如 ollama delete deepseek-r1:1.5b 下载 ollama run deepseek-r1:1.5b…...

编程日记 2025/5/7 8:02:42

uniapp mqttjs 小程序开发

在UniApp中集成MQTT.js开发微信小程序时，需注意平台差异、协议兼容性及消息处理等问题。以下是关键步骤与注意事项的综合指南： 一、环境配置与依赖安装安装MQTT.js 推荐使用兼容性较好的版本：mqtt4.1.0（H5和小程序兼容性最佳&…...

编程日记 2025/5/9 21:43:32

LabVIEW位移测量系统

本文介绍了一种基于LabVIEW的位移测量系统，结合先进的硬件设备与LabVIEW平台的强大功能，能够实现对位移的精确测量和高效数据处理。该系统具备高精度、实时性和良好的可扩展性，适用于工程与科学实验中对位移测量的多种需求。项目背景位移…...

编程日记 2025/5/9 15:34:53

VMware下Linux和macOS遇到的一些问题总结

1.解决.NET程序通过网盘传到Linux和macOS不能运行的问题这是文件权限的问题。当你通过U盘将文件传输到虚拟机的macOS和Linux系统时，文件的权限和所有权可能得到了保留或正确设置。但如果你通过网盘上传，文件的权限或所有权可能没有正确设置&#xff0c…...

编程日记 2025/5/9 21:52:08

Mac: docker安装以后报错Command not found: docker

文章目录前言解决办法（新的）解决步骤（原来的）不推荐总结前言本操作参考 http://blog.csdn.net/enhenglhm/article/details/137955756 原作者，更详细请，查看详细内容请关注原作者。一般，…...

编程日记 2025/5/9 21:27:40

深度学习里面的而优化函数 Adam，SGD，动量法，AdaGrad 等 | PyTorch 深度学习实战

前一篇文章，使用线性回归模型逼近目标模型 | PyTorch 深度学习实战本系列文章 GitHub Repo: https://github.com/hailiang-wang/pytorch-get-started 本篇文章内容来自于强化学习必修课：引领人工智能新时代【梗直哥瞿炜】深度学习里面的而优化函数 …...

编程日记 2025/5/6 5:15:45

C++自研3D教程OPENGL版本---动态批处理的基本实现

又开始找工作了，借机休息出去旅行两个月，顺便利用这段时间整理下以前写的东西。以下是一个简单的动态批处理实现： #include <GL/glew.h> #include <GLFW/glfw3.h> #include <iostream> #include <vector>// 顶点结…...

编程日记 2025/5/9 6:14:18

如何使用deepseek开发一个翻译API

什么是deepseek Deepseek 是一个基于人工智能技术的自然语言处理平台，提供了多种语言处理能力，包括文本翻译、语义分析、情感分析等。它通过深度学习模型和大规模语料库训练，能够实现高质量的文本翻译和多语言理解。Deepseek 的核心优势在于…...

编程日记 2025/5/6 0:41:06

Java使用aspose实现pdf转word

Java使用aspose实现pdf转word 一、下载aspose-pdf-21.6.jar包【下载地址】，存放目录结构如图；配置pom.xml。  <dependency><groupId>com.aspose</groupId><artifactId>aspose-pdf</artifactId>…...

编程日记 2025/5/9 14:59:59

fs 文件系统模块

在 Node.js 中，fs（File System）模块提供了与文件系统进行交互的能力。无论是读取、写入还是操作文件和目录，fs 模块都提供了丰富的 API 支持。本文将详细介绍 fs 模块的基本用法、异步与同步方法的区别以及一些高级功能&#xff0…...

编程日记 2025/5/9 21:55:18

正激变换器拓扑

正激变换器拓扑是一种常见的DC-DC电源拓扑结构，以下是关于它的详细介绍： 基本组成 - 主开关：通常为MOSFET，用于控制输入电压的通断。 - 变压器：实现电压隔离和电压变换，传递能量。 - 续流二极管&#x…...

编程日记 2025/5/1 6:11:52

Rsyslog omhttp（HTTP输出模块）

个人博客地址：Rsyslog omhttp（HTTP输出模块） | 一张假钞的真实世界使用Rsyslog的omhttp模块可以将收集的日志数据以HTTP请求的方式输出。该模块支持单条/批量发送数据，支持GZIP压缩，支持HTTPS。 Rsyslog默认未包含o…...

编程日记 2025/5/6 23:44:50

防火墙与Squid代理服务器

服务器的安装、搭建与配置准备前期虚拟机版本：redhat Enterprise Linux Server release 7.2(Maipo)系统架构：x86虚拟机服务器地址：192.168.195.3Window地址：192.168.195.237进行ISO挂载操作进入root模式[yonghu@localhost 桌面]#su 返回上级目录文件进入media文件中，创建…...

编程日记 2025/5/9 21:27:39

为何实现大语言模型的高效推理以及充分释放 AI 芯片的计算能力对于企业级落地应用来说，被认为具备显著的研究价值与重要意义？

🍉 CSDN 叶庭云：https://yetingyun.blog.csdn.net/ AI 芯片：为人工智能而生的 “大脑” AI 芯片，又称人工智能加速器或计算卡，是专为加速人工智能应用，特别是深度学习任务设计的专用集成电路（A…...

编程日记 2025/5/7 9:56:51

【教程】docker升级镜像

转载请注明出处：小锋学长生活大爆炸[xfxuezhagn.cn] 如果本文帮助到了你，欢迎[点赞、收藏、关注]哦~ 目录自动升级手动升级无论哪种方式，最重要的是一定要通过-v参数做数据的持久化！ 自动升级使用watchtower，可…...

编程日记 2025/5/6 6:43:46

k8s常见面试题2

k8s常见面试题2 安全与权限RBAC配置如何保护 Kubernetes 集群的 API Server？如何管理集群中的敏感信息（如密码、密钥）？如何限制容器的权限（如使用 SecurityContext）？如何防止容器逃逸&#xff0…...

编程日记 2025/5/1 6:11:05

mysql运维

1、msyqlLinux通用二进制安装 1. MySQL :: Download MySQL Community Server (Archived Versions)https://downloads.mysql.com/archives/community/https://downloads.mysql.com/archives/community/https://downloads.mysql.com/archives/community/https://downloads.mysql…...

编程日记 2025/5/5 0:10:49

装显卡驱动

装conda

py虚拟环境创建

Westlake - Omni本地部署实践

相关文章：