什么是 GPT？Transformer 工作原理的动画展示
大家读完觉得有意义记得关注和点赞！！！
目录
1 图解 “Generative Pre-trained Transformer”（GPT）
1.1 Generative：生成式
1.1.1 可视化
1.1.2 生成式 vs. 判别式（译注）
1.2 Pre-trained：预训练
1.2.1 可视化
1.2.2 预训练 vs. 增量训练（微调）
1.3 Transformer：一类神经网络架构
1.4 小结
2 Transformer 起源与应用
2.1 Attention Is All You Need, Google, 2017，机器翻译
2.2 Generative Transformer
2.3 GPT-2/GPT-3 生成效果（文本续写）预览
2.4 ChatGPT 等交互式大模型
2.5 小结
3 Transformer 数据处理四部曲
3.1 Embedding：分词与向量表示
3.1.1 token 的向量表示
3.1.2 向量表示的直观解释
3.2 Attention：embedding 向量间的语义交流
3.2.1 语义交流
3.2.2 例子：”machine learning model” / “fashion model”
3.3 Feed-forward / MLP：向量之间无交流
3.3.1 针对所有向量做一次性变换
3.3.2 直观解释
3.3.3 重复 Attention + Feed-forward 模块，组成多层网络
3.4 Unembedding：概率
3.4.1 最后一层 feed-forward 输出中的最后一个向量
3.4.2 下一个单词的选择
3.5 小结
4 GPT -> ChatGPT：从文本补全到交互式聊天助手
4.1 系统提示词，伪装成聊天
4.2 如何训练一个企业级 GPT 助手（译注）
5 总结
1 图解 “Generative Pre-trained Transformer”（GPT）
GPT 是 Generative Pre-trained Transformer 的缩写，直译为“生成式预训练 transformer”， 我们先从字面上解释一下它们分别是什么意思。
1.1 Generative：生成式
“Generative”（生成式）意思很直白，就是给定一段输入（例如，最常见的文本输入）， 模型就能续写（“编”）下去。
1.1.1 可视化
下面是个例子，给定 “The most effective way to learn computer science is” 作为输入， 模型就开始续写后面的内容了。
“Generative”：生成（续写）文本的能力。
1.1.2 生成式 vs. 判别式（译注）
文本续写这种生成式模型，区别于 BERT 那种判别式模型（用于分类、完形填空等等），
- BERT：预训练深度双向 Transformers 做语言理解（Google，2019）
1.2 Pre-trained：预训练
“Pre-trained”（预训练）指的是模型是用大量数据训练出来的。
1.2.1 可视化
“Pre-trained”：用大量数据进行训练。
图中的大量旋钮/仪表盘就是所谓的“模型参数”，训练过程就是在不断优化这些参数，后面会详细介绍。
1.2.2 预训练 vs. 增量训练（微调）
“预”这个字也暗示了模型还有在特定任务中进一步训练的可能 —— 也就是我们常说的“微调”（finetuning）。
如何对预训练模型进行微调： InstructGPT：基于人类反馈训练语言模型遵从指令的能力（OpenAI，2022）。 译注。
1.3 Transformer：一类神经网络架构
“GPT” 三个词中最重要的其实是最后一个词 Transformer。 Transformer 是一类神经网络/机器学习模型，作为近期 AI 领域的核心创新， 推动着这个领域近几年的极速发展。
Transformer 直译为“变换器”或“转换器”，通过数学运算不断对输入数据进行变换/转换。另外，变压器、变形金刚也是这个词。 译注。
Transformer：一类神经网络架构的统称。
Transformer 最后的输出层。后面还会详细介绍
1.4 小结
如今已经可以基于 Transformer 构建许多不同类型的模型，不限于文本，例如，
- 语音转文字
- 文字转语音
-
文生图（text-to-image）：DALL·E、MidJourney 等在 2022 年风靡全球的工具，都是基于 Transformer。
文生图（text-to-image）简史：扩散模型（diffusion models）的崛起与发展（2022）
虽然无法让模型真正理解 "物种 π"是什么（本来就是瞎编的），但它竟然能生成出来，而且效果很惊艳。
本文希望通过“文字+动图”这种可视化又方便随时停下来思考的方式，解释 Transformer 的内部工作原理。
2 Transformer 起源与应用
2.1 Attention Is All You Need, Google, 2017，机器翻译
Transformer 是 Google 2017 年在 Attention Is All You Need paper 中提出的， 当时主要用于文本翻译：
2.2 Generative Transformer
之后，Transformer 的应用场景扩展到了多个领域，例如 ChatGPT 背后也是 Transformer， 这种 Transformer 接受一段文本（或图像/音频）作为输入，然后就能预测接下来的内容。 以预测下一个单词为例，如下图所示，下一个单词有多种可能，各自的概率也不一样：
但有了一个这样的预测下一个单词模型，就能通过如下步骤让它生成更长的文字，非常简单：
- 将初始文本输入模型；
- 模型预测出下一个可能的单词列表及其概率，然后通过某种算法（不一定挑概率最大的） 从中选一个作为下一个单词，这个过程称为采样（sampling）；
- 将新单词追加到文本结尾，然后将整个文本再次输入模型；转 2；
以上 step 2 & 3 不断重复，得到的句子就越来越长。
2.3 GPT-2/GPT-3 生成效果（文本续写）预览
来看看生成的效果，这里拿 GPT-2 和 GPT-3 作为例子。
下面是在我的笔记本电脑上运行 GPT-2，不断预测与采样，逐渐补全为一个故事。 但结果比较差，生成的故事基本上没什么逻辑可言：
下面是换成 GPT-3（模型不再开源，所以是通过 API）， GPT-3 和 GPT-2 基本架构一样，只是规模更大， 但效果突然变得非常好， 生成的故事不仅合乎逻辑，甚至还暗示 “物种 π” 居住在一个数学和计算王国：
2.4 ChatGPT 等交互式大模型
以上这个不断重复“预测+选取”来生成文本的过程，就是 ChatGPT 或其他类似大语言模型（LLM） 的底层工作原理 —— 逐单词（token）生成文本。
2.5 小结
以上是对 GPT 及其背后的 Transformer 的一个感性认识。接下来我们就深入到 Transformer 内部， 看看它是如何根据给定输入来预测（计算）出下一个单词的。
3 Transformer 数据处理四部曲
为理解 Transformer 的内部工作原理，本节从端到端（从最初的用户输入，到最终的模型输出）的角度看看数据是如何在 Transformer 中流动的。 从宏观来看，输入数据在 Transformer 中经历如下四个处理阶段：
Transformer 数据处理四部曲
下面分别来看。
3.1 Embedding：分词与向量表示
首先，输入内容会被拆分成许多小片段（这个过程称为 tokenization），这些小片段称为 token，
- 对于文本：token 通常是单词、词根、标点符号，或者其他常见的字符组合；
- 对于图片：token 可能是一小块像素区域；
- 对于音频：token 可能是一小段声音。
然后，将每个 token 用一个向量（一维数组）来表示。
3.1.1 token 的向量表示
这实际上是以某种方式在编码该 token；
Embedding：每个 token 对应一个 N*1 维度的数值格式表示的向量。
3.1.2 向量表示的直观解释
如果把这些向量看作是在高维空间中的坐标， 那么含义相似的单词在这个高维空间中是相邻的。
词义相近的四个单词 “leap/jump/skip/hop” 在向量空间中是相邻的
将输入进行 tokenization 并转成向量表示之后，输入就从一个句子就变成了一个向量序列。 接下来，这个向量序列会进行一个称为 attention 的运算。
3.2 Attention：embedding 向量间的语义交流
3.2.1 语义交流
attention 使得向量之间能够相互“交流”信息。这个交流是双向的，在这个过程中，每个向量都会更新自身的值。
这种信息“交流”是有上下文和语义理解能力的。
3.2.2 例子：”machine learning model” / “fashion model”
例如，“model” 这个词在 “machine learning model”（机器学习模型）和在 “fashion model”（时尚模特）中的意思就完全不一样， 因此虽然是同一个单词（token），但对应的 embedding 向量是不同的，
Attention 模块的作用就是确定上下文中哪些词之间有语义关系，以及如何准确地理解这些含义（更新相应的向量）。 这里说的“含义”（meaning），指的是编码在向量中的信息。
3.3 Feed-forward / MLP：向量之间无交流
Attention 模块让输入向量们彼此充分交换了信息（例如，单词 “model” 指的应该是“模特”还是“模型”）， 然后，这些向量会进入第三个处理阶段：
第三阶段：多层感知机（multi-layer perceptron），也称为前馈层（feed-forward layer）。
3.3.1 针对所有向量做一次性变换
这个阶段，向量之间没有互相“交流”，而是并行地经历同一处理：
3.3.2 直观解释
后面会看，从直观上来说，这个步骤有点像对每个向量都提出一组同样的问题，然后根据得到的回答来更新对应的向量：
以上解释中省略了归一化等一些中间步骤，但已经可以看出： attention 和 feed-forward 本质上都是大量的矩阵乘法，
本文的一个目的就是让读者理解这些矩阵乘法的直观意义。
3.3.3 重复 Attention + Feed-forward 模块，组成多层网络
Transformer 基本上是不断复制 Attention 和 Feed-forward 这两个基本结构， 这两个模块的组合成为神经网络的一层。在每一层，
- 输入向量通过 attention 更新彼此；
- feed-forward 模块将这些更新之后的向量做统一变换，得到这一层的输出向量；
3.4 Unembedding：概率
3.4.1 最后一层 feed-forward 输出中的最后一个向量
如果一切顺利，最后一层 feed-forward 输出中的最后一个向量（the very last vector in the sequence）， 就已经包含了句子的核心意义（essential meaning of the passage）。对这个向量进行 unembedding 操作（也是一次性矩阵运算）， 得到的就是下一个单词的备选列表及其概率：
图：原始输入为 "To date, the cleverest thinker of all time was"，让模型预测下一个 token。经过多层 attention + feed-forward 之后， 最后一层输出的最后一个向量已经学习到了输入句子表达的意思，（经过简单转换之后）就能作为下一个单词的概率。
3.4.2 下一个单词的选择
根据一定的规则选择一个 token，
- 注意这里不一定选概率最大的，根据工程经验，一直选概率最大的，生成的文本会比较呆板；
- 实际上由一个称为
temperature的参数控制；
3.5 小结
以上就是 Transformer 内部的工作原理。
前面已经提到，有了一个这样的预测下一个单词模型，就能通过如下步骤让它生成更长的文字，非常简单：
- 将初始文本输入模型；
- 模型预测出下一个可能的单词列表及其概率，然后通过某种算法（不一定挑概率最大的） 从中选一个作为下一个单词，这个过程称为采样（sampling）；
- 将新单词追加到文本结尾，然后将整个文本再次输入模型；转 2；
4 GPT -> ChatGPT：从文本补全到交互式聊天助手
GPT-3 的早期演示就是这样的：给 GPT-3 一段起始文本，它就自动补全（续写）故事和文章。 这正式以上介绍的 Transformer 的基本也是核心功能。
ChatGPT 的核心是 GPT 系列（GPT 3/3.5/4），但它怎么实现聊天这种工作方式的呢？
4.1 系统提示词，伪装成聊天
其实很简单，将输入文本稍作整理，弄成聊天内容，然后把这样的文本再送到 GPT/Transformer， 它就会把这个当前是聊天内容，续写下去。最后只需要把它续写的内容再抽出来返回给用户， 对用户来说，就是在聊天。
这段文本设定用户是在与一个 AI 助手交互的场景，这就是所谓的系统提示词（system prompt）。
4.2 如何训练一个企业级 GPT 助手（译注）
OpenAI 官方对 GPT->ChatGPT 有过专门分享：如何训练一个企业级 GPT 助手（OpenAI，2023）
基础模型不是助手，它们不想回答问题，只想补全文档。 因此，如果让它们“写一首关于面包和奶酪的诗”，它们不仅不“听话”，反而会有样学样，列更多的任务出来，像下面左图这样，
这是因为它只是在忠实地补全文档。 但如果你能成功地提示它，例如，开头就说“这是一首关于面包和奶酪的诗”， 那它接下来就会真的补全一首这样的诗出来，如右图。
我们还可以通过 few-shot 来进一步“欺骗”它。把你想问的问题整理成一个“提问+回答”的文档格式， 前面给一点正常的论述，然后突然来个问题，它以为自己还是在补全文档，其实已经把问题回答了：
这就是把基础模型调教成一个 AI 助手的过程。
5 总结
本文整理翻译了原视频的前半部分，通过可视化方式解释 GPT/Transformer 的内部工作原理。 原视频后面的部分是关于 general deep learning, machine learning 等等的基础，想继续学习的，强烈推荐。
相关文章：
什么是 GPT？Transformer 工作原理的动画展示
大家读完觉得有意义记得关注和点赞！！！ 目录 1 图解 “Generative Pre-trained Transformer”（GPT） 1.1 Generative：生成式 1.1.1 可视化 1.1.2 生成式 vs. 判别式（译注） 1.2 Pr…...
IDEA 编辑器自动识别 Dockerfile 类型高亮和语法提示
在 IDEA 中，如果项目里面的只有一个 Dockerfile文件时，那么此时使用打开这个文件都是 ok 的，支持语法高亮和关键词提示。 如果我们有多个 Dockerfile 时， 比如 A_Dockerfile , B_Dockerfile , C_Dockerfile, 这个时候你会发现 IDE…...
AI知识库与用户行为分析：优化用户体验的深度洞察
在当今数字化时代，用户体验（UX）已成为衡量产品成功与否的关键指标之一。AI知识库作为智能客服系统的重要组成部分，不仅为用户提供快速、准确的信息检索服务，还通过用户行为分析，为产品优化提供了深度洞察。…...
什么是Redis哨兵机制？
大家好，我是锋哥。今天分享关于【什么是Redis哨兵机制？】面试题。希望对大家有帮助； 什么是Redis哨兵机制？ 1000道 互联网大厂Java工程师 精选面试题-Java资源分享网 Redis 哨兵（Sentinel）机制是 Redis 提…...
JavaScript中如何创建对象
在JavaScript中，创建对象有多种方法。以下是几种常见的方式： 1. 对象字面量 这是最直接和常用的创建对象的方法。使用花括号 {} 包围一组键值对来定义一个对象。 let person {name: "John",age: 30,greet: function() {console.log("…...
2025：OpenAI的“七十二变”？
朋友们，准备好迎接AI的狂欢了吗？🚀 是不是跟我一样，每天醒来的第一件事就是看看AI领域又有什么新动向？ 尤其是那个名字如雷贯耳的 OpenAI，简直就是AI界的弄潮儿，一举一动都牵动着我们这些“AI发…...
和ProxySQL搭建部署-Kubernetes版本)
Mysql(MGR)和ProxySQL搭建部署-Kubernetes版本
一、Mysql(MGR) 1.1 statefulSet.yaml apiVersion: apps/v1 kind: StatefulSet metadata:labels:app: mysqlname: mysqlnamespace: yihuazt spec:replicas: 3serviceName: mysql-headlessselector:matchLabels:app: mysqltemplate:metadata:labels:app: mysqlspec:affinity:p…...
uni-app 多平台分享实现指南
uni-app 多平台分享实现指南 在移动应用开发中，分享功能是一个非常常见的需求，尤其是在社交媒体、营销活动等场景中。使用 uni-app 进行多平台开发时，可以通过一套代码实现跨平台的分享功能，涵盖微信小程序、H5、App 等多个平台。…...
Windows系统下载、部署Node.js与npm环境的方法
本文介绍在Windows电脑中，下载、安装并配置Node.js环境与npm包管理工具的方法。 Node.js是一个基于Chrome V8引擎的JavaScript运行时环境，其允许开发者使用JavaScript编写命令行工具和服务器端脚本。而npm（Node Package Manager）则…...
Typora 最新版本下载安装教程（附详细图文）
文章简介 在当今快节奏的信息化时代，简洁高效的写作工具成为了每位内容创作者的必需品。而Typora，这款备受推崇的 Markdown 编辑器，正是为此而生。它采用无缝设计，去除了模式切换、预览窗口等干扰，带来真正的实时预览…...
将一个变量声明为全局变量比如：flag1=false；然后通过jQuery使用js一个方法，将它设置为不可修改
方法 1：使用 Object.defineProperty 通过 Object.defineProperty 将全局变量设置为只读属性。 // 声明全局变量 var flag1 false;// 使用 Object.defineProperty 将其设置为不可修改 Object.defineProperty(window, flag1, {configurable: false, // 不允许删除属…...
找不到qt5core.dll无法运用软件的解决办法
在运行某些软件或游戏时，部分用户会遇到电脑显示由于找不到qt5core.dll，无法继续执行代码的问题，下面就给大家分享几种简单的解决方法，轻松恢复软件正常运行。 导致qt5core.dll缺失的原因 qt5core.dll是 Qt 应用程序框架的一部分…...
集线器，交换机，路由器，mac地址和ip地址知识记录总结
一篇很不错的视频简介 基本功能 从使用方面来说，都是为了网络传输的标识，和机器确定访问对象 集线器、交换机和路由器 常听到路由器和集线器，下面是区别： 集线器 集线器：一个简单的物理扩展接口数量的物理硬件。…...
Javascript算法——回溯算法（组合问题）
相关资料来自《代码随想录》，版权归原作者所有，只是学习记录 回溯 回溯模板 void backtracking(参数) {if (终止条件) {存放结果;return;}for (选择：本层集合中元素（树中节点孩子的数量就是集合的大小）) {处理节点…...
【人工智能机器学习基础篇】——深入详解无监督学习之聚类，理解K-Means、层次聚类、数据分组和分类
深入详解无监督学习之聚类：如K-Means、层次聚类，理解数据分组和分类 无监督学习是机器学习中的一个重要分支，旨在从未标注的数据中发现潜在的结构和模式。聚类（Clustering）作为无监督学习的核心任务之一，广…...
从0到机器视觉工程师（二）:封装调用静态库和动态库
目录 静态库 编写静态库 使用静态库 方案一 方案二 动态库 编写动态库 使用动态库 方案一 方案二 方案三 总结 静态库 静态库是在编译时将库的代码合并到最终可执行程序中的库。静态库的优势是在编译时将所有代码包含在程序中，可以使程序独立运行&…...
Mybatis的set标签，动态SQL
set标签常用于update语句中，搭配if标签使用 set标签的作用 1、会动态加上前置set关键字 2、可以删除无关的逗号 示例代码： <update id"update">update employee<set><if test"name ! null">name #{name},<…...
机器学习-感知机-神经网络-激活函数-正反向传播-梯度消失-dropout
文章目录 感知机工作流程 神经网络区别各种各样的神经网络 激活函数激活函数类型Sigmoid 函数ReLU函数Leaky ReLU 函数Tanh 函数 正向传播反向传播梯度消失(gradient vanish)如何解决 Dropout使用 PyTorch实战神经网络算法(手写MNIST数字识别)viewsoftmax和log-softmaxcross-en…...
HTML5 时间选择器详解
HTML5 的时间选择器（Time Picker）允许用户通过图形界面选择时间。它通过设置 <input> 元素的 type 属性为 time 来实现。以下是关于 HTML5 时间选择器的详细讲解。 HTML5 时间选择器详解 1. 基本用法 要创建一个时间选择器，只需使用…...
SSM-Spring-AOP
目录 1 AOP实现步骤（以前打印当前系统的时间为例） 2 AOP工作流程 3 AOP核心概念 4 AOP配置管理 4-1 AOP切入点表达式 4-1-1 语法格式 4-1-2 通配符 4-2 AOP通知类型 五种通知类型 AOP通知获取数据 获取参数 获取返回值 获取异常 总结 5 …...
小红书笔记详情API分析及读取深度探讨
一、引言 随着社交电商的蓬勃发展，小红书凭借其独特的社区氛围和强大的内容生产能力，吸引了大量用户和开发者。对于开发者而言，小红书提供的API接口是获取其丰富内容的重要途径。本文将对小红书笔记详情API进行深入分析，并详细阐…...
【Yarn】通过JMX采集yarn相关指标的Flink任务核心逻辑
通过JMX采集yarn相关指标的Flink任务核心逻辑 文章目录 通过JMX采集yarn相关指标的Flink任务核心逻辑通过jmx接口查询Yarn队列指标请求JMX配置项核心处理流程输出到kafka格式通过jmx接口查询ResourceManager核心指标请求JMX读取配置yaml配置文件核心处理逻辑输出Kafka格式彩蛋 …...
【网络安全】PostMessage：分析JS实现XSS
前言 PostMessage是一个用于在网页间安全地发送消息的浏览器 API。它允许不同的窗口（例如，来自同一域名下的不同页面或者不同域名下的跨域页面）进行通信，而无需通过服务器。通常情况下，它用于实现跨文档消息传递&…...
基于springboot的码头船只货柜管理系统 P10078
项目说明 本号所发布的项目均由我部署运行验证，可保证项目系统正常运行，以及提供完整源码。 如需要远程部署/定制/讲解系统，可以联系我。定制项目未经同意不会上传！ 项目源码获取方式放在文章末尾处 注：项目仅供学…...
SpringMVC（二）原理
目录 一、配置Maven（为了提升速度） 二、流程&&原理 SpringMVC中心控制器 完整流程： 一、配置Maven（为了提升速度） 在SpringMVC（一）配置-CSDN博客的配置中，导入Maven会非…...
计算机网络：网络层知识点及习题（一）
网课资源： 湖科大教书匠 1、概述 网络层实现主机到主机的传输，主要有分组转发和路由选择两大功能 路由选择处理机得出路由表，路由表再生成转发表，从而实现分组从不同的端口转发 网络层向上层提供的两种服务：面向连接…...
题解：A. Noldbach Problem
问题描述 Nick 对素数非常感兴趣。他阅读了有关 Goldbach Problem 的内容，了解到每个大于 2 的偶数都可以表示为两个素数的和。于是他决定创造一个新问题，称为 Noldbach Problem。 Noldbach 问题的定义如下： 如果一个素数 $p$ 满足&#x…...
ESP32S3 + IDF 5.2.2 扫描WiFi
ESP32S3 IDF 5.2.2 扫描WiFi 目录 1 资料 2 通过Wi-Fi库扫描附近的网络 2.1 通过idf命令创建工程 2.2 编写测试用例 2.3 优化测试用例 3 小结 1 资料 在ESP平台基于IDF开发WiFi相关功能，主要就是基于IDF的Wi-Fi库进行二次开发。可供参考的官方资料ÿ…...
鸿蒙开发汇总
写在前面 汇总贴，整理在开发过程中遇到的有趣的、不太好解决的问题，记录一下思考的过程及自己的解决方案。 只做为技术分享，转载请标明出处。 ArkTs-this指向问题 ArkTs-Text组件长度计算不对的问题...
PDF阅读和编辑工具——xodo
本文给大家推荐一款好用的PDF阅读和编辑工具——xodo,一款免费的跨平台PDF阅读、编辑、批注工具。 注意xodo PDF Reader是免费的，xodo PDF Studio是收费的，但是xodo PDF Studio功能多很多。...
QT-------------自定义插件和库
以下是一个使用 Qt 实现图表交互操作的示例，涵盖了自定义图表视图类、不同类型的柱状图和饼图等内容。 实现思路 自定义图表视图类：创建一个从 QChartView 派生的自定义类，用于处理图表的交互操作。主窗口设计初始化：在主窗口中…...
《云原生安全攻防》-- K8s安全配置：CIS安全基准与kube-bench工具
在本节课程中，我们来了解一下K8s集群的安全配置，通过对CIS安全基准和kube-bench工具的介绍，可以快速发现K8s集群中不符合最佳实践的配置项，及时进行修复，从而来提高集群的安全性。 在这个课程中，我们将学习…...
PCA降维算法详细推导
关于一个小小的PCA的推导 文章目录 关于一个小小的PCA的推导1 谱分解 (spectral decomposition)2 奇异矩阵(singular matrix)3 酉相似(unitary similarity)4 酉矩阵5 共轭变换6 酉等价7 矩阵的迹的计算以及PCA算法推导8 幂等矩阵(idempotent matrix)9 Von Neumanns 迹不等式 [w…...
C++ 基础思维导图（一）
目录 1、C基础 IO流 namespace 引用、const inline、函数参数 重载 2、类和对象 类举例 3、 内存管理 new/delete 对象内存分布 内存泄漏 4、继承 继承权限 继承中的构造与析构 菱形继承 1、C基础 IO流 #include <iostream> #include <iomanip> //…...
Excel文件恢复教程：快速找回丢失数据！
Excel文件恢复位置在哪里？ Excel是微软开发的电子表格软件，它为处理数据和组织工作提供了便捷。虽然数据丢失的问题在数字时代已经司空见惯，但对于某些用户来说，恢复未保存/删除/丢失的Excel文件可能会很困难，更不用说…...
人脑处理信息的速度与效率：超越计算机的直观判断能力
人脑处理信息的速度与效率：超越计算机的直观判断能力 关键词： #人脑信息处理 Human Brain Information Processing #并行处理 Parallel Processing #视觉信息分析 Visual Information Analysis #决策速度 Decision Speed #计算机与人脑比较 Computer v…...
Spring Boot 中的 classpath详解
Spring Boot 中的 classpath 详解 在开发 Spring Boot 应用时，理解 classpath 的概念对于配置、资源管理以及构建项目非常重要。特别是当我们使用 Maven 打包工具时，项目的资源文件在不同的阶段会被放置到不同的目录。本文将深入探讨 Spring Boot 中的 …...
标准库以及HAL库——按键控制LED灯代码
按键控制LED本质还是控制GPIO,和点亮一个LED灯没什么区别 点亮一个LED灯：是直接控制输出引脚，GPIO初始化推挽输出即可 按键控制LED：是按键输入信号从而控制输出引脚，GPIO初始化推挽输出一个引脚以外还得加一个GPIO上拉输入 但是…...
)
Spring Cloud (四、服务熔断降级-HyStrix)
spring cloud 概述 分布式系统面临的问题 复杂分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败。 服务雪崩 多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其它的…...
【C语言】如何插入并播放音频文件
在 C 语言中处理音频文件可以是一个有趣且挑战性的任务，尤其是在嵌入式开发或多媒体程序开发中。尽管 C 语言本身并不直接支持音频处理，但可以通过集成第三方库来处理音频文件的解码和播放。本篇博客将介绍如何在 C 语言中插入并播放音频文件，…...
图书项目：整合SSM
步骤： pom文件：导包，写入静态资源导出配置，连接数据库 建包：controller dao/mapper pojo service 配置文件：mybatis-config.xml applicationContext.xml（Spring的配置文件） datab…...
)
C#OPC(下)
安装 OPC UA SDK 通过 NuGet 包管理器，在 Visual Studio 中右键单击项目名称，选择 “管理 NuGet 程序包”，在搜索框中输入 “OPCFoundation.NetStandard.Opc.Ua”，找到对应的 OPC UA SDK 包后点击 “安装”，将其集成到…...
STLG_01_05_程序设计C语言 - 数据类型概念解析
一、典型例题 下面这些示例，将能够更熟练地运用C语言中的数据类型，加深对数据存储和处理的理解： 示例：确定变量a、b、c和d的数据类型，并说明它们的存储大小和取值范围 short int a -1000; unsigned int b 50000; f…...
使用工厂+策略模式实现去除繁琐的if else
使用工厂策略模式实现去除繁琐的if else 在中间有一个mapstruct的bug，即在修改实体类中的类型时，或者修改属性名字，mapstruct都无法进行转换，会报错，此时需要maven cleanmaven compile即可 前言 在这次的开发中&#…...
Apache MINA 反序列化漏洞CVE-2024-52046
漏洞描述： Apache MINA 是一个功能强大、灵活且高性能的网络应用框架。它通过抽象网络层的复杂性，提供了事件驱动架构和灵活的 Filter 链机制，使得开发者可以更容易地开发各种类型的网络应用。 Apache MINA 框架的 ObjectSerializationDeco…...
SpringSpringBoot常用注解总结
Spring&SpringBoot常用注解总结 1.SpringBootApplication 这个注解是 Spring Boot 项目的基石，创建 SpringBoot 项目之后会默认在主类加上。 SpringBootApplication public class SpringSecurityJwtGuideApplication {public static void main(java.lang.Str…...
设计模式 创建型 原型模式（Prototype Pattern）与 常见技术框架应用 解析
原型模式（Prototype Pattern）是一种创建型设计模式，其核心思想在于通过复制现有的对象（原型）来创建新的对象，而非通过传统的构造函数或类实例化方式。这种方式在需要快速创建大量相似对象时尤为高效&#x…...
cnPuTTY 0.82.0.1—PuTTY Release 0.82中文版本简单说明~~
2024-11-27 官方发布PuTTY 0.82主要包含如下变化： 1.Unicode处理进行了重大重构，以允许使用系统默认配置的字符集/代码页之外的Unicode字符。仅部分实现，其他尚未完成。 2.Unicode版本进行更新：所有字符分析均已更…...
TypeScript 常用类型
文章目录 1. 类型注解2. 原始类型3. 数组类型4. 联合类型5. 类型别名6. 函数类型7. 对象类型8. 接口类型8.1 接口声明8.2 接口继承 9. 元组类型10. 类型断言11. 字面量类型12. 枚举类型12.1 数字枚举12.2 字符串枚举 13. any 类型14. typeof 运算符 1. 类型注解 前言࿱…...
综合能源建模：理论、方法与实践
一、引言 随着全球能源需求的持续增长以及对能源安全、环境保护和可持续性发展的日益关注，综合能源系统（Integrated Energy System，IES）作为一种能够整合多种能源资源、实现能源高效利用和协同优化的解决方案，正逐渐成…...