2022李宏毅老师机器学习课程笔记
机器学习笔记目录
- 1.绪论(内容概述)
- 2.机器学习和深度学习的基本概念
- transformer
1.绪论(内容概述)
- 机器学习:让机器找一个函数,通过函数输出想要的结果。应用举例:语音识别,图像识别,alphago
- 深度学习:使用类神经网络去找一个函数
- 函数的输入可以是向量,矩阵(图像数据),序列(语音,一段文字),输出可以是一个数值(回归),一个类别(分类),一段文字或图片(结构化信息)
- 监督式学习:需要提前打标签,投喂学习
- 自监督式学习:不需要标记,在训练下游任务之前,会预训练(自己先学会如何分类)
- 预训练模型和下游任务的关系就像操作系统和应用之间的关系一样,因为有了操作系统的支撑,所以开发应用才能如此便捷,预训练模型又称基础模型,经典的基础模型必然会提到BERT模型(有340M参数),后续又出现了更强的模型,例如,ELMo,GPT-2,GPT-3,T5等等
- 生成对抗网络:直接输入一系列x和一系列y,x与y之间不匹配,通过函数可以使x与y关联起来,例如输入很多段的语音,以及很多段的文字,对抗网络经过自我学习可以自动讲语音与文字结合起来,做到语音识别。
- 强化学习,当对数据的标记有困难时可以用强化学习,比如,教机器下围棋,人类也不知道该棋盘状态下那一步是最优的,但是人类知道下棋赢的规则,这个时候就可以使用强化学习,告诉机器赢的规则,让机器计算出最优的一步
- 异常检测是让机器具备异常检测的能力,比如在只投喂了A与B两类数据,面对C数据的测试,机器应该要具备说“我不知道”的能力,而不是在A与B中选择一个作为结果
- 可解释AI:让机器不仅能够辨别图片,还要让它说出这样分类的原因。
- 模型攻击:在图A上加上杂片干扰,模型使别之后结果完全不同
- 领域适配:将训练集和测试集统一,避免出现下图颜色不一样导致正确率大打折扣的问题
- 网络压缩:将网络压缩,这样可以将模型部署到资源受限的环境中,例如手表,无人机等
- 终身学习:希望机器能够自己学,越学越强大,就像有了自主思维一样可以自己思考学习
- 小样本学习(也叫做元数据学习):机器不再是根据人类告诉他的学习算法进行学习,而是机器根据数据自己思考出学习的算法,再根据算法学习,也就是机器要学会如何学习
2.机器学习和深度学习的基本概念
- 机器学习的底层就是为了找一个函数,根据输入,由函数来输出结果,函数有好几种类型,其中有回归(Regression),分类(Classification),结构性学习(Structured Learning)。
- 回归就是让函数输出一个数值,例如预测PM值,输入今天的空气含量值,通过函数可以预测明天的PM浓度,这个预测的过程就是一个回归的过程
- 机器学习拟合函数的过程可以分为以下几步
- 先根据特征构造一个带有未知参数的函数,其中除了已知特征值x以外,还应该具有w权重,b偏移值等
- 定义损失函数,损失函数的输入就是(w,b),输出就是判断训练出来的w和b的数值是否好,那么如何量化这个好的程度呢?我们可以根据已知数据,输入第a天的访问量,使用函数预测a + 1 天的访问量,再将预测结果与实际结果做差,计算出n天的差值,将所有差值进行平均求和,得到的数值就可以量化超参选的是否好,预测结果是否与实际结果较吻合,明显的,损失函数的值越小越好。此外根据对预测结果与实际结果的计算方式不同,可以分为两种平均绝对误差(MAE)和均方误差(MSE),除了这两种评价指标外,还有很多别的评价指标。特别的,如果预测结果和实际结果都是概率的话,我们通常会采用交叉熵(Cross-entropy)作为评价指标。根据选取不同的w和b计算损失值,可以画出误差曲面(error surfface)
- 优化,方法:梯度下降。以只有一个参数w举例,随机选取 一个w0,计算在w0这一点w对L的微分(也就是斜率),如果斜率是负的,说明曲线在递减,那么随着w增大,Loss会更小,所以应该扩大w,如果斜率是正的,则相反,曲线呈递增状态,应该减小w,使loss减小。那么对w的增大或减小,到底应该一步增/减多少呢?我们使用一个学习速率η来表示一步的大小,这个参数是自设的超参,可以根据斜率的大小来设置的,如果斜率越抖,则w变化的幅度越大。这个方法有一个问题,因为当移动到斜率为0的地方,w就会停止移动了,但是有可能只是移动到了曲线上的一个较低点,不是整个曲线的最低点(出现了局部最优的问题)
根据上述步骤完成之后,发现一开始设置的函数可能不太贴合数据,可以根据可视化的结果重新设置函数,将特征值×权重 + 偏移的这种构造方法叫做线性模型。根据下面的图我们可以看到,当函数进行修改后,误差是在不断减小的,说明根据数据的特有性,合理的设置函数非常重要,当然这个优化也是有局限的,所以除了最简单基础的线性模型以外,还应该探索更复杂的函数去拟合实际问题,使误差能够进一步的减少。
-
线性模型具有局限,不能更好的拟合曲线的波动,这样的问题我们可以称为model bias
-
红色函数可以通过函数+一堆蓝色函数去表示,当出现转角的时候就可以用一个蓝色函数去拟合
-
所有的分段线性曲线都可以通过常数项+蓝色函数进行拟合
-
但是如果对于不是线性曲线,其实我们也是可以使用蓝色函数进行拟合的,只是需要的数量需要非常大。
-
前面一直用蓝色函数进行代称,其实这个蓝色的函数通常叫做hard sigmoid,在实际应用中我们通常使用sigmod函数(s型函数)去拟合
transformer
-
sequence-to-sequence的model,输入序列,输出也是一个序列,但是输出序列的长度由模型决定。
-
绝大多数的nlp问题都可以看成是问答问题(QA),所有的QA都可以使用seq2seq的模型进行求解。当然,针对各式各样的内容,例如语音辨识,能够专门根据语音的特性设计一个专用模型来处理,效果肯定是最佳的,但是这里想强调的是seq2seq的模型可以处理,但是不是最好用的。
-
除了上面介绍的语音辨识或者翻译等任务可以使用seq2seq以外,例如还有多分类问题,我们也可以使用seq2seq模型直接输出类别,假设对一篇文章分类,我们并不能确定类别结果的个数,多以可以直接使用seq2seq模型得到结果。甚至对于目标检测的任务我们也可以使用seq2seq的模型硬解得到结果。
-
说到seq2seq的模型,最容易想到的就是现在流行的transformer模型,如下图所示
-
seq2seq模型的encoder部分需要做的事情就是对于输入的一排向量,输出也是一排向量,当然RNN和CNN等模型也可以做到输入一排向量,输出一排向量。
-
在encoder里面,输入的向量要经过好几个block的处理,才可以得到输出的向量,其中一个block又是有好几个层构成。
-
下面这张图就是上图的一个block中的细节,首先输入的向量先采用注意力机制,
BERT确实是Transformer模型中Encoder部分的一个应用实例,主要利用了Transformer模型中的Encoder部分,来捕捉文本的上下文信息。结合特殊的预训练任务和输入表示方法,成为了一种非常有效的预训练语言表示模型。
-
当然上面讲解的是transformer最原始的encoder架构,后人也对这个架构进行了一些升级改造取得了更好的结果,例如下图b改变了norm步骤的顺序也使模型更优了,此外 也可以考虑别的norm方法进行改进,可以自行深入了解
-
选取一个得分最高的作为下一轮的输入
后面内容不打算更新啦,考试过了,哈哈哈
复习的时候发现b站上有一篇文字版的整理,特别详细
想看后面的可以去b站上搜索一下
相关文章:
2022李宏毅老师机器学习课程笔记
机器学习笔记目录 1.绪论(内容概述)2.机器学习和深度学习的基本概念transformer 1.绪论(内容概述) 机器学习:让机器找一个函数,通过函数输出想要的结果。应用举例:语音识别,图像识别…...
时序数据库IoTDB在航空航天领域的解决方案
在快速发展的航空航天领域,高效、安全的数据管理成为了技术创新和持续发展的关键支撑。时序数据库IoTDB,凭借其国产自研、高效低流量数据同步、丰富的部署选择等优势,为航空航天产业提供了强有力的数据基础,助力产业加速转型升级。…...
洛谷 B3647:【模板】Floyd 算法
【题目来源】 https://www.luogu.com.cn/problem/B3647 【题目描述】 给出一张由 n 个点 m 条边组成的无向图。 求出所有点对 (i,j) 之间的最短路径。 【输入格式】 第一行为两个整数 n,m,分别代表点的个数和边的条数。 接下来 m 行,每行三…...
【25软考网工】第三章(4)生成树协议、广播风暴和MAC地址表震荡
目录 一、生成树协议1. 生成树技术背景1)单链路上行存在单点故障2)二层环路问题3)二层环路问题——广播风暴实验验证 广播风暴例题1:二层环路故障现象4)二层环路问题—— MAC地址表震荡实验验证 MAC地址表震荡的现象 2…...
解释器体系结构风格-笔记
解释器(Interpreter)是一种软件设计模式或体系结构风格,主要用于为语言(或表达式)定义其语法、语义,并通过解释器来解析和执行语言中的表达式。解释器体系结构风格广泛应用于编程语言、脚本语言、规则引擎、…...
删除新安装IBM Guardium Data Protection 12.1的baltimorecybertrustroot证书
登录web console,会显示 baltimorecybertrustroot证书过期警告。 采用下面的命令删除过期证书就可消除警告。 collector02.cpd.com> delete certificate keystore Select an alias from the list below to delete the corresponding certificate. Alias List:…...
反序列化漏洞1
一、PHP类与对象 1. 类 概念理解: 类是共享相同结构和行为的对象的集合,可以理解为特征的提取。例如将耳朵长、尾巴短、红眼睛、吃胡萝卜、蹦跳行走的动物特征抽象为"兔子"类。代码结构: 使用class关键字定义类类名遵循大驼峰命名法包含成员变量(属性)和…...
正则表达式三剑客之——awk命令
目录 一.什么是awk 二.awk的语法格式 1.选项 2. 模式(Pattern) 3. 操作(Action) 4. 输入文件(file) 5.总结 三.awk的工作原理 1. 逐行扫描输入 2. 匹配模式 1.正则表达式: 2.逻辑表…...
施磊老师基于muduo网络库的集群聊天服务器(七)
文章目录 数据表字符集问题支持中文和英文**为什么使用 utf8mb4?** 推荐 查看整个表, 再单独修改 客户端群组功能创建群组添加群组群组聊天接收在线群组消息接收离线群组消息补充服务器事件处理器补充服务器查询群组列表问题解决测试 目前报错总结目前为止最恶心的错…...
多模态(3):实战 GPT-4o 视频理解
最近,OpenAI 团队的 GPT-4o 模型,在多模态方面的能力有了大幅提升,这次我们就使用 GPT-4o 完成一个视频理解的实战。 1. 环境搭建 1.1 安装 FFmpeg 做视频处理,我们需要用到 FFmpeg 这款功能强大的开源多媒体处理工具。FFmpeg…...
基于python实现一个二维图片的路径规划问题
一、场景 基于如下的一个楼层平面图,假设有几个预置的点(实际项目中可能是动态的点,比如找车位,找工位),做路径规划,并画在平面图上 二、方案 1.准备平面室内图 可以自己用QGIS/cad等其他方式…...
云服务器centos 安装hadoop集群
百度 搜索 云服务器centos 安装hadoop 创建Hadoop用户 sudo useradd hadoop -m -s /bin/bash sudo passwd hadoop 123456 下载Hadoop wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.2.4/hadoop-3.2.4.tar.gz 解压并移动Hadoop到指定目录 tar …...
【k8s】sidecar边车容器
一、Sidecar 模式简介 Sidecar 模式是一种常见的微服务架构设计模式。它通过将附加功能或服务与主应用程序部署在同一容器或主机上,从而实现对主应用程序的增强和扩展。Sidecar 的名称来源于摩托车的边车,它与摩托车紧密相连,为主车提供额外…...
Web漏洞--XSS之订单系统和Shell箱子
本文主要内容 手法 XSS平台使用 XSS工具使用 XSS结合其他漏洞 XSS具体使用场景 某订单系统XSS盲打_平台 某Shell箱子系统XSS盲打_工具 [1]订单系统经典案例 第一个简易攻击流程(订单系统):通过平台完成XSS跨站之后&a…...
# 构建词汇表:自然语言处理中的关键步骤
构建词汇表:自然语言处理中的关键步骤 在自然语言处理(NLP)任务中,词汇表(Vocabulary)是文本数据预处理的核心组件之一。它将文本中的单词或字符映射为数值索引,从而让计算机能够理解和处理语言…...
新!在 podman-machine-default 中安装 CUDA、cuDNN、Anaconda、PyTorch 等并验证安装
#工作记录 一、前言 在 Windows 系统开发环境中,Podman Desktop 凭借强大的容器管理与 WSL-Linux 子系统集成能力备受开发者关注。 其中,podman-machine-default 是 Podman Desktop 安装后自带的默认 WSL-Fedora 子系统,支持与显卡通信&am…...
python_BeautifulSoup提取html中的信息
目录 描述: 过程: step one 下载html网页到本地 step two 提取html信息 list_con soup.select(.list-con) [0] li_list list_con.find_all(li) a li.find(span).find(a) title a.get(title) url a.get(href) span li.find(span).find(spa…...
pcd2pgm的launch文件实现
1.新建工作空间和克隆代码 mkdir -p pcd2pgm_launch/src && cd pcd2pgm_launch/src git clone https://github.com/Hinson-A/pcd2pgm_package 2. 编译 cd .. catkin_make -j4 3.修改launch 在launch文件目录下,可以用gedit 打开launch文件,…...
Vue里面elementUi-aside 和el-main不垂直排列
先说解决方法 main.js少导包 import element-ui/lib/theme-chalk/index.css; //加入此行即可 问题复现 排查了一个小时终于找出来问题了,建议导包去看官方的文档,作者就是因为看了别人的导包流程导致的问题 导包官网地址Element UI导包快速入门...
论文阅读:2024 ACL ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs
总目录 大模型安全相关研究:https://blog.csdn.net/WhiffeYF/article/details/142132328 Artprompt: Ascii art-based jailbreak attacks against aligned llms https://www.doubao.com/chat/3846685176618754 https://arxiv.org/pdf/2402.11753 https://github…...
项目maven版本不一致 导致无法下载
路程:打开一个新项目发现,maven加载不了 报错: Error running ‘dataManage [clean]’ No valid Maven installation found. Either set the home directory in the configuration dialog or set the M2_HOME environment variable on your s…...
论文阅读:2024 NeurIPS Group Robust Preference Optimization in Reward-free RLHF
Group Robust Preference Optimization in Reward-free RLHF https://www.doubao.com/chat/3870738843518978 https://arxiv.org/pdf/2405.20304 速览 研究动机 传统RLHF忽视群体偏好差异,导致模型对少数群体表现不佳,需提升群体鲁棒性。研究问题 如…...
数据可视化平台产品介绍及功能特色
数据可视化平台是一款适用于高校教学和各领域企业的零门槛可视化工具,能够解决高校数据分析与可视化类课程教学、实训问题。平台通过浏览器即可访问,无需安装客户端。平台内置公式编辑器与指标构建器,学生可通过四则运算、分组聚合等方式衍生…...
MySQL索引优化、SQL分析与运行原理 - Java架构师面试实战
MySQL索引优化、SQL分析与运行原理 - Java架构师面试实战 第一轮提问 面试官:马架构,请问您对MySQL的B树索引有什么理解? 马架构:B树是一种平衡多路查找树,所有的数据节点都存储在叶子节点上。相比于B树,…...
C++学习:六个月从基础到就业——STL:函数对象与适配器
C学习:六个月从基础到就业——STL:函数对象与适配器 本文是我C学习之旅系列的第二十九篇技术文章,也是第二阶段"C进阶特性"的第八篇,主要介绍C STL中的函数对象与适配器。查看完整系列目录了解更多内容。 引言 在前面的…...
Linux基础篇、第四章_02磁盘及分区管理fdisk 和 gdisk
题目:Linux 磁盘及分区管理 版本号: 1.0,0 作者: 老王要学习 日期: 2025.04.25 适用环境: Centos7 文档说明 本教程适用于 Centos7 环境,详细介绍 Linux 磁盘及分区管理操作。包含虚拟机添加磁盘的关机与开机添加方法、MBR 和 GPT 两种分区方式特点、…...
火山云的市场竞争
火山云是字节跳动旗下的云计算服务,对吧?那它的竞争对手应该包括国内外的大型云服务提供商。首先,国际市场上,像AWS、Azure、Google Cloud这些巨头肯定是大头。国内的话,阿里云、腾讯云、华为云这些应该都是主要的竞争…...
创建型设计模式之:简单工厂模式、工厂方法模式、抽象工厂模式、建造者模式和原型模式
创建型设计模式之:简单工厂模式、工厂方法模式、抽象工厂模式、建造者模式和原型模式 (一)简单工厂模式 简单工厂模式将对象的实例化过程封装到一个工厂类中,根据输入的条件创建不同类型的对象。 角色划分: 抽象产品…...
【Linux内核设计与实现】第三章——进程管理01
文章目录 1. 引言2. 进程&线程——概念3. 进程控制块/进程描述符(PCB)4. 进程内核栈(Kernel Stack)4.1. 进程内核栈的定义4.2. thread_info 体系结构相关进程描述4.3. 定位进程描述符(task_struct)和内核栈以及内核栈指针的问题 5. 进程 IDÿ…...
正大模型视角下的市场结构判断逻辑
正大模型视角下的市场结构判断逻辑 在多数交易策略中,结构识别往往先于方向判断。以正大的数据研判风格为例,其核心逻辑是:价格行为不能孤立解读,必须结合时间与成交效率来判断当前结构的有效性。 例如,一个上涨过程&…...
4.25学习——文件上传之00截断
继昨天学习的基础文件上传内容,进一步学习文件上传的绕过方式 00截断绕过 原理:00截断是操作系统层的漏洞,由于操作系统是C语言或汇编语言编写的,这两种语言在定义字符串时,都是以\0(即0x00)作…...
黑马Redis(三)黑马点评项目
优惠卷秒杀 一、全局唯一ID 基于Redis实现全局唯一ID的策略: Component RequiredArgsConstructor public class RedisIdWorker {private static final Long BEGIN_TIMESTAMP1713916800L;private static final int COUNT_BITS 32;Resourceprivate final StringRed…...
dedecms织梦arclist标签noflag属性过滤多个参数
织梦dedecms系统arclist标签noflag属性默认是只能过滤一个参数,比如过滤推荐是noflagc,过滤有图片的文章是noflagc,在模板制作过程中,有时候我们为了seo和避免重复,需要过滤多个参数。今天小编就来跟大家讲讲织梦dedec…...
Jira、PingCode、Redmine等18款缺陷管理工具对比评测
本文主要介绍了以下:1. PingCode; 2. Worktile; 3. Jira; 4. Bugzilla; 5. TAPD; 6. 码云; 7. Redmine; 8. Trac; 9. 蓝鲸智云; 10. 阿里云效等等18款缺陷管理工具。 在现代软件开发和项目管理中,缺陷管理工具扮演着至关重要的角色。随着企业对软件质量的…...
京东以图搜图(拍立淘)API接口返回参数详解
京东以图搜图(拍立淘)API接口的返回参数通常以结构化JSON格式呈现,涵盖商品基础信息、相似度评分、库存状态及扩展字段,以下为关键参数详解及使用建议: 一、核心返回参数解析 状态标识类 status:请求状态…...
LSTM+KNN - 多元数据异常检测 !
大家好!我是我不是小 upper~ 今天想和大家分享一个超实用的案例:如何通过 LSTM 与 KNN 实现多元数据异常检测。 想象一下,在工厂的智能化监控场景中,各类传感器实时采集着温度、湿度、压力等海量数据。我们的目标,就是从中精准识别出设备潜在故障等异常情况。 LSTM 作为时…...
OpenHarmony之电源管理子系统公共事件定义
OpenHarmony之电源管理子系统公共事件定义 电源管理子系统面向应用发布如下系统公共事件,应用如需订阅系统公共事件,请参考公共事件接口文档。 COMMON_EVENT_BATTERY_CHANGED 表示电池充电状态、电平和其他信息发生变化的公共事件的动作。 值&#x…...
angular 实现可编辑可选择复制的表格
这个实现的核心就是ag-grid 当然有类似的库就不必多说,React, Vue和纯h5类似。简单贴一下代码 1.首先是h5部分,就一个id为supply-chain-material-grid-table的div,记住要设置高度 <div class"dki-supply-chain-page-body">…...
组织用户数统计实现
# 完整的组织用户数统计实现 完整的组织用户数统计实现,包括模拟SQL查询、完整的Java代码实现以及详细解释。 ## 1. 模拟SQL查询 假设我们有一个组织表(organization)和用户表(user),以下是模拟查询SQL: sql -- 获取各组织及其用户数量&a…...
天机学堂day10作业,完善兑换优惠券功能
UserCouponServiceImpl /*** 兑换码兑换优惠券* param code*/TransactionalOverridepublic void exchangeCoupon(String code) {//1、校验code是否为空if (StringUtils.isBlank(code)) {throw new BadRequestException("非法参数!");}//2、解析兑换码&…...
Python编程的真谛:超越语法,理解编程本质
你是否也曾陷入这样的误区:学了无数的 Python 语法、刷了几十套题,写起代码却仍然卡顿、举步维艰?这时候你才发现,真正阻碍进步的,从不是语法,而是你对“编程本质”的理解。 如果你只是死记硬背Python的语…...
C语言 函数补充
目录 static和extern函数 1.static和extern函数 static和extern都是C语言中的关键字 static 是 静态的 的意思,可以用来: - 修饰局部变量- 修饰全局变量- 修饰函数 extern 是用来声明外部符号的。 在讲解 static 和 extern 之前再讲一下: 作用域和生命周期。 …...
【AI图像创作变现】04实操路径—插图/绘本/创意图集
引言 如果说头像是“一个角色的起点”,那么插图、绘本和图集就是“这个角色能走多远”。相比于头像这种单图任务,插图类创作更强调批量性、叙事性与风格统一性,它既可以承载故事,也可以构成一套完整的内容产品结构。 这类任务特…...
Lesar: 面向 Lustre/Scade 语言的形式化模型检查工具
在《同步反应式系统》的第一课中,介绍了同步数据流语言 Lustre 生态中的形式化模型检查器 Lesar 的用法。Lesar 可对 lustre v4 语言以及 Scade 语言中部分数据流核心特性进行模型检查。 Lesar 介绍 Lesar 是 Verimag 研发维护的形式化方法模型检查工具。该工具的理…...
告别 “幻觉” 回答:RAG 中知识库与生成模型的 7 种对齐策略
一、引言 大语言模型(LLM)在文本生成领域展现出惊人能力,但 “幻觉” 问题(生成虚构或偏离事实的内容)始终是落地应用的核心挑战。检索增强生成(RAG)通过将外部知识库与 LLM 结合,形…...
【Web应用服务器_Tomcat】一、Tomcat基础与核心功能详解
在 Java Web 应用开发领域,Apache Tomcat 是一座不可或缺的基石。作为一款开源、轻量级的 Servlet 容器和 Web 服务器,Tomcat 以其稳定可靠、易于部署和高度可定制性,被广泛应用于各类 Web 应用的部署与运行。 一、Tomcat 简介 Tomcat 是…...
Cesium实现地形可视域分析
Cesium实现可视化分析 一、地形可视域主要实现技术(Ray + 地形碰撞检测) Cesium 本身的 Ray 类可以用来执行非常精确的射线检测,我们可以结合地形高度(sample)来逐点检测光线是否与 terrain 相交,从而判断是否可见。 1.1 优势 实时判断每条射线是否被 terrain 遮挡地形…...
Java—— 常见API介绍 第五期
JDK8以后新增的时间相关类 Date类ZoneId:时区Instant:时间戳ZoneDateTime:带时区的时间 日期格式化类 SimpleDateFormat DateTimeFormatter:用于时间的格式化和解析 日历类 Calendar LocalDate:年、月、日LocalTime…...
ViewPager FragmentPagerAdapter在系统杀死应用后重建时UI不刷新的问题
解决方案 通过重写getItemId方法,返回Fragment的hashCode: Override public long getItemId(int position) {/*** 恢复状态重建时,新的 Fragment 不刷新UI。* 原因:instantiateItem 中通过 mFragmentManager.findFragmentByTag(…...
第3讲、大模型如何理解和表示单词:词嵌入向量原理详解
1. 引言 大型语言模型(Large Language Models,简称LLM)如GPT-4、Claude和LLaMA等近年来取得了突破性进展,能够生成流畅自然的文本、回答复杂问题、甚至编写代码。但这些模型究竟是如何理解人类语言的?它们如何表示和处…...