当前位置： 首页 > news >正文

概率图模型01

news 来源：原创 2025/7/5 5:24:35

机器学习中，线性回归、树、集成和概率图都属于典型的统计学习方法，概率图模型会更深入地体现出‘统计’两字

概率图模型的常见算法

概率图模型中的图

概率图模型如图主要分为两种，即贝叶斯网络和马尔可夫网络，有向图与无向图；

有向图对应贝叶斯网络，无向图对应马尔可夫网络

逻辑回归可以看成无向图的结构，因为分类的结果是相互独立的，最大熵模型和条件随机场都属于无向图的概念

GMM高斯混合模型与概率图

  • GMM（高斯混合模型）是由多个高斯分布按一定权重加和而成的概率分布模型。
  • 公式表示为：p(x)=∑k=1K αk ⋅N(μk ,Σk )，其中∑k=1 K αk =1。
  • 可视化上，GMM可以拟合数据的多模态分布。
混合模型视角
  • 引入隐变量Z来表示样本来自哪个高斯分布。
  • Z是一个离散随机变量，取值为Z1 ,Z2 ,...,ZK ，对应的概率为p1 ,p2 ,...,pK ，且∑k=1K pk =1。
  • 样本生成过程分为两步：
    • 选择隐变量Z，即选择第k个高斯分布，概率为pk 。
    • 从选定的高斯分布中生成样本X，即X服从N(μk ,Σk )。
概率图模型表示
  • 变量关系图：
    • 隐变量Z和观测变量X之间的关系。
    • Z是父节点，X是子节点。
  • 联合概率分布公式：
    • p(x,z)=p(z)⋅p(x∣z)
    • 边缘概率p(x)=∑z p(x,z)=∑k=1K p(z)⋅p(x∣z)

站在混合模型角度，它假设样本是从不同k 个高斯分布生成的，每个样本是从某个高斯分布抽样得到的，抽中 这K个高斯分布的概率不一样，我们用一个隐变量定义这种抽样概率 大小，隐变量是服从某种概率分布的离散随机变量：

重复上述过程m次；得到一共m个样本，这m个样本来自这K个高斯分布。 用概率图模型表示为：

那么求解一个样本x的概率分布：

过概率图模型建模总结出来的上式和一开始的GMM公式一致的，权值就是隐变量的取值概率。只不过如果把GMM当做聚类算法时，我们把归类为概率更高的那个隐变量对应的高斯分布。

生成式模型与判别式模型

假设可观测的变量集合为X，需要预测的变量集合为Y，其它的变量集合为Z。

生成式模型
  1. 定义与建模对象：
    1. 生成式模型对联合分布 P(X,Y,Z) 进行建模，描述数据的生成过程。
    2. 通过贝叶斯定理，可以从中推导出条件概率 P(Y∣X)。
  2. 优点：
    1. 可以生成新数据，适用于数据增强和数据生成任务。
    2. 在数据量较少时，可以通过先验知识来弥补数据不足。
    3. 在处理缺失数据时，可以通过联合分布推断缺失变量的值。
  3. 应用场景：
    1. 朴素贝叶斯、隐马尔可夫模型（HMM）、高斯混合模型（GMM）等。
    2. 适用于图像生成任务（如生成对抗网络GAN、变分自编码器VAE）。
  4. 实例：
    1. 朴素贝叶斯：假设特征在给定类别下条件独立，通过贝叶斯定理求 P(Y∣X)。
    2. 隐马尔可夫模型（HMM）：建模观测序列和隐藏状态序列的联合分布。
判别式模型
  1. 定义与建模对象：

                判别式模型直接对条件概率 P(Y,Z∣X) 进行建模，关注输入到输出的映射。

  1. 优点：
    1. 在分类任务上可能表现更好，尤其是在数据量较大时，可以学习到更复杂的决策边界。
    2. 在高维数据下可能更容易训练，因为只需关注条件概率。
  2. 应用场景：
    1. 逻辑回归、支持向量机（SVM）、条件随机场（CRF）等。
    2. 适用于图像分类任务（如卷积神经网络CNN）。
  3. 实例：
    1. 逻辑回归：直接建模 P(Y∣X)，适用于二分类任务。
    2. 条件随机场（CRF）：直接建模标签序列与观测序列之间的关系。

相关文章：

概率图模型01

机器学习中，线性回归、树、集成和概率图都属于典型的统计学习方法，概率图模型会更深入地体现出‘统计’两字 概率图模型的常见算法 概率图模型中的图 概率图模型如图主要分为两种，即贝叶斯网络和马尔可夫网络，有向图与无向图&…...

编程日记 2025/7/5 5:24:35

oxml中创建CT_Document类

概述 本文基于python-docx源码，详细记录CT_Document类创建的过程，以此来加深对Python中元类、以及CT_Document元素类的认识。 元类简介 元类（MetaClass）是Python中的高级特性。元类是什么呢？Python是面向对象编程…...

编程日记 2025/7/5 4:57:24

YARN 集群

一、集群角色 1.1 概述 Apache Hadoop YARN是一个标准的Master/Slave集群（主从架构）。其中ResourceManager（RM） 为Master， NodeManager（NM） 为 Slave。常见的是一主多从集群，也可以…...

编程日记 2025/7/5 4:42:59

电机控制的数字化升级：基于DSP和FPGA的仿真与实现

数字信号处理器（DSP，Digital Signal Processor）在工业自动化领域的应用日益广泛。DSP是一种专门用于将模拟信号转换成数字信号并进行处理的技术，能够实现信号的数字滤波、重构、调制和解调等多项功能，确保信号处理的精…...

编程日记 2025/6/29 19:33:21

homework 2025.01.11 math 6

homework 2025.01.11 math 6 小学6年级数学...

编程日记 2025/6/28 16:30:47

【会话详解】

会话详解 概述 会话： 用户通过浏览器访问多个Web资源的过程，从打开浏览器开始访问特定网站，直到关闭浏览器的过程称为会话（Session）。会话管理是Web应用中跟踪和存储用户状态的重要机制。 有状态会话： …...

编程日记 2025/6/30 20:24:39

Unity 的 Vector3 与 Babylon.js 的 Vector3：使用上的异同

在 3D 开发中，向量是不可或缺的数学工具，用于表示位置、方向、速度等物理量。Unity 和 Babylon.js 都提供了 Vector3 类来处理三维向量，但它们在实现和使用上有一些异同。本文将详细对比 Unity 的 Vector3 和 Babylon.js 的 Vector…...

编程日记 2025/7/5 5:12:32

【2024年华为OD机试】(A卷,100分)- 单词倒序（Java JS PythonC/C++）

一、问题描述 题目描述 输入单行英文句子，里面包含英文字母，空格以及,.?三种标点符号，请将句子内每个单词进行倒序，并输出倒序后的语句。 输入描述 输入字符串S，S的长度 1 ≤ N ≤ 100 输出描述 输出倒序后的字…...

编程日记 2025/6/29 19:11:00

芯片：CPU和GPU有什么区别？

CPU（中央处理器）和GPU（图形处理单元）是计算机系统中两种非常重要的处理器，它们各自有不同的设计理念、架构特点以及应用领域。下面是它们之间的一些主要差异： 1. 设计目的与应用领域 CPU：设计…...

编程日记 2025/7/5 4:19:47

springboot整合mysql

1.首先在pom.xml中添加依赖&#xff1a; <!-- MySQL Driver --><dependency><groupId>com.mysql</groupId><artifactId>mysql-connector-j</artifactId><scope>runtime</scope></dependency><!-- Druid连接池 -->…...

编程日记 2025/6/29 23:36:14

复合机器人助力手机壳cnc加工向自动化升级

在当今竞争激烈的制造业领域&#xff0c;如何提高生产效率、降低成本、提升产品质量&#xff0c;成为众多企业面临的关键挑战。尤其是在手机壳 CNC 加工这一细分行业&#xff0c;随着市场需求的持续增长&#xff0c;对生产效能的要求愈发严苛。而复合机器人的出现&#xff0c;正…...

编程日记 2025/7/5 5:23:52

深入浅出负载均衡：理解其原理并选择最适合你的实现方式

负载均衡是一种在多个计算资源&#xff08;如服务器、CPU核心、网络链接等&#xff09;之间分配工作负载的技术&#xff0c;旨在优化资源利用率、提高系统吞吐量和降低响应时间。负载均衡的实现方式多种多样&#xff0c;以下是几种常见的实现方式&#xff1a; 1. 硬件负载均衡&…...

编程日记 2025/7/5 5:17:56

征程 6X release版本内核模块安全加载

1.概述 征程 6X 系统在 release 编译时支持内核模块签名验证&#xff0c;仅加载使用正确密钥进行数字签名的内核模块。禁止加载未签名的内核模块或使用错误密钥签名的内核模块&#xff0c;客户需要替换成自己的 key 进行签名。 模块签名启用后&#xff0c;Linux 内核将仅加载…...

编程日记 2025/7/5 5:13:59

uni-app的学习

uni-app 有着跨平台支持、丰富的插件和生态系统、高性能、集成开发工具HBuilderX的配合使用。允许使用者仅通过一套代码发布到多平台使用。 uni-app官网 uni-app 是一个适合开发跨平台移动应用和小程序的框架&#xff0c;能够大幅提高开发效率。 一、了解 1.1 工具准备 从Git…...

编程日记 2025/6/30 9:41:40

国产信创实践（国能磐石服务器操作系统CEOS +东方通TongHttpServer）

替换介绍&#xff1a; 国能磐石服务器操作系统CEOS 对标 Linux 服务器操作系统&#xff08;Ubuntu, CentOS&#xff09; 东方通TongHttpServer 对标 Nginx 负载均衡Web服务器 第一步&#xff1a; 服务器安装CEOS映像文件&#xff0c;可直接安装&#xff0c;本文采用使用VMware …...

编程日记 2025/7/3 1:09:06

前端实时显示当前在线人数的实现

实时显示当前在线人数的实现 本文档提供了在网页上实时显示当前在线人数的多种实现方法&#xff0c;包括使用 WebSocket 实现实时更新和轮询方式实现非实时更新。 方法一&#xff1a;使用 WebSocket 实现实时更新 服务器端设置 通过 Node.js 和 WebSocket 库&#xff08;如 …...

编程日记 2025/7/2 8:46:53

为AI聊天工具添加一个知识系统 之27 支持边缘计算设备的资源存储库及管理器

本文问题 现在我们回到 ONE/TWO/TREE 的资源存储库 的设计--用来指导 足以 支持 本项目&#xff08;为AI聊天工具增加一套知识系统&#xff09;的 核心能力 “语言处理” 中 最高难度系数的“自然语言处理” 中最具挑战性的“含糊性” 问题的解决。--因为足以解决 自然语言中最…...

编程日记 2025/7/5 5:12:33

继续坚持与共勉

经过期末考试后&#xff0c;又要开始学习啦。 当时一直在刷算法题就很少写博客了&#xff0c;现在要继续坚持写博客&#xff0c;将每天对于题的感悟记录下来。 同时我将会在学习Linux操作系统&#xff0c;对于过去学习的内容进行回顾&#xff01;&#xff01; 在此&#xff…...

编程日记 2025/7/4 10:39:32

PHP的扩展Imagick的安装

windows下的安装 下载&#xff1a;Imagick扩展 PECL :: Package :: imagick 3.7.0 for Windows​​​​​​​ 下载&#xff1a;ghostscript&#xff08;PDF提取图片时用到&#xff0c;不处理PDF可以不安装&#xff09; Ghostscript : Downloads 安装扩展 Imagick解压后&…...

编程日记 2025/7/5 4:47:55

【2024年华为OD机试】 (A卷,100分)- 租车骑绿岛（Java JS PythonC/C++）

一、问题描述 题目描述 部门组织绿岛骑行团建活动。租用公共双人自行车&#xff0c;每辆自行车最多坐两人&#xff0c;最大载重 M。 给出部门每个人的体重&#xff0c;请问最多需要租用多少双人自行车。 输入描述 第一行两个数字 m、n&#xff0c;分别代表自行车限重&#…...

编程日记 2025/7/5 4:30:00

Solidity入门: 函数

函数 Solidity语言的函数非常灵活&#xff0c;可以进行各种复杂操作。在本教程中&#xff0c;我们将会概述函数的基础概念&#xff0c;并通过一些示例演示如何使用函数。 我们先看一下 Solidity 中函数的形式: function <function name>(<parameter types>) {in…...

编程日记 2025/7/4 15:06:53

1、docker概念和基本使用命令

docker概念 微服务&#xff1a;不再是以完整的物理机为基础的服务软件&#xff0c;而是借助于宿主机的性能。以小量的形式&#xff0c;单独部署的应用。 docker&#xff1a;是一个开源的应用容器引擎&#xff0c;基于go语言开发的&#xff0c;使用时apache2.0的协议。docker是…...

编程日记 2025/7/1 20:47:59

【Python】深入Python元类：动态生成类与对象的艺术

在Python中&#xff0c;元类&#xff08;Metaclass&#xff09;是一个强大且高级的特性&#xff0c;允许开发者在类创建时控制其行为与属性。通过元类&#xff0c;开发者可以动态生成类和对象&#xff0c;实现自定义的类行为&#xff0c;进而增强代码的灵活性和可扩展性。本文将…...

编程日记 2025/7/2 15:45:57

数字孪生可视化在各个行业的应用场景

数字孪生技术&#xff0c;作为新一代信息技术的集大成者&#xff0c;正在深刻改变着我们对物理世界的认知和管理方式。本文将探讨数字孪生可视化在不同行业的应用场景&#xff0c;以及它们如何赋能行业数字化转型。 1. 智慧城市与交通 在智慧城市领域&#xff0c;数字孪生技术…...

编程日记 2025/7/2 23:12:51

CES Asia 2025科技盛宴，AI智能体成焦点

2025第七届亚洲消费电子技术展&#xff08;CES Asia赛逸展&#xff09;将在北京拉开帷幕&#xff0c;AI智能体有望成为展会的核心亮点。 深圳市人工智能行业协会发文表示全力支持CES Asia 2025&#xff08;赛逸展&#xff09;&#xff0c;称其为人工智能领域的创新发展提供了强…...

编程日记 2025/7/2 18:24:00

【第04阶段-机器学习深度学习篇-1-深度学习基础-深度学习介绍】

1 深度学习概念 深度学习是基于机器学习延伸出来的一个新的领域&#xff0c;由以人大脑结构为启发的神经网络算法为起源加之模型结构深度的增加发展&#xff0c;并伴随大数据和计算能力的提高而产生的一系列新的算法。 2 深度学习发展 其概念由著名科学家Geoffrey Hinton等人…...

编程日记 2025/7/3 19:44:10

android framework.jar 在应用中使用

在开发APP中&#xff0c;有时会使用系统提供的framework.jar 来替代 android.jar, 在gradle中配置如下&#xff1a; 放置framework.jar 依赖配置 3 优先级配置 gradle.projectsEvaluated {tasks.withType(JavaCompile) {Set<File> fileSet options.bootstrapClasspat…...

编程日记 2025/6/30 6:03:56

带格式 pdf 翻译

支持 openAI 接口&#xff0c;国内 deepseek 接口兼容 openAI 接口&#xff0c; deepseek api 又非常便宜 https://pdf2zh.com/ https://github.com/Byaidu/PDFMathTranslate...

编程日记 2025/7/2 15:13:26

Flutter项目适配鸿蒙

Flutter项目适配鸿蒙 前言Flutter项目适配鸿蒙新工程直接支持ohos构建新项目编译运行 适配已有的Flutter项目 前言 目前市面上使用Flutter技术站的app不在少数&#xff0c;对于Flutter的项目&#xff0c;可能更多的是想直接兼容Harmonyos&#xff0c;而不是直接在重新开发一个…...

编程日记 2025/7/1 8:07:24

轻量自高斯注意力机制LSGAttention模型详解及代码复现

模型背景 近年来，卷积神经网络(CNN)在高光谱图像分类领域取得了显著进展。然而，CNN面临 长距离关系建模 和 计算成本 增加的挑战。为解决这些问题，研究人员提出了基于 轻量自高斯注意(Light Self-Gaussian-Attention, LSGA) 机制的视觉转换器(Vision Transformer, VIT)，旨…...

编程日记 2025/7/3 1:25:30

vue事件对象$event

事件参数可以获取event对象和通过事件传递数据 获取 event 对象 <template><h1>Hello world</h1><button click"addCount">Add</button><p>{{ count }}</p> </template> <script>export default{data(){ret…...

编程日记 2025/7/2 13:06:47

PyCharm文档管理

背景&#xff1a;使用PyCharmgit做文档管理 需求&#xff1a;需要PyCharm自动识别docx/xslx/vsdx等文件类型&#xff0c;并在PyCharm内点击文档时唤起系统内关联应用(如word、excel、visio) 设置步骤&#xff1a; 1、file -》 settings -》file types 2、在Files opened i…...

编程日记 2025/6/28 15:23:24

Windows下调试Dify相关组件(2)--后端Api

1.部署依赖的服务&#xff08;代码最外层的docker目录&#xff09; 1.1 将middleware.env.example复制&#xff0c;并改名为middleware.env。 1.2 查看docker-compose.middleware.yaml&#xff0c;有5个服务 db&#xff1a;postgres数据库。 redis&#xff1a;redis缓存。 sa…...

编程日记 2025/7/4 15:04:57

Flask----前后端不分离-登录

文章目录 扩展模块flask-wtf 的简单使用定义用户数据模型flask-login完成用户登录 扩展模块 flask-sqlalchmy&#xff0c;连接数据库flask-login&#xff0c;处理用户的登录&#xff0c;认证flask-session&#xff0c;会话保持&#xff0c;默认对用户数据加密&#xff0c;存储…...

编程日记 2025/6/28 15:24:48

Group3r：一款针对活动目录组策略安全的漏洞检测工具

关于Group3r Group3r是一款针对活动目录组策略安全的漏洞检测工具&#xff0c;可以帮助广大安全研究人员迅速枚举目标AD组策略中的相关配置&#xff0c;并识别其中的潜在安全威胁。 Group3r专为红蓝队研究人员和渗透测试人员设计&#xff0c;该工具可以通过将 LDAP 与域控制器…...

编程日记 2025/7/1 16:06:38

ElasticSearch 认识和安装ES

文章目录 一、为什么学ElasticSearch?1.ElasticSearch 简介2.ElasticSearch 与传统数据库的对比3.ElasticSearch 应用场景4.ElasticSearch 技术特点5.ElasticSearch 市场表现6.ElasticSearch 的发展 二、认识和安装ES1.认识 Elasticsearch&#xff08;简称 ES&#xff09;2.El…...

编程日记 2025/6/29 17:20:30

CNN Test Data

由于数据量过大&#xff0c;打不开了 搞一组小的吧。收工睡觉 https://download.csdn.net/download/spencer_tseng/90256048...

编程日记 2025/6/30 2:27:45

git 转移文件夹

打开终端或命令行界面&#xff1a;首先&#xff0c;确保你的电脑上安装了 Git&#xff0c;并打开终端或命令行界面。 导航到你的仓库目录&#xff1a;使用 cd 命令来切换到包含你想要移动文件夹的仓库的目录。 cd /path/to/your/repository使用 git mv 命令移动文件夹&#x…...

编程日记 2025/6/30 3:54:37

计算机网络学习

网络安全&#xff1a;前端开发者必知&#xff1a;Web安全威胁——XSS与CSRF攻击及其防范-CSDN博客 三次握手四次挥手&#xff1a;前端网络---三次握手四次挥手_前端三次握手-CSDN博客 http协议和https协议的区别&#xff1a;前端网络---http协议和https协议的区别-CSDN博客 …...

编程日记 2025/7/1 22:36:00

Android车机DIY开发之学习篇(二)编译Kernel以正点原子为例

Android车机DIY开发之学习篇(二)编译Kernel以正点原子为例 1.代码在/kernel-5.10文件夹下 2.在kernel-5.10目录下执行如下命令编译 &#xff1a; 编译之前&#xff0c;需要将 clang 导出到 PATH 环境变量&#xff1a; 如果是 Android12 执行下面这条命令 export PATH../pr…...

编程日记 2025/7/1 22:04:32

Java线程的异常处理：确保线程安全运行

哈喽&#xff0c;各位小伙伴们&#xff0c;你们好呀&#xff0c;我是喵手。运营社区&#xff1a;C站/掘金/腾讯云/阿里云/华为云/51CTO&#xff1b;欢迎大家常来逛逛 今天我要给大家分享一些自己日常学习到的一些知识点&#xff0c;并以文字的形式跟大家一起交流&#xff0c;互…...

编程日记 2025/7/4 20:50:20

vite5.x配置https

旧版的vite直接在config里面配置https&#xff1a;true即可&#xff0c;新版的麻烦一些。 1.准备工作 需要安装openssl 下载地址&#xff1a;Win32/Win64 OpenSSL Installer for Windows - Shining Light Productions 找到合适的版本安装&#xff0c;配置好环境变量&#x…...

编程日记 2025/6/30 1:39:50

地下苹果（马铃薯）怎么破局？

地下苹果&#xff08;马铃薯&#xff09;怎么破局&#xff1f; 原创萨辣米哎青年杂说youth 地下苹果&#xff08;马铃薯&#xff09;怎么破局&#xff1f;https://mp.weixin.qq.com/s/zU-9pnVWxDn72D6yx5CViA 1.前言 马铃薯是重要的粮菜兼用和工业原料作物&#xff0c;由于其…...

编程日记 2025/7/3 4:34:23

ceph fs status 输出详解

ceph fs status 命令用于显示 Ceph 文件系统的状态信息&#xff0c;其中各列的含义如下&#xff1a; RANK&#xff1a;元数据服务器&#xff08;MDS&#xff09;的等级或标识符。 STATE&#xff1a;MDS 的当前状态&#xff0c;例如 active&#xff08;活跃&#xff09;、stan…...

编程日记 2025/7/1 22:42:13

phpenc加密程序源码

免费扩展加密程序&#xff0c;类似于sg11加密&#xff0c;支持单个PHP&#xff08;免费&#xff09;文件以及批量PHP文件&#xff08;ZIP压缩包格式&#xff09;源码加密的保护平台&#xff0c;加密后的源码文件保持原有代码结构&#xff0c;可以跨平台运行&#xff0c;可以运行…...

编程日记 2025/7/1 18:13:09

深入探秘 ZooKeeper：架构、设计、角色与 ZNode 全解析 前言

1.ZooKeeper 分布式锁怎么实现的&#xff1f; ZooKeeper 是一个高效的分布式协调服务&#xff0c;常用于实现分布式系统中的配置管理、命名服务、分布式锁等。下面简要介绍如何使用 ZooKeeper 实现分布式锁。 分布式锁的特性 在讨论如何实现之前&#xff0c;先了解分布式锁应…...

编程日记 2025/7/1 18:43:52

计算机图形学【绘制立方体和正六边形】

工具介绍 OpenGL&#xff1a;一个跨语言的图形API&#xff0c;用于渲染2D和3D图形。它提供了绘制图形所需的底层功能。 GLUT&#xff1a;OpenGL的一个工具库&#xff0c;简化了窗口创建、输入处理和其他与图形环境相关的任务。 使用的函数 1. glClear(GL_COLOR_BUFFER_BIT |…...

编程日记 2025/7/1 4:22:50

日志模块和Plus模块升级以及问题修复

文章目录 1.common-log4j2-starter1.目录2.LogAspectProperties.java 日志切面配置3.TraceProperties.java 链路追踪配置4.Log4j2AutoConfiguration.java 条件注入链路追踪过滤器 2.common-mybatis-plus-starter1.目录2.引入依赖3.SqlBeautyProperties.java 读取sql.beauty相关…...

编程日记 2025/6/30 12:27:10

【Bug】报错信息：Required request body is missing（包含五种详细解决方案）

大家好&#xff0c;我是摇光~ 遇到“Required request body is missing”错误通常意味着服务器期望在HTTP请求中包含一个请求体&#xff08;body&#xff09;&#xff0c;但是实际上并没有收到。 例如&#xff1a; 当你在使用网页或应用程序的后台&#xff08;比如一个网站或手…...

编程日记 2025/7/4 16:54:40

Ceph分布式存储集群，不仅仅是一个简单的对象存储解决方案

Ceph 作为 OpenStack 的存储后端 块存储&#xff08;Cinder 后端&#xff09; Ceph 的 RBD&#xff08;RADOS Block Device&#xff09;模块作为 OpenStack Cinder 服务的后端&#xff0c;为虚拟机提供块级别的存储资源。RBD 支持快照、克隆和恢复等功能&#xff0c;能够满足虚…...

编程日记 2025/7/2 11:01:45