当前位置：首页 > news >正文

【深度学习与大模型基础】第9章-条件概率以及条件概率的链式法则

news 来源：原创 2025/9/11 10:21:27

简单理解条件概率

条件概率就是在已知某件事发生的情况下，另一件事发生的概率。用数学符号表示就是：
P(A|B) = 在B发生的前提下，A发生的概率。

计算机例子：垃圾邮件过滤

假设你写了一个程序来自动判断邮件是否是垃圾邮件（Spam）。已知：

所有邮件中，20%是垃圾邮件（P(Spam) = 0.2）。
垃圾邮件中，50%包含“免费”这个词（P(Free|Spam) = 0.5）。
正常邮件中，只有10%包含“免费”（P(Free|¬Spam) = 0.1）。

现在问题是：如果一封邮件包含“免费”，它是垃圾邮件的概率是多少？
也就是求 P(Spam|Free)。

如何计算？

根据条件概率公式：P(A|B)=P(A $\cap$ B)/P(B)

即有：

分子：垃圾邮件中带“免费”的概率 × 垃圾邮件的概率
= 0.5 × 0.2 = 0.1
分母：所有带“免费”的邮件的概率（包括垃圾和正常邮件）
= P(Free|Spam)P(Spam) + P(Free|¬Spam)P(¬Spam)
= 0.5×0.2 + 0.1×0.8 = 0.1 + 0.08 = 0.18

所以：

结论

即使“免费”在垃圾邮件中更常见，但因为正常邮件基数大，实际包含“免费”的邮件是垃圾邮件的概率只有约55.6%。这就是条件概率的直观体现——它结合了先验知识（垃圾邮件的比例）和新证据（“免费”这个词）。

应用场景

推荐系统：已知用户喜欢游戏（B），那么推荐显卡（A）的概率是多少？
故障诊断：如果电脑蓝屏（B），是内存故障（A）的概率有多大？
语音识别：在当前上下文（B）下，下一个词是“苹果”（A）的概率是多少？

条件概率帮助计算机在不确定性的世界中做出更聪明的决策！

使用python实现在当前上下文（B）下，下一个词是“苹果”（A）的概率是多少的代码

1.安装NLTK
pip install nltk

下载附件分词模型文件tokenizers.zip解压到 D:\nltk_data

3..实现在当前上下文（B）下，下一个词是“苹果”（A）的概率是多少的代码

import nltk
nltk.download('punkt')  # 确保punkt已下载
nltk.download('punkt_tab')
from nltk import bigrams, FreqDist
from nltk.tokenize import word_tokenize# 示例文本（中文需提前分词，英文可直接tokenize）
text = "吃 苹果 买 苹果 吃 香蕉 买 手机"  # 中文示例（已分词）
tokens = word_tokenize(text)  # 分词
bigram_pairs = list(bigrams(tokens))  # 生成连续词对# 统计条件概率
context = "吃"
next_word = "苹果"
count_apple = sum(1 for (prev, curr) in bigram_pairs if prev == context and curr == next_word)
total_context = sum(1 for (prev, curr) in bigram_pairs if prev == context)
p_apple_given_context = count_apple / total_context if total_context > 0 else 0print(f"P('{next_word}'|'{context}') = {p_apple_given_context:.2f}")

条件概率的链式法则。基础概念

条件概率：比如事件B发生的条件下，事件A发生的概率，记作 P(A∣B)。
- 例子：明天降雨的概率是 P(雨)，但如果今天乌云密布（B），那么明天降雨的概率会变，即 P(雨∣乌云)。
链式法则：把多个条件的联合概率拆解成一步步的条件概率相乘。
- 公式：
  P(A $\cap$ B $\cap$ C)=P(A)⋅P(B∣A)⋅P(C∣A $\cap$ B)
- 意思是"A、B、C同时发生"的概率，等于：
  1. 先发生A的概率 P(A)，
  2. 在A发生下B的概率 P(B∣A)，
  3. 在A和B都发生下C的概率 P(C∣A $\cap$ B)。

应用场景

假设我们要预测一段文本是否是垃圾邮件（Spam），文本中有两个单词："免费"和"赢"。

联合概率：
计算 P(免费 $\cap$ 赢 $\cap$ Spam)（即“免费”和“赢”同时出现且是垃圾邮件的概率）。
链式法则拆解：
P(免费赢Spam)=P(Spam)⋅P(免费∣Spam)⋅P(赢∣免费Spam)
1. 先算垃圾邮件的概率 P(Spam)，
2. 在垃圾邮件中，“免费”出现的概率 P(免费∣Spam)，
3. 在垃圾邮件且已有“免费”时，“赢”出现的概率 P(赢∣免费 $\cap$ Spam)。

3. 为什么有用？

简化复杂问题：直接算联合概率很难，但拆成条件概率后，可以通过数据统计（比如数邮件中出现单词的次数）来估算。
贝叶斯网络的基础：链式法则是图模型（如贝叶斯网络）的核心，用来描述变量间的依赖关系。

python实现

假设我们要预测一段文本是否是垃圾邮件（Spam），文本中有两个单词："免费"和"赢"。
计算 P(免费,赢,Spam)（即“免费”和“赢”同时出现且是垃圾邮件的概率）

import pandas as pd# 模拟数据：每封邮件的文本和标签（1=Spam, 0=Not Spam）
data = {"text": ["免费 赢 大奖",        # Spam"免费 参加 活动",      # Spam"赢 免费 门票",        # Spam"明天 开会",           # Not Spam"请 回复 邮件"         # Not Spam],"label": [1, 1, 1, 0, 0]
}df = pd.DataFrame(data)
print(df)# 计算 P(Spam)
total_emails = len(df)
spam_emails = df[df["label"] == 1]
p_spam = len(spam_emails) / total_emails# 计算 P(免费|Spam): 垃圾邮件中包含"免费"的概率
spam_with_free = spam_emails[spam_emails["text"].str.contains("免费")]
p_free_given_spam = len(spam_with_free) / len(spam_emails)# 计算 P(赢|免费, Spam): 在垃圾邮件且含"免费"时，同时含"赢"的概率
spam_free_with_win = spam_with_free[spam_with_free["text"].str.contains("赢")]
p_win_given_free_spam = len(spam_free_with_win) / len(spam_with_free) if len(spam_with_free) > 0 else 0# 联合概率: P(免费, 赢, Spam) = P(Spam) * P(免费|Spam) * P(赢|免费, Spam)
joint_probability = p_spam * p_free_given_spam * p_win_given_free_spamprint(f"P(Spam): {p_spam:.2f}")
print(f"P(免费|Spam): {p_free_given_spam:.2f}")
print(f"P(赢|免费, Spam): {p_win_given_free_spam:.2f}")
print(f"联合概率 P(免费, 赢, Spam): {joint_probability:.4f}")

【深度学习与大模型基础】第9章-条件概率以及条件概率的链式法则

简单理解条件概率条件概率就是在已知某件事发生的情况下，另一件事发生的概率。用数学符号表示就是： P(A|B) 在B发生的前提下，A发生的概率。计算机例子：垃圾邮件过滤假设你写了一个程序来自动判断邮件是否是垃圾邮件&#xf…...

编程日记 2025/9/11 10:21:27

C++: 获取auto的实际类型

auto a "hello";auto* b "hello";auto& c "hello";上述 a, b, c 类型分别是什么？ 在不使用 IDE 提供的 inlay hints 情况下， 可以编译期获取，然后运行时打印出来: 方法： 用 decltype(var)…...

编程日记 2025/9/11 22:52:15

谷歌开源代理开发工具包（Agent Development Kit，ADK）：让多智能体应用的构建变得更简

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领…...

编程日记 2025/9/11 22:54:46

揭开人工智能与机器学习的神秘面纱：开发者的视角

李升伟编译人工智能（AI）和机器学习（ML）早已不再是空洞的流行语——它们正在彻底改变我们构建软件、做出决策以及与技术互动的方式。无论是自动化重复性任务，还是驱动自动驾驶汽车，AI/ML都是现代创新的核…...

编程日记 2025/9/11 22:55:02

35.Java线程池（线程池概述、线程池的架构、线程池的种类与创建、线程池的底层原理、线程池的工作流程、线程池的拒绝策略、自定义线程池）

一、线程池概述 1、线程池的优势线程池是一种线程使用模式，线程过多会带来调度开销，进而影响缓存局部性和整体性能，而线程池维护着多个线程，等待着监督管理者分配可并发执行的任务，这避免了在处理短时间任务时创建与…...

编程日记 2025/9/11 22:50:59

【NumPy科学计算：高性能数组操作核心指南】

目录前言：技术背景与价值当前技术痛点解决方案概述目标读者说明一、技术原理剖析核心概念图解关键技术模块技术选型对比二、实战演示环境配置要求核心代码实现运行结果验证三、性能对比测试方法论量化数据对比结果分析四、最佳实践推荐方案 ✅常见错误 ❌调试技…...

编程日记 2025/9/11 22:57:24

软考系统架构设计师系列知识点之杂项集萃（50）

接前一篇文章：软考系统架构设计师系列知识点之杂项集萃（49） 第78题著作权中，（）的保护期不受限制。 A. 发表权 B. 发行权 C. 署名权 D. 展览权正确答案：C。所属知识点：旧版…...

编程日记 2025/9/11 19:00:02

实现定长的内存池

池化技术所谓的池化技术，就是程序预先向系统申请过量的资源，然后自己管理起来，以备不时之需。这个操作的价值就是，如果申请与释放资源的开销较大，提前申请资源并在使用后并不释放而是重复利用，能够提高程序…...

编程日记 2025/9/10 19:30:51

定制一款国密浏览器(7)：铜锁和BoringSSL

上一章简单介绍了一下国密算法，本章开始进入实战，进行国密算法的移植。算法的移植以铜锁为蓝本，移植到 BoringSSL 中。 BoringSSL 也是由 OpenSSL fork 而来，那能否修改 Chromium 的源码，使用铜锁库呢？这种方式我也考虑并尝试过，最后发现两者的接口差别太大，Chromium …...

编程日记 2025/9/7 6:32:47

Docker 安装CRMEB陀螺匠教程

首先下载代码到服务器中，打开终端，并切换到项目源码根目录： 通过 Docker compose 启动项目第一次启动时需要拉取和打包相关镜像，所需时长视网络情况而定，需耐心等待。配置反向代理参考 Nginx 配置 Nginx 反向代…...

编程日记 2025/9/8 18:45:01

Java中的static都能用来修饰什么？

在Java编程语言中，static关键字是非常重要的修饰符，可以用于多种不同的地方。可用来修饰变量、方法、代码块以及类。 1.静态变量定义：静态变量属于类本身，而不是类的任何特定实例（new出来的对象）。特点&a…...

编程日记 2025/9/4 1:19:59

词法分析器设计实验

掌握生成词法分析器的方法，加深对词法分析原理的理解。掌握设计、编制并调试词法分析程序的思想和方法。本实验是高级语言程序设计、数据结构和编译原理中词法分析原理等知识的综合。【实验内容及要求】完善以下代码(红色标注处)并加上注释(蓝色标注处) int Getsym…...

编程日记 2025/9/7 10:10:53

matlab求和∑函数方程编程？

matlab求和∑函数方程编程？ 一题目：求下列函数方程式的和二：代码如下： >> sum_result 0; % 初始化求和变量 for x 1:10 % 设…...

编程日记 2025/9/2 13:47:29

Vue3.5 企业级管理系统实战（十四）：动态主题切换

动态主题切换是针对用户体验的常见的功能之一，我们可以自己实现如暗黑模式、明亮模式的切换，也可以利用 Element Plus 默认支持的强大动态主题方案实现。这里我们探讨的是后者通过 CSS 变量设置的方案。 1 组件准备 1.1 修改 Navbar 组件在 src/layo…...

编程日记 2025/9/3 13:22:17

Python中for循环及其相关函数range(), zip(), enumerate()等

一、Python中的for循环及其相关函数 Python的for循环是算法竞赛中最常用的迭代工具之一，因其简洁和灵活性非常适合快速实现逻辑。以下详细讲解for循环及相关函数在竞赛中的使用场景。 1. for循环基本语法 Python的for循环用于遍历可迭代对象（如列表、…...

编程日记 2025/9/7 9:25:19

数据结构与算法——链表OJ题详解（2）

文章目录一、前言二、OJ续享2.1相交链表2.2环形链表12.2环形链表2 三、总结一、前言哦了兄弟们，咱们上次在详解链表OJ题的时候，有一部分OJ题呢up并没有整理完，这一个星期呢，up也是在不断的学习并且沉淀着，也是终于…...

编程日记 2025/9/8 16:53:06

免费送源码：Java+ssm+MySQL 基于PHP在线考试系统的设计与实现计算机毕业设计原创定制

摘要信息化社会内需要与之针对性的信息获取途径，但是途径的扩展基本上为人们所努力的方向，由于站在的角度存在偏差，人们经常能够获得不同类型信息，这也是技术最为难以攻克的课题。针对在线考试等问题，对如何通过计算…...

编程日记 2025/9/7 13:49:49

Android之JNI详解

Android之JNI详解简介创建项目注册动态注册静态注册关键词解读基础数据类型引用java对象JNI引用与释放cmake配置文件简介 JNI（Java Native Interface） 是 Java 提供的一种编程框架，用于在 Java 应用程序中调用和与用其他编程语言&#xf…...

编程日记 2025/9/10 18:37:03

React Hooks: useRef，useCallback，useMemo用法详解

1. useRef（保存引用值） useRef 通常用于保存“不会参与 UI 渲染，但生命周期要长”的对象引用，比如获取 DOM、保存定时器 ID、WebSocket等。新建useRef.js组件，写入代码： import React, { useRef, useSt…...

编程日记 2025/9/8 20:44:50

Java基础知识

概念请介绍全局变量和局部变量的区别 Java中的变量分为成员变量和局部变量，它们的区别如下： 成员变量： 1. 成员变量是在类的范围里定义的变量； 2. 成员变量有默认初始值； 3. 未被static修饰的成员变量也叫…...

编程日记 2025/9/7 4:13:45

体验智能体构建过程：从零开始构建Agent

1. 什么是智能体？ 智能体（Agents）是一种能够感知环境、做出决策并采取行动来实现特定目标的自主实体。智能体的复杂程度各不相同，从简单的响应式智能体（对刺激直接做出反应）到更高级的智能体（能…...

编程日记 2025/9/10 1:26:09

如何从项目目标到成功标准：构建可量化、可落地的项目评估体系

引言在项目管理领域，"项目成功"的定义往往比表面看起来更复杂。根据PMI的行业报告，67%的项目失败源于目标与成功标准的不匹配。当项目团队仅关注"按时交付"或"预算达标"时，常会忽视真正的价值创造。本文将通…...

编程日记 2025/9/8 0:49:22

大模型论文：Language Models are Few-Shot Learners(GPT3)

大模型论文：Language Models are Few-Shot Learners(GPT3) 文章地址：https://proceedings.neurips.cc/paper_files/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf 一、摘要我们证明了，扩大语言模型的规模在任务无关的 few…...

编程日记 2025/9/7 11:40:08

驱动学习专栏--字符设备驱动篇--1_chrdevbase

字符设备驱动简介字符设备是 Linux 驱动中最基本的一类设备驱动，字符设备就是一个一个字节，按照字节流进行读写操作的设备，读写数据是分先后顺序的。比如我们最常见的点灯、按键、 IIC 、 SPI ， LCD 等等都是字符设备&…...

编程日记 2025/9/11 11:01:14

muduo库源码分析: TcpConnection

一. 主要成员: socket_：用于保存已连接套接字文件描述符。channel_：封装了上面的socket_及其各类事件的处理函数（读、写、错误、关闭等事件处理函数）。这个Channel中保存的各类事件的处理函数是在TcpConnection对象构造函数中注册…...

编程日记 2025/9/10 1:26:13

【SLAM】ubuntu 18.04 编译安装 OpenCV 3.2.0 时出现哈希错误

本文首发于❄慕雪的寒舍 1. 前言 1.1. 问题说明在amd64的ubuntu 18.04 desktop上编译安装 OpenCV 3.2.0 的时候，我遇到了cmake构建错误。错误的核心报错如下 for file: [/home/king/slam/pkg/opencv-3.2.0/3rdparty/ippicv/downloads/linux-808b791a6eac9ed78d32…...

编程日记 2025/9/6 10:38:35

挂马漏洞 asp连接冰蝎webshell (附webshell源码仅限学习研究）

目录 ASP WebShell代码代码说明： 部署步骤： 使用冰蝎客户端连接： 注意事项： ASP WebShell代码 <% 冰蝎连接密码（需与冰蝎客户端配置一致） Dim key key "mysecretkey123" 自定义密码…...

编程日记 2025/9/4 22:53:33

Grafana将弃用AngularJS-我们该如何迁移

AngularJS 弃用时间线 AngularJS 支持已在 Grafana 9 中正式弃用。在 2024 年 5 月发布的 Grafana 11 中，所有 Grafana Cloud 和自托管安装默认关闭该功能。到 Grafana 12 版本时，将完全移除对 AngularJS 的支持，包括配置参数开关 angular_s…...

编程日记 2025/9/3 1:26:05

基于单片机的病房呼叫系统设计

2.1 总体方案设计本课题为基于单片机的病房呼叫系统设计，在此将整个系统架构设计如图2.1所示，在此采用八个按键模拟8个不同的病房号，再通过8个LED指示灯对病房号的状态进行指示，当用户按键按键时，相应的LED灯会点亮…...

编程日记 2025/9/10 0:38:22

简述一下Unity的UnityWebRequest

UnityWebRequest是Unity引擎中用于处理网络请求的强大工具，尤其适用于与Web服务器进行交互，比如获取数据、上传文件或下载资源等。相较于旧版的WWW类，UnityWebRequest提供了更灵活、更高效的API，支持多种HTTP方法，并能…...

编程日记 2025/9/7 18:33:09

文件操作和IO - 2

目录 Java 中操作文件 File 概述属性构造方法方法 getParent getName getPath getAbsolutePath getCanonicalPath exists isFile isDirectory createNewFile delete deleteOnExit list listFiles mkdir mkdirs 完！ Java 中操作文件 Java 对于文件操…...

编程日记 2025/9/10 14:48:09

⑪数据中心网络M-LAG实战

一、DeviceA-M-LAG-Mater配置 1、M-LAG 系统配置。 # m-lag mad exclude interface GigabitEthernet1/0/7 m-lag mad exclude interface Vlan-interface100 m-lag mad exclude interface Vlan-interface101 m-lag system-mac 0002-0002-0002 m-lag system-number 1 m-la…...

编程日记 2025/9/7 5:25:13

Win10系统安装WSL2-Ubuntu, 并使用VScode开始工作

本教程基于博主当前需要使用 WSL2(Windows Subsystem for Linux 2) 而编写，将自己使用的经过分享给大家。有什么意见建议敬请大家批评指正。此过程需要打开 Microsoft Store 话不多说，立即开始~ 文章目录 1. 检查系统版本2. 启动 WSL 功能3. 安装Ubuntu4…...

编程日记 2025/9/11 13:14:29

Node.js种cluster模块详解

Node.js 中 cluster 模块全部 API 详解 1. 模块属性 const cluster require(cluster);// 1. isMaster // 判断当前进程是否为主进程 console.log(是否为主进程:, cluster.isMaster);// 2. isWorker // 判断当前进程是否为工作进程 console.log(是否为工作进程:, cluster.isW…...

编程日记 2025/9/10 0:48:28

Window 10使用WSL2搭建Linux版Android Studio应用开发环境

一、背景公司基于高通SA8155、SA8295等车载芯片进行座舱系统开发，使用repo统一管理系统及应用源码仓库。 Android应用端使用Ubuntu环境Android Studio进行开发，使用repo进行平台性管理，包含所有应用仓库。由于gradle配置使用了linux下文件软链接，无法直接使用Window环境…...

编程日记 2025/9/9 22:17:10

PostgreSQL 的统计信息

PostgreSQL 的统计信息 PostgreSQL 的统计信息是查询优化和性能调优的基础，系统通过多种统计信息来评估数据分布和访问模式，从而生成高效的执行计划。一统计信息类型与用途 1.1 核心统计类别统计类型存储位置主要用途更新机制表和索引扫描统计pg_…...

编程日记 2025/9/9 16:08:53

【Linux】Linux基础指令

Linux系统初步介绍 Linux是一种自由和开放源代码的类UNIX操作系统,该操作系统的内核由林纳斯托瓦兹在1991年首次发布,之后,在加上用户空间的应用程序之后,就成为了Linux操作系统｡ 严格来讲,Linux 只是操作系统内核本身,但通常采用“Linux内核”来表达该意思&#…...

编程日记 2025/9/8 22:43:04

【SLAM】在ORB_SLAM2的ROS模式下使用RealSense D435相机

本文介绍了如何在ORB_SLAM2项目中使用RealSense D435相机作为RGB-D输入源，包括ROS下启动D435相机、ORB_SLAM2订阅Topic、ORB_SLAM2读取realsense-viewer录制的rosbag文件等步骤。。本文首发于❄慕雪的寒舍 1. 前言先前已经编写了如何用TUM数据集运行ORB_SLAM3以及…...

编程日记 2025/9/11 7:01:34

scapy使用

https://scapy.readthedocs.io/en/latest/introduction.html 在 Mac 上使用 Scapy 抓取特定 IP 的流量并保存到 a.pcap 的步骤如下： 步骤 1：安装 Scapy 在终端中执行以下命令安装： pip install scapy步骤 2：创建 Python 脚本 …...

编程日记 2025/9/2 11:25:13

C2000 系统控制（4） — CPU Memory

CPU 内存内存控制器在 C2000 实时微控制器上，RAM 具有不同的特性。这些特性包括： CPU 专用：M0、M1 RAMCPU 和 CLA 共享：LSx RAMCPU、DMA 和 HIC 共享：GSx RAM用于在处理器之间发送和接收消息：MSG RAM …...

编程日记 2025/9/10 18:50:26

Linux网络编程——详解网络层IP协议、网段划分、路由

目录一、前言二、IP协议的认识 1、什么是IP协议？ 2、IP协议报头三、网段划分 1、初步认识IP与路由 2、IP地址 I、DHCP动态主机配置协议 3、IP地址的划分 I、CIDR设计 II、子网数目的计算 III、子网掩码的确定四、特殊的IP地址五、IP地址的数量限…...

编程日记 2025/9/11 3:22:34

解析医疗器械三大文档：DHF、DMR与DHR

医疗器械的 DHF、DMR 和 DHR 是质量管理体系（QMS）中的核心文件，贯穿产品全生命周期， 确保医疗器械的安全性、有效性和合规性。一、三大文件的定义与法规依据缩写全称法规依据（以 FDA 为例）核心目的DHF…...

编程日记 2025/9/1 7:06:50

SQL 全文检索原理

全文检索(Full-Text Search)是SQL中用于高效搜索文本数据的技术，与传统的LIKE操作或简单字符串比较相比，它能提供更强大、更灵活的文本搜索能力。基本概念全文检索的核心思想是将文本内容分解为可索引的单元(通常是词或词组)，然后建立倒排…...

编程日记 2025/9/9 8:21:15

基于Rosen梯度投影法的约束优化问题求解及MATLAB实现

摘要在工程优化、经济建模等领域，约束优化问题普遍存在，其核心是在满足线性或非线性约束条件下求解目标函数的极值。本文聚焦Rosen梯度投影法，系统阐述其算法原理、实现步骤及MATLAB编程方法。关键词：Rosen梯度投影法&#xf…...

编程日记 2025/9/8 21:21:45

Model Context Protocol (MCP) - 尝试创建和测试一下MCP Server

1.简单介绍 MCP是Model Context Protocol的缩写，是Anthropic开源的一个标准协议。MCP使得大语言模型可以和外部的数据源，工具进行集成。当前MCP在社区逐渐地流行起来了。同时official C# SDK(仓库是csharp-sdk) 也在不断更新中，目前最新版本…...

编程日记 2025/9/11 7:53:09

Linux上位机开发实践（关于Qt的移植)

编程日记 2025/9/7 1:24:17

Node.js 项目用 `Docker Compose` 发布的完整流程

Node.js 项目用 Docker Compose 发布的完整流程 ✅ 一、基本项目结构示例以一个简单 Express 项目为例： my-node-app/ ├── app.js # 启动文件 ├── package.json ├── package-lock.json ├── Dockerfile # 构建 Node 容器 ├…...

编程日记 2025/9/5 14:27:26