当前位置：首页 > news >正文

SVTAV1函数分析-svt_av1_cost_coeffs_txb

news 来源：原创 2025/7/12 19:53:34

一函数作用

函数svt_av1_cost_coefss_txb是一个与AV1视频编码相关的函数，主要用于计算变换块(Transform Block)中系数的成本(Cost)。在视频编码中，特被是在AV1编码中，计算系数的成本对于模式决策(Mode Decision)和熵编码(Entropy Coding)

等步骤非常重要。这个函数可能涉及到量化系数，变换类型，上下文自适应二进制算术编码(Context-Adaptive Binary Arithmetic Coding CABAC)等内容。

函数参数解释

1 struct ModeDecisionContext *ctx;

这是一个指向模式决策上下文的指针，模式决策上下文包含了当前编码过程中的一些状态信息和配置参数，这些信息对于决定最佳的编码模式至关重要。它可能包括诸如块大小，帧类型，参考帧等信息。

2 unint8_t allow_update_cdf

这是一个标志，用于指示是否允许更新累积分布函数CDF，CDF在熵编码中用于表示符号的概率分布。如果允许更新，则编码器可以根据实际数据调整概率模型，这可能有助于提高编码效率。

3 FRAME_CONTEXT *en_ctx

这是一个指向帧上下文的指针，帧上下文包含了当前帧的编码上下文信息，可能包括诸如概率模型，统计信息等。这些信息对于熵编码过程中的符号概率估计和编码决策非常重要。

4 struct ModeDecisionCandidateBuffer *cand_bf;

这是一个指向模式决策候选缓冲区的指针。候选缓冲区可能存储了多个编码模式的候选信息，这些信息用于模式决策过程，可能包括诸如不同变换类型，预测模式等候选配置。

5 const TranLow *const qcoeff

这是一个指向量化系数的指针。量化系数是经过量化处理后的变换系数，它们是视频编码中用于表示图像块信息的重要数据，这些系数将用于计算成本。

6 uint16_t eob

这是End of block的缩写，表示块中最后一个非零系数的位置，在视频编码中，特别是在变换和量化之后，块中的许多系数可能变为零，EOB值可以额帮助快速定位到最后一个非零系数，从而提高编码效率。

7 PlaneType plane_type

这个参数指定了当前处理的平面类型，在视频编码中，图像通常被氛围亮度平面和色度平面，这个参数可能用于区分不同平面类型，并根据平面类型应用不同的编码策略。

8 TxSize transform_size

这个参数指定了变换块的大小，在AV1只能够，支持多种变换块大小，如4x4,8x8,16x16，32x32 等。变换块大小的选择会影响编码效率和计算复杂度。

9 TxType transform_type

这个参数指定了变换类型，在AV1中，支持多种变换类型。如DCT,ADST等，不同的变换类型适用于不同的图像内容和编码需求。

10 int16_t txb_skip_ctx

这个参数可能与变换块跳过(Transform Block Skip)的上下文有关，某些情况下，如果块中的系数非常稀疏或者满足某些条件，可以跳过变换和量化过程，以计生计算资源和编码时间。

11 int16_t dc_sign_ctx

这个参数可能与直流分量DC符号的上下文有关，直流分量是变换系数中的低频部分，对编码效率有影响

12 Bool reduced_transform_set_flag

这是一个布尔标志，用于指示是否使用简化的变换集，在某些编码配置下，为了减少计算复杂度，可能会限制可用的变换类型。

二函数注释

//定义函数，计算AV1，编码中变换块系数的成本

uint64_t svt_av1_cost_coeffs_txb(struct ModeDecisionContext *ctx,

uint8_t allow_update_cdf, FRAME_CONTEXT *ec_ctx,

struct ModeDecisionCandidateBuffer *cand_bf,

const TranLow *const qcoeff,

uint16_t eob,

PlaneType plane_type,

TxSize transform_size,

TxType transform_type,

int16_t txb_skip_ctx,

int16_t dc_sign_ctx,

Bool reduced_transform_set_flag)

{

//计算变换块大小的上下文索引

const TxSize txs_ctx = (TxSize)((txsize_sqr_map[transform_size] + txsize_sqr_up_map[transform_size] + 1) >> 1);

//获取变换类

const TxClass tx_class = tx_type_to_class[transform_type];

//初始化成本变量

int32_t cost;

//获取变换块的对数宽度

const int32_t bwl = get_txb_bwl_tab[transform_size];

//获取变换块的宽度

const int32_t width = get_txb_wide_tab[transform_size];

//获取变换块的高度

const int32_t height = get_txb_high_tab[transform_size];

//获取扫描顺序

const ScanOrder *const scan_order = &av1_scan_orders[transform_size][transform_type]; //获取扫描顺序

//获取扫描数组

const int16_t *const scan = scan_order->scan;

//定义存储系统级别的缓冲区

uint8_t levels_buf[TX_PAD_2D];

//设置系数级别指针

uint8_t *const levels = set_levels(levels_buf, width);

//定义存储系数上下文的数组

DECLEAR_ALGIED(16, int8_t, coeff_contexts[MAX_TX_SQUARE]);

//断言txs_ctx小于变换块大小

assert(txs_ctx < TX_SIZES);

//获取系数代价

const LvMapCoeffCost *const coeff_costs = &ctx->md_rate_est_ctx->eob_frac_bits[eob_multi_size][plane_type];

//计算eob的多尺寸大小

const int32_t eob_multi_size = txsize_log2_minus4[transform_size];

//获取eob成本

const LvMapEobCost *const eob_bits = &ctx->mb_rate_est_ctx->eob_frac_bits[eob_multi_size][plane_type];

//eob必须大于0

assert(eob > 0);//如果eob = 0就不用往下走了

//初始化成本为txb_skip_cost

cost = coeff_costs->txb_skip_cost[txb_skip_ctx][0];

//如果允许更新CDF

if (allow_update_cdf)

update_cdf(ec_ctx->txb_skip_cdf[txs_ctx][txb_skip_ctx], eob == 0, 2);

//如果eob 大于1

if (eob > 1)

//初始化levels

svt_av1_txb_init_levels(qcoeff, width, height, levels);

//判断是否为INTR模式

const Bool is_inter = is_inter_mode(cand_bf->cand->pred_mode);

//变换类型估计

cost += plane_type > PLANE_TYPE_Y ? 0;

av1_transform_type_rate_estimation(ctx, allow_update_cdf, ec_ctx, cand_bf,

is_inter, transform_size, tranform_type, reduced_transform_set_flag);

int32_t eob_cost = get_sob_cost(eob, eob_bits, coeff_costs, tx_class);

cost += eob_cost;

//如果允许更新CDF

if (allow_update_cdf)

//更新eob上下文

svt_av1_update_eob_context(eob, tranform_size, tx_class, plane_type, ex_ctx, allow_update_cdf);

//变换非零系数位估计

svt_av1_get_nz_map_contexts(levels, scan, eob, transform_size, tx_class, coeff_contexts);

//version is avaiable in AOM

assert(eob < width * height);

if (allow_update_cdf) {

//从eob - 1到0循环

for (int c = eob - 1; c>=0; --c) {

//获取位置

const int pos = scan[c];

//获取系数上下文

const int coeff_ctx = coeff_contexts[pos];

//获取系数值

const TranLow v = qcoeff[pos];

//获取系数绝对值

const TranLow level = abs(v);

//如果最后一个系数

if (c == eob - 1) {

//断言系数上下文小于4

assert(coeff_ctx < 4);

//更新coeff_base_eob_cdf

update_cdf(ec_ctx->coeff_base_eob_cdf[txs_ctx][plane_type][coeff_ctx], AOMMIN(level, 3) - 1, 3);

} else {

//更新coeff_base_cdf

uodate_cdf(ec_ctx->coeff_base_cdf[txs_ctx][plane_type][coeff_ctx], AOMIN(level, 3), 4);

}

//如果最后一个系数

if (c == eob - 1) {

assert(coeff_ctx < 4);

#if CONFIG_ENTROPY_STATS

//增加统计计数

++td->counts->coeff_base_eob_multi[cdf_idx][txsize_ctx][plane_type][coeff_ctx][AOMIN(level, 3) - 1];

} else {

//增加统计计数

++td->counts->coeff_base_multi[cdf_idx][txsize_ctx][plane_type][coeff_ctx][AOMIN(level, 3)];

}

//如果系数绝对值大于NUM_BASE_LEVELS

if (level > NUM_BASE_LEVELS) {

const int base_range level - 1 - NUM_BASE_LEVELS;

int br_ctx;

//如果eob等于1

if (eob == 1)

br_ctx = 0;

else

br_ctx = get_br_ctx(levels, pos, bwl, tx_class);

//循环更新CDF

for (int idx = 0; idx < COEFF_BASE_RANGE; idx += BR_CDF_SIZE - 1) {

//计算k

const int k = AOMMIN(base_range - idx, BR_CDF_SIZE - 1);

//更新coeff_br_cdf

update_cdf(ec_ctx->coeff_br_cdf[AOMMIN(txs_ctx, TX_32X32)][plane_type][br_ctx], k, BR_CDF_SIZE);

//循环处理LPS

for (int lps = 0; lps < BR_CDF_SIZE - 1; lps ++) {

#if CONFIG_ENTROPY_STATS

//增加统计计数

++td->counts->coeff_lps[AOMMIN(txclass_ctx, TX_32x32)[plane_type][lps][br_ctx][lps == k];

if (lps == k)

break;

}

//增加统计计数

++td->counts->coeff_lps_multi[cdf_idx][AOMMIN(txsize_ctx, TX_32X32)][plane_type][br_ctx][k];
#endif// 如果k小于BR_CDF_SIZE-1，跳出循环if (k < BR_CDF_SIZE - 1)break;

}

//如果第一个系数不为0

if (qcoeff[0] != 0) {

update_cdf(ec_ctx->dc_sign_cdf[plane_type][dc_sign_ctx], qcoeff[0] < 0, 2);

return 0;

}

//计算并返回成本

cost += av1_cost_coeffs_txb_loop_cost_eob(
        ctx, eob, scan, qcoeff, coeff_contexts, coeff_costs, dc_sign_ctx, levels, bwl, transform_type);// 返回成本return cost;

}

SVTAV1函数分析-svt_av1_cost_coeffs_txb

一函数作用函数svt_av1_cost_coefss_txb是一个与AV1视频编码相关的函数，主要用于计算变换块(Transform Block)中系数的成本(Cost)。在视频编码中，特被是在AV1编码中，计算系数的成本对于模式决策(Mode Decision)和熵编码(Entropy Coding) 等…...

编程日记 2025/7/12 19:53:34

【Linux加餐-验证UDP:TCP】-windows作为client访问Linux

一、验证UDP-windows作为client访问Linux UDP client样例代码 #include <iostream> #include <cstdio> #include <thread> #include <string> #include <cstdlib> #include <WinSock2.h> #include <Windows.h>#pragma warning(dis…...

编程日记 2025/7/9 5:23:11

qt+opengl 加载三维obj文件

1前面我们已经熟悉了opengl自定义顶点生成一个立方体，并且我们实现了立方体的旋转，光照等功能。下面我们来用opengl来加载一个obj文件。准备我们首先准备一个简单的obj文件（head.obj）。资源在本页下载 2 在obj文件里面&#xff0c…...

编程日记 2025/7/10 14:13:21

日报日报流量分析

快捷键 CtrlK，选择需要抓包的网卡 CtrlF可以进行关键字搜索 CtrlM，标记数据包 CtrlShiftN跳到标记处查看包有多少协议Protocol Hierarchy（协议分级） 搜了一下TCP协议，是互联网最基本的协议&#xff0…...

编程日记 2025/7/12 8:20:38

SQL：CASE WHEN使用详解

文章目录 1. 数据转换与映射2. 动态条件筛选3. 多条件分组统计4. 数据排名与分级5. 处理空值与默认值6. 动态排序 CASE WHEN 语句在 SQL 中是一个非常强大且灵活的工具，除了常规的条件判断外，还有很多巧妙的用法，以下为你详细总结&#xff1a…...

编程日记 2025/7/10 7:55:19

在 Unreal Engine 5 中制作类似《鬼泣5》这样的游戏时，角色在空中无法落地的问题可能由多种原因引起。

系列文章目录文章目录系列文章目录前言一、实现步骤二、涉及到的蓝图三、如何把敌人击飞到空中前言在 Unreal Engine 5 中制作类似《鬼泣5》这样的游戏时，角色在空中无法落地的问题可能由多种原因引起。一、实现步骤角色碰撞设置确保角色的碰撞组件&…...

编程日记 2025/7/12 19:50:32

mapbox进阶，添加鹰眼图控件

👨‍⚕️ 主页： gis分享者 👨‍⚕️ 感谢各位大佬点赞👍 收藏⭐ 留言📝 加关注✅! 👨‍⚕️ 收录于专栏：mapbox 从入门到精通文章目录一、🍀前言1.1 ☘️mapboxgl.Map 地图对象1.2 ☘️mapboxgl.Map style属性1.3 ☘️mapboxgl-minimap 鹰眼控件二、🍀添加…...

编程日记 2025/7/10 4:17:26

k8s污点与容忍

k8s污点与容忍 k8s污点管理常用命令effect标记值查看污点添加污点删除污点 node污点与容忍污点容忍yaml示例容忍放大基于污点的驱逐驱逐时排除指定服务设置master调度设置master尽量不调度允许master节点调度pod恢复Master Only状态将node标记为不可调度状态(节点警戒)设置nod…...

编程日记 2025/7/10 4:16:18

算法刷题记录——LeetCode篇(9.1) [第801~810题]

更新时间：2025-03-29 算法题解目录汇总：算法刷题记录——题解目录汇总技术博客总目录：计算机技术系列博客——目录页优先整理热门100及面试150，不定期持续更新，欢迎关注！ 801. 使序列递增的最小交换次数…...

编程日记 2025/7/9 8:14:25

AOA与TOA混合定位，MATLAB例程，自适应基站数量，三维空间下的运动轨迹，滤波使用EKF

本代码实现了一个基于到达角（AOA）和到达时间（TOA）的混合定位算法，结合扩展卡尔曼滤波（EKF）对三维运动目标的轨迹进行滤波优化。代码通过模拟动态目标与基站网络，展示了从信号测量、定位解算到轨迹滤波的全流程，适用于城市峡谷、室内等复杂环境下的定位研究。文…...

编程日记 2025/7/9 23:11:21

【vllm/瞎折腾】在内网wsl上安装vllm并尝试多节点部署(失败了)

目录说在前面miniconda安装外网创建虚拟环境创建节点一的虚拟环境创建节点二的虚拟环境内网配置环境配置节点一的环境配置节点二的环境 vllm多节点配置节点一(主节点)配置节点二配置部署LLM(失败)补充：wsl2设置ulimit补充：wsl安装libcuda补充&#xf…...

编程日记 2025/7/10 1:06:50

Mayo Clinic Platform在人工智能医疗领域的现状及启示意义研究

一、引言 1.1 研究背景与意义在科技飞速发展的当下，人工智能（AI）已逐渐渗透至各个行业，医疗领域作为关乎人类生命健康的重要领域，也迎来了人工智能技术带来的深刻变革。人工智能医疗，作为人工智能与医疗行业深度融合的产物，正重塑着全球医疗的格局。从全球范围来看，…...

编程日记 2025/7/12 17:32:13

k8s部署教程

Kubernetes 1. 使用Kubernetes部署Web服务器我们的目标是部署三个实例，可以让用户直接访问。三个实例，这样即便一个崩溃了，也还有两个，比较不容易出问题。实际中你要根据自己的业务来判断。也就是说，我们需要一个…...

编程日记 2025/7/11 21:24:51

java基础：常见类和对象

1.常见类和对象： java.lang.Object类，Java中的每个类都直接或间接地继承自Object类，如果没有明确指定一个类继承另一个类，那么它的默认父类就是Object类； 例如多态： package java_jichu;public class ja…...

编程日记 2025/7/8 1:20:17

了解遗传算法的Matlab程序的奥妙之处

老板突然想要了解遗传算法的Matlab程序，我们需要先理清楚他们的需求。首先，老板可能对遗传算法有一定的了解，但不太清楚如何在Matlab中具体实现。他可能是一个学生或者研究人员，需要应用到某个项目中，比如优化问题。老板可能希望得到一个结构清晰的步骤说明，以及具体的代…...

编程日记 2025/6/30 1:10:39

Java学习------源码解析之StringBuilder

1. 介绍 String中还有两个常用的类，StringBuffer和StringBuilder。这两个类都是专门为频繁进行拼接字符串而准备的。最先出现的是StringBuffer，之后到jdk1.5的时候才有了StringBuilder。 2. StringBuilder解析从这张继承结构图可以看出： S…...

编程日记 2025/7/4 5:54:52

【漫话机器学习系列】163.方差膨胀因子（Variance Inflation Factor, VIF）

方差膨胀因子（Variance Inflation Factor, VIF）详解 1. 什么是方差膨胀因子？ 方差膨胀因子（Variance Inflation Factor, VIF）是一种用于衡量回归分析中多重共线性（Multicollinearity）程度的指…...

编程日记 2025/7/9 15:42:23

蓝桥杯省模拟赛字符串拼接

问题描述给定四个字符串 a,b,c,d，请将这四个字符串按照任意顺序依次连接拼成一个字符串。请问拼成的字符串字典序最小是多少？ 输入格式输入四行，每行包含一个字符串。输出格式输出一行包含一个字符串，表示答案。样例…...

编程日记 2025/7/11 18:59:51

前端路由守卫与后端权限验证，仅使用路由守卫是否安全？

前后端分离架构的安全原则后端必须对所有 API 接口进行权限验证前端仅负责用户界面的重定向安全策略应始终由后端最终决定问题1：前端设置路由守卫是否可以阻挡用户直接通过URL访问？？？ 前端路由守卫（如 Vue Router …...

编程日记 2025/7/7 14:24:56

React-nodejs 练习个人博客

1.主要功能模块： 文章管理：CRUD操作用户系统：注册、登录、权限控制评论系统：文章评论功能 2.技术栈： 前端：React Ant Design React Router后端：Express MongoDB 通信：RESTful…...

编程日记 2025/6/30 20:08:19

AI三大主义和深度学习三大主义

在人工智能（AI）研究领域，"三大主义"通常指三种核心方法论或思想流派，它们代表了不同的技术路径和哲学观点。以下是主流的划分方式： 1. 符号主义（Symbolicism） 核心思想：智…...

编程日记 2025/7/11 17:20:12

Linux实现生产者消费者模型（基于阻塞队列）

目录概念及优势代码实现概念及优势生产者消费者模型是一种用于线程同步的模型，在这个模型中有两种角色，生产者生产数据，消费者消费数据。有三种关系，生产者与生产者，消费者与消费者，生产者与消费者。…...

编程日记 2025/7/11 21:07:06

UE5 UE4 右键/最大化-菜单-不显示/闪/黑色/黑屏--修复方法

先关闭UE5 、UE4 编辑器。进入这个网站：https://nvidia.custhelp.com/app/answers/detail/a_id/5157 网速慢，换成这个下载：https://download.csdn.net/download/qq_21153225/90546310 下载：mpo_disable.reg 的文件只双击“mpo…...

编程日记 2025/7/11 1:09:32

[ C语言 ] | 从0到1？

目录认识计算机语言 C语言工欲善其事必先利其器第一个C语言代码这一些列 [ C语言 ] ，就来分享一下 C语言相关的知识点~ 认识计算机语言我们说到计算机语言，语言，就是用来沟通的工具，计算机语言呢？就是我们…...

编程日记 2025/7/10 14:10:55

4.训练篇2-毕设篇

resnet # 1. 从 torchvision 中加载预训练的 ResNet18 模型 # pretrainedTrue 表示使用在 ImageNet 上预训练过的参数，学习效果更好 base_model_resnet18 models.resnet18(pretrainedTrue)# 2. 获取 ResNet18 模型中全连接层（fc）的输入特征…...

编程日记 2025/7/8 13:00:35

Ubuntu 系统中，每日健康检查

一、手动检查命令（基础项） 1. 系统资源监控内存使用： free -h # 查看内存和交换空间使用情况 cat /proc/meminfo | grep -i "memavailable" # 查看可用内存CPU 负载： top -n 1 -b | grep "load ave…...

编程日记 2025/7/3 4:48:41

#CX# UVM中的virtual sequence 和 virtual sequencer 的用途

在UVM中，Virtual Sequence（虚拟序列）的核心用途是协调多个物理Sequencer上的Sequence执行，以实现跨接口、跨组件的复杂事务同步和场景控制。 1. 核心用途多接口协同测试当验证场景需要多个接口（如DUT的AXI、I2C、UART接口）同时或按特定顺序发送事务时，Virtual Seque…...

编程日记 2025/7/10 9:43:44

vue：突然发现onok无法使用

const that this;this.$confirm({title: "修改商品提示",content: "如果当前商品存在于商品活动库，则在商品活动库的状态会下架",onOk: function () {that.submitForm();}}); 突然发现 this.$confirm无法进入onok 最终发现是主题冲突&#x…...

编程日记 2025/7/11 18:22:49

开发过程中需要安装的浏览器插件

Vue.js devtools https://chromewebstore.google.com/detail/vuejs-devtools/nhdogjmejiglipccpnnnanhbledajbpd?hlzh-CN&utm_sourceext_sidebar ModHeader https://chromewebstore.google.com/detail/modheader-modify-http-hea/idgpnmonknjnojddfkpgkljpfnnfcklj?utm…...

编程日记 2025/7/8 1:28:38

一 函数作用

二 函数注释

相关文章：

一函数作用

二函数注释