当前位置：首页 > news >正文

SparseDrive---论文阅读

news 来源：原创 2025/8/23 23:03:33

纯视觉下的稀疏场景表示

算法动机&开创性思路

算法动机：

依赖于计算成本高昂的鸟瞰图（BEV）特征表示。
预测和规划的设计过于直接，没有充分利用周围代理和自我车辆之间的高阶和双向交互。
场景信息是在agent周围提取，没有考虑到自我车辆对周围代理的影响，忽略了自我车辆在运动预测和规划中的作用。
运动预测和规划都被视为多模态问题，但现有方法只预测确定性的轨迹，没有考虑到内在的不确定性。

开创性思路：为了解决以上问题，

1.通过稀疏场景表示和重新设计的预测与规划任务，提高了自动驾驶系统的性能和效率，特别是在规划安全性方面。
2.SparseDrive包含对称的稀疏感知模块和并行运动规划器，通过有效的设计，实现了在所有任务中的性能提升，同时保持了更高的训练和推理效率。
3.修改了运动预测和规划之间的巨大相似性，串级模块，提出了一种分层规划选择策略

主体结构

输入：6图感知，输出：自车规划模块以及其他Agent规划模块

+---------------------+
|      SparseDrive    |
+---------------------+
|  use_grid_mask      |
|  use_deformable_func|
+---------------------+
|  img_backbone (ResNet)|
|  img_neck (FPN)     |
|  depth_branch       |
+---------------------+
|       head          |
+---------------------+
|  det_head (Sparse4DHead)|
|  map_head (Sparse4DHead)|
|  motion_plan_head (MotionPlanningHead)|
+---------------------+

包括特征提取（ImageEncoder），对称稀疏感知（SymmetricSparsePerception），平行运动规划器（ParallelMotionPlanner）

对称稀疏感知，主要包括稀疏检测，稀疏在线建图，稀疏跟踪模块

图像编码：

给定多视图图像，图像编码器（包括主干网络和颈部）首先将图像编码为多尺度特征图，其中S是尺度数，N是camera图数

对称稀疏感知模块：

如下图，特征图被聚合成2组实例，来学习驾驶场景稀疏表示，俩组实例分别代表周围智能体Initialized Detection Instances 是数据集里的anchor，(x,y,z,lnw,lnh,lnl,sin yaw,cos yaw,vx,vy,vz)和地图元素Initialized Map Instances （x0,y0,x1,y1...xNp-1,yNp-1）
Feature Maps是6张图特征

平行运动规划器：

自车Ego轨迹预测和其他Agent的轨迹预测应该合并成一个任务，具有相互影响
Ego Insitance初始化：和其他模Agent不一样，在相机视角下，是处于盲区的，Ego的特征是采用前视视角下图像特征图，并且在ResNet在输出多尺度特征取得最小特征图后平均池化去作为Ego特征初始化，Ego Anchor对于x，y，yaw是每一帧定义好，但是速度，加速度会让主车根据运动属性使得模型学习shortcut，不利于学习主车自主交互，所以用T-1时刻状态进行预测，作为辅助任务进行Loss监督

新的范式：

稀疏场景表示（Sparse Scene Representation）：
- SparseDrive采用了稀疏表示来学习驾驶场景的完整表示，这种表示通过对称的稀疏感知模块实现，该模块统一了检测、跟踪和在线映射任务。
对称稀疏感知模块（Symmetric Sparse Perception Module）：
- 该模块通过结构对称性，将检测、跟踪和在线映射集成到一个模型架构中，学习场景的稀疏表示。
并行运动规划器（Parallel Motion Planner）：
- SparseDrive的并行运动规划器同时进行运动预测和规划，考虑了自我车辆和周围代理之间的高阶和双向交互。
层次化规划选择策略（Hierarchical Planning Selection Strategy）：
- 该策略包括一个碰撞感知重分模块（Collision-Aware Rescore Module），用于从多模态轨迹提议中选择一个合理且安全的轨迹作为最终规划输出。
端到端学习（End-to-End Learning）：
- SparseDrive采用多阶段训练方法，首先分别训练稀疏感知模块，然后在第二阶段联合训练稀疏感知模块和并行运动规划器，实现端到端优化。
效率优化：
- 论文中提出的SparseDrive在保持高性能的同时，还实现了更高的训练和推理效率。

通过这些设计，SparseDrive能够在所有任务中实现比之前最先进方法更高的性能，同时在训练和推理效率上也有显著提升。具体来说，SparseDrive在nuScenes基准测试中超越了先前的最先进方法，尤其是在安全性关键指标碰撞率方面，同时保持了更高的训练和推理效率

损失函数

Loss ： L = Ldet + Lmap + Lmotion + Lplan + Ldepth

Stage1：从头开始训练对称稀疏感知模块，以学习稀疏场景表示

Stage2：稀疏感知模块和并行运动规划期一起训练

性能对比

3D detection results,Multi-object tracking results ,Online mapping results

Prediction Results,Planning results

效率对比，平行运动规划器中的各模块消融实验

总结：

A: 这篇论文提出了SparseDrive，一种新颖的端到端自动驾驶范式，旨在通过稀疏场景表示和优化的任务设计来提高自动驾驶系统的性能和效率。以下是论文的主要内容总结：

问题识别：传统的自动驾驶系统采用模块化设计，导致信息丢失和误差累积。现有的端到端方法在性能和效率上，特别是在规划安全性方面，仍有不足。
SparseDrive范式：提出了SparseDrive，一种新的端到端自动驾驶范式，它利用稀疏表示来统一处理检测、跟踪、在线映射、运动预测和规划任务。
关键组件：
- 对称稀疏感知模块：通过结构对称性，同时处理检测、跟踪和在线映射任务。
- 并行运动规划器：同时进行运动预测和规划，考虑自我车辆与周围代理的交互。
层次化规划选择策略：提出了一种策略，通过碰撞感知重分模块来选择安全合理的轨迹。
端到端学习：采用分阶段训练方法，先分别训练感知模块，然后联合训练感知和规划模块，实现端到端优化。
实验验证：在nuScenes数据集上进行了广泛的实验，证明了SparseDrive在3D检测、多目标跟踪、在线映射、运动预测和规划任务中的性能均优于现有最先进方法。
效率提升：SparseDrive在保持高性能的同时，显著提高了训练和推理的效率。
消融研究：通过消融实验，展示了SparseDrive设计选择的有效性，包括运动规划器的设计、碰撞感知重分模块和多模态规划的重要性。
未来工作：论文指出了端到端模型在性能、数据集规模、安全性评估等方面的局限性，并提出了未来探索的方向。
代码开源：论文承诺将SparseDrive的代码开源，以促进未来研究。

SparseDrive通过其创新的设计和方法，在自动驾驶领域提供了一种有效的解决方案，推动了端到端自动驾驶技术的发展

SparseDrive---论文阅读

纯视觉下的稀疏场景表示算法动机&开创性思路算法动机： 依赖于计算成本高昂的鸟瞰图（BEV）特征表示。预测和规划的设计过于直接，没有充分利用周围代理和自我车辆之间的高阶和双向交互。场景信息是在agent周围提取&#xff…...

编程日记 2025/8/23 23:03:33

YOLOV8 OBB 海思3516训练流程

YOLOV8 OBB 海思3516训练流程目录 1、下载带GPU版本的torch（可选） 1 2、安装 ultralytics 2 3、下载pycharm 社区版 2 4、安装pycharm 3 5、新建pycharm 工程 3 6、添加conda 环境 4 7、训练代码 5 9、配置Ymal 文件 6 10、修改网络结构 9 11、运行train.py 开始训练模…...

编程日记 2025/8/23 15:22:41

ThinkPHP框架接入Stripe支付

我的框架是ThinkPHP5.0，后台是fastadmin 1.安装composer包，包名是 stripe/stripe-php 2.下单代码 <?php namespace app\common\service; use app\common\controller\Api; use Stripe\Stripe; use Stripe\Checkout\Session; use think\Config;clas…...

编程日记 2025/8/23 8:08:00

文件上传漏洞学习

什么是文件上传漏洞文件上传漏洞指用户通过上传一个恶意的可执行文件，例如木马、病毒、webshell、恶意脚本等等在服务器中执行，配合其他工具，获得网站控制权或达到一些其他效果。文件上传漏洞原理由于对上传文件的格式限制不够严格&…...

编程日记 2025/8/22 7:27:53

【function call】大模型的hello function call

1. 所有的大模型的function call 功能就是将function 也当作输入到大模型中 2. 不同的平台或者模型调用的方式可能不一样一个硅基流动的例子 import requests from openai import OpenAIclient = OpenAI(api_key="sk-vuffqulyakrzccyqenavdryxyamqkhemidvgaihdqmehmhlv&…...

编程日记 2025/8/19 0:36:00

CVFSNet：一种用于端到端脑梗塞溶栓治疗后改良脑梗死溶栓分级（mTICI）评分的跨视图融合评分网络|文献速递-深度学习医疗AI最新文献

Title 题目 CVFSNet: A Cross View Fusion Scoring Network for end-to-end mTICI scoring CVFSNet：一种用于端到端脑梗塞溶栓治疗后改良脑梗死溶栓分级（mTICI）评分的跨视图融合评分网络 01 文献速递介绍中风目前是全球主要的致死原因之…...

编程日记 2025/8/21 10:28:48

解决 .Net 6.0 项目发布到IIS报错：HTTP Error 500.30

今天在将自己开发许久的项目上线的时候，发现 IIS 发布后请求后端老是报一个 HTTP Error 500.30 的异常，如下图所示。后来仔细调查了一下发现是自己的程序中写了 UseStaticFiles 的依赖注入，这个的主要作用就是发布后端后，想…...

编程日记 2025/8/23 16:51:44

施磊老师基于muduo网络库的集群聊天服务器(一)

文章目录技术栈项目需求环境安装muduo网络库安装编译错误:解决办法:移动头文件和库文件 redis和mysql安装验证mysql环境修改mysql密码Nginx--先不安装 Json介绍为什么需要json?什么是 json 序列化?常用的数据传输序列化格式?直接使用json第三方库json序列化代码演示复杂键值…...

编程日记 2025/8/17 19:51:51

WebStorm中Gitee账号的密码登录与令牌登录设置

1.账号密码添加 1.1安装插件说明：安装Gitee插件 1.2点击通过账号密码登录说明：需要Gitee账号和密码 1.3登录说明：通过邮箱和密码登录 1.4登录成功 2.令牌登录 2.1Token登录说明：需要Gitee生成的私人令牌进行登录。 2.2G…...

编程日记 2025/8/21 13:00:13

Android开发案例——简单计算器

实现计算机的简单功能 1、显示页面jsj.xml <?xml version"1.0" encoding"utf-8"?> <LinearLayout xmlns:android"http://schemas.android.com/apk/res/android"android:layout_width"match_parent"android:layout_height&…...

编程日记 2025/8/19 2:47:35

实现类似 “更新中” 的水平进度条按钮效果

如上图所示 activity_test3.xml <RelativeLayout xmlns:android"http://schemas.android.com/apk/res/android"xmlns:tools"http://schemas.android.com/tools"android:layout_width"match_parent"android:layout_height"match_parent…...

编程日记 2025/8/23 7:47:09

【QT入门到晋级】QT打动态库包及引入动态库包

前言本篇为持续更新状态，内容包含window、Linux下打动态库包，以及引入动态库包的方式。一、window 1、动态库打包以百度的OCR接口调用打dll库为例，以下为qtcreator创建动态库过程： 1.1Qtcreator创建lib项目创建成功后&…...

编程日记 2025/8/24 3:52:16

Linux：解决 yum 官方源无法使用（CentOS 7）

文章目录一、原因二、解决方法一、原因 CentOS 7 在 2024年 6 月 30 日结束了它的生命周期（End of Life, EOL），这意味着官方不再提供更新和支持，包括其 yum 源也将停止服务。因此对于仍然需要使用 CentOS 7 的用户来说&#…...

编程日记 2025/8/22 20:08:32

软考-高项，知识点一览十八项目绩效域

十八项目绩效域价值驱动的项目管理知识体系关注价值的实现，包含了项目管理原则、绩效域、项目生命周期、过程组、10 大知识领域和价值交付系统。在整个生命周期过程中，项目管理者需要始终坚持项目管理原则，通过涵盖 10 大知识领域的项目管…...

编程日记 2025/8/22 14:09:21

macOS安装java

一、下载官网Java Downloads | Oracle 安装载java8,下载对应的JDK Java Downloads | Oracle 二、双击安装安装完成三、查看安装位置打开终端窗口，执行命令： /usr/libexec/java_home -V /Library/Java/JavaVirtualMachines/jdk-1.8.jdk/Content…...

编程日记 2025/8/16 20:37:55

wpf ScaleTransform

在WPF中，ScaleTransform是用于实现元素缩放的核心类，属于System.Windows.Media命名空间下的变换类型。以下是其主要特性与使用方式的总结： ‌核心属性‌ ‌缩放比例‌ ScaleX：水平方向缩放比例（默认1.0，即…...

编程日记 2025/8/24 3:52:15

开源分享!! 4款免费的数据库在线工具

无论是开发企业网站、搭建电商系统，还是做复杂的应用开发，数据库管理都是绕不开的核心环节。你是否遇到过这些问题： 在本地装了一堆数据库工具，来回切换麻烦又低效？想调试 SQL 语句，还要先配置各种环境&am…...

编程日记 2025/8/18 17:29:54

Mybatis-plus 主键自增值与数据库主键自增值不一致

数据库表的自增值为 100 但是在 java 项目中向数据库插入一天数据后报错： org.mybatis.spring.MyBatisSystemException: nested exception is org.apache.ibatis.reflection.ReflectionException: Could not set property id of class com.wf.dao.pojo.Article with…...

编程日记 2025/8/22 19:40:40

数据清洗到底在清洗什么？

在大数据时代，数据是每个企业的五星资产，被誉为“新石油”，但未经处理的数据往往参杂着大量“杂质”。这些“脏数据”不仅影响分析结果，严重的甚至误导企业决策。数据清洗作为数据预处理的关键环节，正是通过“去芜存菁…...

编程日记 2025/8/19 10:19:18

shell编程之正则表达式

目录 1，正则表达式的定义 2，正则表达式用途正则表达式的常用选项及示例（grep为例）： sed基本语法及常用选项： awk的基本语句及常用选项： 扩展正则表达式(egrep) 元字符总结： …...

编程日记 2025/8/23 11:11:01

每日一题-力扣-2537. 统计好子数组的数目 0416

LeetCode 2537. 统计好子数组的数目问题描述给定一个整数数组nums和一个整数k，定义"好子数组"为包含至少k对相等元素的子数组。任务是计算数组中所有"好子数组"的数量。两个相等的元素构成一对，例如数组[1,1,1]中有3对(1,1)&am…...

编程日记 2025/8/21 19:08:52

遨游防爆手机：构筑煤矿安全通讯的数字护盾

在煤炭、石油、化工等危险作业场景中，安全生产始终是企业发展的生命线。面对复杂多变的生产环境，传统的通讯设备已难以满足现代工业对安全性、可靠性和智能化的严苛要求。遨游通讯作为国内领先的防爆通讯设备制造商，凭借其核心科技自主研发的…...

编程日记 2025/8/20 2:52:46

进程通信详解

进程间通信（IPC）详解：原理、方式与使用场景全解析摘要进程间通信（IPC）是操作系统中用于实现多个独立进程之间数据交换和资源协作的重要机制。本文系统地讲解了 IPC 的基本概念、设计目标和系统实现原理，…...

编程日记 2025/8/24 3:52:12

《What Are Step-Level Reward Models Rewarding?》全文翻译

《What Are Step-Level Reward Models Rewarding?Counterintuitive Findings from MCTS-Boosted Mathematical Reasoning》 Step-Level奖励模型到底奖励了什么？来自基于MCTS提升的数学推理的反直觉发现摘要 Step-level奖励模型（SRMs）通过…...

编程日记 2025/8/17 18:31:07

windows使用docker-desktop安装milvus和可视化工具attu

这里写目录标题 docker-desktop安装docker安装milvusdocker安装milvus可视化工具attu注意点 docker-desktop安装参考：Windows Docker 安装 docker安装milvus 参考：添加链接描述在 Docker 中运行 Milvus（Windows） docker安装m…...

编程日记 2025/8/20 1:51:31

如何通过原型链实现方法的“重写”（Override）？

在 JavaScript 中，通过原型链实现方法的 “重写”（Override） 的核心思路是：在子类（或子对象）的原型链上定义同名方法，覆盖父类（或父对象）的方法。以下是具体实现步骤和代…...

编程日记 2025/8/16 21:37:20

PyTorch - Tensor 学习笔记

上层链接：PyTorch 学习笔记-CSDN博客 Tensor 初始化Tensor import torch import numpy as np# 1、直接从数据创建张量。数据类型是自动推断的 data [[1, 2],[3, 4]] x_data torch.tensor(data)torch.tensor([[2, 1, 4, 3], [1, 2, 3, 4], [4, 3, 2, 1]])输出&am…...

编程日记 2025/8/20 4:06:57

《协议栈的骨架：从Web请求到比特流——详解四层架构的可靠传输与流量控制》

前言本篇博客将详细介绍网络原理（细~~~） 💖 个人主页：熬夜写代码的小蔡 🖥 文章专栏若有问题评论区见 🎉欢迎大家点赞👍收藏⭐文章一.应用层这里的应用层只是个开头&a…...

编程日记 2025/8/17 18:38:13

软考系统架构设计师系列知识点 —— 设计模式之创建者模式

本文内容参考： 软考系统架构设计师系列知识点之设计模式（2）_系统架构设计师中考设计模式吗-CSDN博客创建者模式_百度百科建造者模式_百度百科 https://zhuanlan.zhihu.com/p/551870461 特此致谢！ Builder Pattern&#xf…...

编程日记 2025/8/19 10:32:58

oracle判断同表同条件查出两条数据，根据长短判断差异

目标：同一个物料，账套不同，排查同料号有差异的规格名称在Oracle数据库中，如果你想查询同一张表中两条数据某个字段的长度不同的情况，你可以使用JOIN语句或者窗口函数（如ROW_NUMBER()、RANK()、DENSE_RANK…...

编程日记 2025/8/22 2:51:05

咋用fliki的AI生成各类视频？AI生成视频教程

最近想制作视频，多方考查了决定用fliki，于是订阅了一年试试，这个AI生成的视频效果来看真是不错，感兴趣的自己官网注册个账号体验一下就知道了。 fliki官网 Fliki生成视频教程创建账户并登录首先，访问fliki官网并注…...

编程日记 2025/8/19 10:57:03

【STM32-代码】

STM32-代码 ■ printf() 输出到uart1■■■ ■ printf() 输出到uart1 static UART_HandleTypeDef * g_HDebugUART &huart1;int fputc(int c, FILE *f) {(void)f;HAL_UART_Transmit(g_HDebugUART, (const uint8_t *)&c, 1, DEBUG_UART_TIMEOUT);return c; }int fgetc…...

编程日记 2025/8/18 22:52:52

用cursor三个小时复刻高德地图的足迹地图

用cursor三个小时复刻了高德地图的足迹地图，当然，是“低配”版的。 1、首先要初始化，提出一个需求，让它自由发挥运行之后发现它报错了，原因出在这行代码，“https://cdn.jsdelivr.net/npm/echarts5,4.3/…...

编程日记 2025/8/22 4:57:48

Git分支管理与工作流实践

Git分支管理与工作流实践一、Git分支规范与核心原则主分支（master/main） 核心作用：存储生产环境代码，永远保持稳定且可直接发布。禁止直接在此分支开发。操作规范：仅通过合并release或hotfix分支更新，合…...

编程日记 2025/8/19 4:05:56

python面试总结

目录 Python基础 1、python及其特点 2、动态类型和静态类型？ 3、变量命名规则是什么？ 4、基本数据类型有哪些？ 5、Python 中字典？ 6、集合set是什么？有什么特点？ 7、python的字符串格式化函数 1…...

编程日记 2025/8/17 18:35:41

基于骨骼识别的危险动作报警系统设计与实现

基于骨骼识别的危险动作报警系统设计与实现基于骨骼识别的危险动作报警分析系统【包含内容】【一】项目提供完整源代码及详细注释【二】系统设计思路与实现说明【三】基于骨骼识别算法的实时危险行为预警方案【技术栈】 ①：系统环境：Windows 10…...

编程日记 2025/8/17 19:53:58

HarmonyOS 5.0应用开发——五子棋游戏（鸿蒙版）开发

【高心星出品】文章目录五子棋游戏（鸿蒙版）开发运行效果开发步骤项目结构核心代码棋盘组件：游戏逻辑处理：主页面： 五子棋游戏（鸿蒙版）开发五子棋是一款传统的两人策略型棋类游戏&#xff0…...

编程日记 2025/8/22 10:43:05

避坑，app 播放器media:MediaElement paly报错

System.Runtime.InteropServices.COMException HResult=0x8001010E Message= Source=WinRT.Runtime StackTrace: 在 WinRT.ExceptionHelpers.<ThrowExceptionForHR>g__Throw|38_0(Int32 hr) 在 ABI.Microsoft.UI.Xaml.Controls.IMediaPlayerElementMethods.get_MediaPlay…...

编程日记 2025/8/19 12:26:21