深入探讨异步 API 的设计与实现
一、API 模式简介:同步与异步的对比
API 是客户端和服务器之间通信的桥梁。大多数 API 采用同步模式,执行的流程如下:
- 客户端发送请求。
- 服务器处理请求。
- 服务器返回响应。
同步模式对快速操作非常有效,比如数据查询或简单更新。但是,当遇到耗时较长的操作时,问题就显现出来了。例如:
- 处理大文件(例如视频编码、音频分析)。
- 大规模的数据分析与报告生成。
- 图像处理(例如生成缩略图、优化图片)。
在这些场景中,客户端必须长时间等待,可能导致超时错误;而服务器也会因为单个长时间运行的请求而降低整体吞吐量。
二、同步模式的局限性
同步模式有几个核心问题:
- 客户端等待时间过长: 请求处理时间过长,用户体验不佳。
- 超时风险: 网络不稳定或数据量较大时,请求容易超时,导致失败。
- 服务器资源占用: 单个长时间请求会占用服务器资源,影响其他用户请求的响应时间。
这些问题促使我们寻找更高效的解决方案,这就是异步 API。
三、异步 API 的概念与实现
3.1 什么是异步 API?
异步 API 的核心理念是将请求的接收与处理分离。异步模式包括以下两个阶段:
- 接收请求并快速响应: 服务器立即返回一个状态或追踪 ID,表示请求已被接收。
- 后台异步处理: 请求的实际工作在后台完成,客户端可以通过状态查询接口获取处理进度。
3.2 异步 API 的关键优势
- 即时响应: 客户端能快速获得反馈,而不需要长时间等待。
- 非阻塞操作: 服务器可以并行处理多个请求,不会因为单个任务耗时过长而阻塞其他请求。
- 灵活的扩展性: 后台处理任务可以单独扩展,提高系统的吞吐量。
- 更好的错误处理: 如果任务失败,可以保存进度并重试,不会影响其他请求。
3.3 同步模式的具体问题示例
以下是一个常见的同步 API 示例,处理图片上传及优化:
[HttpPost]
public async Task<IActionResult> UploadImage(IFormFile file)
{if (file is null){return BadRequest();}// 保存原始图片var originalPath = await SaveOriginalAsync(file);// 生成缩略图var thumbnails = await GenerateThumbnailsAsync(originalPath);// 优化所有图片await OptimizeImagesAsync(originalPath, thumbnails);return Ok(new { originalPath, thumbnails });
}
此模式的问题在于:
- 客户端必须等待整个流程完成。
- 网络连接或图片较大时,请求容易超时。
- 如果图片处理失败,客户端需重新上传,浪费资源。
3.4 异步 API 的解决方案
-
新的图片上传接口设计
异步模式将操作拆分为两部分:快速接收请求与后台处理。以下是改进后的接口:[HttpPost] public async Task<IActionResult> UploadImage(IFormFile? file) {if (file is null){return BadRequest("未上传文件。");}if (!imageService.IsValidImage(file)){return BadRequest("无效的图片文件。");}// 阶段 1:接收请求var id = Guid.NewGuid().ToString();var folderPath = Path.Combine(_uploadDirectory, "images", id);var fileName = $"{id}{Path.GetExtension(file.FileName)}";var originalPath = await imageService.SaveOriginalImageAsync(file,folderPath,fileName);// 将阶段 2 的任务加入后台队列var job = new ImageProcessingJob(id, originalPath, folderPath);await jobQueue.EnqueueAsync(job);// 返回状态 URLvar statusUrl = GetStatusUrl(id);return Accepted(statusUrl, new { id, status = "queued" }); }
-
后台任务处理
实际的图片处理任务移交到后台执行,利用独立的线程或服务完成繁重的操作:public class ImageProcessor : BackgroundService {protected override async Task ExecuteAsync(CancellationToken ct){await foreach (var job in jobQueue.DequeueAsync(ct)){try{await statusTracker.SetStatusAsync(job.Id, "processing");// 生成缩略图await GenerateThumbnailsAsync(job.OriginalPath, job.OutputPath);// 优化图片await OptimizeImagesAsync(job.OriginalPath, job.OutputPath);await statusTracker.SetStatusAsync(job.Id, "completed");}catch (Exception ex){await statusTracker.SetStatusAsync(job.Id, "failed");logger.LogError(ex, "图片处理失败 {Id}", job.Id);}}} }
四、实时状态更新的实现
4.1 状态查询接口
客户端可以通过以下接口查询任务的状态:
[HttpGet("{id}/status")]
public IActionResult GetStatus(string id)
{if (!statusTracker.TryGetStatus(id, out var status)){return NotFound();}var response = new{id,status,links = new Dictionary<string, string>()};if (status == "completed"){response.links = new Dictionary<string, string>{["original"] = GetImageUrl(id),["thumbnail"] = GetThumbnailUrl(id, width: 200),["preview"] = GetThumbnailUrl(id, width: 800)};}return Ok(response);
}
4.2 实时通知:减少轮询
虽然状态查询接口是一个解决方案,但它增加了客户端和服务器的负担。特别是客户端需要频繁轮询状态,导致大量无效的请求。
使用 SignalR 和 WebSocket 可以实现实时通知。状态变化时,服务器主动向客户端推送更新,减少网络流量并提高响应速度。例如:
- 当图片处理完成时,服务器通过 WebSocket 通知客户端。
- 用户可以立即获取完成的结果,而无需多次刷新页面。
4.3 其他通知方式
- 电子邮件通知: 适用于长时间运行的任务,用户可在任务完成时收到通知,而无需保持浏览器页面开启。
- Webhook 回调: 适用于系统间通信,任务完成时服务器主动通知其他系统,实现自动化工作流。
五、性能优化与扩展性
5.1 任务队列设计
对于单服务器应用,可以使用 .NET 的 Channel
管理内存中的任务队列:
public class JobQueue
{private readonly Channel<ImageProcessingJob> _channel;public JobQueue(){var options = new BoundedChannelOptions(1000){FullMode = BoundedChannelFullMode.Wait};_channel = Channel.CreateBounded<ImageProcessingJob>(options);}public async ValueTask EnqueueAsync(ImageProcessingJob job,CancellationToken ct = default){await _channel.Writer.WriteAsync(job, ct);}public IAsyncEnumerable<ImageProcessingJob> DequeueAsync(CancellationToken ct = default){return _channel.Reader.ReadAllAsync(ct);}
}
对于分布式系统,可以使用 RabbitMQ 或 Redis 实现分布式任务队列,提高扩展性。
5.2 错误处理与重试机制
利用 Polly 等库实现重试策略。例如:
- 图片优化失败时,系统可以自动重试多次,避免用户操作中断。
- 如果某个任务失败,可以记录进度并重新排队,确保系统稳定性。
5.3 动态扩展
异步 API 的设计使得后台任务处理可以独立扩展。例如,增加更多的服务器专门处理任务,而主服务器则专注于接收请求。这种分离提高了整个系统的吞吐量和可靠性。
六、总结
同步 API 简单高效,适用于快速操作,但在处理耗时任务时暴露出等待时间长、超时风险高、资源占用严重等局限性。为解决这些问题,异步 API 应运而生,其核心是将请求接收与处理分离。通过即时响应和后台异步处理,异步 API 提供了更好的用户体验和系统性能。结合任务队列、实时状态更新(如 SignalR)以及动态扩展等技术,异步 API 实现了高并发、低延迟和灵活扩展,适合处理复杂任务场景。同时,配套的错误重试和通知机制提升了系统的可靠性和用户满意度。
相关文章:
深入探讨异步 API 的设计与实现
一、API 模式简介:同步与异步的对比 API 是客户端和服务器之间通信的桥梁。大多数 API 采用同步模式,执行的流程如下: 客户端发送请求。服务器处理请求。服务器返回响应。 同步模式对快速操作非常有效,比如数据查询或简单更新。…...
多模态大型语言模型(MLLM)综述
目录 多模态大语言模型的基础 长短期网络结构(LSTM) 自注意力机制 基于Transformer架构的自然语言处理模型 多模态嵌入概述 多模态嵌入关键步骤 多模态嵌入现状 TF-IDF TF-IDF的概念 TF-IDF的计算公式 TF-IDF的主要思路 TF-IDF的案例 训练和微调多模态大语言模…...
EasyPlayer-pro视频流播放学习
效果: 知识抢先看: 动态创建节点指的是通过 JavaScript 操作 DOM 来生成 HTML 元素并插入到页面中 document.createElement: 创建新的 HTML 元素节点。 // 创建一个 <div> 元素 const div document.createElement(div); // 设置其属性 div.id my…...
STM32F103C8T6实时时钟RTC
目录 前言 一、RTC基本硬件结构 二、Unix时间戳 2.1 unix时间戳定义 2.2 时间戳与日历日期时间的转换 2.3 指针函数使用注意事项 三、RTC和BKP硬件结构 四、驱动代码解析 前言 STM32F103C8T6外部低速时钟LSE(一般为32.768KHz)用的引脚是PC14和PC…...
springboot获取配置文件中的值
概括 在开发过程中,对于一些通用的配置,通常会定在一个配置文件中。通常为application.properties或者application.yml文件中。我们只需要在需要使用的地方通过注解直接获取即可。 使用 在springboot中可以通过使用value注解来读取配置文件中的属性。…...
Python 爬虫从入门到(不)入狱学习笔记
爬虫的流程:从入门到入狱 1 获取网页内容1.1 发送 HTTP 请求1.2 Python 的 Requests 库1.2 实战:豆瓣电影 scrape_douban.py 2 解析网页内容2.1 HTML 网页结构2.2 Python 的 Beautiful Soup 库 3 存储或分析数据(略) 一般爬虫的基…...
STM32C011开发(1)----开发板测试
STM32C011开发----1.开发板测试 概述硬件准备视频教学样品申请源码下载参考程序生成STM32CUBEMX串口配置LED配置堆栈设置串口重定向主循环演示 概述 STM32C011F4P6-TSSOP20 评估套件可以使用户能够无缝评估 STM32C0 系列TSSOP20 封装的微控制器功能,基于 ARM Corte…...
【GAMES101笔记速查——Lecture 19 Cameras,Lenses and Light Fields】
本章节内容:相机、棱镜、光场 计算机图形学的两种成像方法: 1.合成方法:光栅化、光线追踪(展示出现实没有的东西) 2.捕捉方法:相机(捕捉现实已有的东西) 目录 1 相机 1.1 针孔相…...
记录两次Unity编辑器和真机表现不符的情况,引用丢失等
如题,问题是在编辑器和打包在真机测试上的效果不一致。 首先,第一次遇到的问题是编辑器和真机上大量资源不符和丢失,多次对比表现为,异常和丢失内容都是两个版本之间变更的资源,判定为资源引用异常,尝试删…...
【Win】user32.SetWindowsHookExW - Notes
user32.SetWindowsHookExW user32.SetWindowsHookExW(idHook, lpfn, hMod, dwThreadId)用于在系统中安装钩子函数,以监视某些系统事件或消息。 Parameters idHook: int - 安装钩子的类型标识符;对应于不同的系统事件或消息类别。lpfn: callable - 指向…...
泷羽sec-linux
基础之linux 声明! 学习视频来自B站up主 泷羽sec 有兴趣的师傅可以关注一下,如涉及侵权马上删除文章,笔记只是方便各位师傅的学习和探讨,文章所提到的网站以及内容,只做学习交流,其他均与本人以及泷羽sec团…...
二叉树oj题解析
二叉树 二叉树的最近公共祖先什么是最近公共祖先?leetcode中求二叉树中最近公共祖先解题1.解题2. 根据二叉树创建字符串 二叉树的最近公共祖先 什么是最近公共祖先? 最近的公共祖先指的是这一棵树中两个节点中深度最大的且公共的祖先节点就是最近祖先节…...
python画图|无坐标轴自由划线操作fig.add_artist(lines.Line2D()函数
【1】引言 新发现了一种自由划线操作函数,和大家共享。 【2】官网教程 点击下述代码,直达官网: https://matplotlib.org/stable/gallery/misc/fig_x.html#sphx-glr-gallery-misc-fig-x-py 官网代码非常简洁,我进行了解读。 …...
Flutter封装Coap
前言 我们根据Coap数据通信流程写一个公共组件,用户只要在原本的组件外嵌套这个公共组件就可以使用Coap的功能,这样做更加的方便便捷。 具体步骤 封装一个udp函数 创建一个工厂函数,工厂函数初始化时监听广播数据发送广播函数:…...
openharmony napi调试笔记
一、动态库的编译 第一种openharmony交叉编译链配置方法 使用的编译环境是ubuntu20.04 1、使用vscode配置openharmony sdk交叉编译环境 首先下载openharmony的sdk,如native-linux-x64-4.1.7.5-Release.zip 解压后native目录下就是交叉编译用的sdk 在要编译的源…...
C++数据结构与算法
C数据结构与算法 1.顺序表代码模版 C顺序表模版 #include <iostream> using namespace std; // 可以根据需要灵活变更类型 #define EleType intstruct SeqList {EleType* elements;int size;int capacity; };// Init a SeqList void InitList(SeqList* list, int capa…...
MATLAB深度学习(六)——LSTM长短期神经网络原理与应用
LSTM的应用可以参见一个相当好的视频:小车倒立摆最优控制教程 - Part1 Simulink Simscape Multibody仿真建模_哔哩哔哩_bilibili 6.1 序列建模——循环神经网络 循环神经网络RNN是一类专门用于处理序列性数据x,,xn的神经网络结构,…...
利用Python爬虫获得1688按关键字搜索商品:技术解析
在电商领域,1688作为中国领先的B2B电商平台,其商品搜索功能对于商家来说具有极高的价值。通过获取搜索结果,商家可以更好地了解市场趋势,优化产品标题,提高搜索排名。本文将介绍如何使用Python编写爬虫,以获…...
Ajax学习笔记,第一节:语法基础
Ajax学习笔记,第一节:语法基础 一、概念 1、什么是Ajax 使用浏览器的 XMLHttpRequest 对象 与服务器通信2、什么是axios Axios是一个基于Promise的JavaScript库,支持在浏览器和Node.js环境中使用。相较于Ajax,Axios提供了更多…...
java基础知识(常用类)
目录 一、包装类(Wrapper) (1)包装类与基本数据的转换 (2)包装类与String类型的转换 (3)Integer类和Character类常用的方法 二、String类 (1)String类介绍 1)String 对象用于保存字符串,也就是一组字符序列 2)字符串常量对象是用双引号括起的字符序列。例如:&quo…...
修改bag的frame_id的工具srv_tools
在使用数据集导航或者建图时,bag中的点云或者其他话题的frame_id没有和需要的对应 1.创建工作空间 2.cd xxxx/src 3.git clone https://github.com/srv/srv_tools.git cd .. catkin_make source ./devel/setup.bash rosrun bag_tools change_frame_id.py -t /要改…...
浅谈丨功能安全测试,汽车的守护者
随着新能源汽车迅猛的发展,各类车型频频面世,同时辅助驾驶/自动驾驶等智驾功能也在不断迭代,使得整个汽车系统的复杂性越来越高,最终导致消费者不得不对如今的汽车质量和安全性提出质疑。 如何打破质疑? 那就不得不搬…...
了解M有SQL索引
目录 索引介绍 索引的优缺点 索引底层数据结构选型 Hash表 二叉查找树(BST) AVL树 红黑树 B 树& B树 索引类型总结 主键索引(Primary Key) 二级索引 聚簇索引与非聚簇索引 聚簇索引(聚集索引) 聚簇索引介绍 聚簇索引的优缺点 非聚簇索引(非聚集索引) 非聚簇…...
进程间通信5:信号
引入 我们之前学习了信号量,信号量和信号可不是一个东西,不能混淆。 信号是什么以及一些基础概念 信号是一种让进程给其他进程发送异步消息的方式 信号是随时产生的,无法预测信号可以临时保存下来,之后再处理信号是异步发送的…...
Excel把其中一张工作表导出成一个新的文件
excel导出一张工作表 一个Excel表里有多个工作表,怎么才能导出一个工作表,让其生成新的Excel文件呢? 第一步:首先打开Excel表格,然后选择要导出的工作表的名字,比如“Sheet1”,把鼠标放到“She…...
python oa服务器巡检报告脚本的重构和修改(适应数盾OTP)有空再去改
Two-Step Vertification required: Please enter the mobile app OTPverification code: 01.因为巡检的服务器要双因子认证登录,也就是登录堡垒机时还要输入验证码。这对我的巡检查服务器的工作带来了不便。它的机制是每一次登录,算一次会话…...
微信小程序下拉刷新与上拉触底的全面教程
微信小程序下拉刷新与上拉触底的全面教程 引言 在微信小程序的开发中,用户体验至关重要。下拉刷新和上拉触底是提高用户交互体验的重要功能,能够让用户轻松获取最新数据和内容。本文将详细介绍这两个功能的实现方式,结合实际案例、代码示例和图片展示,帮助开发者轻松掌握…...
第三十九章:Grafana 概述、Docker安装与验证指南
Grafana 概述、Docker安装与验证指南 一、Grafana 概述 Grafana 是一个跨平台的开源可视化分析工具,是目前网络架构和应用分析中最流行的时序数据展示工具。它主要用于大规模指标数据的可视化展示,并支持多种数据源和丰富的可视化插件。Grafana 使用Go语言开发,具备数据监…...
使用go实现流式输出
流式输出的深度剖析 之前一直在调用openai的key,只是照着文档进行流式调用,也只知其确是流式与api有所不同,而未成体系深究其实现原理。 就以openai的官方流式输出为切入。 概述 流式输出(Streaming Output)是 HTT…...
WebSocket详解、WebSocket入门案例
目录 1.1 WebSocket介绍 http协议: webSocket协议: 1.2WebSocket协议: 1.3客户端(浏览器)实现 1.3.2 WebSocket对象的相关事宜: 1.3.3 WebSOcket方法 1.4 服务端实现 服务端如何接收客户端发送的请…...
元组部分介绍
元组部分 元组的基本格式与特点 #1.元组 #基本格式: 元组名(元素1,元素2,元素3) #注意:所有元素包含在小括号内,元素与元素之间用逗号隔开,可以是不同的元素类型 #注意:…...
mfc100u.dll是什么?分享几种mfc100u.dll丢失的解决方法
mfc100u.dll 是一个动态链接库(DLL)文件,属于 Microsoft Foundation Classes (MFC) 库的一部分。MFC 是微软公司开发的一套用于快速开发 Windows 应用程序的 C 类库。mfc100u.dll 文件包含了 MFC 库中一些常用的函数和类的定义,这…...
企业数字化转型现状
国家数字经济战略背景 2018年以来,国家政府不断出台政策规范我国企业数字化治理市场。2018年9月颁布《关于发展数字经济稳定并扩大就业的指导意见》,支持建设一批数字经济创新创业孵化机构。积极推进供应链创新与应用,支持构建以企业为主导。…...
数据治理:在企业数据管理中的关键角色与实现路径——《DAMA 数据管理知识体系指南》读书笔记- 第 3 章
文章目录 1. 数据治理的核心内涵与战略价值2. 数据治理的驱动因素:不仅仅是合规3. 数据治理的组织模型:选择适合企业结构的运营模式4. 实施数据治理的关键步骤:战略、制度和文化5. 数据治理工具的选择:支持业务与流程的高效管理6.…...
树莓派2装FreeBSD14.1 Raspberry Pi2 install FreeBSD14.1 00000121:error:0A000086:SSL
树莓派2代的Model B采用Broadcom BCM2836 900MHz的四核SoC,1GB内存,是新一代开拓者,兼容1代B。相比之下,树莓派2的性能比1代提升6倍,内存翻了一番。Raspberry Pi 2不仅能跑全系列ARM GNU/Linux发行版,而且支…...
uniop触摸屏维修eTOP40系列ETOP40-0050
在现代化的工业与商业环境中,触摸屏设备已成为不可或缺的人机交互界面。UNIOP,作为一个知名的触摸屏品牌,以其高性能、稳定性和用户友好性,广泛应用于各种自动化控制系统、自助服务终端以及高端展示系统中。然而,即便如…...
uniapp+vue2重新进入小程序就清除缓存,设备需要重新扫码
代码 app.vue页面 <script>export default {onLaunch: function() {uni.removeStorageSync(equiId)}} </script>...
视频推拉流EasyDSS互联网直播点播平台技术特点及应用场景剖析
在数字科技日新月异的今天,视频直播和点播已经成为互联网内容传播的重要方式之一。而互联网直播点播平台EasyDSS作为功能强大的流媒体直播点播视频能力平台,提供了一站式的视频推拉流、转码、直播、点播、时移回放、存储等视频服务,广泛应用于…...
论文笔记 网络安全图谱以及溯源算法
本文提出了一种网络攻击溯源框架,以及一种网络安全知识图谱,该图由六个部分组成,G <H,V,A,E,L,S,R>。 1|11.知识图 网络知识图由六个部分组成,…...
抓住鸿蒙生态崛起的机遇,拥抱未来开发挑战
随着华为鸿蒙(HarmonyOS)的持续发展,鸿蒙生态正在迅速崛起,逐步在智能手机、智能穿戴、车载、家居等领域形成完整闭环。它不仅为开发者带来了新的机遇,还带来了技术上的挑战。如何抓住这些机遇并应对挑战,是…...
STM32WB55RG开发(5)----监测STM32WB连接状态
STM32WB55RG开发----5.生成 BLE 程序连接手机APP 概述硬件准备视频教学样品申请源码下载参考程序选择芯片型号配置时钟源配置时钟树RTC时钟配置RF wakeup时钟配置查看开启STM32_WPAN条件配置HSEM配置IPCC配置RTC启动RF开启蓝牙LED配置设置工程信息工程文件设置参考文档SVCCTL_A…...
ArcGIS应用指南:ArcGIS制作局部放大地图
在地理信息系统(GIS)中,制作详细且美观的地图是一项重要的技能。地图制作不仅仅是简单地将地理数据可视化,还需要考虑地图的可读性和美观性。局部放大图是一种常见的地图设计技巧,用于展示特定区域的详细信息ÿ…...
浅谈网络 | 传输层之TCP协议
目录 TCP 包头格式TCP 的三次握手TCP 的四次挥手TCP 的可靠性与"靠谱"的哲学TCP流量控制TCP拥塞控制 上一章我们提到,UDP 就像我们小时候一样简单天真,它相信“网之初,性本善,不丢包,不乱序”,因…...
Kotlin中的?.和!!主要区别
目录 1、?.和!!介绍 2、使用场景和最佳实践 3、代码示例和解释 1、?.和!!介绍 Kotlin中的?.和!!主要区别在于它们对空指针的处理方式。 ?.(安全调用操作符):当变量可能为null时,使用?.可以安全地调用其方法或属性…...
【漏洞复现】代付微信小程序系统 read.php 任意文件读取漏洞
免责声明: 本文旨在提供有关特定漏洞的信息,以帮助用户了解潜在风险。发布此信息旨在促进网络安全意识和技术进步,并非出于恶意。读者应理解,利用本文提到的漏洞或进行相关测试可能违反法律或服务协议。未经授权访问系统、网络或应用程序可能导致法律责任或严重后果…...
Python人工智能项目报告
一、实践概述 1、实践计划和目的 在现代社会,计算机技术已成为支撑社会发展的核心力量,渗透到生活的各个领域,应关注人类福祉,确保自己的工作成果能够造福社会,同时维护安全、健康的自然环境,设计出具有包…...
PyQt6+pyqtgraph折线图绘制显示
1、实现效果 2、环境: 确认已经安装pyqtgraph的模块,如果没有安装,使用命令安装: pip install pyqtgraph 3、代码实现: 绘制折线函数: import sys import random from PySide6.QtWidgets import QAppl…...
1-golang_org_x_crypto_bcrypt测试 --go开源库测试
1.实例测试 package mainimport ("fmt""golang.org/x/crypto/bcrypt" )func main() {password : []byte("mysecretpassword")hashedPassword, err : bcrypt.GenerateFromPassword(password, bcrypt.DefaultCost)if err ! nil {fmt.Println(err)…...
C语言菜鸟入门·关键字·union的用法
目录 1. 简介 2. 访问成员 2.1 声明 2.2 赋值 3. 共用体的大小 4. 与typedef联合使用 5. 更多关键字 1. 简介 共用体(union)是一种数据结构,它允许在同一内存位置存储不同的数据类型,但每次只能存储其中一种类型的…...
leetcode hot100【LeetCode 238.除自身以外数组的乘积】java实现
LeetCode 238.除自身以外数组的乘积 题目描述 给你一个整数数组 nums,返回 数组 answer ,其中 answer[i] 等于 nums 中除 nums[i] 之外其余各元素的乘积 。 题目数据 保证 数组 nums之中任意元素的全部前缀元素和后缀的乘积都在 32 位 整数范围内。 …...