当前位置：首页 > news >正文

微信小程序AI大模型流式输出实践与总结

news 来源：原创 2025/6/30 14:13:56

背景

让Cursor生成小程序中大模型调用内容回复的流式输出时一直有问题，参考整理此文章。
参考原文：https://blog.csdn.net/weixin_47684422/article/details/145859543

一、什么是流式传输？

流式传输（Streaming）指的是将数据分为若干段（chunk），边生成边发送，客户端则边接收边处理。常见于视频播放、音频播放、AI对话等场景。其优点包括：

降低延迟，提升响应速度
支持大数据量分段处理
改善用户体验（如AI逐字回复）

二、微信小程序中的流式传输方案

1. 微信小程序的限制

无fetch：小程序没有浏览器的fetch接口，不能直接用Response.body.getReader()流式读取。
WebSocket不适用于所有后端：部分AI接口只支持HTTP流，不支持WebSocket。

2. 官方能力：onChunkReceived

微信小程序自基础库2.23.0起，wx.request新增了enableChunked参数和onChunkReceived回调，支持HTTP分块（chunked）传输。

要点：

enableChunked: true 开启流式传输
监听onChunkReceived获取每一块数据
需自行拼接与处理数据内容

三、代码实现

1. 发起流式请求

const requestTask = wx.request({url: `${config.baseUrl}/ai/deepSeek`,header: {"X-Access-Token": wx.getStorageSync("token"),},data: JSON.stringify({question: this.question,appId: config.APP_ID,userName: 'xxx'}),method: "POST",enableChunked: true, // 开启流式传输responseType: "arraybuffer", // 推荐使用arraybuffer，兼容性更好
});// 监听分块数据
if (requestTask?.onChunkReceived) {requestTask.onChunkReceived(this.handleChunkData);
} else {// 不支持流式，降级为普通请求this.normalRequest();
}

2. 分块数据处理

handleChunkData(res) {try {// 微信小程序ArrayBuffer转字符串let rawStr = Array.from(new Uint8Array(res.data)).map(byte => String.fromCharCode(byte)).join("");// 处理中文乱码rawStr = unescape(encodeURIComponent(rawStr));// 提取JSON内容const chunkJson = rawStr.split("data: ")[1];const rawData = JSON.parse(chunkJson);// 提取AI回复内容const text = rawData.choices?.[0]?.delta?.content;// 过滤无用内容（如<think>标签）if (text === "</think>") {this.isThink = false;}if (!this.isThink) {const tx = text.replace("</think>", "");this.streamBuffer += tx;// 实时渲染（可用markdown-it等库转换）const answer = this.list[this.list.length - 1];answer.content = markdown.render(this.streamBuffer);// 节流更新页面this.throttleUpdate();}} catch (e) {console.error("数据处理异常:", e);}
},

3. 辅助方法

// 节流更新，防止频繁渲染影响性能
throttleUpdate() {if (!this.updateTimer) {this.updateTimer = setTimeout(() => {this.$forceUpdate();this.scrollToBottom();this.updateTimer = null;}, 500);}
}

四、注意事项与优化建议

字段结束标识：小程序没有onReceivedEnd事件，无法直接判断流式内容是否结束。建议后端返回特殊标识（如[DONE]）或协议字段，前端据此判断。
中文兼容性：ArrayBuffer转字符串时，注意处理中文编码问题，推荐用TextDecoder或unescape(encodeURIComponent(...))方法。
性能优化：流式内容更新频繁，建议节流更新页面，避免卡顿。
uniapp注意：如用uniapp，必须用wx.request，uni.request不支持chunked流。
内容过滤：部分大模型（如deepSeek）返回的内容含有think标签等无用数据，需按业务过滤。

微信小程序AI大模型流式输出实践与总结

背景让Cursor生成小程序中大模型调用内容回复的流式输出时一直有问题，参考整理此文章。参考原文：https://blog.csdn.net/weixin_47684422/article/details/145859543 一、什么是流式传输？ 流式传输（Streaming）指的…...

编程日记 2025/6/30 14:13:56

操作系统理解（xv6）

xv6操作系统项目复习笔记宗旨：只记大框架，不记细节，没有那么多的时间一、xv6的页表是如何搭建的？ xv6这个项目中，虚拟地址用了39位（27位12位（物理内存page偏移地址）&#xff09…...

编程日记 2025/6/27 22:50:31

2024CCPC辽宁省赛个人补题 ABCEGJL

Dashboard - 2024 CCPC Liaoning Provincial Contest - Codeforces 过题难度 B A J C L E G 铜奖 4 953 银奖 6 991 金奖 8 1664 B： 模拟题 // Code Start Here string s;cin >> s;reverse(all(s));cout << s << endl;A：很…...

编程日记 2025/6/27 23:00:45

Sentinel原理与SpringBoot整合实战

前言随着微服务架构的广泛应用，服务和服务之间的稳定性变得越来越重要。在高并发场景下，如何保障服务的稳定性和可用性成为了一个关键问题。阿里巴巴开源的Sentinel作为一个面向分布式服务架构的流量控制组件，提供了从流量控制、熔断降级、…...

编程日记 2025/6/27 23:13:33

Python 训练营打卡 Day 31

文件的规范拆分和写法把一个文件，拆分成多个具有着独立功能的文件，然后通过import的方式，来调用这些文件。这样具有几个好处： 可以让项目文件变得更加规范和清晰可以让项目文件更加容易维护，修改某一个功能的时候&a…...

编程日记 2025/6/29 5:43:16

vue+srpingboot实现多文件导出

项目场景： vuesrpingboot实现多文件导出解决方案： 直接上干货 <el-button type"warning" icon"el-icon-download" size"mini" class"no-margin" click"exportSelectedFiles" :disabled"se…...

编程日记 2025/6/30 12:14:00

学习 Pinia 状态管理【Plan - May - Week 2】

一、定义 Store Store 由 defineStore() 定义，它的第一个参数要求独一无二的id import { defineStore } from piniaexport const useAlertsStore defineStore(alert, {// 配置 })最好使用以 use 开头且以 Store 结尾 (比如 useUserStore，useCartStore&a…...

编程日记 2025/6/27 17:19:40

linux中cpu内存浮动占用，C++文件占用cpu内存、定时任务不运行报错(root) PAM ERROR (Permission denied)

文章目录说明部署文件准备脚本准备部署g++和编译脚本使用说明和测试脚本批量部署脚本说明执行测试定时任务不运行报错(root) PAM ERROR (Permission denied)报错说明处理方案说明我前面已经弄了几个版本的cpu和内存占用脚本了，但因为都是固定值，所以现在重新弄个用C++编写的…...

编程日记 2025/6/27 23:38:14

数据湖和数据仓库的区别

在当今数据驱动的时代，企业需要处理和存储海量数据。数据湖与数据仓库作为两种主要的数据存储解决方案，各自有其独特的优势与适用场景。本文将客观详细地介绍数据湖与数据仓库的基本概念、核心区别、应用场景以及未来发展趋势，帮助读者更好地…...

编程日记 2025/6/30 1:25:48

OceanBase 开发者大会，拥抱 Data*AI 战略，构建 AI 数据底座

5 月 17 号以“当 SQL 遇见 AI”为主题的 OceanBase 开发者大会在广州举行，因为行程的原因未能现场参会，仍然通过视频直播观看了全部的演讲。总体来说，这届大会既有对未来数据库演进方向的展望，也有 OceanBase 新产品的发布&#…...

编程日记 2025/6/27 23:32:12

鸿蒙HarmonyOS最新的组件间通信的装饰器与状态组件详解

本文系统梳理了鸿蒙（HarmonyOS）ArkUI中组件间通信相关的装饰器及状态组件的使用方法，重点介绍V2新特性，适合开发者查阅与实践。概述鸿蒙系统（HarmonyOS）ArkUI提供了丰富的装饰器和状态组件，用…...

编程日记 2025/6/29 0:43:18

OneDrive登录，账号跳转问题

你的OneDrive登录无需密码且自动跳转到其他账号，可能是由于浏览器或系统缓存了登录信息，或存在多个账号的关联。以下是分步解决方案： 方案三对我有效。强制手动输入密码访问登录页面时： 在浏览器中打开 OneDrive网页版。点击…...

编程日记 2025/6/29 16:51:21

9-码蹄集600题基础python篇

题目如上图所示。这一题，没什么难度。代码如下： def main():#code here# x,amap(int,input("").split(" "))# sum((1/2)*(a*x(ax)/(4*a)))# print(f"{sum:.2f}")x,amap(int,input().split())print(f"{((1/2)*(a*…...

编程日记 2025/6/29 2:36:48

CAU人工智能class3 优化器

优化算法框架优化思路随机梯度下降随机梯度下降到缺点： SGD 每一次迭代计算 mini-batch 的梯度，然后对参数进行更新，每次迭代更新使用的梯度都只与本次迭代的样本有关。因为每个批次的数据含有抽样误差，每次更新可能并不会 …...

编程日记 2025/6/27 23:07:58

学习 Android（十一）Service

简介在 Android 中，Service 是一种无界面的组件，用于在后台执行长期运行或跨进程的任务，如播放音乐、网络下载或与远程服务通信。Service 可分为“启动型（Started）”和“绑定型（Bound）”两大…...

编程日记 2025/6/29 1:59:25

SpringAI开发SSE传输协议的MCP Server

SpringAI 访问地址：Spring AI ‌ Spring AI‌是一个面向人工智能工程的应用框架，由Spring团队推出，旨在将AI能力集成到Java应用中。Spring AI的核心是解决AI集成的根本挑战，即将企业数据和API与AI模型连接起来‌。 MCP…...

编程日记 2025/6/28 21:57:07

【泛微系统】后端开发Action常用方法

后端开发Action常用方法代码实例经验分享：代码实例经验分享：本文分享了后端开发中处理工作流Action的常用方法，主要包含以下内容：1) 获取工作流基础信息，如流程ID、节点ID、表单ID等；2) 操作请求信息，包括请求紧急程度、操作类型、用户信息等；3) 表单数据处理，展示…...

编程日记 2025/6/27 15:40:11

如何成为更好的自己？

成为更好的自己是一个持续成长的过程，需要结合自我认知、目标规划和行动力。以下是一些具体建议，帮助你逐步提升： 1. 自我觉察：认识自己反思与复盘：每天花10分钟记录当天的决策、情绪和行为，分析哪些做得…...

编程日记 2025/6/29 20:10:14

精益数据分析（74/126）：从愿景到落地的精益开发路径——Rally的全流程管理实践

精益数据分析（74/126）：从愿景到落地的精益开发路径——Rally的全流程管理实践在创业的黏性阶段，如何将抽象的愿景转化为可落地的产品功能？如何在快速迭代中保持战略聚焦？今天，我们通过Rally软…...

编程日记 2025/6/27 23:18:33

网站制作公司哪家强？(2025最新版)

在数字化时代，一个优质的网站是企业展示自身实力、拓展业务渠道的重要工具。无论是初创企业还是大型集团，都需要一个功能强大、设计精美的网站来吸引客户、提升品牌形象。但面对市场上众多的网站制作公司，如何选择一家靠谱的合作伙伴呢&#…...

编程日记 2025/6/27 13:57:30

23种经典设计模式（GoF设计模式）

目录 🍀 创建型设计模式（5种） 1. 单例模式（Singleton） 2. 工厂方法模式（Factory Method） 3. 抽象工厂模式（Abstract Factory） 4. 建造者模式（Builder&am…...

编程日记 2025/6/27 11:04:43

深入解析Dify：从架构到应用的全面探索

文章目录引言一、Dify基础架构1.1 架构概述1.2 前端界面1.3 后端服务1.4 数据库设计二、Dify核心概念2.1 节点（Node）2.2 变量（Variable）2.3 工作流类型三、代码示例3.1 蓝图注册3.2 节点运行逻辑3.3 工作流运行逻辑四、应用场…...

编程日记 2025/6/27 23:03:06

电子电路：怎么理解放大电路中集电极电流Ic漂移？

如果放大电路中集电极电阻RC因为温度或老化而阻值变化，Vce Vcc - IcRc - IcRc，这会改变工作点，导致集电极的电流漂移。 IC漂移的定义：集电极电流随时间、温度等变化。影响IC的因素：β、IB、VBE、温度、电源电压、元件…...

编程日记 2025/6/29 5:20:37

【疑难杂症】Mysql 无报错修改配置文件后服务启动不起来已解决|设置远程连接

我修改配置后，服务无法启动可以试试用记事本打开后另存为，格式选择ANSI，然后重新启动mysql试试设置运行远程、 1、配置my.ini文件在[mysqld]下添加bind-address0.0.0.0 2、设置root权限使用MySql命令行执行， CREATE USER…...

编程日记 2025/6/27 23:08:45

Java基础 5.21

1.多态注意事项和细节讨论多态的前提是：两个对象（类）存在继承关系多态的向上转型本质：父类的引用指向了子类的对象语法：父类类型引用名 new 子类类型();特点：编译类型看左边，运行类型看…...

编程日记 2025/6/27 22:50:42

探索Puter：一个基于Web的轻量级“云操作系统”

在云计算与Web技术高度融合的今天，开发者们不断尝试将传统桌面体验迁移到浏览器中。近期，GitHub上一个名为Puter的开源项目吸引了社区的关注。本文将带你深入解析Puter的设计理念、技术架构与使用场景，探索它如何通过现代Web技术重构用户的“云端桌面”。一、项目概览 Put…...

编程日记 2025/6/27 18:05:12

Java SpringBoot 项目中 Redis 存储 Session 具体实现步骤

目录一、添加依赖二、配置 Redis三、配置 RedisTemplate四、创建控制器演示 Session 使用五、启动应用并测试六、总结 Java 在 Spring Boot 项目中使用 Redis 来存储 Session，能够实现 Session 的共享和高可用，特别适用于分布式系统环境。以下是具体的实…...

编程日记 2025/6/27 23:18:34

电商项目-商品微服务-规格参数管理，分类与品牌管理需求分析

本文章介绍：规格参数管理与分类与品牌管理的需求分析和表结构的设计。一、规格参数管理规格参数模板是用于管理规格参数的单元。规格是例如颜色、手机运行内存等信息，参数是例如系统：安卓（Android）后置摄像头像素&…...

编程日记 2025/6/27 22:50:57

Java 定时任务中Cron 表达式与固定频率调度的区别及使用场景

Java 定时任务：Cron 表达式与固定频率调度的区别及使用场景一、核心概念对比 1. Cron 表达式调度定义：基于日历时间点的调度，通过秒分时日月周年的格式定义复杂时间规则。时间基准：绝对时间点（如每天 12:…...

编程日记 2025/6/27 23:22:18

2025年- H39-Lc147 --394.字符串解码（双栈，递归）--Java版

1.题目描述 2.思路可以用递归也可以用双栈，这边用栈。首先先创建一个双栈，一个栈存数字（interger），另一个栈存字符（character）。设置数字临时变量num，设置字母临时变量curString在…...

编程日记 2025/6/29 7:24:30

学编程对数学成绩没帮助?

今天听到某机构直播说“学编程对数学成绩没帮助，如果想提高数学成绩那就单独去学数学”，实在忍不住要和各位家长聊聊我的思考，也欢迎各位家长评论。恰在此时我看见了一道小学6年级的数学题如下，虽然题不难，但立刻让我…...

编程日记 2025/6/29 6:02:12

现代计算机图形学Games101入门笔记(十九)

光场在近处画上图像，VR的效果。任何时间任何位置看到的图像都不一样，是不是就是一个世界了。光场就是任何一个位置往任何一个方向去的光的强度知道光场就能知道这个物体长什么样子。光线可以用一个点和一个方向确定。也可以用2个点确定一条光线。 …...

编程日记 2025/6/27 23:22:11

STM32单片机GUI系统1 GUI基本内容

目录一、GUI简介 1、emWin 2、LVGL (Light and Versatile Graphics Library) 3、TouchGFX 4、Qt for Embedded 5、特性对比总结二、LVGL移植要求三、优化LVGL运行效果方法四、LVGL系统文件一、GUI简介在嵌入式系统中，emWin、LVGL、TouchGFX 和 Qt 是…...

编程日记 2025/6/26 23:14:40

Prometheus+Grafana实现对服务的监控

PrometheusGrafana实现对服务的监控前言：PrometheusGrafana实现监控会更加全面，监控的组件更多 Prometheus官网 https://prometheus.io/docs/prometheus/latest/getting_started/ Grafana官网 https://grafana.com/docs/ 一、安装PrometheusGrafana 这…...

编程日记 2025/6/27 23:22:34

hook原理和篡改猴编写hook脚本

hook原理： hook是常用于js反编译的技术；翻译就是钩子，他的原理就是劫持js的函数然后进行篡改一段简单的js代码 ：这个代码是顺序执行的 function test01(){console.log(test01)test02() } function test02(){console.log(02)tes…...

编程日记 2025/6/27 22:50:56

Sign签证绕过

Sign的简介 Sign是指一种类似于token的东西他的出现主要是保证数据的完整性，防篡改就是一般的逻辑是 sign的加密的值和你输入的数据是相连的（比如sign的加密是使用输入的数据的前2位数字配合SHA1 等这样的） 绕过 ：碰运气可以…...

编程日记 2025/6/27 13:11:11

【Vue篇】重剑无锋：面经PC项目工程化实战面经全解

目录引言一、项目功能演示 1. 目标 2. 项目收获二、项目创建目录初始化 vue-cli 建项目三、ESlint代码规范及手动修复 1. JavaScript Standard Style 规范说明 2. 代码规范错误 3. 手动修正四、通过eslint插件来实现自动修正五、调整初始化目录结构 1. 删除…...

编程日记 2025/6/30 12:29:23

JVM参数详解与实战案例指南(AI)

JVM参数详解与实战案例指南一、JVM参数概述与分类 JVM参数是控制Java虚拟机运行时行为的关键配置项，合理设置这些参数可以显著提升应用性能。根据功能和稳定性，JVM参数主要分为三类： 标准参数：所有JVM实现都必须支持&#xff…...

编程日记 2025/6/27 22:53:52

C++通过空间配置器实现简易String类

C实现简易String类在C中，使用空间配置器（allocator）实现自定义string类需要管理内存分配、释放及对象构造/析构。 #include <memory> #include <algorithm> #include <cstring> #include <stdexcept> #include &l…...

编程日记 2025/6/29 16:35:50

MyBatis：简化数据库操作的持久层框架

1、什么是Mybatis？ MyBatis 本是apache的一个开源项目iBatis, 2010年这个项目由 apachesoftwarefoundation 迁移到了google code，由谷歌托管，并且改名为MyBatis 。 2013年11月迁移到Github。 iBATIS一词来源于“internet”和“abatis”的组合，是一个基于Java的持久层框…...

编程日记 2025/6/29 17:23:11

Spring Boot集成Spring AI与Milvus实现智能问答系统

在Spring Boot中集成Spring AI与Milvus实现智能问答系统引言随着人工智能技术的快速发展，越来越多的企业开始探索如何将AI能力集成到现有系统中。本文将介绍如何在Spring Boot项目中集成Spring AI和向量数据库Milvus，构建一个高效的智能问答系统。 …...

编程日记 2025/6/27 22:51:11

软件工程（六）：一致性哈希算法

哈希算法定义哈希算法是一种将任意长度的输入（如字符串、文件等）转换为固定长度输出的算法，这个输出称为“哈希值”或“摘要”。常见的哈希算法哈希算法哈希位数特点MD5128位快速，但已不安全SHA-1160位安全性提高&#xf…...

编程日记 2025/6/27 22:50:38

Linux内存分页管理详解

Linux内存分页管理详解：原理、实现与实际应用目录 Linux内存分页管理详解：原理、实现与实际应用一、引言二、内存分页机制概述 1. 虚拟地址与物理地址的划分 2. 分页的基本原理三、虚拟地址到物理地址的转换 1. 地址转换流程 2. 多级页表的遍历四、多级页表的…...

编程日记 2025/6/27 22:50:48

work-platform阅读

Redis存储的是字节数据，所以任何对象想要存进redis，都要转化成字节。对象转化为字节流的过程，叫序列化，反之，叫反序列化 Redis 序列化详解及高性能实践-CSDN博客https://blog.csdn.net/zhangkunls/article/details/14…...

编程日记 2025/6/29 5:14:45

在 Excel xll 自动注册操作中使用东方仙盟软件————仙盟创梦IDE

windows 命令 "C:\Program Files\Microsoft Office\root\Office16\EXCEL.EXE" /X "C:\Path\To\仙盟.xll" excel 注册 Application.RegisterXLL "XLMAPI.XLL" 重点代码解析 excel 命令模式 [ExcelCommand(Description "使用参数")] …...

编程日记 2025/6/27 23:07:49

微调后的模型保存与加载

在Hugging Face Transformers库中，微调后的模型保存与加载方式因微调方法（如常规微调或参数高效微调）而异。一、常规微调模型的保存与加载 1、保存完整模型使用 save_pretrained() 方法可将整个模型（包含权重、配置、分词器…...

编程日记 2025/6/27 23:31:08

PostgreSQL 日常维护

目录一、基本使用 1、登录数据库 2、数据库操作 （1）列出库 （2）创建库 （3）删除库 （4）切换库 （5）查看库大小 3、数据表操作 （1&#xff…...

编程日记 2025/6/27 23:35:17

Ntfs!ATTRIBUTE_RECORD_HEADER结构$INDEX_ROOT=0x90的一个例子

Ntfs!ATTRIBUTE_RECORD_HEADER结构$INDEX_ROOT0x90的一个例子 1: kd> dx -id 0,0,899a2278 -r1 ((Ntfs!_FILE_RECORD_SEGMENT_HEADER *)0xc431a400) ((Ntfs!_FILE_RECORD_SEGMENT_HEADER *)0xc431a400) : 0xc431a400 [Type: _FILE_RECORD_SEGMENT_HEADER …...

编程日记 2025/6/27 23:09:05

leetcode hot100刷题日记——7.最大子数组和

class Solution { public:int maxSubArray(vector<int>& nums) {//方法一：动态规划//dp[i]表示以i下标结尾的数组的最大子数组和//那么在i0时，dp[0]nums[0]//之后要考虑的就是我们要不要把下一个数加进来，如果下一个数加进来会使结…...

编程日记 2025/6/27 23:19:18

LlamaIndex

1、大语言模型开发框架的价值是什么？ SDK：Software Development Kit，它是一组软件工具和资源的集合，旨在帮助开发者创建、测试、部署和维护应用程序或软件。所有开发框架（SDK）的核心价值，都是降低开发、维护成本。大语言模型开发框架的价值，是让开发者可以更方便地…...

编程日记 2025/6/27 23:26:36

背景