当前位置： 首页 > news >正文

TMDOG——语言大模型进行意图分析驱动后端实践

news 来源：原创 2025/8/25 0:00:20

语言大模型进行意图分析驱动后端实践

项目概述

项目地址：https://github.com/TMDOG666/AI_Backend_Demo

该项目通过语言大模型，通过分析用户意图、拆分任务、构建API调用链来驱动后端实践。

以一个简单的教务系统后端为例，将教务系统后端接口文档作为知识库，精确分析用户意图，自动执行业务流程。

使得用户可以在聊天交互页面实现较为复杂的业务操作，简化用户操作，并与后端接口解耦，具有良好的灵活性。

操作示例

请添加图片描述

核心架构

请添加图片描述

  1. 意图分析层 - 核心处理用户输入的自然语言意图
  2. 知识库检索层 - 通过RAG技术检索相关API文档
  3. 任务分解层 - 将复杂请求拆分为可执行的API调用序列
  4. 执行引擎层 - 实际调用后端API并处理响应

意图分析层深度解析

1. 意图识别技术栈

**Prompt工程**：精心设计的提示模板引导模型准确理解意图
**RAG（检索增强生成）**：将后端API文档和业务调用逻辑文档作为知识库

2. 多阶段意图分析流程

  1. 初级意图分类：
    • 将用户输入内容并检索检索知识库，分析意图拆分任务
    • 使用轻量级模型（Qwen2.5-14b）提高响应速度

  2. 细粒度意图解析：
    • 将拆分步骤检索知识库获取精确的API信息
    • 根据意图分析结果生成API调用计划链

3. 知识库增强的意图分析

• API文档向量化：
• 使用嵌入模型进行文本向量化
• 使用ChromaDB存储和检索API文档片段
• 查询与用户意图最相关的API描述

执行引擎优化

  1. 智能重试机制：
    • 处理API失败情况

  2. 响应后处理：
    • 自然语言生成

性能优化策略

  1. 意图缓存：
    • 缓存常见意图的解析结果

总结与展望

优点

  • 该架构通过多层次的意图分析，实现了从自然语言到系统API的精准转换

  • 意图分析并不依赖重量级参数的模型，即使是参数规模较小的模型也可以实现功能

  • 与后端解耦，不需要为意图分析层修改后端逻辑，仅需提供API文档与操作逻辑文档作为知识库

缺陷

  • 毕竟是一个简易的DEMO，并不支持上下文，如果支持上下文可以实现更复杂、更流畅的用户交互流程

  • 性能问题，使用的是硅基流动大模型服务商，由于响应延迟，处理用户输入延迟很大

  • 交互过于简单，博主想的是能不能和前端联动，实现意图分析驱动前端，就可以实现更复杂的业务逻辑

这种意图驱动的后端实践为构建智能交互系统提供了可扩展的框架，特别适合需要将自然语言转换为复杂系统操作的场景。

相关文章：

TMDOG——语言大模型进行意图分析驱动后端实践

语言大模型进行意图分析驱动后端实践 项目概述 项目地址：https://github.com/TMDOG666/AI_Backend_Demo 该项目通过语言大模型，通过分析用户意图、拆分任务、构建API调用链来驱动后端实践。 以一个简单的教务系统后端为例，将教务系统后端…...

编程日记 2025/8/25 0:00:20

未启用CUDA支持的PyTorch环境** 中使用GPU加速解决方案

1. 错误原因分析 根本问题：当前安装的PyTorch是CPU版本，无法调用GPU硬件加速。当运行以下代码时会报错：model YOLO("yolov8n.pt").to("cuda") # 或 .cuda()2. 解决方案步骤 步骤1：验证CUDA可用性 在Pyth…...

编程日记 2025/8/24 23:59:05

【mysql】Mac 通过 brew 安装 mysql 、启动以及密码设置

Mac 通过 brew 安装 mysql 、启动以及密码设置 使用 brew 安装 mysqlmysql 启动mysql密码设置参考文章： 使用 brew 安装 mysql brew install mysqlmysql 启动 下载完毕，终端告诉我们mysql数据库没有设置密码的，我们可以直接执行 mysql -u r…...

编程日记 2025/8/25 0:00:20

Vue2 nextTick

核心源码位置 Vue 2 的 nextTick 实现主要在 src/core/util/next-tick.js 文件中。 完整源码结构 import { noop } from shared/util import { handleError } from ./error import { isIE, isIOS, isNative } from ./envexport let isUsingMicroTask falseconst callbacks …...

编程日记 2025/8/24 6:02:12

Ubuntu 安装 NVIDIA显卡驱动、CUDA 以及 CuDNN工具

文章目录 一、简介二、查看显卡设备三、安装显卡驱动四、安装CUDA工具箱五、安装CuDNN小结 一、简介 NVIDIA 驱动：操作系统与 NVIDIA 显卡硬件之间的桥梁，负责驱动显卡硬件的运行，显卡的“底层操作系统”，一切的基础。CUDA&#…...

编程日记 2025/8/22 13:08:55

LeetCode算法题(Go语言实现)_50

题目 现有一个包含所有正整数的集合 [1, 2, 3, 4, 5, …] 。 实现 SmallestInfiniteSet 类： SmallestInfiniteSet() 初始化 SmallestInfiniteSet 对象以包含 所有 正整数。 int popSmallest() 移除 并返回该无限集中的最小整数。 void addBack(int num) 如果正整数 …...

编程日记 2025/8/23 23:32:44

idea报错java: 非法字符: ‘\ufeff‘解决方案

解决方案步骤以及说明 BOM是什么？1. BOM的作用2. 为什么会出现 \ufeff 错误？3. 如何解决 \ufeff 问题？ 最后重新编译，即可运行！！！ BOM是什么？ \ufeff 是 Unicode 中的 BOM&#xff0…...

编程日记 2025/8/21 6:00:29

WPF依赖注入IHostApplicationLifetime关闭程序

WPF依赖注入IHostApplicationLifetime关闭程序 使用Application.Current.Shutdown();退出会报异常 应该使用 app.Dispatcher.InvokeShutdown(); Application.Current.Shutdown();app.Dispatcher.InvokeShutdown();static App app new();[STAThread]public static void Main(…...

编程日记 2025/8/19 2:47:29

如何在 IntelliJ IDEA 中安装通义灵码 - AI编程助手提升开发效率

随着人工智能技术的飞速发展，AI 编程助手已成为提升开发效率和代码质量的强大工具。在众多 AI 编程助手之中，阿里云推出的通义灵码凭借其智能代码补全、代码解释、生成单元测试等丰富功能，脱颖而出，为开发者带来了全新的编程体验。…...

编程日记 2025/8/20 10:24:47

【力扣】两两交换链表中的节点

两两交换链表中的节点 代码： /*** Definition for singly-linked list.* struct ListNode {* int val;* ListNode *next;* ListNode() : val(0), next(nullptr) {}* ListNode(int x) : val(x), next(nullptr) {}* ListNode(int x, ListNode *n…...

编程日记 2025/8/19 5:02:03

数据共享交换平台之文件交换

数据共享交换平台的文件交换管理功能提供部门与部门之间的文件交换通道，满足跨部门之间文件交换需求。文件交换需要能够按照交换业务场景对交换通道进行分类管理。文件交换管理需满足如下要求： 1.文件交换统计：支持查看本部门与其他部门之间…...

编程日记 2025/8/23 8:04:38

什么是全球代理？如何选择全球代理服务？

在全球化不断深化的今天，互联网已经成为人类沟通、工作和学习的重要纽带。而全球代理则是这一纽带上的关键技术之一，它赋予了我们探索不同地区网络资源的能力。今天，我们来聊聊什么是全球代理、它能做什么，以及如何选择合适的全球…...

编程日记 2025/8/24 23:59:04

Spring Boot整合Kafka的详细步骤

1. 安装Kafka 下载Kafka：从Kafka官网下载最新版本的Kafka。 解压并启动： 解压Kafka文件后，进入bin目录。 启动ZooKeeper：./zookeeper-server-start.sh ../config/zookeeper.properties。 启动Kafka：./kafka-server-…...

编程日记 2025/8/17 20:33:10

【正点原子STM32MP257连载】第四章 ATK-DLMP257B功能测试——USB WIFI测试 #WIFI蓝牙二合一 #RTL8733BU

1）实验平台：正点原子ATK-DLMP257B开发板 2）浏览产品：https://www.alientek.com/Product_Details/135.html 3）全套实验源码手册视频下载：正点原子资料下载中心 文章目录 第四章 ATK-DLMP257B功能测试——USB…...

编程日记 2025/8/21 19:06:39

Doip功能寻址走UDP协议

目前使用 connect()函数的UDP客户端 ,这里接收数据 解析的地方 查看一下。 如果使用 bind()、sendto()、recvfrom() 组合 那么返回值 和发送要在做调整，，根据业务需要后续在调整 其余的 和原来的 逻辑都是一样的，只是协议变了而已。 if serv…...

编程日记 2025/8/20 5:29:35

硬件电路设计之51单片机（2）

声明：绘制原理图和PCB的软件为嘉立创EDA。根据B站尚硅谷嵌入式之原理图&PCB设计教程学习所作个人用笔记。 目录 一、原理图详解 1、TypeC接口 （1）TypeC接口介绍 （2）TypeC原理图 2、5V转3.3V 3、单片机电源开…...

编程日记 2025/8/21 18:54:48

Deeplizard 深度学习课程（一）—— Pytorch 和 Tensor 简介

前言 该pytorch笔记参考deeplizard官方网站课程，有相应视频和博客，链接如下： deeplizardhttps://deeplizard.com/learn/video/v5cngxo4mIg 1.Pytorch 简介 PyTorch 是一个深度学习框架和一个科学计算包。PyTorch 的科学计算方面主要是 PyTo…...

编程日记 2025/8/24 23:58:28

Delphi HMAC算法

1. 前言 今天做一个三方接口，接口文档描述签名采用MD5，但是实际测试过程中，始终校验不通过，经过和三方沟通，才知道采用的是HMAC-MD5。由于Delphi7没有对HMAC的支持，则采用XE版本来支持。本次使用Delphi XE …...

编程日记 2025/8/24 13:05:35

Ubuntu服务器性能调优指南：从基础工具到系统稳定性提升

一、性能监控工具的三维应用 1.1 监控矩阵构建 通过组合工具搭建立体监控体系： # 实时进程监控 htop --sort-keyPERCENT_CPU# 存储性能采集 iostat -dx 2# 内存分析组合拳 vmstat -SM 1 | awk NR>2 {print "Active:"$5"MB Swpd:"$3"…...

编程日记 2025/8/20 21:33:52

深度解析C++开源OCR引擎：架构、编译优化与工业级部署指南

1. 引言：OCR技术演进与现状分析 光学字符识别(OCR)技术经历了从传统模式识别到深度学习的三代发展： 第一代：基于模板匹配（1970s-1990s） 第二代：特征提取+分类器（1990s-2010s） 第三代：端到端深度学习（2010s-至今） 当前工业界主流方案呈现"双轨制"发展态势…...

编程日记 2025/8/23 7:32:02

关于Newtonsoft.Json

历史 Newtonsoft.Json（也称为 Json.NET）是由 James Newton - King 开发的一个开源的 JSON 处理库，它于 2007 年首次发布。在早期，.NET 平台缺乏一个强大且灵活的 JSON 处理工具，Newtonsoft.Json 应运而生，…...

编程日记 2025/8/17 18:35:31

Spark-Sql编程（三）

一、数据加载与保存 通用方式：使用spark.read.load和df.write.save，通过format指定数据格式（如csv、jdbc、json等），option设置特定参数（jdbc格式下的url、user等），load和save指定路…...

编程日记 2025/8/22 11:10:14

CTF--好像需要管理员

一、原网页： 二、步骤： 1.扫描： 发现：robots.txt 2.打开robots.txt： 3.打开resul.php： 4.代码解析： if ($_GET[x]$password) //检查通过 URL 参数 x 传递的值是否等于变量 $password 的值 详…...

编程日记 2025/8/22 4:14:17

耀圣控制设备有限公司总经理李雨蔓的创业之路

破浪者李雨蔓：从零到行业标杆的铿锵之路 在浙江永嘉这片被誉为“中国泵阀之乡”的热土上，一位86年出生的女性企业家，用十年光阴书写了一段白手起家的传奇。她，是一曲关于勇气、智慧与匠心的赞歌。从技术员到行业标杆的缔造者&…...

编程日记 2025/8/24 1:45:38

Spring Boot JPA 开发之Not an entity血案

项目状况介绍 项目环境 JDK 21Spring Boot 3.4.3Hibernate： 6.6.13.Final项目描述 因为是微服务架构，项目层级如下 project-parent project-com project-A … project-X 其中： project-parent定义依赖库的版本project-com 定义了一些公用的方法和配置，包括持久层的配置。…...

编程日记 2025/8/23 8:32:06

什么是车规级MCU?STM32也能上车规级场景？

一、车规级MCU的定义 车规级MCU（Microcontroller Unit）是专为汽车电子系统设计的微控制器芯片，集成CPU、存储器、外设接口等功能模块，用于实现车辆控制、数据处理和实时响应。其核心特点包括： 高可靠性：需在…...

编程日记 2025/8/24 17:58:45

vue3.2 + element-plus 实现跟随input输入框的弹框，弹框里可以分组或tab形式显示选项

效果 基础用法&#xff08;分组选项&#xff09; 高级用法&#xff08;带Tab栏&#xff09; <!-- 弹窗跟随通用组件 SmartSelector.vue --> <template><div class"smart-selector-container"><el-popover :visible"visible" :w…...

编程日记 2025/8/21 2:13:59

go 指针接收者和值接收者的区别

go 指针接收者和值接收者的区别 指针接收者和值接收者的区别主要有两点&#xff1a; Go 中函数传参是传值&#xff0c;因此指针接收者传递的是接收者的指针拷贝&#xff0c;值接收者传递的是接收者的拷贝---在方法中指针接收者的变量会被修改&#xff0c;而值接收者的成员变量…...

编程日记 2025/8/19 10:51:31

部署qwen2.5-VL-7B

简单串行执行 from transformers import Qwen2_5_VLForConditionalGeneration, AutoProcessor from qwen_vl_utils import process_vision_info import torch, time, threadingdef llm(model_path,promptNone,imageNone,videoNone,imagesNone,videosNone,max_new_tokens2048,t…...

编程日记 2025/8/17 21:09:09

Go：测试

go test 工具 go test是 Go 语言包的测试驱动程序 &#xff0c;包依据特定约定组织 。包目录中以_test.go结尾的文件是go test编译对象&#xff0c;而非go build的编译目标 。 特殊测试函数 在*_test.go文件中有三种特殊函数 &#xff1a; 功能测试函数&#xff1a;以Test为…...

编程日记 2025/8/19 21:47:53

用微信小程序制作一个性行为同意协议系统

用微信小程序制作一个性行为同意协议系统 用微信小程序制作一个性行为同意协议系统&#xff0c;具备查询、修改、增加和演示的Web功能。首先&#xff0c;我需要明确这个系统的核心功能和法律合规性。性同意是一个敏感且法律相关的话题&#xff0c;必须确保系统的设计符合法律法…...

编程日记 2025/8/22 2:22:37

leetcode 122. Best Time to Buy and Sell Stock II

题目描述 这道题可以用贪心思想解决。 本文介绍用动态规划解决。本题分析方法与第121题一样&#xff0c;详见leetcode 121. Best Time to Buy and Sell Stock 只有一点区别。第121题全程只能买入1次&#xff0c;因此如果第i天买入股票&#xff0c;买之前的金额肯定是初始金额…...

编程日记 2025/8/20 15:39:58

FairyGUI图标文字合批失败的原因

1&#xff09;FairyGUI图标文字合批失败的原因 2&#xff09;为什么Cubemap的内存占用超高 3&#xff09;如何找到网格某个切面的中心点 4&#xff09;为什么SafeZone在倒屏后方向相反 这是第428篇UWA技术知识分享的推送&#xff0c;精选了UWA社区的热门话题&#xff0c;涵盖了…...

编程日记 2025/8/22 14:14:31

C/C++ 通用代码模板

✅ C 语言代码模板&#xff08;main.c&#xff09; 适用于基础项目、算法竞赛或刷题&#xff1a; #include <stdio.h> #include <stdlib.h> #include <string.h> #include <stdbool.h> #include <math.h>// 宏定义区 #define MAX_N 1000 #defi…...

编程日记 2025/8/21 2:34:42

void MainWindow::on_btnOutput_clicked()为什么我在QT里面没有connect，也能触发点击效果

在 Qt 中&#xff0c;即使你没有显式调用 connect 函数&#xff0c;某些信号&#xff08;如按钮的 clicked() 信号&#xff09;仍然可以触发槽函数。这是因为 Qt 提供了一种自动连接机制&#xff0c;称为 自动连接&#xff08;Auto-Connection&#xff09;。以下是可能的原因和…...

编程日记 2025/8/24 5:06:29

基于YOLO11的车牌识别分析系统

【包含内容】 【一】项目提供完整源代码及详细注释 【二】系统设计思路与实现说明 【三】系统数据统计与可视化分析支持 【技术栈】 ①&#xff1a;系统环境&#xff1a;Windows/macOS/Linux ②&#xff1a;开发环境&#xff1a;Python 3.8 ③&#xff1a;技术栈&#x…...

编程日记 2025/8/24 17:22:45

openwebui搭建mcp

1、升级ollama https://github.com/ollama/ollama/blob/main/docs/faq.md curl -fsSL https://ollama.com/install.sh | shOllama 启动后&#xff0c;设置外网访问_ollama 外部访问-CSDN博客 ubuntu安装deepseek-CSDN博客 sudo vim /etc/systemd/system/ollama.serviceEnvi…...

编程日记 2025/8/24 18:10:52

邀请函 | 知从科技邀您共赴2025上海车展

2025上海车展将于4月23日至5月2日在国家会展中心&#xff08;上海&#xff09;盛大举行。本届车展以 “科技智驾未来”为主题&#xff0c;共同展示新能源汽车、智能驾驶等领域的最新技术与成果。 知从科技将携行业领先的软件产品与技术服务亮相于本次展览会&#xff0c;全方位…...

编程日记 2025/8/23 2:04:37

ESP32开发工具链选择指南：ESP-IDF vs PlatformIO vs Arduino

1. 引言 ESP32作为乐鑫&#xff08;Espressif&#xff09;推出的一款高性能Wi-Fi & Bluetooth双模芯片&#xff0c;凭借其强大的性能和丰富的生态&#xff0c;在物联网&#xff08;IoT&#xff09;领域广受欢迎。然而&#xff0c;开发ESP32时面临的一个关键问题是&#xf…...

编程日记 2025/8/16 18:48:18

【JAVA】bat文件启动jar场景获取bat文件路径的方法

一、推荐方案&#xff1a;参数传递法 步骤1&#xff1a;修改BAT脚本 echo off java -jar -Dbat.file"%~f0" your-app.jar %*关键参数说明&#xff1a; %~f0&#xff1a;获取BAT文件的完整路径%*&#xff1a;传递所有原始参数 步骤2&#xff1a;Java代码获取参数 …...

编程日记 2025/8/23 6:37:37

OpenLayers：extent与view extent 介绍

一、范围的概念 1.什么是范围&#xff1f; 在Openlayers中范围&#xff08;Extent&#xff09;是用于表示地理空间区域的一种概念。它通常由一个数字数组构成&#xff0c;数组中的内容为&#xff1a;[最小x坐标&#xff0c;最小y坐标&#xff0c;最大x坐标&#xff0c;最大y坐…...

编程日记 2025/8/22 23:12:01

Python开发一个简单的软件系统

用Python语言实现&#xff0c;具备录入学生成绩、查询成绩和显示所有成绩等基本功能。以下是代码&#xff1a; # 用于存储学生成绩的字典&#xff0c;键是学生姓名&#xff0c;值是成绩 student_scores {} # 录入学生成绩的函数 def input_scores(): name input("…...

编程日记 2025/8/23 18:43:00

小草GrassRouter多5G聚合路由设备在应急公安消防行业的解决方案及重要作用

小草GrassRouter多5G聚合路由设备在应急、公安、消防等行业的解决方案及重要作用主要体现在以下几个方面&#xff0c;这些领域对通信的高可靠性、高带宽、低时延需求尤为突出&#xff0c;尤其在复杂环境或突发事件中需要保障指挥调度的实时性和稳定性&#xff1a; ** 一、行业…...

编程日记 2025/8/20 19:33:09

冒泡排序、插入排序、快速排序、堆排序、希尔排序、归并排序

目录 冒泡排序插入排序快速排序(未优化版本)快速排序(优化版本)堆排序希尔排序归并排序各排序时间消耗对比 冒泡排序 冒泡排序核心逻辑就是对数组从第一个位置开始进行遍历&#xff0c;如果发现该元素比下一个元素大&#xff0c;则交换位置&#xff0c;如果不大&#xff0c;就…...

编程日记 2025/8/20 12:40:40

JVM知识

JVM 内存模型 JVM的内存模型介绍一下 根据 JVM8 规范&#xff0c;JVM 运行时内存共分为虚拟机栈、堆、方法区、程序计数器、本地方法栈五个部分。 JVM的内存结构主要分为以下几个部分&#xff1a; 方法区&#xff1a;存放类对象 Java 虚拟机栈&#xff1a;存放方法之间的调…...

编程日记 2025/8/20 16:03:59

Docker 中多个容器之间的通信

在 Docker 中&#xff0c;多个容器之间的通信可以通过以下几种主要方式实现&#xff0c;具体选择取决于网络需求、隔离性及管理复杂度&#xff1a; 一、自定义 Bridge 网络&#xff08;推荐&#xff09; 通过创建自定义的 Docker 网络&#xff0c;容器可以加入同一网络并通过容…...

编程日记 2025/8/22 10:16:52

docker desktop for windows 登录国内镜像仓库

在使用 Docker Desktop for Windows 时&#xff0c;如果你希望连接到国内的 Docker 镜像仓库&#xff08;例如阿里云、腾讯云等&#xff09;&#xff0c;你可以通过配置 Docker 镜像加速器来实现。以下是一些步骤和示例&#xff0c;帮助你设置 Docker Desktop for Windows 以使…...

编程日记 2025/8/20 15:52:34

【blender小技巧】使用blender的Cats Blender Plugin插件将3D人物模型快速绑定或者修复为标准的人形骨骼

文章目录 前言绑定或者修复人形骨骼1、下载模型2、导入模型到blender中3、删除无用的相机和灯光3、导出模型并在unity中使用 专栏推荐完结 前言 有时候我们下载的3D人物模型&#xff0c;可能不带骨骼信息&#xff0c;或者带一些错乱的骨骼信息。这时候我们就可以使用blender将…...

编程日记 2025/8/21 4:34:26

视频压缩技术学习（不高明版本）

1. 压缩的本质与核心目标​​ 视频压缩的核心在于​​去除冗余信息​​&#xff0c;包括空间冗余&#xff08;相邻像素相关性&#xff09;、时间冗余&#xff08;连续帧相似性&#xff09;以及视觉冗余&#xff08;人眼感知特性&#xff09;。通过算法优化&#xff0c;在保持可…...

编程日记 2025/8/24 14:17:47

在Vue项目中查询所有版本号为 1.1.9 的依赖包名 的具体方法，支持 npm/yarn/pnpm 等主流工具

以下是 在Vue项目中查询所有版本号为 1.1.9 的依赖包名 的具体方法&#xff0c;支持 npm/yarn/pnpm 等主流工具&#xff1a; 一、使用 npm 1. 直接过滤依赖树 npm ls --depth0 | grep "1.1.9"说明&#xff1a; npm ls --depth0&#xff1a;仅显示直接依赖&#xf…...

编程日记 2025/8/20 12:27:18