当前位置：首页 > news >正文

Java调用LLM大模型 - 基于 Spring AI 实现

news 来源：原创 2025/8/7 6:09:09

Spring AI Alibaba实战：Java集成通义千问构建流式对话应用

一、Spring AI核心架构解析

1.1 框架定位与优势对比

graph TDA[Spring AI] --> B[统一API接口]A --> C[多模型支持]A --> D[企业级特性]B --> E(OpenAI/Azure/阿里云)C --> F(LLaMA/Qwen/Gemini)D --> G(安全审计/监控指标)

1.2 技术栈组成

组件	功能描述	对应Spring生态
`ChatClient`	标准化对话接口	JdbcTemplate
`PromptTemplate`	动态提示词管理	Thymeleaf
`EmbeddingClient`	向量计算支持	Spring Data
`AudioClient`	语音处理能力	Spring Integration

二、环境准备与项目初始化

2.1 开发环境要求

# 验证环境
java -version  # 要求17+
mvn -v        # 3.6.3+
docker info   # 可选容器化部署

2.2 阿里云密钥配置

登录阿里云百炼控制台
创建API Key并设置环境变量：

# Linux/Mac
export AI_DASHSCOPE_API_KEY="sk-xxxxxxxx"# Windows(PowerShell)
$env:AI_DASHSCOPE_API_KEY="sk-xxxxxxxx"

三、SpringBoot集成实战

3.1 POM关键配置

<!-- 仓库配置 -->
<repositories><repository><id>spring-snapshots</id><url>https://repo.spring.io/snapshot</url></repository>
</repositories><!-- 依赖配置 -->
<dependencies><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-alibaba-starter</artifactId><version>1.0.0-M2</version></dependency><!-- 流式响应支持 --><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-webflux</artifactId></dependency>
</dependencies>

运行 HTML

3.2 应用配置(application.yml)

spring:ai:dashscope:api-key: ${AI_DASHSCOPE_API_KEY}chat:options:model: qwen-max  # 可选qwen-plus/qwen-turbotemperature: 0.7

四、核心代码实现

4.1 流式对话控制器

@RestController
@RequestMapping("/ai")
@CrossOrigin
public class ChatController {private final StreamingChatClient chatClient;@Autowiredpublic ChatController(StreamingChatClient.Builder builder) {this.chatClient = builder.build();}@GetMapping("/stream")public Flux<String> streamChat(@RequestParam String question,@RequestParam(defaultValue = "false") boolean markdown) {String template = markdown ? "请用Markdown格式回答：{input}" : "{input}";Prompt prompt = new PromptTemplate(template).create(Map.of("input", question));return chatClient.stream(prompt).map(ChatResponse::getResults).flatMapIterable(list -> list).map(content -> content.getOutput().getContent());}
}

4.2 增强型提示词模板

// resources/prompts/qa.st
你是专业IT顾问，请用中文回答技术问题。
用户问题：${input}
回答要求：
1. 包含代码示例
2. 给出参考资料链接
3. 使用${markdown ? 'Markdown' : '纯文本'}格式

五、前端集成方案

5.1 React流式接收实现

function ChatBox() {const [messages, setMessages] = useState([]);const handleSend = async (question) => {const response = await fetch(`/ai/stream?question=${encodeURIComponent(question)}&markdown=true`);const reader = response.body.getReader();const decoder = new TextDecoder();let fullResponse = '';while (true) {const { done, value } = await reader.read();if (done) break;const chunk = decoder.decode(value);fullResponse += chunk;setMessages([...messages, {id: Date.now(),content: fullResponse,isBot: true}]);}};return (<div className="chat-container"><MessageList messages={messages} /><InputArea onSend={handleSend} /></div>);
}

六、生产环境最佳实践

6.1 性能优化方案

优化方向	具体措施	预期收益
连接池	配置HTTP连接复用	降低30%延迟
缓存	启用Response缓存(Spring Cache)	减少API调用
熔断机制	集成Resilience4j	提高可用性

6.2 安全防护策略

输入过滤：

@GetMapping("/safe-stream")
public Flux<String> safeStream(@RequestParam @Valid @Size(max=500) String input) {// 自动校验输入长度
}

速率限制：

@Bean
RateLimiterRegistry rateLimiter() {return RateLimiterRegistry.custom().add("qwen-api", RateLimiterConfig.custom().limitForPeriod(50).limitRefreshPeriod(Duration.ofMinutes(1)).build()).build();
}

七、扩展应用场景

7.1 企业级应用架构

graph LRA[前端] --> B[API Gateway]B --> C{Spring AI Router}C -->|普通问答| D[Qwen]C -->|技术文档| E[LLaMA-3]C -->|安全审核| F[阿里云内容安全]

7.2 典型业务场景

智能客服：

@Prompt("你是{company}客服，请处理以下问题：{input}")
Flux<String> handleComplaint();

代码生成：

@PromptTemplate("生成{language}代码实现：{requirement}")
Mono<String> generateCode();

项目效果截图：

本文代码已通过以下环境验证：

JDK 17.0.8

Spring Boot 3.3.4

Qwen-72B-Chat模型
完整示例代码已上传Java调用LLM大模型 - 基于 Spring AI 实现

Java调用LLM大模型 - 基于 Spring AI 实现

Spring AI Alibaba实战：Java集成通义千问构建流式对话应用一、Spring AI核心架构解析 1.1 框架定位与优势对比 graph TDA[Spring AI] --> B[统一API接口]A --> C[多模型支持]A --> D[企业级特性]B --> E(OpenAI/Azure/阿里云)C --> F(LLaMA/Qwen…...

编程日记 2025/8/7 6:09:09

RK | rk3568开发与学习

RK | rk3568开发与学习时间：2025年4月19日17:20:28 文章目录 RK | rk3568开发与学习1.参考2.资料3.初次使用连接串口网络连接有线连接SSH登录 1.参考 Rockchip: Rockchip-瑞芯微电子股份有限公司正点原子： 1.正点原子RK3568开发板瑞芯微Linux嵌入式ARM…...

编程日记 2025/8/7 6:00:25

使用Service发布前后端应用程序

使用Service发布前后端应用程序文章目录使用Service发布前后端应用程序[toc]一、创建并发布后端应用程序二、创建并发布前端应用程序三、通过前端发送流量进行测试部署前端（Frontend）微服务和后端（Backend）微服务是比较常见的应…...

编程日记 2025/8/7 6:05:04

测试第四课---------性能测试

作者前言 🎂 ✨✨✨✨✨✨🍧🍧🍧🍧🍧🍧🍧🎂 🎂 作者介绍： 🎂🎂 🎂 🎉🎉&#x1f389…...

编程日记 2025/8/6 22:24:34

数据结构（6）——队列

目录前言一、队列的概念及其结构二、实现 2.1结构体定义 2.2初始化 2.3销毁链表 2.4尾插入（入队） 2.5头删（出队） 2.6个数 2.7检验是否为空 2.8取队头数据 2.9取队尾数据三、检验总结前言本文介绍队列&#x…...

编程日记 2025/8/7 6:03:10

在RK3588上使用ZLMediaKit

在RK3588上使用ZLMediaKit ZLMediaKit是一个高性能的流媒体服务器框架，可以在RK3588平台上运行。以下是在RK3588上使用ZLMediaKit的指南： 1. 环境准备首先确保你的RK3588开发板已安装好Linux系统（如Debian或Ubuntu）。安装依…...

编程日记 2025/8/6 5:07:12

分布式系统核心原理

CAP定理与权衡实践 CAP定理一致性（Consistency） 强一致性：所有读写操作均基于最新数据（如银行转账）。最终一致性：数据副本经过一段时间后达到一致（如社交媒体的点赞数）。技术实现…...

编程日记 2025/8/7 6:03:11

【进程信号】五、信号集操作接口详解

文章目录 Ⅰ. 操作sigset_t变量接口Ⅱ. sigprocmask（阻塞信号集）Ⅲ. sigpending（未决信号集）Ⅳ. 接口使用代码⚜️sigaction（捕捉信号）Ⅴ. 测试sigaction的一些场景Ⅰ. 操作sigset_t变量接口还记得我们上面讲过的 sigset_t 类型吗，sigset_t 类型对于每种信号用一个…...

编程日记 2025/8/6 13:09:06

报错描述 Docker 版本： apache/doris:fe-2.1.9 apache/doris:be-2.1.9 连接 MySQL 报错： ERROR 2003 (HY000): Cant connect to MySQL server on 127.0.0.1:9030 (111)FE 日志： INFO (UNKNOWN fe_e7cff187_69d4_42ee_90be_147e87310549(-1…...

编程日记 2025/8/7 5:56:10

bat脚本转换为EXE应用程序文件

很多时候,我们使用电脑时会编辑bat脚本文件很多时候，我们制作的玩笑，病毒也会使用这个格式. 但这个格式也有很多缺点 1,如果是需要管理员运行的程序,需要费劲的自己使用管理员身份运行 2,文件并不为大家所熟知,认同度不高 3,可以非常轻松的看到原代…...

编程日记 2025/8/7 6:05:05

爬虫入门与requests库的使用——python爬虫

文章目录浏览器抓包浏览器抓包介绍浏览器抓包页面介绍 python 爬虫爬虫是什么web网页渲染的方式http 协议http协议对资源的操作requests 库requests 是什么requests 的安装requests库的基础使用requests中不同的请求方式GET传递参数POST传递参数响应内容定制请求头Cookie获取服…...

编程日记 2025/8/7 5:56:10

[Java EE] Spring 配置和日志

目录 1. 配置文件 1.1 作用 1.2 Spring Boot 配置文件 1.3 读取配置文件 1.3.1 配置对象 1.3.2 配置集合 1.3.3 配置Map 1.4 yml 优缺点 2. 日志 2.1 日志的作用 2.2 日志的使用 2.3 日志框架 2.3.1 门面模式(外观模式) 2.4 SLF4J 框架介绍 2.5 日志格式的说明 …...

编程日记 2025/8/6 17:10:19

如何0基础学stm32？

如何0基础学stm32？ 作为一个混迹嵌入式领域十余年的老兵，每次看到"0基础学STM32"这样的提问，我都忍不住想笑，又有些无奈。这就像问"如何0基础学开飞机"一样—虽然理论上可行，但过程恐怕没那么愉快…...

编程日记 2025/8/6 11:16:05

XCZU27DR‑2FFVE1156I Xilinx Zynq UltraScale+ RFSoC

一、概述 XCZU27DR‑2FFVE1156I 属于 Zynq UltraScale™ RFSoC Gen 2 系列，采用 TSMC 16 nm FinFET 工艺，Speed Grade ‑2，集成了 ARM 处理系统、可编程逻辑与高性能射频数据转换单元，为软件定义无线电、5G 前端、测试测量等场景…...

编程日记 2025/8/7 5:57:30

取值运算符*和地址运算符

在指针的学习中，必不可少的两个操作符：*和&。在定义一个指针的时候，比如 short *p； 表示一个指向short数据类型的指针，具体表达的意思就是这个指针P指向的一个数据类型是short类型，也就是说操作的这…...

编程日记 2025/8/6 21:05:12

LNA设计

设计目的为后级提供足够的增益以克服后级电路噪声尽可能小的噪声和信号失真确保输入和输出端的阻抗匹配确保信号线性度评价标准噪声系数功率增益工作频率和带宽输入信号功率动态范围端口电压驻波比稳定性基于SP模型的LNA设计直流分析 S参数分析设计指标 &#xf…...

编程日记 2025/8/7 5:57:30

FPGA——DDS信号发生器设计

文章目录任务要求一、DDS简介二、设计过程1、相位累加器的设计2、波形存储器设计3、锁相环倍频电路设计4、顶层电路设计三、设计实现四、运行结果总结参考资料任务要求 1)利用DDS技术合成正弦波和方波； 2)输出信号的频率范围为10Hz～5MHz，…...

编程日记 2025/8/7 6:05:32

【网络编程】TCP数据流套接字编程

目录一. TCP API 二. TCP回显服务器-客户端 1. 服务器 2. 客户端 3. 服务端-客户端工作流程 4. 服务器优化 TCP数据流套接字编程是一种基于有连接协议的网络通信方式一. TCP API 在TCP编程中，主要使用两个核心类ServerSocket 和 Socket ServerSocket Ser…...

编程日记 2025/8/7 6:06:47

数据可视化（Matplotlib和pyecharts）

一常见图形概念及使用图表类型适用场景核心特点柱状图(bar)比较不同类别数据（如各地区销售额对比）、时间序列分析（离散时间）高度反映数值大小，支持横向/纵向展示，可叠加分组折线图(plot)连续数据趋势比较（适合展示随时间的变化，如股票价格走势、用户增长趋势）、多变…...

编程日记 2025/8/7 6:02:25

如何系统地入门学习stm32？

如何系统地入门学习stm32？ 作为一个在嵌入式领域摸爬滚打十余年的工程师，看到这个问题，我不禁想起自己当年啃着厚重的数据手册，对着一块蓝色的PCB板冥思苦想的日子。STM32的学习之路，说难不算特别难，说简单…...

编程日记 2025/7/30 10:04:55

matlab读取CMEMS海洋温度数据并调整图片的比例

matlab读取CMEMS海洋温度数据并调整图片的比例 matlab读取CMEMS海洋温度数据并调整图片的比例 matlab读取CMEMS海洋温度数据并调整图片的比例数据的下载见上期： 链接到CMEMS数据下载{python} 本文还会给出另一个关键技巧： 通常设置图片比列直接可以通过…...

编程日记 2025/8/7 6:03:11

ReSearch：基于强化学习的大语言模型推理搜索框架

ReSearch是一种创新性框架，通过强化学习技术训练大语言模型执行"推理搜索"，无需依赖推理步骤的监督数据。该方法将搜索操作视为推理链的有机组成部分，其中搜索的时机与方式由基于文本的推理过程决定，而搜索结果进一步引…...

编程日记 2025/8/7 5:54:54

【记录】服务器安装ffmpeg

前言因为项目中需要用到 ffmpeg 进行图像的一些操作，本文记录下在服务器安装 ffmpeg 的全过程，还是具有一定挑战性的。系统详情本文使用的操作系统详情如下通过命令 cat /etc/os-release 获取虽然操作系统为 Rocky Linux，但安装过程是通用的，因为本文记录的是从源代码…...

编程日记 2025/8/7 5:57:30

部署rocketmq集群

容器化部署RocketMQ5.3.1集群背景：生产环境单机的MQ不具有高可用，所以我们应该部署成集群模式，这里给大家部署一个双主双从异步复制的Broker集群一、安装docker yum install -y docker systemctl enable docker --now # 单机部署参考： https://www.cnblogs.com/hsyw/p/1…...

编程日记 2025/8/6 6:59:53

中国AIOps行业分析

基本术语 AIOps是"Artificial Intelligence for IT Operations"（IT运维人工智能）的缩写，它指的是将人工智能技术应用于IT运维领域，基于已有的运维数据（如日志、监控信息、应用信息等），通过机器学习的方式解决自动化运维无法解决的问题6。AIOps将机器学习(ML)…...

编程日记 2025/8/7 5:54:55

C++入门[超详细]

#include <iostream c的标准输入输出流 C的域 using namespace std; namespace本质是一个域只有域里面的定义代码才能使用 std包含了c输入输出的标准库缺省只能从左到右缺省,不能中间空格 void f1(int a10,int b20,int c0) { } f1(); f1(1); f1(1,2); f1(1,2,3); f1(…...

编程日记 2025/8/7 6:06:46

字符串系列一＞二进制求和

目录题目：解析：代码： 题目： 链接: link 解析： 代码： class Solution {public String addBinary(String a, String b) {StringBuffer ret new StringBuffer();int t 0;char[] aa a.toCharArray();char[…...

编程日记 2025/8/7 6:02:24

序列化和反序列化

概念创建出来的这些对象都存在于JVM中的堆（heap）内存中，只有JVM处于运行状态的时候，这些对象才可能存在。当JVM停止，这些对象也就随之消失。 java序列化可以帮我们实现：将这些对象持久化，并且…...

编程日记 2025/8/7 5:30:50

rebase和merge的区别

目录 1. ‌合并机制与提交历史‌ 2. ‌冲突处理方式‌ 3. ‌历史追溯与团队协作‌ 4. ‌推荐实践‌ 5. ‌撤销难度‌ git rebase和git merge是Git中两种不同的分支合并策略，核心区别在于提交历史的处理方式：merge保留原始分支结构并生成合并提交&am…...

编程日记 2025/8/6 14:11:03

linux查看目录相关命令

查看目录命令学习目标能够使用Linux命令查看目录信息 1. 查看目录命令的使用命令说明ls查看当前目录信息tree以树状方式显示目录信息 ls命令效果图: tree命令效果图: 2. 查看当前目录路径命令说明pwd查看当前目录路径 pwd命令效果图: 3. 清除终端内容命令说明clear…...

编程日记 2025/8/7 6:00:25

203. 移除链表元素

给你一个链表的头节点 head 和一个整数 val ，请你删除链表中所有满足 Node.val val 的节点，并返回新的头节点。示例 1： 输入：head [1,2,6,3,4,5,6], val 6 输出：[1,2,3,4,5]示例 2： 输入&#xff1a…...

编程日记 2025/8/7 5:58:53

Cursor新版0.49.x发布

小子看到 Cursor 0.49.x 版本正式发布，截止今天已经有两个小patch版本！本次更新聚焦于自动化Rules生成、改进的 Agent Terminal 以及 MCP 图像支持，并带来了一系列旨在提升编码效率和协作能力的改进与修复。以下是本次更新的详细内容&…...

编程日记 2025/8/6 7:12:46

music21：伍佰泪桥 MIDI 音乐分析

以下是使用 music21 对伍佰《泪桥》MIDI 音乐进行分析的一些可能方面： 基本信息3 曲长：全曲长 2 分 31 秒。音符数量：共 273 个音符。音轨信息：共 2 个音轨，其中 1 个音轨有音符，可视为单轨 MIDI 文件&am…...

编程日记 2025/8/7 6:05:32

Mybatis源码01-SpringBoot启动时mybatis加载过程

使用了mybatis这么久还没有具体探究了SpringBoot启动时候对于mybatis是怎么加载的。 1、首先项目构建时我们会引入相关的依赖： <dependency><groupId>org.mybatis.spring.boot</groupId><artifactId>mybatis-spring-boot-starter</arti…...

编程日记 2025/8/7 5:58:52

springCloud/Alibaba常用中间件全集（上）

文章目录 SpringCloud:一、Consul:服务注册与发现1、下载Consul2、运行Consul3、服务注册①. 导入依赖②. 配置yml③. 启动类添加Consul的启动服务发现注解④. 解决 **硬编码** 问题⑤. 此时便可以将IP地址改为服务名 4、服务配置与刷新①. 引入Consul-Config依赖②. 修改boots…...

编程日记 2025/8/7 6:06:47

嵌入式单片机通过ESP8266连接物联网实验

第一：通过手机APP远程监控和控制 ESP8266驱动RST低电平触发复位，平时需要跟EN一样分别接10k拉高到3.3V 如果是12E/F的话管脚比较多，GPIO15也要接个1K到地烧录时GPIO要接地，正常工作时将其拉高或者悬空主要使用串口通信，烧录固件也是通过串口，烧录时，启动烧录程序后…...

编程日记 2025/8/6 16:11:48

Visio导出清晰图片步骤

在Visio里画完图之后如何导出清晰的图片？👇 ①左上角单击【文件】 ②导出—更改文件类型—PNG/JPG ③分辨率选择【打印机】，大小选择【源】，即可。 ④选择保存位置并命名也可以根据自己需要选择是否需要【透明底】哈。选PNG 然…...

编程日记 2025/8/7 5:57:29

速查手册：TA-Lib 超过150种量化技术指标计算全解 - 1. Overlap Studies（重叠指标）

速查手册：TA-Lib 超过150种量化技术指标计算全解 - 1. Overlap Studies（重叠指标） TA-Lib（Technical Analysis Library）是广泛使用的金融技术分析库，实现了超过150种技术指标计算函数，适用于股票…...

编程日记 2025/8/7 5:58:54

大模型Rag - 如何评估Rag

一.RAG流程与评估标准补充 RAG（Retrieval-Augmented Generation）是一种结合检索与生成的问答架构。为了确保系统效果，需要从以下三个角度对其评估： 回顾RAG流程用户提出问题 → 系统检索相关上下文 → 基于上下文由大语言模型…...

编程日记 2025/8/7 6:00:53

复习JUC的总结笔记

JUC基础调用Thread的start方法会调用start0，start0会调用该Thread类的run方法。Thread类如果传入了Runnable，run方法里会调用Runnable的run方法，如果没有传入，则什么也不会做。也可以通过重写Thread的run方法，让start…...

编程日记 2025/8/4 4:33:13

基于MTF的1D-2D-CNN-GRU-Attention时序图像多模态融合的故障识别，适合研究学习（Matlab完整源码和数据），附模型研究报告

基于MTF的1D-2D-CNN-GRU-Attention时序图像多模态融合的故障识别，适合研究学习（Matlab完整源码和数据），附模型研究报告目录基于MTF的1D-2D-CNN-GRU-Attention时序图像多模态融合的故障识别，适合研究学习（…...

编程日记 2025/8/5 10:19:07

5G 毫米波滤波器的最优选择是什么？

新的选择有很多，但到目前为止还没有明确的赢家。蜂窝电话技术利用大量的带带，为移动用途提供不断增加的带宽。其中的每一个频带都需要透过滤波器将信号与其他频带分开，但目前用于手机的滤波器技术可能无法扩展到5G所规划的全部毫米波&#…...

编程日记 2025/8/5 14:28:40

构造函数和析构函数

概念：对象的初始化和清理是非常重要的，一个对象在使用之前，需要进行初始化，使用完成后也需要及时清理数据，简单来说构造函数时用来初始化成员属性的，析构函数时用来清理数据的。 C中利用构造函数和析构函数…...

编程日记 2025/8/5 4:13:41

卷积神经网络（CNN）详解

文章目录引言1.卷积神经网络（CNN）的诞生背景2.卷积神经网络（CNN）介绍2.1 什么是卷积神经网络？2.2 卷积神经网络（CNN）的基本特征2.2.1 局部感知（Local Connectivity）2.2.…...

编程日记 2025/7/30 11:28:57

NoSQl注入学习

文章目录什么是NOSQL相关概念数据库文档集合 MongoDB 基础语法创建数据库创建集合插入文档更新文档查询文档 Nosql注入PHP 中的 MongoDB 注入重言式注入联合查询注入JavaScript 注入布尔盲注 Nodejs 中的 MongoDB 注入从一道题中学习nosql注入参考： Nosql 注入从…...

编程日记 2025/8/4 10:44:59

借助LlamaIndex实现简单Agent

借助LlamaIndex实现简单Agent 1 简介智能体的构建发展是一个趋势，借助LlamaIndex简单实现Agent。本文主要借助LlamaIndex中的FunctionTool和Workflow。Workflow是使用事件流的方法实现。 2 构建公共类由于LlamaIndex中的OpenAI无法直接连接国内大模型&#xf…...

编程日记 2025/8/3 12:10:57