当前位置：首页 > news >正文

基于Spring AI Alibaba + Spring Boot + Ollama搭建本地AI对话机器人API

news 来源：原创 2025/6/20 2:30:46

前言

Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。

项目地址

gitcode平台：https://gitcode.com/Var_ya/springAI_ollama_chatInterfaceApi

核心技术官网地址

Spring AI Alibaba 官网地址：https://java2ai.com/

**knife4j官网地址： **https://doc.xiaominfo.com/

ollama官网地址：https://ollama.com/

一、技术选型说明

1. 核心组件

Spring Boot 3.4.5：后端服务基础框架
spring-ai-ollama-spring-boot-starte：alibaba官方AI集成框架（1.0.0-M6版本）
knife4j 4.5.0：可视化展示后端接口页面
Ollama：本地大模型运行环境（支持Llama2、Mistral等模型）

2. 环境要求

JDK 17+
8GB+ 内存（运行大模型需要）
ollama version is 0.5.13

二、环境准备

1. 安装Ollama

Ollama官网安装

官网地址：https://ollama.com/

官网下载window版本地址：https://ollama.com/download

百度网盘下载安装

百度网盘地址：https://pan.baidu.com/s/1mx_3R4NVjOSC9D8BaGdYHg?pwd=9eg7

运行OllamaSetup安装包

双击OllamaSetup.exe
安装包点击：Install

安装成功
（截图示例：终端执行ollama --version）

2. 下载模型

本教程使用的模型：deepseek-r1:8b

模型运行下载命令：ollama run deepseek-r1:8b

ollama run deepseek-r1:8b

2. 模型运行效果

三、创建Spring Boot项目

注意：类型修改为：Maven

1. 项目初始化

使用start.spring.io创建项目：

添加依赖：
- Spring Web
- spring-ai-ollama-spring-boot-starter
- knife4j-openapi3-jakarta-spring-boot-starter

2. 配置核心POM.xml

<dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency>
<!--		阿里巴巴ollama--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId><version>1.0.0-M6</version></dependency><!-- Swagger3-knife4j依赖 --><dependency><groupId>com.github.xiaoymin</groupId><artifactId>knife4j-openapi3-jakarta-spring-boot-starter</artifactId><version>4.5.0</version></dependency></dependencies>

四、配置Ollama连接

application.yml

server:port: 9999
spring:ai:ollama:base-url: http://localhost:11434 # 哦llama地址chat:model: deepseek-r1:7b # 模型options:temperature: 0.8 # 温度越高，回答越有创意top-p: 0.9 # 数值越高，回答越多样top-k: 100 # 数值越高，回答越多样# knife4j的增强配置，不需要增强可以不配
knife4j:enable: true    # 开启knife4j,无需添加@EnableKnife4j注解setting:language: zh_cn   #中文#  swagger-model-name: 实体列表   #默认为: Swagger Modelsbasic: # 开启Swagger的Basic认证功能,默认是falseenable: falseusername: varyapassword: varya

五、编写AI对话接口

1. 创建Controller


package cn.varin.springai_ollama_chatinterfaceapi.controller;import io.swagger.v3.oas.annotations.Operation;
import io.swagger.v3.oas.annotations.tags.Tag;
import jakarta.servlet.http.HttpServletResponse;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import reactor.core.publisher.Flux;import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.client.advisor.SimpleLoggerAdvisor;
import org.springframework.ai.chat.model.ChatModel;
import org.springframework.ai.ollama.api.OllamaOptions;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;import java.io.IOException;
import java.util.stream.Stream;@RestController
@Tag(name="客户端实例")@RequestMapping("/client")
public class OllamaChatClientController {private static final String DEFAULT_PROMPT = "你好，介绍下你自己！请用中文回答。";private final ChatClient ollamaiChatClient;public OllamaChatClientController(ChatModel chatModel) {// 构造时，可以设置 ChatClient 的参数this.ollamaiChatClient = ChatClient.builder(chatModel)// 实现 Logger 的 Advisor.defaultAdvisors(new SimpleLoggerAdvisor())// 设置 ChatClient 中 ChatModel 的 Options 参数.defaultOptions(OllamaOptions.builder().topP(0.7).model("deepseek-r1:1.5b").build()).build();}/*** ChatClient 简单调用*/@Operation(summary = "无参数调用")@GetMapping("/simple/chat")public String simpleChat() {return ollamaiChatClient.prompt(DEFAULT_PROMPT).call().content();}/*** ChatClient 流式调用*/@Operation(summary = "流式调用")@GetMapping("/stream/chat")public Flux<String> streamChat1(@RequestParam String message) {return ollamaiChatClient.prompt(message).stream().content();}@GetMapping("/stream")public SseEmitter streamChat2(@RequestParam String message) {SseEmitter emitter = new SseEmitter();Flux<String> content = ollamaiChatClient.prompt(message).stream().content();try {emitter.send(content);System.out.println(emitter.toString());} catch (IOException e) {throw new RuntimeException(e);}return emitter;}}

2. 支持流式响应（可选）

	/*** ChatClient 流式调用*/@Operation(summary = "流式调用")@GetMapping("/stream/chat")public Flux<String> streamChat1(@RequestParam String message) {return ollamaiChatClient.prompt(message).stream().content();}

六、knife4j测试接口

访问Url：http://localhost:9999/doc.html

1. 无参数接口测试

接口：/client/simple/chat

2. 流式调用接口测试

接口：/client/stream/chat

七、扩展功能建议

多模型切换：通过@RequestParam动态选择模型
对话历史管理：使用Redis存储上下文
速率限制：添加Bucket4j限流
API鉴权：集成Spring Security

八、常见问题排查

问题现象	解决方案
连接Ollama超时	确认`ollama serve`正在运行
模型加载失败	检查`ollama list`确认模型存在
内存不足	尝试更小参数的模型版本

九、项目效果展示

十、总结

本文演示了如何通过：

本地部署Ollama服务
Spring AI集成LLM能力
构建RESTful API接口

优势：数据隐私性强、无需API密钥、支持离线环境

完整代码示例：https://gitcode.com/Var_ya/springAI_ollama_chatInterfaceApi

基于Spring AI Alibaba + Spring Boot + Ollama搭建本地AI对话机器人API

前言 Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。项目地址 gitcode平台：ht…...

编程日记 2025/6/20 2:30:46

git 工具

Git教程 Git Bash详细教程 Git教程 Git Bash详细教程-CSDN博客 Download – TortoiseGit – Windows Shell Interface to Git...

编程日记 2025/6/20 19:54:45

利用【指针引用】对【非空单循环链表】进行删除操作

【非空单循环链表】是链式存储结构的其中一种，下面是各个词汇的意思： 先说【单】的意思： 这里指的是【单循环】的，另外在别的地方你会碰到一些不一样的循环链表，比如说是【多重链】的。单循环【单循环链表】常在表的…...

编程日记 2025/5/30 22:04:06

2025.4.26_STM32_SPI

1.SPI简介 2.硬件电路所有SPI设备的SCK(时钟)、MOSI(主机输出从机输入)、MISO(主机输入从机输出)分别连在一起。SCK线只能被主机控制，和I2C相同。主机另外引出多条SS控制线，分别接到各从机的SS引脚 (SS不用的时候为高电平，当主机需要选中某…...

编程日记 2025/6/20 20:19:57

基于OpenMV+STM32+OLED与YOLOv11+PaddleOCR的嵌入式车牌识别系统开发笔记

基于OpenMV、STM32与OLED的嵌入式车牌识别系统开发笔记基于OpenMV、STM32与OLED的嵌入式车牌识别系统开发笔记系统架构全景一、实物演示二、OpenMV端设计要点1. 硬件配置优化2. 智能帧率控制算法3. 数据传输协议设计三、PyTorch后端核心实现：YOLOv11与PaddleOCR的…...

编程日记 2025/5/31 20:34:13

当JIT遇见K8s

目录一、技术融合背景：从静态架构到动态生态的范式重构 1.1 动态编译技术的三次进化浪潮 1.2 容器编排系统的动态特性解剖弹性伸缩的数学建模服务质量（QoS）的编译场景适配硬件拓扑感知的编译优化二、关键技术挑战与突破性解决方案…...

编程日记 2025/6/4 5:39:45

单片机-89C51部分：4、固件烧录

飞书文档https://x509p6c8to.feishu.cn/wiki/M00gwFX3WilLe0kiAmBcPBUsnLc 接线通过USB线把开发板和电脑连接起来，如果电脑没有安装过USB转串口驱动，在设备管理器中就找不到COM口，而且会有驱动提示叹号，我们可以下载下方驱动安…...

编程日记 2025/6/20 3:28:26

7.13 GitHub Sentinel全链路测试实战：自动化框架+零误差传输，QPS提升6倍！

GitHub Sentinel全链路测试实战：自动化框架+零误差传输，QPS提升6倍 GitHub Sentinel Agent 用户界面设计与实现关键词：前后端联调测试、数据传输验证、接口稳定性测试、命令行工具测试、自动化测试框架测试前后端功能与数据传输稳定性 1. 全链路测试策略设计采用分层…...

编程日记 2025/6/20 20:28:55

目录 1.引入: STM32F1031.1 中断路径上的3个部件1.2 STM32F103的GPIO中断1.1.1 GPIO控制器 -- AFIO1.1.2 EXTI1.1.3 NVIC1.1.4 CPU1. PRIMASK2. FAULTMASK3. BASEPRI 1.3 中断执行流程 2.旋转编码器介绍3.实验3.1 EXIT3.1.1 结构体3.1.2 函数 3.2 NVIC3.2.1 结构体3.2.2 函数 3…...

编程日记 2025/6/20 8:09:08

STM32 开发 - stm32f10x.h 头文件（内存映射、寄存器结构体与宏、寄存器位定义、实现点灯案例）

概述 STM32F10x.h 是 STM32F1 系列微控制器的核心头文件，提供了所有外设寄存器的定义和内存映射一、内存映射 #define PERIPH_BASE ((uint32_t)0x40000000)#define APB1PERIPH_BASE PERIPH_BASE #define APB2PERIPH_BASE (PERIPH_BASE 0x…...

编程日记 2025/6/20 19:58:21

UniApp 的现状与 WASM 支持的迫切性

一、UniApp 的跨平台优势与性能瓶颈 UniApp 凭借“一次开发，多端发布”的核心理念，已成为跨平台开发的主流框架之一。然而，随着移动应用场景的复杂化（如 3D 渲染、音视频处理、AI 推理），传统的 JavaScript…...

编程日记 2025/5/30 13:15:50

Prometheus、Zabbix和Nagios针对100个节点的部署设计架构图

编程日记 2025/5/30 22:17:40

坚果派已适配的鸿蒙版flutter库【持续更新】

坚果派已适配的鸿蒙版flutter库序号原仓版本适配仓文章解读是否完成1https://pub.dev/packages/fluttertoast8.2.12https://gitcode.com/nutpi/FlutterToasthttps://www.nutpi.net/thread?topicId1575是2https://pub.dev/packages/flutter_udid4.0.0https://gitcode.com/nut…...

编程日记 2025/6/2 6:46:36

代码随想录打卡|Day28 动态规划（理论基础、斐波那契数列、爬楼梯、使用最小花费爬楼梯）

动态规划 Part01 理论基础代码随想录讲解链接视频讲解链接斐波那契数力扣题目链接代码随想录链接视频讲解链接题目描述： 斐波那契数 （通常用 F(n) 表示）形成的序列称为斐波那契数列。该数列由 0 和 1 开始，后面的每一…...

编程日记 2025/5/31 23:09:38

《USB技术应用与开发》第四讲：实现USB鼠标

一、标准鼠标分析 1.1简介 1.2页面显示其中页面显示的“”不用管它，因为鼠标作为物理抓包，里面有时候会抓到一些错误，不一定是真正的通讯错误，很可能是本身线路接触质量不好等原因才打印出来的“”。 1.3按下鼠标左键 &#x…...

编程日记 2025/6/19 23:12:39

elk中kibana一直处于可用和降级之间且es群集状态并没有问题的解决方法

前言在公司部elk的时候发现kibana的web界面一直很卡，数据量为0也会很卡，es群集状态正常，资源足够。报错信息 [2025-03-17T09:54:50.19400:00][INFO ][status] Kibana is now available (was degraded) [2025-03-17T09:55:03.28000:00][I…...

编程日记 2025/5/31 23:56:43

2025.4.26总结

今天把马良老师的《职场十二法则》看完后，感触极大，这们课程就是一场职场启蒙课。虽然看过不少关于职场的书籍，但大多数是关于职场进阶，方法方面的。并没有解答“面对未来二三十年的职场生涯，我该怎么去看待自己的工…...

编程日记 2025/6/19 20:28:50

一、UI自动化测试01--认识和元素定位方法

目录一、自动化测试1. 自动化应用场景2. ⾃动化测试的优缺点3. ⾃动化测试的分类二、UI ⾃动测试1. 适合使用的项目2. 实现时机3. 常⻅的UI⾃动化测试⼯具4. Selenium 框架5. Web ⾃动化环境部署6. Web ⾃动化基本代码二、元素定位1. 浏览器开发者⼯具⽅法1: 直接获取信息⽅…...

编程日记 2025/6/19 23:11:00

目标检测原理简介

目标检测是一类计算机视觉任务，简单来说，目标检测可被定义为在计算机中输入一张图像，计算机需要找出图像中所有感兴趣的目标（物体），确定它们的类别和位置，如图一所示。目标检测是计算机视觉领域的核心问题之一，相较于最原始的将整张图片分类为某一类别，目标检测不光可…...

编程日记 2025/5/22 21:47:14

软件设计原则

开闭原则对扩展开放，对修改关闭。在程序需要进行拓展的时候，不能去修改原有的代码，实现一个热插拔的效果。简言之，是为了使程序的扩展性好，易于维护和升级。想要达到这样的效果，需要使用接口和抽象类。因…...

编程日记 2025/6/20 12:37:39

Postman脚本处理各种数据的变量

一、变量是字符串里列表， 如 "["100","101","102","103","108"]" //把字符串的变量处理成列表 var myListJSON.parse(pm.environment.get(giftTabId)) #giftTabId变量名 //设置随机取值 var rando…...

编程日记 2025/6/2 3:42:20

嵌入式硬件开发工具---万用表---示波器---仿真器

万用表主要功能： 测量交直流电压、电流测量电阻、二级管及电路通断其他----电容、频率、温度----特殊的万用表 * 检查电路是否正常 * 检查电路连接情况示波器主要功能： 以波形展示电信号随时间变化的关系主要指标： 带宽---大…...

编程日记 2025/6/1 10:51:14

数据预处理之特征选择（Feature Selection）

哈喽，大家好，我是我不是小upper~ 今天的文章和大家来聊聊数据与处理方法中常用的特征选择在开始说特征选择前，咱们先搞清楚这个所谓的“特征”到底是啥玩意儿。打个比方说，如果我们要训练一个模型来判断某个人是否会买一双运…...

编程日记 2025/6/1 7:59:56

Java基础 — 循环

介绍 Java基础循环是程序流程控制的核心结构，主要用于重复执行特定代码块。常见的循环包括for、while和do-while三种形式，开发者可根据不同场景灵活选择。合理使用循环关键字能有效提升代码执行效率。掌握循环结构的核心在于理解执行流程与条件判断的时…...

编程日记 2025/6/2 23:06:08

参考平面的宽度-信号与电源完整性分析

参考平面的宽度: 计算特征阻抗时假设参考平面是无限宽的平面。在参考平面的宽度远大于线宽或介质厚度时，这种假设是正确的。但是PCB板上的参考平面经常被反焊盘掏空，当互连线经过参考平面掏空区域附近时，掏空的局部互连线参考平面变窄&#x…...

编程日记 2025/6/20 15:16:17

【Linux】Centos7 安装 Docker 详细教程

一、安装步骤步骤一：确定你是Centos7及以上的版本 cat /etc/redhat-release 步骤二：卸载旧版本查看官方文档：CentOS | Docker Docs 步骤三：安装GCC等工具 1.首先确保 CentOS7 能上外网 ping www.baidu.com 2.更新 Centos7…...

编程日记 2025/6/2 15:42:12

开源AI智能名片链动2+1模式S2B2C商城小程序源码赋能下的社交电商创业者技能跃迁与价值重构

摘要：在移动互联网深度重构商业生态的背景下，社交电商创业者面临流量成本攀升、用户粘性不足、供应链协同低效等核心痛点。本文以“开源AI智能名片链动21模式S2B2C商城小程序源码”技术体系为研究对象，通过分析其技术架构、商业逻辑及实战案例…...

编程日记 2025/6/1 6:25:01

计算机视觉与深度学习｜ LSTM原理及与卡尔曼滤波的融合

长短期记忆网络（LSTM）是一种特殊的循环神经网络（RNN），旨在解决传统RNN在处理长序列数据时出现的梯度消失和梯度爆炸问题。以下为你详细介绍其基本原理：核心思想：LSTM的核心思想是引入记忆单元和门控机制来控制信息的流动，从而解决传统RNN的梯度消失问题。记忆单元类似…...

编程日记 2025/6/4 7:10:38

阿里云域名智能解析至国内外AWS的合规化部署指南

引言随着全球化业务的发展，企业常面临地域合规性与用户体验优化的双重挑战。本文以阿里云域名解析为核心，结合AWS中国区（北京/宁夏）与Global区域部署，提供一套完整的解决方案，实现：智能流量调度：国内用户访问AWS中国区，海外用户自动路由至AWS Global全链路合规：满…...

编程日记 2025/6/20 8:09:45

一、鸿蒙编译篇

一、下载源码和编译 https://blog.csdn.net/xusiwei1236/article/details/142675221 https://blog.csdn.net/xiaolizibie/article/details/146375750 https://forums.openharmony.cn/forum.php?modviewthread&tid897 repo init -u https://gitee.com/openharmony/mani…...

编程日记 2025/6/20 11:33:18

计算机网络 | 应用层（3）-- 因特网中的电子邮件

💓个人主页：mooridy 💓专栏地址：《计算机网络：自定向下方法》大纲式阅读笔记关注我🌹，和我一起学习更多计算机的知识 🔝🔝🔝 目录 3. 因特网中的电子邮件 …...

编程日记 2025/6/20 1:06:27

Missashe考研日记-day27

Missashe考研日记-day27 0 写在前面博主昨晚有事所以没学专业课，白天学了其他科，但是觉得不太好写博客，就合在今天一起写好了。 1 专业课408 学习时间：3h30min学习内容： 今天把内存管理部分剩下的关于分页分段和段…...

编程日记 2025/6/1 18:07:19

【Castle-X机器人】五、物联网模块配置与调试

持续更新。。。。。。。。。。。。。。。【Castle-X机器人】五、物联网模块配置与调试五、物联网模块配置与调试5.1 物联网模块调试物联网模块测试:控制物联网模块:物联网模块话题五、物联网模块配置与调试 5.1 物联网模块调试调试前需确保Castle-x与mqtt主机服务器处于同…...

编程日记 2025/5/29 15:07:53

FastAPI 零基础入门指南：10 分钟搭建高性能 API

一、为什么选择 FastAPI？ 想象一下，用 Python 写 API 可以像搭积木一样简单，同时还能拥有媲美 Go 语言的性能，这个框架凭借三大核心优势迅速风靡全球： 开发效率提升 3 倍：类型注解自动文档，…...

编程日记 2025/6/2 7:04:03

有关图的类型的题目（1）

1、图着色问题 #include<bits/stdc.h> using namespace std; const int N510,MN*N; int color[N]; vector<int> g[M]; int v,m,k,n;void add(int a,int b){g[a].push_back(b);g[b].push_back(a); } int judge(int cnt){if(cnt!k)return 0;for(int i1;i<v;i){fo…...

编程日记 2025/6/2 22:19:35

threejs 零基础学习day01

一、threejs本地环境搭建 1、下载源码 （1）进入threejs官网，把源码下载到本地访问。https://github.com/mrdoob/three.js （2）使用git命令的方式进行下载（优点是，threejs更新频繁，这…...

编程日记 2025/6/20 9:45:08

dubbo 异步化实践

DubboService public class AsyncOrderFacadeImpl implements AsyncOrderFacade {private Logger logger LoggerFactory.getLogger(AsyncOrderFacadeImpl.class);// 构建线程池ThreadPoolExecutor threadPoolExecutor new ThreadPoolExecutor(1000, 1000, 10, TimeUnit.SECOND…...

编程日记 2025/6/2 21:35:03

前言