Spring AI 函数调用(Function Call)系统设计方案
一、系统概述与设计目标
1.1 核心目标
从零构建一个灵活、安全、高效的函数调用系统,使大语言模型能够在对话中调用应用程序中的方法,同时保持良好的开发体验和企业级特性。
1.2 主要功能需求
- 支持通过注解将普通Java方法标记为可被AI调用的函数
- 自动生成符合LLM要求的函数描述和参数定义
- 安全地解析和执行模型的函数调用请求
- 处理并返回执行结果给模型
- 提供扩展点以支持不同LLM提供商的特定实现
1.3 设计原则
- 开发便捷性:使用声明式注解,减少开发者的工作量
- 安全可控:严格的调用权限和参数验证
- 高度可扩展:模块化设计,易于扩展新功能
- 与Spring生态集成:利用Spring的依赖注入、AOP等优势
二、系统架构设计
2.1 整体架构图
┌─────────────────────────────────────┐
│ 应用层 │
│ ┌─────────────┐ ┌──────────────┐ │
│ │用户定义的工具│ │ 业务服务 │ │
│ └─────────────┘ └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│ Spring AI 函数调用系统 │
│ ┌─────────────┐ ┌──────────────┐ │
│ │工具注册中心 │ │ 函数调用引擎 │ │
│ └─────────────┘ └──────────────┘ │
│ ┌─────────────┐ ┌──────────────┐ │
│ │参数转换器 │ │ 结果处理器 │ │
│ └─────────────┘ └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│ 模型集成层 │
│ ┌─────────────┐ ┌──────────────┐ │
│ │OpenAI适配器 │ │其他模型适配器│ │
│ └─────────────┘ └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│ 外部LLM接口 │
│ ┌─────────────┐ ┌──────────────┐ │
│ │OpenAI API │ │其他模型API │ │
│ └─────────────┘ └──────────────┘ │
└─────────────────────────────────────┘
2.2 核心组件
- 工具注册中心(Tool Registry):管理所有可用工具的元数据和实例
- 函数调用引擎(Function Call Engine):处理模型函数调用请求,执行目标方法
- 参数转换器(Parameter Converter):转换JSON参数为Java对象
- 结果处理器(Result Handler):处理方法执行结果,转换为标准格式
- 模型适配器(Model Adapter):适配不同LLM提供商的特定API和格式要求
三、详细设计与核心代码实现
3.1 注解定义
package org.springframework.ai.function;import java.lang.annotation.ElementType;
import java.lang.annotation.Retention;
import java.lang.annotation.RetentionPolicy;
import java.lang.annotation.Target;/*** 标记一个方法为AI可调用的工具函数*/
@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface Tool {/*** 工具名称,如果不提供则使用方法名*/String name() default "";/*** 工具描述,将发送给LLM帮助其理解工具用途*/String description() default "";/*** 是否直接返回结果而不传递给模型*/boolean returnDirect() default false;
}/*** 标记方法参数,提供参数描述和类型信息*/
@Target(ElementType.PARAMETER)
@Retention(RetentionPolicy.RUNTIME)
public @interface Param {/*** 参数名称*/String name() default "";/*** 参数描述*/String description() default "";/*** 是否必需*/boolean required() default true;
}
3.2 工具描述模型
package org.springframework.ai.function.model;import java.util.List;/*** 工具描述,会被转换为JSON Schema发送给LLM*/
public class ToolDescription {private String name;private String description;private List<ParameterDescription> parameters;private boolean returnDirect;// getters, setters, constructors/*** 转换为OpenAI格式的函数定义*/public Map<String, Object> toOpenAiFunctionDefinition() {Map<String, Object> function = new HashMap<>();function.put("name", this.name);function.put("description", this.description);Map<String, Object> parametersSchema = new HashMap<>();parametersSchema.put("type", "object");Map<String, Object> properties = new HashMap<>();List<String> required = new ArrayList<>();for (ParameterDescription param : parameters) {Map<String, Object> property = new HashMap<>();property.put("type", param.getType());property.put("description", param.getDescription());properties.put(param.getName(), property);if (param.isRequired()) {required.add(param.getName());}}parametersSchema.put("properties", properties);parametersSchema.put("required", required);function.put("parameters", parametersSchema);return function;}
}/*** 参数描述*/
public class ParameterDescription {private String name;private String description;private String type;private boolean required;// getters, setters, constructors
}
3.3 工具注册中心
package org.springframework.ai.function.registry;import org.springframework.ai.function.Tool;
import org.springframework.ai.function.model.ToolDescription;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.ApplicationContext;
import org.springframework.stereotype.Component;import javax.annotation.PostConstruct;
import java.lang.reflect.Method;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.concurrent.ConcurrentHashMap;
import java.util.stream.Collectors;/*** 工具注册中心,管理所有可用工具*/
@Component
public class ToolRegistry {private final Map<String, ToolRegistration> registeredTools = new ConcurrentHashMap<>();private final ApplicationContext applicationContext;private final ToolDescriptionGenerator descriptionGenerator;@Autowiredpublic ToolRegistry(ApplicationContext applicationContext
相关文章:
Spring AI 函数调用(Function Call)系统设计方案
一、系统概述与设计目标 1.1 核心目标 从零构建一个灵活、安全、高效的函数调用系统,使大语言模型能够在对话中调用应用程序中的方法,同时保持良好的开发体验和企业级特性。 1.2 主要功能需求 支持通过注解将普通Java方法标记为可被AI调用的函数自动生成符合LLM要求的函数…...
Jupyter Notebook为什么适合数据分析?
Jupyter Notebook 是一款超实用的 Web 应用程序,在数据科学、编程等诸多领域都发挥着重要作用。它最大的特点就是能让大家轻松创建和共享文学化程序文档。这里说的文学化程序文档,简单来讲,就是把代码、解释说明、数学公式以及数据可视化结果…...
Leetcode Hot 100字母异位词分词
题目描述 思路 根据题意,我们可以得知我们需要将字符统计数一样的字符串,放在一起,并以列表进行返回。因此我们可以通过一个哈希表,把统计相同的放在一起,最终返回即可 代码 class Solution:def groupAnagrams(self…...
用python实现鼠标监听与手势交互
摘要 本文探讨了一种基于Python的数学函数可视化系统的设计与实现,该系统整合了Pynput鼠标事件监听机制、Matplotlib绘图引擎以及PyQt5图形用户界面框架。系统通过人机交互方式实现了函数图像的直观构建与可视化表达,支持多种函数类型的参数化建模与实时…...
UE5 GAS开发P47 游戏标签
FGameplayTag 是 Unreal Engine 中用于标记游戏对象的系统。它允许开发者为游戏对象分配标签,以便在游戏中对其进行分类、识别和操作。 FGameplayTag 结构用于表示单个游戏标签,而 FGameplayTagContainer 则用于表示一组游戏标签。 这些标签可以用于诸…...
C# 实现PLC数据自动化定时采集与存储(无需界面,自动化运行)
C# 实现PLC数据自动化定时采集与存储(无需界面,自动化运行) 在平时开发中,我们时常会遇到需要后台静默运行的应用场景,这些程序不需要用户的直接操作或界面展示,而是专注于定时任务的执行。比如说…...
Java实现堆排序算法
1. 堆排序原理图解 堆排序是一种基于二叉堆(通常使用最大堆)的排序算法。其核心思想是利用堆的性质(父节点的值大于或等于子节点的值)来高效地进行排序。堆排序分为两个主要阶段:建堆和排序。 堆排序步骤: …...
封装axios,实现取消请求
封装axios import axios from axios// 创建自定义的请求类 class CancelableRequest {constructor() {this.controller new AbortController()}abort() {this.controller.abort()} }// 创建 axios 实例 const service axios.create({baseURL: process.env.VUE_APP_BASE_API,…...
在 Laravel 12 中实现 WebSocket 通信
在 Laravel 12 中实现 WebSocket 通信主要有两种主流方案:官方推荐的 Laravel Reverb 和 第三方库(如 Soketi/Pusher 或 Workerman/Swoole)。以下是详细实现步骤: 一、官方方案:Laravel Reverb(推…...
iPhone或iPad想要远程投屏到Linux系统电脑,要怎么办?
苹果手机自带AirPlay投屏功能,对于苹果电脑,自然可以随时投屏。但如果电脑是Linux系统,而且还想要远程投屏呢?这时候要怎么将iPhone或iPad投屏到Linux电脑? 方法很简单,用AirDroid Cast的网页版即可。 步骤…...
Ubuntu 22.04 安装配置远程桌面环境指南
在云服务器或远程主机上安装图形化桌面环境,可以极大地提升管理效率和用户体验。本文将详细介绍如何在 Ubuntu 22.04 (Jammy Jellyfish) 系统上安装和配置 Xfce4 桌面环境,并通过 VNC 实现远程访问。 系统环境 操作系统:Ubuntu 22.04 LTS (Jammy Jellyfish)架构:AMD64安装…...
【Redis | 基础总结篇 】
目录 前言: 1.Redis的介绍: 2.Redis的类型与命令: 3.Redis的安装: 3.1.Windows版本 3.2.Linux版本 4.在java中使用Redis: 4.1.介绍 4.2.Jedis 4.3.Spring Data Redis 前言: 本篇主要讲述了Redis的…...
如何通过外网访问内网?对比5个简单的局域网让互联网连接方案
在实际应用中,常常需要从外网访问内网资源,如远程办公访问公司内部服务器、在家访问家庭网络中的设备等。又或者在本地内网搭建的项目应用需要提供互联网服务。以下介绍几种常见的外网访问内网、内网提供公网连接实现方法参考。 一、公网IP路由器端口映…...
iMeta | 临床研究+scRNA-seq的组合思路 | 真实世界新辅助研究,HER2⁺就一定受益?单细胞揭示真正的“疗效敏感克隆”
👋 欢迎关注我的生信学习专栏~ 如果觉得文章有帮助,别忘了点赞、关注、评论,一起学习 近年来,临床医学与单细胞组学的结合开启了全新的研究范式,让临床医生能以“显微镜”般的精度,深入理解疾病机制与疗效…...
国标GB28181视频平台EasyCVR安防系统部署知识:如何解决异地监控集中管理和组网问题
在企业、连锁机构及园区管理等场景中,异地监控集中管控与快速组网需求日益迫切。弱电项目人员和企业管理者亟需整合分散监控资源,实现跨区域统一管理与实时查看。 一、解决方案 案例一:运营商专线方案 利用运营商专线,连接各分…...
220V降12V1000mA非隔离芯片WT5110
220V降12V1000mA非隔离芯片WT5110 以下是采用WT5110芯片的非隔离降压电源电路设计,将220V电压转换为12V、1000mA输出: 一、WT5110芯片简介 WT5110是一款用于非隔离降压应用的集成电路,具备宽输入电压范围和高效的转换功能。它可以将高输入电…...
【ES】Elasticsearch字段映射冲突问题分析与解决
在使用Elasticsearch作为搜索引擎时,经常会遇到一些映射(Mapping)相关的问题。本文将深入分析字段映射冲突问题,并通过原生的Elasticsearch API请求来复现和解决这个问题。 问题描述 在实际项目中,我们遇到以下错误: Transport…...
【上位机——MFC】绘图
相关类 CDC类(绘图设备类):封装了各种绘图相关的函数,以及两个非常重要的成员变量m_hDC和m_hAttribDC CPaintDC类,封装了在WM_PAINT消息中绘图的绘图设备 CClientDC类,封装了在客户区绘图的绘图设备 CGdiObject类(绘图对象类) 封…...
【AI】Ubuntu 22.04 evalscope 模型评测 Qwen3-4B-FP8
安装evalscope mkdir evalscope cd evalscope/ python3 -m venv venv source venv/bin/activate pip install evalscope[app,perf] -U -i https://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.compip install tiktoken omegaconf -i https://mirrors.aliyu…...
js var a=如果ForRemove=true,是“normal“,否则为“bold“
你是想根据变量 ForRemove 的布尔值来给变量 a 赋值,如果 ForRemove 为 true,则 a 的值是 "normal",否则为 "bold"。在 JavaScript 里,你可以使用 if...else 语句或者三元运算符来实现。 方法一:…...
JavaScript性能优化实战:从瓶颈分析到解决方案
前言 在当今快节奏的互联网环境中,用户对网站性能的期望日益提高。 JavaScript作为前端开发的核心语言,其性能直接影响用户体验。本文将深入探讨JavaScript代码中常见的性能瓶颈,并结合实际案例分享优化技巧和工具,帮助开发者提升…...
CyberSentinel AI开源程序 是一个自动化安全监控与AI分析系统
一、软件介绍 文末提供程序和源码下载 CyberSentinel AI 开源程序是一个强大的自动化安全监控与AI分析系统,旨在帮助安全研究人员和爱好者 实时追踪最新的安全漏洞 (CVE) 和 GitHub 上的安全相关仓库,并利用 人工智能技术进行深度分析,最终…...
C++23 std::generator:用于范围的同步协程生成器 (P2502R2, P2787R0)
文章目录 引言C23新特性概述std::generator基本概念定义作用模板参数 std::generator特性分析与协程的结合范围视图内存管理 std::generator使用示例std::generator的优势与挑战优势挑战 总结 引言 在C的发展历程中,每一个新版本都带来了许多令人期待的新特性和改进…...
FoMo 数据集是一个专注于机器人在季节性积雪变化环境中的导航数据集,记录了不同季节(无雪、浅雪、深雪)下的传感器数据和轨迹信息。
2025-05-02,由加拿大拉瓦尔大学北方机器人实验室和多伦多大学机器人研究所联合创建的 FoMo 数据集,目的是研究机器人在季节性积雪变化环境中的导航能力。该数据集的意义在于填补了机器人在极端季节变化(如积雪深度变化)下的导航研…...
Github上如何准确地搜索开源项目
Github上如何准确地搜索开源项目: 因为寻找项目练手是最快速掌握技术的途径,而Github上有最全最好的开源项目。 就像我的毕业设计“机器翻译”就可以在Github上查找开源项目来参考。 以下搜索针对:项目名的关键词,关注数限制&a…...
从 MDM 到 Data Fabric:下一代数据架构如何释放 AI 潜能
从 MDM 到 Data Fabric:下一代数据架构如何释放 AI 潜能 —— 传统治理与新兴架构的范式变革与协同进化 引言:AI 规模化落地的数据困境 在人工智能技术快速发展的今天,企业对 AI 的期望已从 “单点实验” 转向 “规模化落地”。然而&#…...
个人Unity自用面经(未完)
目录标题 1.在 2D 平台跳跃游戏项目中,你使用了对象池来生成和回收怪物包含阵亡的动画预制件。在对象池回收对象时,如何确保动画状态被正确重置,避免下次使用时出现异常?2.在僵尸吃脑子模拟项目中,你创建了继承于IAspe…...
【Pandas】pandas DataFrame agg
Pandas2.2 DataFrame Function application, GroupBy & window 方法描述DataFrame.apply(func[, axis, raw, …])用于沿 DataFrame 的轴(行或列)应用一个函数DataFrame.map(func[, na_action])用于对 DataFrame 的每个元素应用一个函数DataFrame.a…...
LearnOpenGL---绘制三角形
绘制三角形 #include <glad/glad.h> #include <GLFW/glfw3.h> #include <iostream>const unsigned int SCR_WIDTH 800; const unsigned int SCR_HEIGHT 600;/// <summary> /// 当用户改变窗口大小时,视口也应该被调整,因此编…...
使用 Poco C++ 库构建轻量级 HTTP 服务器
在现代 C 后端开发中,如果你需要构建一个轻量、高性能、可嵌入式的 HTTP 服务,而不愿引入重量级框架如 Boost.Beast 或 cpp-httplib,那么 Poco C Libraries 提供了一个优雅的解决方案。Poco 是一套广泛使用的 C 框架,涵盖网络、线…...
【Java EE初阶 --- 多线程(初阶)】多线程的基本内容
乐观学习,乐观生活,才能不断前进啊!!! 我的主页:optimistic_chen 我的专栏:c语言 ,Java 欢迎大家访问~ 创作不易,大佬们点赞鼓励下吧~ 文章目录 前言认识多线程(Thread的…...
CTF-DAY8
[LitCTF 2023]babyLCG 题目: from Crypto.Util.number import * from secret import flagm bytes_to_long(flag) bit_len m.bit_length() a getPrime(bit_len) b getPrime(bit_len) p getPrime(bit_len1)seed m result [] for i in range(10):seed (a*see…...
CSS--图片链接垂直居中展示的方法
原文网址:CSS--图片链接垂直居中展示的方法-CSDN博客 简介 本文介绍CSS图片链接垂直居中展示的方法。 图片链接 问题复现 源码 <html xml:lang"cn" lang"cn"><head><meta http-equiv"Content-Type" content&quo…...
用html+js+css实现的战略小游戏
效果图: 兄弟们,话不多说,直接上代码 <!DOCTYPE html> <html lang"zh-CN"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0">…...
【落羽的落羽 C++】list及其模拟实现
文章目录 一、list介绍二、list模拟实现1. 节点2. 迭代器3. list 一、list介绍 list是我们之前学过的带头双向链表的类模板,具有链表的一系列性质,也有多种多样的接口便于使用,使用方法与vector大体相似: 函数接口说明list()构造…...
深入理解高性能网络通信:从内核源码到云原生实践
深入理解高性能网络通信:从内核源码到云原生实践 前言 随着互联网业务规模的高速增长,服务端网络通信能力成为系统性能的核心瓶颈。如何支撑百万级连接、在极限场景下实现低延迟高吞吐?本篇博客将围绕Linux通信机制内核剖析、性能调优实战、…...
全格式文档转 Markdown 工具,Docker 一键部署,支持 API 调用
以下是简要介绍: 这是一款可以快速将任意文档文件转markdown格式内容的工具,提供API转换接口,方便集成与应用原理就是利用libreoffice、pandoc文件转换工具,把所有文档类型的文件逐步转化,最终转成markdown格式的内容…...
算法思想之深度优先搜索(DFS)、递归以及案例(最多能得到多少克黄金、精准核酸检测、最富裕的小家庭)
深度优先搜索(DFS)、递归 深度优先搜索(Depth First Search,DFS)是一种用于遍历或搜索树或图的算法。在 DFS 算法中,从起始节点开始,沿着一条路径尽可能深地访问节点,直到到达叶子节…...
Windows玩游戏的时候,一按字符键就显示桌面
最近打赛伯朋克 2077 的时候,不小心按错键了,导致一按字符键就显示桌面。如下: 一开始我以为是输入法的问题(相信打游戏的人都知道输入法和奔跑键冲突的时候有多烦),但是后来解决半天发现并不是。在网上搜…...
2025 后端自学UNIAPP【项目实战:旅游项目】1、创建项目框架
1、创建项目 ①项目名称:自定义,【我是travel】 ②vue版本:vue3 ③其他默认,最后创建 2、创建页面 ①展开自己刚才创建的项目 ②单击选中pages文件夹 --->鼠标右键---->新建页面 ③页面名称:自定义favouri…...
Tomcat中Web应用程序停止时为了防止内存泄漏,JDBC驱动程序被强制取消注册出现原因
1.问题描述 本地Windows环境开发的Springboot项目同样的mysql版本,jdk版本,tomcat版本,本地运行没有任何问题,发布到阿里云服务器上时报以下问题: 06-May-2025 20:06:12.842 警告 [main] org.apache.catalina.loader…...
vitepress 复杂环境引入 mermaid
方式一: 参考官网,这里不赘述 。 方式二: pnpm add -D vitepress-plugin-mermaid pnpm add -D mermaidimport { MermaidMarkdown, MermaidPlugin } from vitepress-plugin-mermaid;export default defineConfig({markdown: {config(md) {md…...
盘古信息领德创|半导体存储与云计算存储小巨人企业IMS数字化升级项目正式启动!
在数字化和智能化浪潮下,数据已然成为企业核心资产。随着大模型应用加速落地和智算新基建推进,数据量呈爆炸式增长,存储作为数据基础设施的关键环节,正从传统的容量与性能保障,向数据智能处理、高效管理及安全可靠的全…...
Oracle04-基本使用
零、文章目录 Oracle04-基本使用 1、创建表空间 (1)创建语句 create tablespace testdata datafile c:\datafile\testdata.dbf size 100m autoextend on next 10m(2)参数说明 testdata:表空间名称datafile&#x…...
YOLO 从入门到精通学习指南
一、引言 在计算机视觉领域,目标检测是一项至关重要的任务,其应用场景广泛,涵盖安防监控、自动驾驶、智能交通等众多领域。YOLO(You Only Look Once)作为目标检测领域的经典算法系列,以其高效、快速的特点受到了广泛的关注和应用。本学习指南将带领你从 YOLO 的基础概念…...
Linux 磁盘初始化与扩容操作手册
📦 1. 初始化服务器,新磁盘挂载为 LV ✅ 使用 ext4 格式 # 创建挂载目录 mkdir -p /datatmp# 初始化物理卷 sudo pvcreate /dev/sdb# 创建卷组 sudo vgcreate vg_data /dev/sdb# 创建逻辑卷(使用全部空间) sudo lvcreate -l 100…...
ShardingSphere:使用information_schema查询时报错:Table ‘数据库名称.tables‘ doesn‘t exist
目录 简介异常信息SQL排查原因解决 简介 1、程序jdk1.8升级为jdk21 2、ShardingSphere框架从4.1.1升级为5.2.1 3、使用 information_schema.tables 查询时报错 异常信息 ### Error querying database. Cause: java.sql.SQLSyntaxErrorException: Table 数据库名称.tables …...
uniapp开发09-设置一个tabbar底部导航栏且配置icon图标
uniapp开发09-设置一个tabbar底部导航栏且配置icon图标!在实际项目开发中,经常会遇到需要设置icon图标的情况,而且底部导航通常都是有固定位置且内容不会轻易发生变化的。官方提供了自带的tabbar组件。我们来了解一下最基础的入门案例。 1&am…...
使用OpenCV 和 Dlib 实现年龄性别预测
文章目录 引言1.系统架构2.代码解析2.1 模型初始化2.2 核心函数实现(1) 人脸检测函数 getBoxes()(2) 中文文本显示函数 3. 主循环流程4.关键技术点5.总结 引言 在计算机视觉领域,人脸检测与属性分析是一项基础且重要的技术。本文将详细介绍如何使用OpenCV和深度学习…...
SSTI学习
1,什么是模板 模板引擎(这里特指用于Web开发的模板引擎)是为了使用户界面与业务数据(内容)分离而产生的,它可以生成特定格式的文档,利用模板引擎来生成前端的html代码,模板引擎会提供…...