当前位置：首页 > news >正文

第六章：Tool and LLM Integration

news 来源：原创 2025/5/23 20:06:29

Chapter 6: Tool and LLM Integration

从执行流到工具集成：如何让AI“调用真实世界的技能”？

在上一章的执行流框架中，我们已经能让多个代理协作完成复杂任务。但你是否想过：如果用户要求“查询实时天气”或“打开网页搜索”，AI如何调用真实世界的工具（比如天气API、浏览器）？就像给指挥家配备更多乐器，让整个“交响乐团”能力更强！本章将介绍如何通过工具与LLM集成层，让AI无缝调用外部服务。

核心问题：如何让AI“听懂”不同服务商的语言？

想象你是一位需要跨国合作的翻译官：

亚马逊Bedrock要求用“工具使用ID”格式说话
OpenAI要求用“函数调用”格式说话
工具API需要特定参数格式

工具集成层就像这位翻译官，通过以下机制实现：
✅ 将不同LLM的格式统一转换
✅ 在调用失败时重试或降级
✅ 支持实时流式输出

核心概念分解

1. 协议转换器：像翻译官一样转换“语言”

就像把中文翻译成英文，协议转换器负责：

# 将OpenAI的函数调用格式转为Bedrock格式（简化示例）
def convert_openai_to_bedrock(tools):bedrock_tools = []for tool in tools:bedrock_tool = {"name": tool["name"],"description": tool["description"],"inputSchema": tool["parameters"]  # 统一参数格式}bedrock_tools.append(bedrock_tool)return bedrock_tools

2. 错误处理机制：像安全网一样兜底

当调用失败时自动：

尝试其他服务商（如Bedrock→OpenAI）
返回友好提示而非崩溃

# 简化版错误处理逻辑
try:response = call_external_api()
except APIError:return "当前服务繁忙，请稍后再试"

3. 流式与非流式API：像直播与录播两种模式

流式模式：实时返回文字（适合聊天）
非流式模式：一次性返回完整结果（适合计算任务）

# 流式调用示例
async def stream_api_call():for chunk in response_stream:yield chunk  # 逐块返回内容

如何用集成层解决问题？

场景：调用天气API获取实时数据

步骤1：定义工具配置

# config.toml中添加天气工具配置
[tools.weather_api]
name = "天气查询"
description = "获取实时天气数据"
parameters = {"location": "城市名称","unit": "返回温度单位（C/F）"
}

步骤2：创建工具调用类

class WeatherTool:async def call(self, location: str, unit: str = "C"):# 模拟调用外部APIreturn f"{location}当前温度25°C，天气晴朗"

步骤3：在代理中集成

# 在代理的run方法中调用
tool_response = await WeatherTool().call(user_query.location)
memory.add_message(Message.tool_message(content=tool_response,name="天气工具",tool_call_id="tool_001"
))

此时，用户就能在对话中看到类似这样的回答：

用户：上海今天天气如何？
AI：上海当前温度25°C，天气晴朗（数据来自天气工具）

内部实现揭秘：工具调用的“翻译过程”

流程分解（用简单序列图演示）

关键代码解析（app/bedrock.py片段）

# 将Bedrock响应转为OpenAI格式的简化示例
def _convert_bedrock_response(self, bedrock_response):openai_response = {"choices": [{"message": {"content": bedrock_response["output"]["content"],"role": "assistant"}}]}return OpenAIResponse(openai_response)

深入理解工具集成层

通过本章，你已掌握：
✅ 如何将不同服务商的格式统一
✅ 在调用失败时如何优雅处理
✅ 流式与非流式调用的区别

小结与展望

通过工具与LLM集成，我们实现了：
✅ 跨服务商的协议兼容性
✅ 稳定可靠的外部工具调用
✅ 实时与非实时场景的灵活支持

下一章我们将探讨服务器/客户端通信，学习如何让AI系统通过网络协同工作——就像给交响乐团配备远程指挥系统！现在你可以尝试添加更多工具（比如翻译API）到你的项目中了！

第六章：Tool and LLM Integration

Chapter 6: Tool and LLM Integration 从执行流到工具集成：如何让AI“调用真实世界的技能”？ 在上一章的执行流框架中，我们已经能让多个代理协作完成复杂任务。但你是否想过：如果用户要求“查询实时天气”或“打开网页搜索”&…...

编程日记 2025/5/23 20:06:29

prompt提示词编写技巧

为什么学习prompt编写目的：通过prompt的编写，提升LLM输出相关性、准确性和多样性，并对模型输出的格式进行限制，满足我们的业务需求。学过提示词工程的人：像“专业导演”，通过精准指令控制 AI 输出&#…...

编程日记 2025/5/23 19:32:41

Nginx配置SSL详解

文章目录 Nginx配置SSL详解1. SSL/TLS 基础知识2. 准备工作3. 获取SSL证书4. Nginx SSL配置步骤4.1 基础配置4.2 配置说明 5. 常见配置示例5.1 双向认证配置5.2 多域名SSL配置 6. 安全优化建议7. 故障排查总结参考资源下载验证的完整实例 Nginx配置SSL详解 1. SSL/TLS 基础知识…...

编程日记 2025/5/23 18:12:36

网络安全之红队LLM的大模型自动化越狱

前言大型语言模型（LLMs）已成为现代机器学习的重要支柱，广泛应用于各个领域。通过对大规模数据的训练，这些模型掌握了多样化的技能，展现出强大的生成与理解能力。然而，由于训练数据中难以完全剔除有毒内容&…...

编程日记 2025/5/23 17:45:56

【技术笔记】通过Cadence Allegro创建一个PCB封装（以SOT23为例）

【技术笔记】通过Cadence Allegro创建一个PCB封装（以SOT23为例） 一、焊盘创建二、PCB封装设计三、丝印位号及标识添加更多内容见专栏：【硬件设计遇到了不少问题】、【Cadence从原理图到PCB设计】一、焊盘创建首先要找到元器件的相关手册&…...

编程日记 2025/5/23 18:02:12

新环境注册为Jupyter 内核

1. 确认环境是否已注册为内核在终端运行以下命令，查看所有已注册的内核： jupyter kernelspec list2. 为自定义环境注册内核步骤 1：激活目标虚拟环境 conda activate your_env_name # 替换为你的环境名步骤 2：安装…...

编程日记 2025/5/23 19:52:16

[Spring] Seata详解

🌸个人主页:https://blog.csdn.net/2301_80050796?spm1000.2115.3001.5343 🏵️热门专栏: 🧊 Java基本语法(97平均质量分)https://blog.csdn.net/2301_80050796/category_12615970.html?spm1001.2014.3001.5482 🍕 Collection与…...

编程日记 2025/4/29 12:32:55

使用JDK的数据校验和Spring的自定义注解校验前端传递参数的两种方法

第一种：JDK的数据校验注解 PostMapping("/test")public String test(QueryParam param, RequestHeader(value "App_key") String App_key,RequestHeader(value "App_secret") String App_secret) throws IOException {param.setApp…...

编程日记 2025/5/23 19:29:46

JS错误处理的新方案（不使用try-catch）

错误处理一直是JavaScript开发者需要认真对待的问题，传统的try-catch语法虽然简单直观，但在异步代码中使用时存在诸多限制。 try-catch的局限性传统try-catch模式在现代JavaScript开发中面临的问题： 1. 异步错误捕获的缺陷 try-catch无法…...

编程日记 2025/4/29 12:30:42

前端实现商品放大镜效果（Vue3完整实现）

前端实现商品放大镜效果（Vue3完整实现） 前言在电商类项目中，商品图片的细节展示至关重要。放大镜效果能显著提升用户体验，允许用户在不跳转页面的情况下查看高清细节。本文将基于Vue3实现一个高性能的放大镜组件，完整…...

编程日记 2025/5/2 21:58:45

redis未授权访问漏洞学习

一、Redis常见用途 1. Redis介绍全称与起源: Redis全称Remote Dictionary Service(远程字典服务)，最初由antirez在2009年开发，用于解决网站访问记录统计的性能问题。发展历程: 从最初仅支持列表功能的内存数据库，经过十余年发展已支持多种…...

编程日记 2025/5/23 18:52:58

阿里qiankun微服务搭建

主服务 chat vue3 ts vite 子服务 ppt react 18 vite 子服务 agent 主服务 npm i vite-plugin-qiankun mian.ts import ./style/base.scss import virtual:svg-icons-register import { createApp } from vue import { createPinia } from piniaimport App from ./App.vue im…...

编程日记 2025/5/22 23:23:25

【CodeSprint】第二章-2.1 简单模拟

第二章 2.1 简单模拟 ✏️ 关于专栏：专栏用于记录 prepare for the coding test。 1. 简单模拟简单模拟题目不需要复杂算法，直接按照题意一步步模拟即可。 1.1 促销计算题目描述某百货公司为了促销，采用购物打折的优惠方法&#xff1a…...

编程日记 2025/5/23 19:27:57

Golang实现函数默认参数

golang原生不支持默认参数在日常开发中，我们有时候需要使用默认设置，但有时候需要提供自定义设置结构体/类，在Java我们可以使用无参、有参构造函数来实现，在PHP中我们也可以实现(如 public function xxx($isCName false, $sec…...

编程日记 2025/5/23 17:38:31

【Python Web开发】03-HTTP协议

文章目录 1. HTTP协议基础1.1 请求-响应模型1.2 请求方法1.3 请求和响应结构1.4 状态码 2. Python 发送 HTTP 请求2.1 urllib库2.2 requests 库 3. Python 构建 HTTP 服务器3.1 http.server模块3.2 Flask 框架 4. HTTP 协议的安全问题5. 缓存和性能优化 HTTP（Hypert…...

编程日记 2025/5/23 19:48:59

提高营销活动ROI：大数据驱动的精准决策

提高营销活动ROI：大数据驱动的精准决策大家好，我是Echo_Wish。今天我们来聊聊如何通过大数据来提高营销活动的ROI（投资回报率）。我们都知道，随着市场的日益竞争，营销的成本不断增加，如何在这片红海中脱颖而出，不仅需要精准的营销策略，还需要依靠先进的技术，尤其是大…...

编程日记 2025/5/23 18:03:55

前端excel导出

在数据可视化和管理日益重要的今天，前端实现 Excel 导出功能已经成为众多项目中的刚需。一、Excel 导出的常见场景数据报表导出：在企业管理系统、数据分析平台中，用户经常需要将系统中的数据以 Excel 表格的形式导出，便于离…...

编程日记 2025/5/23 18:41:32

pymsql（SQL注入与防SQL注入）

SQL注入： import pymysql# 创建数据库连接返回一个对象 conn pymysql.connect(host"localhost", # MySQL服务器地址本地地址 127.0.0.1user"root", # 用户名 （账号）password"155480", # 密码database&qu…...

编程日记 2025/5/23 18:59:20

基于Springboot + vue + 爬虫实现的高考志愿智能推荐系统

项目描述本系统包含管理员和学生两个角色。管理员角色： 个人中心管理：管理员可以管理自己的个人信息。高校信息管理：管理员可以查询、添加或删除高校信息，并查看高校详细信息。学生管理：管理员可以查询、添加或…...

编程日记 2025/5/23 18:36:29

delphi使用sqlite3

看了一下delphi调用sqlite3最新版本的调用，网上说的都很片面，也没有完整的资料了。我自己研究了一下，分享出来。在调用demo中，官方也给了一个demo但是功能很少，没有参考价值。 1.定义： 首先把sqlite3…...

编程日记 2025/4/29 12:11:13

高压开关柜局部放电信号分析系统

高压开关柜局部放电信号分析系统 - 开发笔记 1. 项目概述这个项目是我在2025年实现的高压开关柜局部放电信号分析系统，目的是通过采集分析局部放电信号，判断设备的工作状态和潜在故障。系统包含从信号模拟生成、特征提取、到深度学习模型训练的全流程…...

编程日记 2025/5/23 19:24:20

ai环境conda带torch整体迁移。

conda打包好的GPU版torch环境，其实很简单，就是conda装好的torch环境env整体打包，然后到新机器上再解压到env路径。打开搭建好的环境，找自己路径，我默认的是这个。 cd/root/anaconda3/envs/ 然后整个文件夹打包。tar -…...

编程日记 2025/5/1 3:26:35

电价单位解析与用电设备耗电成本计算

一、电价单位元/kWh 的解析定义： 元/kWh 表示每千瓦时电能的费用，即1度电的价格。例如，若电价为0.5元/kWh，则使用1千瓦的电器1小时需支付0.5元。电价构成： 中国销售电价由四部分组成： 上网电价&#xf…...

编程日记 2025/4/29 12:08:58

辛格迪客户案例 | 华道生物细胞治疗生产及追溯项目(CGTS)

01 华道（上海）生物医药有限公司：细胞治疗领域的创新先锋华道（上海）生物医药有限公司（以下简称“华道生物”）是一家专注于细胞治疗技术研发与应用的创新型企业，尤其在CAR-T细胞免疫…...

编程日记 2025/5/9 13:40:33

C++（初阶）（十三）——继承

继承继承概念示例定义格式继承和访问方式继承方式访问方式实例继承类模板基类和派生类之间的转换继承中的作用域隐藏规则选择题派生类的默认成员函数默认成员函数派生类中的实现实现一个不能被继承的类继承与友元继承与静态成员多继承及其菱形继承问题虚继承多继承指针偏…...

编程日记 2025/5/23 18:03:54

S09-电机运行时间

感谢粉丝网友的支持，也欢迎你们的讨论和分享。昨天我们简单讨论了一下标准功能块的重要性，仅仅是拿电机块举了一个例子，有粉丝问能否把电机运行时间做到块里面，完善一下功能呢？那是绝对当然的100%可以的啊！…...

编程日记 2025/5/23 18:57:28

大语言模型（LLMs）微调技术总结

文章目录全面总结当前大语言模型（LLM）微调技术1. 引言2. 为什么需要微调？3. 微调技术分类概览4. 各种微调技术详细介绍4.1 基础微调方法4.1.1 有监督微调（Supervised Fine-Tuning, SFT）4.1.2 全参数微调（F…...

编程日记 2025/5/22 1:30:59

python练习：求数字的阶乘

求数字的阶乘 eg:5的阶乘 54321 """ 求数字的阶乘 eg:5的阶乘 5*4*3*2*1 """count 1 for i in range(1,6):count count * iprint(count)运行结果：...

编程日记 2025/4/29 12:04:41

综合练习一

背景某银行监管系统，需要设计并实现用户登入记录功能，每个用户登入系统时，系统自动记录登入用户的账户、登入时间、登入失败成功与否信息等，普通用户只能登入登出，管理员可以登入后查看日志及分析统计信息等。用户…...

编程日记 2025/5/6 13:40:15

List--链表

一、链表 1.1 什么是List？ 在C语言中，我们需要使用结构体struct来进行List(链表）的实现： struct ListNode {DataType Data;//DataType是任意类型的变量定义struct ListNode* next;//指向下一个结点的指针变量 }; 与之前的vect…...

编程日记 2025/4/30 20:54:08

SpeedyAutoLoot

SpeedyAutoLoot自动拾取插件 SpeedyAutoLoot.lua local AutoLoot CreateFrame(Frame)SpeedyAutoLootDB SpeedyAutoLootDB or {} SpeedyAutoLootDB.global SpeedyAutoLootDB.global or {}local BACKPACK_CONTAINER BACKPACK_CONTAINER local LOOT_SLOT_CURRENCY LOOT_SLOT…...

编程日记 2025/5/15 13:14:59

编程日志4.23

栈的C顺序表实现 #include<iostream> #include<stdexcept> using namespace std; //模板声明，表明Stack类是一个通用的模板，可以用于存储任何类型的元素T template<typename T> //栈的声明 //Stack类的声明，表示一个栈的…...

编程日记 2025/4/29 12:02:26

打印所有字段

package com.volvo.midend.vehicle;import com.volvo.midend.vehicle.dto.out.vista.VistaDemoVO;import java.lang.reflect.Field;public class TestAllFiled {// 递归打印类的所有字段public static void printAllFields(Class<?> clazz, int indentLevel) {// 根据缩…...

编程日记 2025/4/29 12:01:21

4G FS800DTU上传图像至巴法云

目录 1 前言 2 准备工作 2.1 硬件准备 2.2 软件环境 2.3 硬件连接 3 实现方案 4 巴法云平台账号创建与设备联网配置 4.1 创建账号 4.2 进入巴法云 4.3 获取联网参数 4.4 连接巴法云 5 拍照上传至巴法云 6 ESP32-CAM程序 7 总结 1 前言巴法云(Bemfa Cloud)是一个…...

编程日记 2025/4/29 12:01:21

一键叠图工具

写了个拼图小工具供大家测试 APP安卓的测试下载点击下载百度网盘: https://pan.baidu.com/s/17B5KVIMMZlOAsF7a16KNug?pwd1234 提取码: 1234 拼图步骤：选图--选择变亮或变暗--滤镜发色在正式开始之前，我们来定义几条原则先（熟悉…...

编程日记 2025/5/20 14:26:25

【OSG学习笔记】Day 12: 回调机制——动态更新场景

UpdateCallback 在OpenSceneGraph（OSG）里，UpdateCallback是用来动态更新场景的关键机制。借助UpdateCallback，你能够实现节点的动画效果，像旋转、位移等。 NodeCallback osg::NodeCallback 是一个更通用的回调类&…...

编程日记 2025/5/19 23:40:59

快速上手Prism WPF 工程

1、Prism 介绍定位： Prism 是微软推出的框架，专为构建模块化、可维护的复合式应用程序设计，主要支持 WPF、Xamarin.Forms、UWP 等平台。核心功能： 模块化开发：将应用拆分为独立模块&#xff0c…...

编程日记 2025/4/29 11:59:10

Dockerfile讲解与示例汇总

容器化技术已经成为应用开发和部署的标准方式，而Docker作为其中的佼佼者，以其轻量、高效、可移植的特性，深受开发者和运维人员的喜爱。本文将从实用角度出发，分享各类常用服务的Docker部署脚本与最佳实践，希望能帮助各位在容器化之路上少走弯路。无论你是刚接触Docker的…...

编程日记 2025/4/29 11:59:08

MATLAB Coder代码生成（工业部署）——MATLAB技巧

MATLAB Coder是MATLAB生态中用于将算法代码转换为C/C++代码的核心工具，其生成的代码可直接部署到嵌入式硬件、工业控制器或企业级应用中，尤其在智能制造、物联网和实时控制领域具有广泛应用。通过 MATLAB Coder，可以轻松地将 MATLAB 代码转换为高效的 C/C++ 代码，适用于嵌…...

编程日记 2025/4/29 11:59:07

3、CMake语法:制作和使用动态库和静态库

动态库和静态库 1 动态库和静态库简介1.1 静态库静态库文件类型.lib 文件.pdb 文件 1.2 动态库动态库文件类型 1.3 总结 2. 制作和使用静态库2.1 CMake指定输出的路径 2.2 VS利用第三方库编译静态库 2.3 使用静态库CMake链接静态库VS链接静态库 3. 制作和使用动态库3.1 CMake指…...

编程日记 2025/4/29 11:58:04

使用双端队列deque模拟栈stack

使用双端队列deque模拟栈stack 今天的内容有点简单~ 众所周知🤓👆，栈作为一个先进后出的结构，在计算机的世界确实能够发挥很多的作用。而我们C祖师爷本贾尼是第一批把这个结构作为实实在在的容器做进std的人~ 那为了更好的了解…...

编程日记 2025/5/19 12:42:47

Spring系列四：AOP切面编程第三部分

🐋AOP-JoinPoint 1.通过JoinPoint可以获取到调用方法的签名 2.其他常用方法 ●代码实现 1.com.zzw.spring.aop.aspectj.SmartAnimalAspect Aspect //表示是一个切面类 Component //会将SmartAnimalAspect注入到容器 public class SmartAnimalAspect {//给Car配置…...

编程日记 2025/5/18 2:58:12

为什么使用ThreadLocal后要调用remove()方法呢？

ThreadLocalMap中包含一个数组，每个节点对应的类名叫Entry，这个类继承WeakReference<ThreadLocal<?>>，entry中有两个属性：key和value。特别需要指出的是key来自于父类中的threadLocal对象。为了避免内存泄露&#…...

编程日记 2025/5/5 8:42:51

如何在idea 中写spark程序

在 IntelliJ IDEA 中编写 Spark 程序可以通过以下步骤进行： 1. **安装 Scala 插件**：首先确保已经安装了 Scala 插件。在 IntelliJ IDEA 中选择 File -> Settings -> Plugins -> 搜索 Scala -> 安装插件。 2. **创建新项目**：在…...

编程日记 2025/5/14 23:09:28

国产全兼容ADS131E08芯片---LHA7878

LHA787X是一系列多通道同步采样、24位A-∑模数转换器(ADC)，内置可编程增益放大器(PGA)、内部基准和振荡器。凭借ADC的宽动态范围、可扩展数据传输速率以及内部故障检测监测计，LHA787X受到工业电源监测和保护以及测试和测量应用的青睐。真正的高阻抗输入支…...

编程日记 2025/5/5 16:58:27

免费LUT网站

FREE LUTs | Color Lookup Tables - Presetpro.com...

编程日记 2025/4/29 11:53:37

ICH CTD中ISS的关键内容与作用

1. ISS在ICH CTD中的定位 1.1 模块2与模块5的分工 1.1.1 模块2：整体总结的全局视角模块2的2.7.4 ISS对所有临床研究安全性数据整合分析，涵盖I-III期试验，提供药物安全性全局视角，确保其在目标人群中的可接受性。 ISS需与风险控制措施关联，如说明书警示、风险管理计划，…...

编程日记 2025/5/7 7:12:29

Ocelot的应用案例

搭建3个项目，分别是OcelotDemo、ServerApi1和ServerApi2这3个项目。访问都是通过OcelotDemo进行轮训转发。代码案例链接：https://download.csdn.net/download/ly1h1/90715035 1.架构图 2.解决方案结构 3.步骤一，添加Nuget包 4.步骤二&…...

编程日记 2025/4/29 11:51:28

OpenCV VC编译版本

vc12 Visual Studio 2013 vc14 Visual Studio 2015 vc15 Visual Studio 2017 vc16 Visual Studio 2019 vc17 Visual Studio 2022 opencv支持情况： OpenCV2.4.10 支持 VS2010，VS2012，VS2013 （x64，x86） …...

编程日记 2025/5/22 16:52:06

测试用例介绍

文章目录一、测试用例基本概念1.1 测试用例基本要素二、测试用例的设计方法2.1 基于需求的设计方法2.2 等价类2.3 边界值2.4 错误猜测法2.6 场景设计法2.7 因果图2.5 正交排列三、综合：根据某个场景去设计测试用例（万能公式）四、如何使用F…...

编程日记 2025/4/30 15:10:09