当前位置：首页 > news >正文

【LLM-agent】(task2)用llama-index搭建AI Agent

news 来源：原创 2025/5/14 13:53:24

note

LlamaIndex 实现 Agent 需要导入 ReActAgent 和 Function Tool，循环执行：推理、行动、观察、优化推理、重复进行。可以在 arize_phoenix 中看到 agent 的具体提示词，工具被装换成了提示词
ReActAgent 使得业务自动向代码转换成为可能，只要有 API 模型就可以调用，很多业务场景都适用，LlamaIndex 提供了一些开源的工具实现，可以到官网查看。
虽然 Agent 可以实现业务功能，但是一个 Agent 不能完成所有的功能，这也符合软件解耦的设计原则，不同的 Agent 可以完成不同的任务，各司其职，Agent 之间可以进行交互、通信，类似于微服务。

文章目录

note
一、LlamaIndex中agent的构建
二、代码实践
Reference

一、LlamaIndex中agent的构建

步骤：

定义工具函数（大模型会根据函数的注释来判断使用哪个函数来完成任务）
把工具函数放入FunctionTool对象中，供Agent能够使用
LlamaIndex 实现 Agent 需要导入 ReActAgent 和 Function Tool
- ReActAgent 通过结合推理（Reasoning）和行动（Acting）来创建动态的 LLM Agent 的框架。该方法允许 LLM 模型通过在复杂环境中交替进行推理步骤和行动步骤来更有效地执行任务。ReActAgent 将推理和动作形成了闭环，Agent 可以自己完成给定的任务。

一个典型的 ReActAgent 遵循以下循环：

初始推理：代理首先进行推理步骤，以理解任务、收集相关信息并决定下一步行为。
行动：代理基于其推理采取行动——例如查询API、检索数据或执行命令。
观察：代理观察行动的结果并收集任何新的信息。
优化推理：利用新信息，代理再次进行推理，更新其理解、计划或假设。
重复：代理重复该循环，在推理和行动之间交替，直到达到满意的结论或完成任务。

二、代码实践

import os
from dotenv import load_dotenv# 加载环境变量
load_dotenv()
# 初始化变量
base_url = None
chat_model = None
api_key = None# 使用with语句打开文件，确保文件使用完毕后自动关闭
env_path = "/Users/guomiansheng/Desktop/LLM/llm_app/wow-agent/.env.txt"
with open(env_path, 'r') as file:# 逐行读取文件for line in file:# 移除字符串头尾的空白字符（包括'\n'）line = line.strip()# 检查并解析变量if "base_url" in line:base_url = line.split('=', 1)[1].strip().strip('"')elif "chat_model" in line:chat_model = line.split('=', 1)[1].strip().strip('"')elif "ZHIPU_API_KEY" in line:api_key = line.split('=', 1)[1].strip().strip('"')# 打印变量以验证
print(f"base_url: {base_url}")
print(f"chat_model: {chat_model}")
print(f"ZHIPU_API_KEY: {api_key}")from openai import OpenAI
client = OpenAI(api_key = api_key,base_url = base_url
)
print(client)def get_completion(prompt):response = client.chat.completions.create(model="glm-4-flash",  # 填写需要调用的模型名称messages=[{"role": "user", "content": prompt},],)return response.choices[0].message.content# 用llama-index
from openai import OpenAI
from pydantic import Field  # 导入Field，用于Pydantic模型中定义字段的元数据
from llama_index.core.llms import (CustomLLM,CompletionResponse,LLMMetadata,
)
from llama_index.core.embeddings import BaseEmbedding
from llama_index.core.llms.callbacks import llm_completion_callback
from typing import List, Any, Generator# 定义OurLLM类，继承自CustomLLM基类
class OurLLM(CustomLLM):api_key: str = Field(default=api_key)base_url: str = Field(default=base_url)model_name: str = Field(default=chat_model)client: OpenAI = Field(default=None, exclude=True)  # 显式声明 client 字段def __init__(self, api_key: str, base_url: str, model_name: str = chat_model, **data: Any):super().__init__(**data)self.api_key = api_keyself.base_url = base_urlself.model_name = model_nameself.client = OpenAI(api_key=self.api_key, base_url=self.base_url)  # 使用传入的api_key和base_url初始化 client 实例@propertydef metadata(self) -> LLMMetadata:"""Get LLM metadata."""return LLMMetadata(model_name=self.model_name,)@llm_completion_callback()def complete(self, prompt: str, **kwargs: Any) -> CompletionResponse:response = self.client.chat.completions.create(model=self.model_name, messages=[{"role": "user", "content": prompt}])if hasattr(response, 'choices') and len(response.choices) > 0:response_text = response.choices[0].message.contentreturn CompletionResponse(text=response_text)else:raise Exception(f"Unexpected response format: {response}")@llm_completion_callback()def stream_complete(self, prompt: str, **kwargs: Any) -> Generator[CompletionResponse, None, None]:response = self.client.chat.completions.create(model=self.model_name,messages=[{"role": "user", "content": prompt}],stream=True)try:for chunk in response:chunk_message = chunk.choices[0].deltaif not chunk_message.content:continuecontent = chunk_message.contentyield CompletionResponse(text=content, delta=content)except Exception as e:raise Exception(f"Unexpected response format: {e}")llm = OurLLM(api_key=api_key, base_url=base_url, model_name=chat_model)
# print(llm)
# 测试模型是否能正常回答
response = llm.stream_complete("你是谁？")
for chunk in response:print(chunk, end="", flush=True)import sys
import os
sys.path.append(os.path.abspath(os.path.join(os.path.dirname(__file__), "..", "..")))
from llama_index.core.agent import ReActAgent
from llama_index.core.tools import FunctionTooldef multiply(a: float, b: float) -> float:"""Multiply two numbers and returns the product"""return a * bdef add(a: float, b: float) -> float:"""Add two numbers and returns the sum"""return a + b# 定义个类似天气预报的function
def get_weather(city: str) -> int:"""Gets the weather temperature of a specified city.Args:city (str): The name or abbreviation of the city.Returns:int: The temperature of the city. Returns 20 for 'NY' (New York),30 for 'BJ' (Beijing), and -1 for unknown cities."""# Convert the input city to uppercase to handle case-insensitive comparisonscity = city.upper()# Check if the city is New York ('NY')if city == "NY":return 20  # Return 20°C for New York# Check if the city is Beijing ('BJ')elif city == "BJ":return 30  # Return 30°C for Beijing# If the city is neither 'NY' nor 'BJ', return -1 to indicate unknown cityelse:return -1def main():multiply_tool = FunctionTool.from_defaults(fn=multiply)add_tool = FunctionTool.from_defaults(fn=add)# 创建ReActAgent实例agent = ReActAgent.from_tools([multiply_tool, add_tool], llm=llm, verbose=True)response = agent.chat("20+（2*4）等于多少？使用工具计算每一步")print(f"第一个agent的结果： ", response, "\n")weather_tool = FunctionTool.from_defaults(fn=get_weather)agent = ReActAgent.from_tools([multiply_tool, add_tool, weather_tool], llm=llm, verbose=True)response = agent.chat("纽约天气怎么样?")print(f"第二个agent的结果： ", response)if __name__ == "__main__":main()

输出的结果：
在这里插入图片描述

（1）计算的例子：

将提问中的计算步骤分别利用了我们自定义的函数 add 和 multiply，比task1只能控制prompt情况更加自由了

（2）天气预报的例子

可以在 arize_phoenix 中看到 agent 的具体提示词，工具被装换成了提示词
ReActAgent 使得业务自动向代码转换成为可能，只要有 API 模型就可以调用，很多业务场景都适用，LlamaIndex 提供了一些开源的工具实现，可以到官网查看。
虽然 Agent 可以实现业务功能，但是一个 Agent 不能完成所有的功能，这也符合软件解耦的设计原则，不同的 Agent 可以完成不同的任务，各司其职，Agent 之间可以进行交互、通信，类似于微服务。

Reference

[1] 官方文档：https://docs.cloud.llamaindex.ai/
[2] https://github.com/datawhalechina/wow-agent
[3] https://www.datawhale.cn/learn/summary/86

【LLM-agent】(task2)用llama-index搭建AI Agent

note LlamaIndex 实现 Agent 需要导入 ReActAgent 和 Function Tool，循环执行：推理、行动、观察、优化推理、重复进行。可以在 arize_phoenix 中看到 agent 的具体提示词，工具被装换成了提示词ReActAgent 使得业务自动向代码转换成为可能&am…...

编程日记 2025/5/14 13:53:24

Deep Crossing：深度交叉网络在推荐系统中的应用

实验和完整代码完整代码实现和jupyter运行：https://github.com/Myolive-Lin/RecSys--deep-learning-recommendation-system/tree/main 引言在机器学习和深度学习领域，特征工程一直是一个关键步骤，尤其是对于大规模的推荐系统和广告点击率预…...

编程日记 2025/5/14 13:31:37

介绍一下Mybatis的Executor执行器

Executor执行器是用来执行我们的具体的SQL操作的有三种基本的Executor执行器： SimpleExecutor简单执行器每执行一次update或select，就创建一个Statement对象，用完立刻关闭Statement对象 ReuseExecutor可重用执行器可重复利用Statement…...

编程日记 2025/5/9 3:35:48

pthread_cond_broadcast的概念和使用案例

pthread_cond_broadcast 是 POSIX 线程（Pthreads）库中用于条件变量（Condition Variable）操作的函数，定义在 <pthread.h> 头文件中。它的核心作用是唤醒所有等待在某个条件变量上的线程，通常用于多线程…...

编程日记 2025/5/13 7:13:43

数据中心服务器对PCIe测试的需求、挑战和应用

人工智能和机器学习技术的迅猛发展，尤其是大语言模型（LLM）的兴起，对计算资源和数据传输速度提出了更高的要求，从而激发了对更高带宽解决方案的迫切需求。PCIe作为数据中心服务器间互联的主力军，承担着高速数…...

编程日记 2025/5/14 8:02:11

SpringBoot的配置(配置文件、加载顺序、配置原理)

文章目录 SpringBoot的配置(配置文件、加载顺序、配置原理)一、引言二、配置文件1、配置文件的类型1.1、配置文件的使用 2、多环境配置三、加载顺序四、配置原理五、使用示例1、配置文件2、配置类3、控制器六、总结 SpringBoot的配置(配置文件、加载顺序、配置原理) 一、引言…...

编程日记 2025/5/10 2:36:14

利用Vue和javascript分别编写一个“Hello World”的定时更新

目录一、利用Vue编写一个“Hello World”的定时更新（1）vue编码在Html文件中（2）vue编码在js文件中二、利用javascript编写一个“Hello World”的定时更新一、利用Vue编写一个“Hello World”的定时更新 （1&#xff…...

编程日记 2025/5/14 13:35:01

【免费】2007-2019年各省科技支出占一般公共预算支出的比重数据

2007-2019年各省科技支出占一般公共预算支出的比重数据 1、时间：2007-2019年 2、来源：国家统计局、统计年鉴 3、指标：行政区划代码、地区名称、年份、科技支出占一般公共预算支出的比重 4、范围：31省 5、指标解释&#xff1a…...

编程日记 2025/5/7 17:35:13

解决 LeetCode 922 题：按奇偶排序数组 II

解决 LeetCode 922 题：按奇偶排序数组 II 题目描述给定一个非负整数数组 nums，其中一半整数是奇数，一半整数是偶数。要求对数组进行排序，以便当 nums[i] 为奇数时，i 也是奇数；当 nums[i] 为偶数时&#…...

编程日记 2025/5/13 5:38:30

【PyQt】getattr动态访问对象的属性

问题使用qtdesigner设计好大体的软件结构，需要使用代码进行批量修改控件样式,self.ui.x 会被解释为访问 self.ui 中名为 x 的属性，而不是将 x 作为变量名来解析，此时需要通过字符串动态访问 self.ui 中的按钮对象 for i in range(20):x f…...

编程日记 2025/5/14 10:19:31

基于RTOS的STM32游戏机

1.游戏机的主要功能所有游戏都来着B站JL单片机博主开源这款游戏机具备存档与继续游戏功能，允许玩家在任何时候退出当前游戏并保存进度，以便日后随时并继续之前的冒险。不仅如此，游戏机还支持多任务处理，玩家可以在退出当前游戏…...

编程日记 2025/5/12 3:49:46

＜自用文儿＞下载 MaxMind GeoIP Databases 对攻击的 IP 做地理分析

起因两个 VPM/VPS，安装了 fail2ban 去拦截密码穷举攻击。每天的记录都在增长，以前复制屏幕输出就行，一屏的内容还容易粘贴出来的。昨天已经过 500 条，好奇 fail2ban 是如何存储这些内容的？就发现它在使用 SQLite3 数…...

编程日记 2025/5/7 14:07:43

kubernetes 核心技术-集群安全机制 RBAC

随着 Kubernetes 在企业级应用中的广泛采用，确保集群的安全性变得至关重要。Kubernetes 提供了多种安全机制来保护集群及其资源免受未授权访问和潜在威胁的影响。其中，基于角色的访问控制（Role-Based Access Control, 简称 RBAC）是…...

编程日记 2025/5/14 13:39:50

排序算法--快速排序

快速排序是高效的排序算法，平均时间复杂度为 O(nlog⁡n)，适合大规模数据排序。 1.挖坑法 2左右指针法 3.前后指针法 // 交换两个元素的值 void swap(int* a, int* b) {int temp *a;*a *b;*b temp; }// 分区函数，返回分区点的索引 int par…...

编程日记 2025/5/10 11:32:48

npm知识

npm 是什么 npm 为你和你的团队打开了连接整个 JavaScript 天才世界的一扇大门。它是世界上最大的软件注册表，每星期大约有 30 亿次的下载量，包含超过 600000 个包（package）（即，代码模块）。来自…...

编程日记 2025/5/13 8:41:31

雷电等基于VirtualBox的Android模拟器映射串口和测试CSerialPort串口功能

雷电等基于VirtualBox的Android模拟器映射串口和测试CSerialPort串口功能 1. 修改VirtualBox配置文件映射串口模拟器配置文件vms/leidian0/leidian.vbox。在UART标签下增加(修改完成后需要将leidian.vbox修改为只读) <Port slot"1" enabled"true"…...

编程日记 2025/5/14 13:38:37

1.headers 1.1 内容相关 headers {Content-Type: application/json, # 或 application/x-www-form-urlencoded, multipart/form-dataContent-Length: 1234, # 内容长度Accept: application/json, # 期望的返回格式Accept-Encoding: gzip, deflate, # 支持的压缩方式Acce…...

编程日记 2025/5/6 4:15:12

Python语言的安全开发

Python语言的安全开发引言在信息技术迅速发展的今天，网络安全问题愈发凸显。随着Python语言的广泛应用，尤其是在数据分析、人工智能、Web开发等领域，其安全问题越来越受到重视。Python作为一门高效且易于学习的编程语言，虽然在…...

编程日记 2025/5/14 13:52:20

[LeetCode]day13 19.删除链表的倒数第n个结点

19. 删除链表的倒数第 N 个结点 - 力扣（LeetCode） 题目描述给你一个链表，删除链表的倒数第 n 个结点，并且返回链表的头结点。示例 1： 输入：head [1,2,3,4,5], n 2 输出：[1,2,3,5]示例 2&a…...

编程日记 2025/5/10 8:48:12

进程的环境变量

export MUDUO_LOG_DEBUG1 ./testif (::getenv("MUDUO_LOG_TRACE"))return true;有时在程序运行前，我们希望设置环境变量。此处::表示全局命名空间。在类 Unix 系统（如 Linux、macOS）中，环境变量并不直接存储在堆、栈或…...

编程日记 2025/5/10 16:14:40

《深度揭秘LDA：开启人工智能降维与分类优化的大门》

在当今人工智能蓬勃发展的时代，数据成为了驱动技术进步的核心要素。随着数据采集和存储技术的飞速发展，我们所面临的数据量不仅日益庞大，其维度也愈发复杂。高维数据虽然蕴含着丰富的信息，但却给机器学习算法带来了一系列严峻的挑…...

编程日记 2025/5/11 6:49:55

UE编辑器工具

如何自己制作UE小工具提高工作效率在虚幻编辑器用户界面中，可以使用各种各样的可视化工具来设置项目，设计和构建关卡，创建游戏性交互等等。但有些时候，当你确定了需要编辑器执行的操作后，可能想要通过编程方式调用它…...

编程日记 2025/5/12 23:07:22

.找到字符串中所有字母异位词（滑动窗口）

给定两个字符串 s 和 p，找到 s 中所有 p 的异位词的子串，返回这些子串的起始索引。不考虑答案输出的顺序。示例 1: 输入: s "cbaebabacd", p "abc" 输出: [0,6] 解释: 起始索引等于 0 的子串是 "cba", 它是 "…...

编程日记 2025/5/14 13:35:01

力扣 121. 买卖股票的最佳时机

🔗 https://leetcode.cn/problems/best-time-to-buy-and-sell-stock 题目 nums 表示连续几天的股票价格，返回最大利润思路贪心，模拟代码 class Solution { public:int maxProfit(vector<int>& prices) {int ans 0;int mi…...

编程日记 2025/5/9 2:33:23

c++ 冒泡排序

c 冒泡排序冒泡排序是一种简单的排序算法，它通过重复遍历待排序的数列，比较每对相邻元素的大小，并在必要时交换它们的位置。这个过程会一直进行，直到没有需要交换的元素为止，这意味着数列已经排序完成。以下是用C实现…...

编程日记 2025/5/14 13:43:15

JMeter的详细学习路线

以下是一个适合新手的 **JMeter 详细学习路线**，从基础到实战逐步深入，帮助你系统掌握 JMeter 的核心功能和使用技巧。 --- ### **一、入门阶段：理解基础概念** 1. **了解性能测试基础** - 什么是性能测试？ - 负载测…...

编程日记 2025/5/12 10:34:51

【C# 】图像资源的使用

在C#中，图像资源的使用方式方法主要依赖于你所使用的框架和库。以下是几种常见的使用图像资源的方法： Windows Forms 直接加载图像： 使用System.Drawing.Image.FromFile()方法可以直接从文件系统加载图像。 Image image Image.FromFile(&qu…...

编程日记 2025/5/14 13:15:20

3.PPT：华老师-计算机基础课程【3】

目录 NO12 NO34 NO56 NO789 NO12 根据考生文件夹下的Word文档“PPT素材.docx”中提供的内容在PPT.pptx中生成初始的6张幻灯片新建幻灯片6张→ctrlc复制→ctrlv粘贴开始→新建幻灯片→幻灯片(从大纲)→Word文档注❗前提是：Word文档必须应用标题1、标题2…...

编程日记 2025/5/14 13:39:50

关于算尽圆周率

总有人提到圆周率算尽的问题，其实代码都已经在前面给出了，自己跑一下就明白了。用语言描述的话，那就是： 前面几篇文章已经写清楚了，圆周率的本质就是无限分辨率前提下的可二分度量单位。就像是自然对数底&#xf…...

编程日记 2025/5/12 13:06:24

动态获取脚本名称作为日志文件的名称

优点独立性： 每个脚本的日志独立存储，避免日志混杂，便于排查问题。灵活性： 支持动态获取脚本名称，无需手动指定日志记录器名称。可扩展性： 可以轻松扩展日志格式、级别、存储路径等功能。易用性&…...

编程日记 2025/5/13 1:13:22

JavaScript前后端交互-AJAX/fetch

摘自千峰教育kerwin的js教程 AJAX 1、AJAX 的优势不需要插件的支持，原生 js 就可以使用用户体验好（不需要刷新页面就可以更新数据）减轻服务端和带宽的负担缺点： 搜索引擎的支持度不够，因为数据都不在页面上&#xf…...

编程日记 2025/5/11 14:04:57

2025 网络安全学习路线非常详细推荐学习

关键词：网络安全入门、渗透测试学习、零基础学安全、网络安全学习路线首先咱们聊聊，学习网络安全方向通常会有哪些问题 1、打基础时间太长学基础花费很长时间，光语言都有几门，有些人会倒在学习 linux 系统及命令的路上&#…...

编程日记 2025/5/12 16:08:46

尝试把clang-tidy集成到AWTK项目

前言项目经过一段时间的耕耘终于进入了团队开发阶段，期间出现了很多问题，其中一个就是开会讨论团队的代码风格规范，目前项目代码风格比较混乱，有的模块是驼峰，有的模块是匈牙利，后面经过讨论，…...

编程日记 2025/5/12 20:54:30

04树 + 堆 + 优先队列 + 图（D1_树（D17_综合刷题练习））

目录 1. 二叉树的前序遍历（简单） 1.1. 题目描述 1.2. 解题思路方法一：递归（推荐使用） 方法二：非递归（扩展思路） 2. 二叉树的中序遍历（中等） 2.1. 题目…...

编程日记 2025/5/10 17:25:24

C++ Primer 数组

欢迎阅读我的【CPrimer】专栏专栏简介：本专栏主要面向C初学者，解释C的一些基本概念和基础语言特性，涉及C标准库的用法，面向对象特性，泛型特性高级用法。通过使用标准库中定义的抽象设施，使你更加适应高级…...

编程日记 2025/5/13 2:16:23

Linux(Centos)安装allnnlp失败,jsonnet报错

Linux安装allnnlp失败,jsonnet报错问题分析并解决1. 什么是 Software Collection (SCL)？2. 安装步骤2.1 安装 SCL 仓库支持2.2 安装 Devtoolset-7 提供的 C 编译器2.3 启用 Devtoolset-7 环境2.4 验证安装 3. 永久启用 Devtoolset-7 环境问题执行pip install al…...

编程日记 2025/5/14 9:29:27

小程序设计和开发：要如何明确目标和探索用户需求？

一、明确小程序的目标确定业务目标首先，需要明确小程序所服务的业务领域和目标。例如，是一个电商小程序，旨在促进商品销售；还是一个服务预约小程序，方便用户预订各类服务。明确业务目标有助于确定小程序的核心功能和…...

编程日记 2025/5/12 9:39:10

C#面试常考随笔12：游戏开发中常用的设计模式【C#面试题（中级篇）补充】

C#面试题（中级篇），详细讲解，帮助你深刻理解，拒绝背话术！-CSDN博客简单工厂模式优点： 根据条件有工厂类直接创建具体的产品客户端无需知道具体的对象名字，可以通过配置文件创建…...

编程日记 2025/5/12 13:53:37

napalm ‘NXOSDriver‘ object has no attribute ‘port‘ 解决方案（随手记）

解决方案（仍然使用ssh作为访问方式） 使用napalm时，对于Cisco Nexus设备，默认采用的是443的api去访问获取数据，如果需要使用ssh的方式获取，需要特别指定get_network_driver(nxos_ssh) 使用443 https api的…...

编程日记 2025/5/13 8:41:17

顺序表与vector

一、顺序表的模拟实现 1.顺序表的实现方式按照数组的申请方式，有以下两种实现方式： （1）数组采用静态分配，此时的顺序表称为静态顺序表。 （2）数组采用动态分配，此时的顺序表称为动…...

编程日记 2025/5/9 20:33:33

Spring 面试题【每日20道】【其三】

1、Spring 中的 Profile 注解的作用是什么？ 中等 Profile 注解在Spring框架中用于根据不同的环境配置文件（profiles）来激活或忽略某些Bean的注册。它允许开发者定义逻辑以区分不同环境下的bean定义，例如开发、测试和生产环境。 …...

编程日记 2025/5/13 19:50:41

作业day7

请使用条件变量实现2生产者2消费者模型，注意1个生产者在生q产的时候，另外一个生产者不能生产 #include <stdio.h> #include <stdlib.h> #include <pthread.h> #include <unistd.h>#define BUFFER_SIZE 5int buffer[BUFFER_SIZE]…...

编程日记 2025/5/9 17:39:33

后盾人JS--继承

继承是原型的继承 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>Document</title> </hea…...

编程日记 2025/5/14 12:58:57

基于CY8CKIT-149 BLE HID设备实现及PC控制功能开发(BLE HID+CapSense)

目录项目介绍硬件介绍项目设计开发环境总体流程图BLE HID触摸按键与滑条功能展示项目总结 👉 【Funpack4-1】基于CY8CKIT-149 BLE HID设备实现及PC控制功能开发 👉 Github: EmbeddedCamerata/CY8CKIT-149_ble_hid_keyboard 项目介绍基于英飞凌 CY8CK…...

编程日记 2025/5/10 15:32:06