借助LlamaIndex实现简单Agent
借助LlamaIndex实现简单Agent
1 简介
智能体的构建发展是一个趋势，借助LlamaIndex简单实现Agent。本文主要借助LlamaIndex中的FunctionTool和Workflow。Workflow是使用事件流的方法实现。
2 构建公共类
由于LlamaIndex中的OpenAI无法直接连接国内大模型，因此需要使用OpenAI构建CustomLikeOpenAI。
from typing import Anyfrom llama_index.core.base.llms.types import CompletionResponseGen, LLMMetadata, CompletionResponse
from llama_index.core.llms import CustomLLM
from openai import OpenAI
from pydantic import Fieldclass CustomLikeOpenAI(CustomLLM):model: str = Field(description="自定义模型名称")api_key: str = Field(description="自定义API Key")api_base: str = Field(description="自定义API地址")context_window: int = Field(default=32768, description="上下文窗口大小")temperature: float = Field(ge=0, le=1, default=0.3, description="设置温度，值域须为 [0, 1]")num_output: int = Field(default=8192, description="设置max_tokens")def __init__(self, **data):# 必须调用父类初始化super().__init__(**data)# 创建对象self._client = OpenAI(api_key=self.api_key,base_url=self.api_base)@propertydef metadata(self) -> LLMMetadata:"""Get LLM metadata."""return LLMMetadata(context_window=self.context_window,num_output=self.num_output,model_name=self.model)def complete(self, prompt: str, **kwargs: Any) -> CompletionResponse:"""生成文本:param prompt: 添加提示词:param kwargs: 其他相关参数:return: CompletionResponse"""# 构建生成completion = self._client.chat.completions.create(model=self.model,messages=[{"role": "user", "content": prompt}],temperature=self.temperature,max_tokens=self.num_output)# 返回值return CompletionResponse(text=completion.choices[0].message.content)def stream_complete(self, prompt: str, **kwargs: Any) -> CompletionResponseGen:"""生成流式文本:param prompt: 提示词:param kwargs: 其他参数:return: CompletionResponseGen迭代器"""# 根据需要可以不实现，如果不想实现使用下面代码即可# raise NotImplementedError("Streaming not supported")# 构建数据流stream = self._client.chat.completions.create(model=self.model,messages=[{"role": "user", "content": prompt}],temperature=self.temperature,max_tokens=self.num_output,stream=True)# 遍历数据流for chunk in stream:# 获取新文本delta = chunk.choices[0].delta# 判断数据是否存在if delta.content:yield CompletionResponse(text=delta.content, delta=delta.content)
3 函数调用实现Agent
源代码
# 使用LlamaIndex中的ReActAgent和函数调用的方法，实现Agent
# ReActAgent集成AgentRunner/AgentWorker 此方法LlamaIndex未来会被舍弃，推荐使用AgentWorkflow 和 Workflows.
# 需要安装的组件
"""
pip install llama-index
pip install llama-index-llms-openai-like
"""import asynciofrom llama_index.core.agent import ReActAgent
from llama_index.core.tools import FunctionToolfrom my_custom_rag.custom_like_openai import CustomLikeOpenAIdef add(x: int, y: int) -> int:"""Useful function to add two numbers."""return x + ydef multiply(x: int, y: int) -> int:"""Useful function to multiply two numbers."""return x * yasync def main():# 函数回调tools = [FunctionTool.from_defaults(fn=add, description="实现加法"),FunctionTool.from_defaults(fn=multiply, description="实现乘法")]# Llama index中的OpenAILike调用千问和Kimi不能使用，一直报参数错误，所以只能自定义了llm = CustomLikeOpenAI(model="XXXX",api_base="XXXX",api_key="XXXX")# 构建Agentagent = ReActAgent.from_tools(llm=llm,verbose=True,tools=tools)ret = agent.chat(message="1乘以10等于几")print(ret)if __name__ == "__main__":asyncio.run(main())
截图
4 WorkFlow实现Agent
运行流程
flowchart TDsubgraph 说明A1[（1）找到启动的方法，含有StartEvent参数的方法 ] --> B1B1[（2）执行第一个任务流，根据含有StartEvent参数的方法的输出找到的方法 ] --> C1C1[（3）执行任务流，根据上一个方法的输出找到下一个方法] --> D1D1[（4）执行结束，直到执行方法的返回值是StopEvent]endsubgraph 函数A2[（1）call_tool] --> B2B2[（2）generate_joke] --> C2C2[（3）……] --> D2D2[（4）critique_joke]end
代码
# 需要安装的组件
"""
pip install llama-index
pip install llama-index-llms-openai-like
"""import asynciofrom llama_index.core.workflow import (Event,StartEvent,StopEvent,Workflow,step
)from my_custom_rag.custom_like_openai import CustomLikeOpenAIclass ToolCallEvent(Event):"""用于回调返回数据"""data: strclass JokeEvent(Event):"""笑话实体类"""joke: strclass JokeFlow(Workflow):# Llama index中的OpenAILike调用千问和Kimi不能使用，一直报参数错误，所以只能自定义了llm = CustomLikeOpenAI(model="XXXX",api_base="XXXX",api_key="XXXX")@stepasync def call_tool(self, ev: StartEvent) -> ToolCallEvent:"""生成笑话:param ev: 开始事件:return: 返回笑话事件"""topic = ev.topicprompt = f"根据主题 {topic} 拓展相关主题."response = await self.llm.acomplete(prompt)print("生成的相关主题：", response)return ToolCallEvent(data=str(response))@stepasync def generate_joke(self, ev: ToolCallEvent) -> JokeEvent:"""评价笑话事件:param ev: 笑话事件:return: 停止事件"""prompt = f"写一个关于{ev.data}主题的笑话."response = await self.llm.acomplete(prompt)print("生成的笑话：", response)return JokeEvent(joke=str(response))@stepasync def critique_joke(self, ev: JokeEvent) -> StopEvent:"""评价笑话事件:param ev: 笑话事件:return: 停止事件"""joke = ev.jokeprompt = f"请分析和评价笑话: {joke}"response = await self.llm.acomplete(prompt)return StopEvent(result=str(response))async def main():w = JokeFlow(timeout=60, verbose=True)result = await w.run(topic="水果")print(str(result))if __name__ == "__main__":asyncio.run(main())截图
相关文章：
借助LlamaIndex实现简单Agent
借助LlamaIndex实现简单Agent 1 简介 智能体的构建发展是一个趋势，借助LlamaIndex简单实现Agent。本文主要借助LlamaIndex中的FunctionTool和Workflow。Workflow是使用事件流的方法实现。 2 构建公共类 由于LlamaIndex中的OpenAI无法直接连接国内大模型…...
MCGS昆仑通太屏笔记
4.3寸：4013ef/e1 7寸：7032kw 特点： 如果是使用组态屏进行调试使用，选择com1如果是实际项目使用，选择com2 操作步骤： 先创建设备窗口，再创建用户界面 在设备窗口界面，依次设置如下…...
纯FPGA控制AD9361的思路和实现之一 概述
我们知道PS通过内存映射方式方式用户的IP，具体是将用户的逻辑做成AXI_LITE_SALVE外设，PS做为AXI_LITE_MASTER去控制。 在ZYNQ系统中存在PS所以这个架构和思路很流行，ADI出的配置软件无线电子板的DEMO基本都是基于这样的架构。比如下图【上截…...
北斗短报文终端与5G融合：构建空天地海一体化通信新生态
随着北斗三号全球组网完成，短报文通信服务从区域覆盖迈向全球通达，其与5G技术的深度融合，正开创“空天地海一体化”通信新时代。深圳作为全国北斗产业高地，汇聚了遨游通讯等领军企业，其推出的北斗短报文终端通过技术创…...
)
Meteonorm8-免费使用教程(详细教程-免费)
Meteonorm介绍 Meteonorm 8 是一款专业的气象数据生成软件，广泛应用于太阳能、建筑能效、农业气候研究等领域。它提供全球范围内高精度的气象数据，支持多种数据源和插值方法，帮助用户获取特定地点的长期气象统计信息。 Meteonorm核心功能 …...
nohup的使用
最近远程连接服务器跑程序的时候，总是碰到本地电脑息屏或者ssh断开导致程序中断，往往一觉醒来不是程序跑完了而是因为各种原因本地中断了。为此想到了nohup这个命令，可以让程序在我本地电脑关机后也可以在远端服务器上面运行。 命令如下&…...
如何查看HTTP状态码？
目录 一、HTTP状态码查看方法 1. 浏览器开发者工具 2. 命令行工具 3. 服务器日志分析 二、HTTP状态码分类与核心含义 1. 信息类（1xx） 2. 成功类（2xx） 3. 重定向类（…...
2025.04.19【Chord diagram】| 弦图绘制技巧大全
Customization Apply customization to the circular chart: color, background, track height and more. Chart types Learn how to use other chart types like line chart, barcharts, vertical ablines and more. 文章目录 CustomizationChart types 什么是弦图ÿ…...
解码 Web Service：从技术原理到应用场景的深度剖析
Web Service 是一种基于网络的、分布式的计算技术，它允许不同的应用程序之间通过网络进行通信和交互。以下是关于 Web Service 的详细介绍： 一、定义与概念 Web Service 是一种可以通过 Web 协议（如 HTTP）进行访问的软件组件&am…...
hackmyvm-airbind
收集信息 arp-scan -l nmap -sS -v 192.168.195.162 访问扫描到的ip，直接跳转到登录页面，利用admin/admin弱口令登录 在settings.php中找到一处文件上传，上传一句话木马，上传成功 反弹shell 上传php-reverse-shell.php 抓包&am…...
[HCIP] OSPF 综合实验
题目 实验需求 1.R5为TSP，其上只能配置IP地址； R5与其他所有直连设备间均使用公有IP；环回地址为100.1.1.1/32 2.R4设备为企业出口路由器 3.整个OSPF环境IP基于172.16.0.0/16划分； 4.所有设备均可访问R5的环回； 5…...
arkTs：使用setTimeout / setInterval 实现透明度切换的轮播图
使用setTimeout / setInterval 实现透明度切换的轮播图 1 主要内容说明1.1 setTimeout1.2 setInterval1.3 表格 2 举例说明2.1 图片变化的内容说明2.2 源码相关内容说明2.3 源码A2.4源码A的运行效果展示2.4.1 效果截图2.4.2 效果视频 3.结语4.定位日期 1 主要内容说明 1.1 set…...
苍穹外卖项目中所涉及到的测试内容
1.使用JWT令牌封装用户令牌，并且设置相应的拦截器校验JWT的有效性，从而确保了项目的安全可靠 1.基本功能测试： 验证合法JWT是否能够正常通过拦截器的校验 验证非法的JWT能否正常通过拦截器的校验 2.可靠性测试： 3.易用性测试 …...
案例驱动的 IT 团队管理：创新与突破之路：第五章 创新管理：从机制设计到文化养成-5.2 技术决策民主化-5.2.3草根创新的孵化土壤构建
👉 点击关注不迷路 👉 点击关注不迷路 👉 点击关注不迷路 文章大纲 草根创新的孵化土壤构建：IT团队技术决策民主化的底层实践1. 背景与挑战：传统技术决策体系的失效1.1 行业现状与痛点1.2 草根创新的价值潜力 2. 机制设…...
探秘Python 工匠：案例、技巧与工程实践：解锁Python进阶的通关秘籍
重要的放前面 Python 工匠：案例、技巧与工程实践 探秘Python 工匠：案例、技巧与工程实践：解锁Python进阶的通关秘籍 在Python的编程世界中，从入门小白到技术大牛的进阶之路往往充满挑战。Python工匠：案例、技巧与工…...
【langchain4j】Springboot如何接入大模型以及实战开发-AI问答助手（一）
langchain4j介绍 官网地址：https://docs.langchain4j.dev/get-started langchain4j可以说是java和spring的关系，spring让我们开发java应用非常简单，那么langchain4j对应的就是java开发ai的 “Spring” 他集成了AI应用的多种场景，…...
解决Windows update服务启动拒绝访问的问题 | wuauserv 注册表拒绝访问的方法
在某些情况下，为了配置系统更新相关服务（例如禁用 Windows 自动更新），我们需要更改注册表中 wuauserv 项的权限。本教程将带你一步步操作，成功获取并修改权限。 修改注册表路径： HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\wuauserv 步骤一：打开注册表编辑…...
精益数据分析（5/126）：解锁创业成功的关键密码
精益数据分析（5/126）：解锁创业成功的关键密码 大家好！我一直坚信在技术与商业不断融合的当下，持续学习是保持进步的唯一途径。之前我们一起探讨了《精益数据分析》的部分内容，今天咱们接着深入学习&#x…...
Cribl 优化EC2 ip-host-region 数据
We’ve seen examples of using the magical powers of regex to customize Functions, extract fields, and filter events in real time. In this section, we’ll show you how to sprinkle your Lookups with regex magic. Lets walk through a Pipeline that demonstrates…...
【java实现+4种变体完整例子】排序算法中【桶排序】的详细解析，包含基础实现、常见变体的完整代码示例，以及各变体的对比表格
以下是桶排序的详细解析，包含基础实现、常见变体的完整代码示例，以及各变体的对比表格： 一、桶排序基础实现 原理 将数据分到有限数量的桶中，每个桶内部使用其他排序算法（如插入排序或快速排序）…...
栈（c++）
今天介绍两种在c中写“栈”方法 1. #include <bits/stdc.h> using namespace std;class mystack { private:int a[1000];int curr -1; public:void push(int);void pop();int top();bool empyt();int size(); };int main() {mystack n;while(true){int a;cout<<&…...
GraphRAG与RAG的区别和原理简介
第一章 图谱与向量的共生逻辑 1.1 知识载体的局限性 向量空间模型虽能高效捕捉文本语义相似性，却无法解析知识的深层关联。例如，当用户询问“特斯拉4680电池与续航里程的关系”，向量检索可能仅返回技术参数片段，而无法解释化学成…...
vue2技术练习-开发了一个宠物相关的前端静态商城网站-宠物商城网站
为了尽快学习掌握相关的前端技术，最近又实用 vue2做了一个宠物行业的前端静态网站商城。还是先给大家看一下相关的网站效果： 所以大家如果想快速的学习或者掌握一门编程语言，最好的方案就是通过学习了基础编程知识后，就开始利用…...
：sync.Pool 使用详解：性能优化的利器)
[每周一更]-(第140期)：sync.Pool 使用详解：性能优化的利器
文章目录 一、什么是 sync.Pool？二、sync.Pool 的基本作用三、sync.Pool 的主要方法四、sync.Pool 的内部工作原理五、sync.Pool 适用场景六、使用示例示例 1：基本使用输出示例：示例 2：并发使用 七、一个基于 sync.Pool 的 **Benc…...
Prompt-Tuning 提示词微调
1. Hard Prompt 定义： Hard prompt 是一种更为具体和明确的提示，要求模型按照给定的信息生成精确的结果，通常用于需要模型提供准确答案的任务. 原理： Prompt Tuning原理如下图所示：冻结主模型全部参数，在…...
sqli-labs之Less-7 GET注入写shell
验证注入点：单引号报错，)) 根据提示，是想让我们试试写shell 第一个条件 secure_file_priv 写shell即MySQL需要对外写文件，但默认MySQL是不允许outfile来导出数据的，先动手在MySQL确认一下。 MySQL特性，se…...
数据库基础-B+树
查询类型 全表扫描，不提供索引，扫描所有集合中的数据。根据指定key值查询指定点范围查询，在指定区间内查询 有很多方法能够进行快速扫面数据，但是再快复杂度也是O(N)，我们的目标是想办法将查询复杂度降低到O(logN)。…...
智能语音备忘录：SpeechRecognition与gTTS的奇妙融合
引言：智能语音备忘录的时代已经到来 在这个信息爆炸的时代，我们每天需要处理大量的事务和信息。传统的文字记录方式虽然可靠，但在效率上往往难以满足快节奏生活的需求。想象一下，如果你能在驾车、散步或是灵感突现的任何时刻&…...
C++项目 —— 基于多设计模式下的同步异步日志系统（3）（日志器类）
C项目 —— 基于多设计模式下的同步&异步日志系统（3）（日志器类） 整体思想设计日志消息的构造C语言式的不定参函数的作用函数的具体实现逻辑1. 日志等级检查2. 初始化可变参数列表3. 格式化日志消息4. 释放参数列表5. 序列化和…...
2025/4/19 数据库的流程控制函数
单行函数_流程函数 要点: 流程处理函数可以根据不同的条件 执行不同的处理流程 可以在SQL语句中实现不同的条件选择,MySQL中的流程处理函数主要包括if() ifnull() 和 case() 函数 多行函数_聚合函数 和单行函数的区别: 单行函数是作用在每一行 最终结果可能是多行结果 多行…...
代码随想录打家劫舍+树形DP入门
动态规划part07 198.打家劫舍 视频讲解：https://www.bilibili.com/video/BV1Te411N7SX https://programmercarl.com/0198.%E6%89%93%E5%AE%B6%E5%8A%AB%E8%88%8D.html dp数组：进入房屋i能够偷得得最大金额dp[i]递推公式：根据不相邻原则…...
Http基础
目录 定义 一、请求部分（Request） 1. 请求行（Request Line） 常见请求方法： 2. 请求头（Request Headers） 3. 请求体（Request Body） 二、响应部分（Respo…...
【Unity】bug记录——部分物体突然不受animator控制
博主烘焙完灯光后突然发现有的物体的动画失效了，不会动，测试发现是因为勾了static（但是有些勾了static的物体就没事），修改static为Contribute GI Static（只针对光照静态）就行...
Zephyr、FreeRTOS、RT-Thread 邮箱（Mailbox）对比分析
一、核心特性对比 特性ZephyrFreeRTOSRT-Thread消息类型支持指针或4字节数据（依赖架构）仅支持指针传递支持任意数据类型（需指定消息长度）容量固定容量（静态初始化配置）动态容量（基于队列长度&a…...
xilinx fpga中pll与mmcm的区别
Xilinx中的PLL（锁相环）和MMCM（混合模式时钟管理器）都是用于时钟管理的关键组件，但它们之间存在一些显著的区别。以下是对两者的详细比较： 1. 功能特性 PLL（锁相环）： 主…...
Python语法系列博客 · 第8期[特殊字符] Lambda函数与高阶函数：函数式编程初体验
上一期小练习解答（第7期回顾） ✅ 练习1：找出1~100中能被3或5整除的数 result [x for x in range(1, 101) if x % 3 0 or x % 5 0]✅ 练习2：生成字符串长度字典 words ["apple", "banana", "grape…...
黑马商城（五）微服务保护和分布式事务
一、雪崩问题 二、雪崩-解决方案（服务保护方案） 请求限流： 线程隔离： 服务熔断： 服务保护组件： 三、Sentinel 引入依赖： <!--sentinel--> <dependency><groupId>com.aliba…...
Java 编译与反编译深度解析
Java 编译与反编译深度解析 1. 编译过程详解 (1) 完整编译流程 .java 文件 → 词法分析 → 语法分析 → 语义分析 → 字节码生成 → .class 文件│ │ │ │↓ ↓ ↓ ↓识别关键字 生成抽象语法树 类型…...
Java集合框架中的List、Map、Set详解
在Java开发中，集合框架是处理数据时不可或缺的工具之一。今天，我们来深入了解一下Java集合框架中的List、Map和Set，并探讨它们的常见方法操作。 目录 一、List集合 1.1 List集合介绍 1.2 List集合的常见方法 添加元素 获取元素 修改元素…...
国产的 Java Solon v3.2.0 发布（央企信创的优选）
Solon 框架！ Solon 是新一代，Java 企业级应用开发框架。从零开始构建（No Java-EE），有灵活的接口规范与开放生态。采用商用友好的 Apache 2.0 开源协议，是“杭州无耳科技有限公司”开源的根级项目ÿ…...
机器学习决策树
一、何为决策树 决策树（Decision Tree）是一种分类和回归方法，是基于各种情况发生的所需条件构成决策树，以实现期望最大化的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。它的运行机制非常通俗易…...
Java集合及面试题学习
知识来源沉默王二、小林coding、javaguide 1、ArrayList list.add("66") list.get(2) list.remove(1) list.set(1,"55") List<String> listnew ArrayList<>(); 底层是动态数组 添加元素流程：判断是否扩容…...
【内置函数】84个Python内置函数全整理
Python 内置函数全集（完整分类 参数详解 示例） 文章目录 Python 内置函数全集（完整分类 参数详解 示例）一、数值与数学函数abs(x)divmod(a, b)pow(x, y, modNone)round(number[, ndigits])sum(iterable, /, start0)hash(obj) …...
【LeetCode 热题 100】双指针 系列
📁283. 移动零 对于该题目，需要注意的是两个地方，一是保持非零元素的相对顺序，以及O(1)的空间复杂度。 采用双指针的思路，将数组划分成3个区间,。 [0 , left]：该区间内元素全是非零元素。 [left1 , right…...
)
实现批量图片文字识别(python+flask+EasyOCR)
话不多说,向上效果图 1)先说框架版本 为什么要先说框架版本呢,因为我在各种版本中尝试了两天,总算确定了如下版本适合我,至于其他的版本,各位自己去尝试 python 3.9.7 EasyOCR 1.7.2 flask 3.0.3 2)执行操作效果图 2.1)多选文件 2.2)图片预览 2.3)提取选中文件 2.4)提取所有文…...
 deny(1))
[Swift]pod install成功后运行项目报错问题error: Sandbox: bash(84760) deny(1)
操作： platform :ios, 14.0target ZKMKAPP do# Comment the next line if you dont want to use dynamic frameworksuse_frameworks!# Pods for ZKMKAPPpod Moyaend pod install成功后运行报错 报错： error: Sandbox: bash(84760) deny(1) file-writ…...
文档内容提取以及合成
如何从10个左右的docx文档中抽取内容，生成新的文档，抽取内容包括源文档的文字内容、图片、表格、公式等，以及目标文档的样式排版、字体、格式，还有目标文档的语言风格、用词规范、文法习惯等等。这是一个相当复杂的需求࿰…...
[Windows] Wireshark 网络抓包工具 v4.4.6
[Windows] Wireshark 网络抓包工具 链接：https://pan.xunlei.com/s/VOODTZ7Lm2gsNLoFNcOIqflzA1?pwdf3ea# 软件说明Wireshark（前称Ethereal）是一款免费开源的网络嗅探抓包东西，世界上最流行的网络协议剖析器！网络封…...
在Ubuntu中安装hadoop的详细过程
在Ubuntu中安装hadoop的详细过程 请自行安装Ubuntu系统（可参考：在VMWare中安装Linux虚拟机Ubuntu） 一、创建hadoop用户 如果在安装 Ubuntu 的时候不是用的 “hadoop” 用户，这时需要增加一个名为 hadoop 的用户。 首先打开终端…...
NOIP2017提高组.列队
目录 *数据结构模板题目算法标签: 模拟, 线段树, 线段树动态开点, 树状数组, 平衡树思路*前置代码完整注释代码精简注释代码 *数据结构模板 题目 530. 列队 算法标签: 模拟, 线段树, 线段树动态开点, 树状数组, 平衡树 思路 首先考虑简单情况, 如果只有一行, 删除一个位置…...