当前位置：首页 > news >正文

搭建一个fastapi的项目，调用ollama服务

news 来源：原创 2025/7/9 23:23:44

1. 项目结构

my_project/
│
├── app/
│   ├── main.py            # FastAPI应用的入口
│   ├── services/          # 包含服务逻辑
│   │   └── ollama_service.py
│   ├── models/            # 定义数据模型
│   │   └── response.py
│   ├── utils/             # 工具类，帮助类
│   │   └── file_utils.py
│   └── Dockerfile         # 用于构建应用的 Dockerfile
│
├── docker-compose.yml     # Docker Compose 配置
└── requirements.txt       # Python依赖

2. 代码实现

2.1 `app/main.py` — FastAPI 应用入口

from fastapi import FastAPI, File, UploadFile
from fastapi.responses import JSONResponse
from app.services.ollama_service import get_image_response
from app.utils.file_utils import save_temp_image, remove_temp_imageapp = FastAPI()@app.post("/upload-image/")
async def upload_image(file: UploadFile = File(...)):try:# 保存上传的图片为临时文件tmp_path = await save_temp_image(file)# 调用 Ollama 服务处理图片response = await get_image_response(tmp_path)# 删除临时文件await remove_temp_image(tmp_path)return JSONResponse(content={"response": response}, status_code=200)except Exception as e:return JSONResponse(content={"error": str(e)}, status_code=500)

2.2 `app/services/ollama_service.py` — 处理 Ollama 服务

import ollamaasync def get_image_response(image_path: str):"""调用 Ollama API 获取图像分析结果"""response = ollama.chat(model='llama3.2-vision',messages=[{'role': 'user','content': 'What is in this image?','images': [image_path]}])return response

2.3 `app/utils/file_utils.py` — 文件操作工具类

import os
from tempfile import NamedTemporaryFile
from fastapi import UploadFileasync def save_temp_image(file: UploadFile):"""保存上传的图片为临时文件"""with NamedTemporaryFile(delete=False, suffix=".jpg") as tmp:tmp.write(await file.read())tmp_path = tmp.namereturn tmp_pathasync def remove_temp_image(file_path: str):"""删除临时文件"""if os.path.exists(file_path):os.remove(file_path)

2.4 `app/Dockerfile` — Docker 文件

# 使用官方 Python 镜像作为基础镜像
FROM python:3.9-slim# 设置工作目录
WORKDIR /app# 复制本地的 requirements.txt 并安装依赖
COPY requirements.txt /app/requirements.txt
RUN pip install --no-cache-dir -r requirements.txt# 复制本地代码到容器内
COPY ./app /app# 启动 FastAPI 应用
CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000", "--reload"]

2.5 `requirements.txt` — Python 依赖

fastapi
uvicorn
ollama
python-multipart

2.6 `docker-compose.yml` — Docker Compose 配置

version: '3.8'services:app:build: ./appcontainer_name: fastapi-ollamaports:- "8000:8000"volumes:- ./app:/appenvironment:- OLLAMA_API_KEY=your_ollama_api_key  # 如果需要，设置 Ollama API 密钥depends_on:- ollama_api  # 仅在有需要调用 Ollama 服务的情况下

3. 部署流程

构建 Docker 镜像：
在项目根目录下运行以下命令来构建 Docker 镜像：
```
docker-compose build
```
启动应用：
使用 Docker Compose 启动服务：
```
docker-compose up
```
这会启动 FastAPI 应用，并且在浏览器访问 http://localhost:8000 可以看到 FastAPI 服务正在运行。
访问上传接口：
使用 Postman 或者任何 HTTP 客户端，向 http://localhost:8000/upload-image/ 发送 POST 请求，上传图像文件，并查看返回的 ollama 结果。

4. 结论

通过这个结构和 Docker Compose 部署方式，项目分层清晰，确保了每个模块的职责单一。main.py 处理 FastAPI 的路由，ollama_service.py 负责与 Ollama 的交互，file_utils.py 负责文件操作，并且整个项目通过 Docker Compose 可以非常方便地部署和管理。

确保在需要调用 Ollama 服务时，有正确的 API 密钥和配置。如果 Ollama 服务本身也需要容器化，你可以在 docker-compose.yml 文件中添加相应的服务配置。

搭建一个fastapi的项目，调用ollama服务

1. 项目结构 my_project/ │ ├── app/ │ ├── main.py # FastAPI应用的入口 │ ├── services/ # 包含服务逻辑 │ │ └── ollama_service.py │ ├── models/ # 定义数据模型 │ │ └── response.py │ ├─…...

编程日记 2025/7/9 23:23:44

【update 更新数据语法合集】.NET开源ORM框架 SqlSugar 系列

系列文章目录 🎀🎀🎀 .NET开源 ORM 框架 SqlSugar 系列 🎀🎀🎀 文章目录系列文章目录前言 🍃一、实体对象更新1.1 单条与批量1.2 不更新某列1.3 只更新某列1.4 NULL列不更新1.5 无主键/指定列…...

编程日记 2025/7/9 10:36:15

Elasticsearch—索引库操作(增删查改)

Elasticsearch中Index就相当于MySQL中的数据库表 Mapping映射就类似表的结构。因此我们想要向Elasticsearch中存储数据,必须先创建Index和Mapping 1. Mapping映射属性 Mapping是对索引库中文档的约束，常见的Mapping属性包括： type：字段数据类…...

编程日记 2025/7/9 20:56:37

C#进阶-在Ubuntu上部署ASP.NET Core Web API应用

随着云计算和容器化技术的普及，Linux 服务器已成为部署 Web 应用程序的主流平台之一。ASP.NET Core 作为一个跨平台、高性能的框架，非常适合在 Linux 环境中运行。本篇博客将详细介绍如何在 Linux 服务器上部署 ASP.NET Core Web API 应用，包…...

编程日记 2025/7/9 19:58:03

执行这个composer require topthink/think-mongo 报错

安装tp5 mongodb扩展执行这个composer require topthink/think-mongo 报错解决方法： 1 把composer.json里的"overtrue/wechat": "4.2.11",注释掉再执行 2 composer require topthink/think-mongo1.* 安装mongo的1版本...

编程日记 2025/7/9 7:45:10

大语言模型训练数据集格式

1. SFT（有监督微调）的数据集格式对于大语言模型的训练中，SFT（Supervised Fine-Tuning）的数据集格式可以采用以下方式： 输入数据：输入数据是一个文本序列，通常是一个句子或者一个段…...

编程日记 2025/7/9 18:50:37

stringRedisTemplate.execute执行lua脚本

stringRedisTemplate.execute执行lua脚本 1. 引入必要依赖确保项目中已经引入了Spring Data Redis相关依赖，例如在 Maven 项目中，一般会有如下依赖（版本号根据实际情况调整）： <dependency><groupId>or…...

编程日记 2025/7/9 9:20:11

鸿蒙UI（ArkUI-方舟UI框架）

参考：https://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V13/arkts-layout-development-overview-V13 ArkUI简介 ArkUI（方舟UI框架）为应用的UI开发提供了完整的基础设施，包括简洁的UI语法、丰富的UI功能&#xff…...

编程日记 2025/7/9 7:57:57

Linux-蓝牙协议

SPP (Serial Port Profile): 串口协议（SPP）是一个蓝牙配置文件，允许设备通过蓝牙模拟传统的串行端口通信。它通常用于无线串口连接，允许设备如计算机和外设（例如打印机或条形码扫描器）之间进行数据传输。A…...

编程日记 2025/7/9 11:02:49

CES Asia 2025：科技盛宴即将开启，续写辉煌篇章

随着2025年国际消费类电子产品展览会（CES）在美国拉斯维加斯盛大开幕并展现出诸多令人瞩目的发展趋势，亚洲科技界也对即将到来的CES Asia 2025充满期待，一场科技盛宴即将在亚洲大陆续写辉煌。在刚刚拉开帷幕的CES 2025上&#xff…...

编程日记 2025/7/9 20:46:37

tutorial3.c

这个教程程序展示了如何使用 libxlsxwriter 库向 Excel 文件中写入不同类型的数据，包括字符串、数字和日期。以下是程序的主要步骤和功能： 定义数据结构： 定义了一个 expense 结构体，包含三个成员：item（项…...

编程日记 2025/7/9 20:36:37

C# 获取当前运行路径的6种实用方法

C# 获取当前运行路径的多种方法在C#中，获取当前运行路径（即程序的工作目录）是常见的需求，尤其在处理文件读写、日志记录和配置文件时。不同的场景可能需要使用不同的方法来获取路径。本文将介绍几种常用的获取当前运行路径的方法…...

编程日记 2025/7/8 20:11:35

龙蜥系统配置docker环境更新yum源更新软件源中的包。 yum update安装底层工具 yum install -y yum-utils device-mapper-persistent-data lvm2添加阿里云仓库 # 添加阿里云的docker镜像仓库 yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/c…...

编程日记 2025/7/7 22:44:37

.NET中的框架和运行环境

在.NET生态系统中，框架和运行环境是两个不同的概念，它们各自扮演着重要的角色。下面我将分别介绍.NET中的框架和运行环境，并解释它们之间的区别。 .NET 框架（Frameworks） 框架提供了一套预定义的类库、工具和服务&…...

编程日记 2025/7/9 4:05:32

STM32的存储结构

STM32F103 芯片是基于 ARM Cortex-M3 内核的微控制器，它集成了多种类型的存储器，每种存储器都有其特定的作用和存储对象。以下是关于 STM32F103 中 Flash、ROM 和 SRAM 的详细介绍： 1. Flash Memory (闪存) 作用：Flash 是非易失性…...

编程日记 2025/7/9 20:26:37

微信小程序

一、小程序文件结构 1.目录结构 pages文件夹：存放【页面文件夹】，一个【页面文件夹】就是一个页面，存放着小程序页面文件。即pages中的每一个文件夹都存放着一个小程序页面的文件（js、wxml、json、wxss） 页面文件夹…...

编程日记 2025/7/9 9:50:25

《CPython Internals》阅读笔记：p76-p95

《CPython Internals》学习第 5 天，p76-p95 总结，总计 20 页。一、技术总结无。二、英语总结(生词：1) 1.check vi/vt. to exam sth to ensure it is correct, true, or in good condition.示例： (1)After I’d finished …...

编程日记 2025/7/9 18:20:39

HOW - Form 表单 label 和 wrapper 对齐场景

一、背景在日常使用表单时，我们一般有如下布局： 可以通过 Form 表单提供的配置直接设置： <Formform{form}labelCol{{ span: 4 }}wrapperCol{{ span: 20 }}onFinish{handleSubmit}><Form.Itemlabel"输入框"name"…...

编程日记 2025/7/9 2:12:08

Js的回调函数

一、什么是回调函数（Callback）？ 回调函数（Callback Function）是指一个函数被作为参数传递给另一个函数，并在特定事件发生或操作完成时执行。可以通俗地理解为一种“委托”机制。在JavaScript中&#xff0…...

编程日记 2025/7/8 17:05:49

FairGuard游戏安全2024年度报告

导读：2024年，国内游戏市场实际销售收入3257.83亿元，同比增长7.53%，游戏用户规模6.74亿人，同比增长0.94%，市场收入与用户规模双双实现突破，迎来了历史新高点。但游戏黑灰产规模也在迅速扩大&…...

编程日记 2025/7/8 18:06:47

ant-design-vue 1.X 通过id获取a-input组件失败

1.ant-design-vue 1.X 问题描述当我在a-form组件中，以v-decorator指令绑定表单组件时，无法根据我设置的verify-code-input获取元素 <a-input type"text" id"verify-code-input" class"paIpt":placeholder"$t(…...

编程日记 2025/7/8 20:03:42

JS爬虫实战演练

在这个小红书私信通里面进行一个js的爬虫文字发送 async function sendChatMessage(content) {const url https://pro.xiaohongshu.com/api/edith/ads/pro/chat/chatline/msg;const params new URLSearchParams({porch_user_id: 677e116404ee000000000001});const messageD…...

编程日记 2025/7/8 21:44:35

JVM vs JDK vs JRE

JVM是Java虚拟机的缩写， 用于实现Java的一次编译，处处运行。 Java代码写成.class后，由本地的虚拟机运行。 JDK（Java Development Kit）是一个功能齐全的 Java 开发工具包，供开发者使用。 JDK包含了JRE。…...

编程日记 2025/7/9 21:54:35

OpenCV相机标定与3D重建(47)从两幅图像中的一组匹配点恢复相机的姿态（旋转和平移）函数recoverPose()的使用

操作系统：ubuntu22.04 OpenCV版本：OpenCV4.9 IDE:Visual Studio Code 编程语言：C11 算法描述从两幅不同相机拍摄的图像中对应的点恢复相对相机旋转和平移，使用手性检查。返回通过该检查的内点数量。 cv::recoverPose 是 OpenCV…...

编程日记 2025/7/9 12:30:30

代码随想录算法训练营day27

代码随想录算法训练营 —day27 文章目录代码随想录算法训练营前言一、贪心算法理论基础二、455.分发饼干三、376. 摆动序列53. 最大子数组和总结前言今天是算法营的第27天，希望自己能够坚持下来！ 今日任务： ● 贪心算法理论基础 ● 455.…...

编程日记 2025/7/9 21:34:35

基于华为ENSP的OSPF状态机、工作过程、配置保姆级别详解（2）

本篇技术博文摘要 🌟 基于华为enspOSPF状态机、OSPF工作过程、.OSPF基本配置等保姆级别具体详解步骤；精典图示举例说明、注意点及常见报错问题所对应的解决方法引言 📘 在这个快速发展的技术时代，与时俱进是每个IT人的必修课。我…...

编程日记 2025/7/9 19:18:02

【数据结构】链表

目录编辑 1.2链表 1.2.1 链表的特性 1.2.2 单向链表遍历无头单向链表遍历有头单向链表链表尾插法练习 1.2.3 单向链表的函数操作单向链表的特点： 1.2链表链表又称单链表、链式存储结构，用于存储逻辑关系为“一对一”的数据。和顺序表…...

编程日记 2025/7/9 11:28:13

RabbitMQ解决消息积压的方法

目录减少发送mq的消息体内容增加消费者数量批量消费消息临时队列转移监控和预警机制分阶段实施最后还有一个方法就是开启队列的懒加载这篇文章总结一下自己知道的解决消息积压得方法。减少发送mq的消息体内容像我们没有必要知道一个的中间状态，只需…...

编程日记 2025/7/9 5:33:14

机器学习是？

机器学习（Machine Learning）是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科; 是人工智能（AI）的一个分支，也是AI的核心领域，它专注于开发算法和模型&#…...

编程日记 2025/7/9 15:09:45

jupyter出现“.ipynb appears to have died. It will restart automatically.”解决方法

原因解决方法：更新jupyter的版本 1.打开anaconda prompt 2、更新jupyter版本在anaconda prompt输入以下指令 conda update jupyter如图：...

编程日记 2025/7/9 20:16:37

计算机毕业设计PyHive+Hadoop深圳共享单车预测系统共享单车数据分析可视化大屏共享单车爬虫共享单车数据仓库机器学习深度学习

温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 作者简介：Java领…...

编程日记 2025/7/9 22:45:55

c++开源协程库libgo介绍及使用,srs协程，boost协程 Boost::fiber

https://www.cnblogs.com/qwsdcv/p/9115364.html Boost - 从Coroutine2 到Fiber - 开学五年级了 - 博客园协程就是由程序员控制跑在线程里的“微线程”。它可以由程序员调度，切换协程时代价小(切换根据实现不同，消耗的CPU周期从几十到几百不等)&#x…...

编程日记 2025/7/9 23:53:44

微服务实现高并发秒杀系统，前后端实现

一、前端实现前端项目初始化首先，我们需要创建一个新的 Vue 3 项目。你可以使用 Vue CLI 来快速搭建项目。安装 Vue CLI（如果尚未安装） bash npm install -g vue/cli 创建 Vue 项目 bash vue create seckill-frontend cd seckill-f…...

编程日记 2025/7/9 16:10:45

Eureka缓存机制

一、Eureka的CAP特性 Eureka是一个AP系统，它优先保证可用性（A）和分区容错性（P），而不保证强一致性（C）。这种设计使得Eureka在分布式系统中能够应对各种故障和分区情况，保…...

编程日记 2025/7/9 6:56:12

PHP语言的学习路线

PHP语言的学习路线 PHP（Hypertext Preprocessor）是一种广泛使用的开源服务器端脚本语言，尤其适用于Web开发。由于其易学易用、功能强大，PHP成为了许多动态网站和Web应用程序开发的首选语言。随着Web3.0和云计算的兴起&#xff0c…...

编程日记 2025/7/9 9:44:45

python学opencv|读取图像（二十八）使用cv2.warpAffine（）函数平移图像

【1】引言前序已经对图像操作进行了广泛的学习，包括读取、放大缩小，改变BGR通道值等，相关链接包括且不限于： python学opencv|读取图像-CSDN博客 python学opencv|读取图像（三）放大和缩小图像_python(1)使…...

编程日记 2025/7/9 4:36:42

[Linux]Mysql9.0.1服务端脱机安装配置教程(redhat)

前言本教程适用于在yum源不可用的LInux主机上安装Mysql的场景。以redhat系主机做操作示例，debian系主机可参照步骤，将对应的rpm -ivh命令换成dpkg -i。 1. 官网下载安装包 https://dev.mysql.com/downloads/mysql/ 1.1 版本分类 MySQL Enterprise…...

编程日记 2025/7/8 13:55:33

个人 ALL IN ONE 方案搭建方案分享(从硬件到软件）及内网穿透方案

这里只做大概方案分享，每个虚拟机的部署细节滤过。个人 ALL IN ONE 方案搭建方案分享本指南将详细介绍如何基于现有硬件搭建一体化家庭/个人服务器解决方案，涵盖从软硬件配置、系统安装到功能实现以及性能优化的全过程。实现集软路由、旁路由、NAS 网…...

编程日记 2025/7/9 6:58:27

TrustRAG：增强RAG系统鲁棒性与可信度的创新框架

在人工智能飞速发展的今天，大语言模型（LLMs）凭借其强大的语言处理能力在诸多领域大放异彩。检索增强生成（RAG）系统（面向企业RAG（Retrieval Augmented Generation）系统的多维检索框架…...

编程日记 2025/7/9 16:55:45

使用证件照制作软件的常见问题及解决方案

在数字化时代，证件照的制作变得越来越简单。借助各种证件照制作软件，我们可以轻松在家中制作出符合要求的证件照。然而，用户在使用这些软件时，可能会遇到一些常见问题。为了帮助您顺利制作出满意的证件照，我们整理了一…...

编程日记 2025/7/9 16:40:45

通过gradle发布aar或jar携带sources-jar到maven nexus

找了很久，没有找到满意的。终于找到一个好的办法。 gradle7.x适用。比以前的写法简洁。发布传统的jar工程比如okhttp，fastjson等项目，纯java工程。直接创建新文件publish.gradle: apply plugin: maven-publishProperties properties …...

编程日记 2025/7/9 21:14:34

SAP推出云端ERP解决方案，加速零售行业数字化转型

2025年1月9日，SAP发布了一款专为零售行业设计的云端ERP行业解决方案——S/4HANA Cloud Public Edition，进一步推动企业向云端迁移。这款解决方案旨在集中运营数据，整合财务、采购和商品管理流程，以帮助零售企业优化运营效率。核…...

编程日记 2025/7/9 14:07:39

RK3568 Android 13 内置搜狗输入法小计

问：为什么写？ 答：网上搜出来的都试过了，不行！下面直接上代码和注意事项！ 首先到这个目录（/RK3568/Rockchip_Android13_SDK_Release/device/rockchip/rk356x/tl3568_evm/preinstall&#xff09…...

编程日记 2025/7/8 18:22:25

微服务-Nacos（注册中心）

Nacos Nacos可以看作注册中心配置中心，比Eureka更加强大。注册中心在父工程中引入SpringCloudAlibaba的版本依赖 <dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId&g…...

编程日记 2025/7/8 20:09:10

【数据结构:前缀树Trie】

目录前言前缀树介绍和应用一、前缀树的定义前缀树的问题和思考前缀树的映射思想前缀树三大性质二.前缀树节点结构三. 前缀树接口介绍和实现四个接口API1. insert(String word)2. search(String word)3. startsWith(String pre)4. delete(String word) API实现1. 查询操作sear…...

编程日记 2025/7/9 18:40:05

如何让QPS提升20倍

一、什么是QPS QPS，全称Queries Per Second，即每秒查询率，是用于衡量信息检索系统（例如搜索引擎或数据库）或请求-响应系统（如Web服务器）每秒能够处理的请求数或查询次数的一个性能指标。以下是…...

编程日记 2025/7/8 22:45:16

时间复杂度简介

定义时间复杂度是用来衡量算法运行时间随着输入规模增长而增长的量级。简单来说，它描述了算法执行时间与数据规模之间的关系。我们通常用大O符号（ O O O）来表示时间复杂度。例如，对于一个简单的加法运算，它的执行时间…...

编程日记 2025/7/7 21:53:52

记一次sealos部署k8s集群之delete了第一台master如何恢复

记一次sealos部署k8s集群之delete了第一台master如何恢复一、背景描述使用sealos部署了一套K8S集群 master信息：172.27.100.1、172.27.100.2、172.27.100.3 node信息：172.27.100.4、172.27.100.5 sealos安装在172.27.100.1节点，根目录下/root/.sealos/文件还在！ [root…...

编程日记 2025/7/8 1:10:23

【json】

JSON JSON是一种轻量级的,按照指定的格式去组织和封装数据的数据交互格式。本质上是一个带有特定格式的字符串(py打印json时认定为str类型) 在各个编程语言中流通的数据格式，负责不同编程语言中的数据传递和交互,类似于计算机普通话 python与json关系及相互转换…...

编程日记 2025/7/3 20:55:19

TypeScript语言的并发编程

TypeScript语言的并发编程引言随着现代应用程序的复杂性不断增加，性能和用户体验的重要性显得尤为突出。在这种背景下，并发编程应运而生，成为提升应用程序效率的重要手段。在JavaScript及其超集TypeScript中，尽管语言本身是单…...

编程日记 2025/7/6 12:41:17

1. 项目结构

2. 代码实现

2.1 app/main.py — FastAPI 应用入口

2.2 app/services/ollama_service.py — 处理 Ollama 服务

2.3 app/utils/file_utils.py — 文件操作工具类

2.4 app/Dockerfile — Docker 文件

2.5 requirements.txt — Python 依赖

2.6 docker-compose.yml — Docker Compose 配置