当前位置：首页 > news >正文

Ollama平替！LM Studio本地大模型调用实战

news 来源：原创 2025/6/17 11:38:12

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！

🚀 魔都架构师 | 全网30W技术追随者
🔧 大厂分布式系统/数据中台实战专家
🏆 主导交易系统百万级流量调优 & 车联网平台架构
🧠 AIGC应用开发先行者 | 区块链落地实践者
🌍 以技术驱动创新，我们的征途是改变世界！
👉 实战干货：编程严选网

0 前言

可像 Ollama 通过暴露本地端口，实现本地客户端调用。

1 选择模型

在 LM Studio 的 “开发者” 选项卡中选择模型：

2 端口暴露

设置暴露的端口（默认1234）：

启用 CORS 后，可对接网页应用或其他客户端工具。

3 启动服务

点击状态选项卡：

控制台会显示运行日志和访问地址：

4 快速上手

4.1 快速ping

列出已加载并就绪的模型：

curl http://127.0.0.1:1234/v1/models/

这也是验证服务器是否可访问的一种有效方法！

4.2 聊天

这是一个类似调用OpenAI的操作，通过curl工具访问/v1/chat/completion端点：

在Mac或Linux系统，可用任意终端运行
Windows系统用Git Bash

curl http://127.0.0.1:1234/v1/chat/completions \-H "Content-Type: application/json" \-d '{"model": "llama-4-maverick-17b-128e-instruct","messages": [ { "role": "system", "content": "Always answer in rhymes." },{ "role": "user", "content": "Introduce yourself." }], "temperature": 0.7, "max_tokens": -1,"stream": true}'

该调用是“无状态的”，即服务器不会保留对话历史记录。调用方有责任在每次调用时提供完整的对话历史记录。

流式传输 V.S 累积完整响应

注意"stream": true（流式传输：开启）参数:

true（开启）时，LM Studio会在预测出标记（token）的同时将其逐一流式返回
如将此参数设置为false（关闭），在调用返回之前，完整的预测结果会被先累积起来。对于较长的内容生成或者运行速度较慢的模型，这可能需要花费一些时间！

Ollama平替！LM Studio本地大模型调用实战

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者🔧 大厂分布式系统/数据中台实战专家🏆 主导交易系统百万级流量调优 & 车联网平台架构&a…...

编程日记 2025/6/3 2:12:17

题目列表 A - Maliang Learning PaintingC - LiarG - Multiples of 5H - ConvolutionJ - Magic MahjongK - Magic Tree A - Maliang Learning Painting 题目来源：A - Maliang Learning Painting 思路分析这是个签到题，直接输出abc即可 #include<b…...

编程日记 2025/5/30 16:22:46

RabbitMQ安装流程（Windows环境）

1.下载依赖，Downloads - Erlang/OTP 2.下载RabbitMQ安装包，Installing on Windows | RabbitMQ 3.下载的文件如下 4.安装ErLang依赖 5.安装RabbitMQ 6.RabbitMQ插件管理 6.1 进入Command Prompt命令行界面 6.2 输入rabbitmq-plugins.bat list 查看所有插…...

编程日记 2025/6/2 23:21:19

QT对话框及其属性

Qt中使用QDialog类表示对话框对话框是一个顶层窗口，出现在程序最上层，用于实现短期任务或者简洁的用户交互 QDialog也是继承自QWidget,可以使用QWidget接口 Qt常用的内置对话框有: 对话框说明 QFiledialog 文件对话框 QColorDialog 颜色对话框 …...

编程日记 2025/6/4 9:47:41

python怎么查看函数原型及变量是什么类型

python代码中看到一个变量或者对象名，怎么查看这个变量到底是个什么东西，是属性，还是函数，还是模块，还是个包，怎么去查看，要有一个查找流程： 1.可以先用print(变量名)和print(type(变量名))，确认变量是什么类型的参数 2.如果是模块或者类，可以通过dir()函数去查看模…...

编程日记 2025/5/27 10:55:53

住宅代理IP助力大规模数据采集实战

在数字化时代，数据就是燃料，而大规模数据采集则是从信息海洋中提炼价值的关键手段。面对目标网站的严格风控和地域限制，普通代理车轮战往往难以为继——流量一旦被识破，便可能付之东流。这时，住宅代理IP凭借来自真实家…...

编程日记 2025/6/4 0:27:16

【信息融合】卡尔曼滤波EKF毫米波雷达和红外数据信息融合

一、扩展卡尔曼滤波（EKF）的核心原理 EKF是针对非线性系统的改进卡尔曼滤波算法，其核心思想是通过一阶泰勒展开对非线性方程进行局部线性化，并利用雅可比矩阵（Jacobian Matrix）替换线性系统中的状态转移矩阵…...

编程日记 2025/5/31 19:17:04

一篇入门之-评分卡变量分箱（卡方分箱、决策树分箱、KS分箱等）实操例子

一、评分卡分箱-有哪些分箱方法评分卡的分箱，是指将变量进行离散化。评分卡的分箱方法一般有：等频分箱、等距分箱、卡方分箱、决策树分箱、KS分箱等等。它们都属于自动分箱方法，其中，卡方分箱是实际中最常用的分箱方法。 1.1.等…...

编程日记 2025/5/30 0:31:46

【白雪讲堂】构建与优化企业知识图谱的实战指南

在GEO（生成式引擎优化）时代，知识图谱不仅是企业数据资产的“智慧大脑”，更是连接内容与AI理解之间的核心桥梁。一个高质量的知识图谱，能够显著提高AI平台对企业内容的识别度、相关性与推荐权重，从而在AI搜索…...

编程日记 2025/6/1 10:41:04

作为高速通道光纤传输模式怎么理解以及到底有哪些？

光纤的传输模式主要取决于光纤的结构（如纤芯直径和折射率分布），不同模式对应光波在光纤中传播的不同路径和电磁场分布。以下是光纤传输模式的主要分类及特点： 1. 单模光纤（Single-Mode Fiber, SMF）核心特点：纤芯直径极小（通常为 8-10微米），仅允许光以单一模式（…...

编程日记 2025/5/31 4:59:07

setup语法糖

为什么要有setup语法糖： 在选择式API中，一个模块涉及到的数据、方法、声明周期，会比较分撒，位置不集中，不利于解读代码，但是组合式API中的setup函数可以将他们组织在一起，提高了代码的可维护性…...

编程日记 2025/5/30 1:45:37

linux socket编程之tcp(实现客户端和服务端消息的发送和接收)

目录一.创建socket套接字(服务器端) 二.bind将port与端口号进行绑定(服务器端) 2.1填充sockaddr_in结构 2.2bind绑定端口三.建立连接四.获取连接五..进行通信(服务器端) 5.1接收客户端发送的消息 5.2给客户端发送消息 5.3引入多线程六.客户端通信 6.1创建socke…...

编程日记 2025/6/1 0:46:07

Spring和Spring Boot集成MyBatis的完整对比示例，包含从项目创建到测试的全流程代码

以下是Spring和Spring Boot集成MyBatis的完整对比示例，包含从项目创建到测试的全流程代码： 一、Spring集成MyBatis示例 1. 项目结构 spring-mybatis-demo/ ├── src/ │ ├── main/ │ │ ├── java/ │ │ │ └── com.example/…...

编程日记 2025/6/2 6:38:50

Beta-VAE背景原理及解耦机制分析

Beta-VAE背景原理及解耦机制分析论文链接：https://openreview.net/forum?idSy2fzU9gl&noteIdSy2fzU9gl 一、Beta-VAE的核心思想 Beta-VAE 是一种改进的变分自编码器（VAE），旨在通过调整潜在变量的独立性来增强模型的解耦能…...

编程日记 2025/5/29 6:50:30

用c语言实现——一个动态顺序存储的串结构

一、思路概要 ①动态顺序存储的串结构： 动态应该使用动态内存分配，也就是用指针来存储字符数组，同时记录长度和当前容量。这样结构体应该包含三个成员：一个char*指针，一个int表示当前长度，另一个int表示…...

编程日记 2025/5/29 9:14:30

小程序Npm package entry file not found？

修改依赖包的入口文件看是不是cjs，小程序不支持cjs...

编程日记 2025/6/4 4:28:03

vue3学习之防抖和节流

在前端开发中，我们经常会遇到这样的情况：某些事件（如滚动、输入、点击等）会频繁触发，如果不加以控制，可能会导致性能问题。Vue3 中的防抖（Debounce）和节流（Throttle&a…...

编程日记 2025/6/4 4:13:02

当高级辅助驾驶遇上“安全驾校”：NVIDIA如何用技术给无人驾驶赋能？

高级辅助驾驶技术的商业化落地，核心在于能否通过严苛的安全验证。国内的汽车企业其实也在做高级辅助驾驶，但是吧，基本都在L2级别。换句话说就是在应急时刻内，还是需要人来辅助驾驶，AI驾驶只是决策层，并不能…...

编程日记 2025/5/30 2:00:27

Linux | Mfgtools 修改单独只烧写 Uboot，内核，文件系统

01 1. 打开 mfgtools_for_6ULL 文件夹，找到 cfg.ini 文件，如果您的板子是 EMMC 的修改如下图：如果您的板子是 NAND 的，修改如下图： 02 2. 打开“Pro...

编程日记 2025/5/29 12:36:14

【Agent python实战】ReAct 与 Plan-and-Execute 的融合之道_基于DeepSeek api

写在前面大型语言模型（LLM）驱动的 Agent 正在从简单的任务执行者向更复杂的问题解决者演进。在 Agent 的设计模式中，ReAct (Reason + Act) 以其步步为营、动态适应的特性见长，擅长处理需要与环境实时交互、快速响应的任务。而 Plan-and-Execute 则强调前瞻性规划，先制定…...

编程日记 2025/6/3 3:34:48

Native层Trace监控性能

一、基础实现方法 1.1 头文件引用 #include <utils/Trace.h> // 基础版本 #include <cutils/trace.h> // 兼容旧版本1.2 核心宏定义 // 区间追踪（推荐） ATRACE_BEGIN("TraceTag"); ...被监控代码... ATRACE_END();// 函数级自…...

编程日记 2025/6/3 23:59:17

【C++】15. 模板进阶

1. 非类型模板参数模板参数分类类型形参与非类型形参。类型形参即：出现在模板参数列表中，跟在class或者typename之类的参数类型名称。非类型形参：就是用一个常量作为类(函数)模板的一个参数，在类(函数)模板中可将该参数当…...

编程日记 2025/6/1 2:48:36

C#进阶学习（十四）反射的概念以及关键类Type

目录本文末尾有相关类中的总结，如有需要直接跳到最后即可前置知识： 1、程序集（Assembly） 2、元数据（Metadata） 3、中间语言（IL, Intermediate Language） 中间语言（…...

编程日记 2025/6/3 17:02:58

B. And It‘s Non-Zero

题目链接：https://codeforces.com/problemset/problem/1615/B 位运算之前没怎么写过，所以不会写。留一份题解，作为复习使用。题解：按位与的结果不为0，则至少有一列全为1.要求删除的数最少，即要求该列原本…...

编程日记 2025/6/4 17:49:03

深入解析NuttX：为何它是嵌入式RTOS领域的标杆？

文章目录引言一、NuttX简介：轻量级与高兼容性的结合二、架构特点：为何NuttX更灵活？三、横向对比：NuttX vs 主流嵌入式RTOS四、NuttX的核心优势五、何时选择NuttX？结语引言在资源受限的嵌入式系统中，实时…...

编程日记 2025/5/26 11:08:43

html初识

html 盖楼第一步：HTML1. HTML是啥玩意儿？2. 动手！搭个你的"网络小窝" (第一个HTML页面)3. 添砖加瓦：常用HTML"建材"详解3.1 标题家族3.2 段落哥俩好3.3 传送门：链接3.4 挂画：图片盖楼…...

编程日记 2025/5/31 8:57:19

leetcode66.加一

从后向前遍历，直到碰到非9的数（也就是数组中中最后一个非9的数） ，该值＋1，然后其后的数字全部0 class Solution {public int[] plusOne(int[] digits) {for (int i digits.length-1; i >0; i--) {if (d…...

编程日记 2025/6/3 6:20:36

【Vue】Vue3项目创建

执行npm run dev，如果报错检查nodejs版本...

编程日记 2025/5/3 17:17:02

缓存替换算法之 FIFO（先进先出）

FIFO（First In, First Out，先进先出）是一种常见的缓存替换算法，其基本思想是最早进入缓存的数据项将最先被移除。以下是FIFO的详细讲解： 一、FIFO的数据结构队列（Queue） 队列是一种典型的线性…...

编程日记 2025/5/31 0:06:07

Linux下的I/O复用技术之epoll

I/O多路复用指在单个线程或进程中，同时处理多个I/O操作的技术。旨在提高程序处理多个并发I/O操作的能力，避免程序因等待某个I/O操作而被阻塞。在传统的I/O模型中当程序进行I/O操作时(如读取文件、接受网路数据等)，如果数据还未准备好&…...

编程日记 2025/5/28 16:49:04

数据分析管理软件 Minitab 22.2.2 中文版安装包免费下载

Minitab22.2.2 安装包下载链接: https://pan.baidu.com/s/1cWuDbvcWhYrub01C6QR81Q?pwd6666 提取码: 6666 Minitab软件是现代质量管理统计软件，全球六西格玛实施的共同语言。Minitab 已经在全球120多个国家，5000多所高校被广泛使用。...

编程日记 2025/5/30 19:43:40

chrony服务器（1）

简介 NTP NTP（Network Time Protocol，网络时间协议）是一种用于同步计算机系统时间的协议是TCP/IP协议族中的一个应用层协议，主要用于在分布式时间服务器和客户端之间进行时钟同步，提供高精准度的时间校正通过分层的时…...

编程日记 2025/5/31 10:55:04

2025.04.26-淘天春招笔试题-第三题

📌 点击直达笔试专栏 👉《大厂笔试突围》 💻 春秋招笔试突围在线OJ 👉 笔试突围OJ 03. 二进制信号转换器问题描述卢小姐是一位通信工程师，她设计了一种特殊的二进制信号处理装置。该装置可以对由 0 0 0...

编程日记 2025/5/27 5:29:11

腾讯二面：TCC分布式事务｜图解TCC｜用Go语言实现一个TCC

写在前面前段时间，有同学反馈的一个面试问题，觉得分布式事务有点偏了，但其实也不算偏了，在java领域就有很火很成熟的seata分布式事务框架(阿里和蚂蚁的同学主导，目前在apache孵化)。之前我们讲过了两阶段提交、三阶…...

编程日记 2025/5/28 18:37:28

如何在 Conda 环境中降级 Python 版本：详细指南

如何在 Conda 环境中降级 Python 版本：详细指南 Python 版本的管理在开发过程中至关重要，特别是在处理不同项目需求时。对于使用 Conda 环境的 Python 程序员来说，版本管理不仅仅是安装不同的 Python 版本，还涉及到依赖关系的兼容…...

编程日记 2025/6/2 0:02:36

MCP 协议解读：STDIO 高效通信与 JSON-RPC 实战

本文深度解析 MCP 协议的传输机制与消息格式，涵盖 stdio、SSE 及自定义传输方式，剖析 JSON-RPC 2.0 的请求、响应与通知设计。结合 RooCode 开源实现与天气查询案例，揭秘如何通过 MCP 实现跨进程通信与高效服务集成，为开发者提供…...

编程日记 2025/6/4 1:53:49

AI心理健康服务平台项目面试实战

AI心理健康服务平台项目面试实战第一轮提问： 面试官： 请简要介绍一下AI心理健康服务平台的核心技术架构。在AI领域，心理健康服务的机遇主要体现在哪些方面？如何利用NLP技术提升用户与AI的心理健康对话体验？ 马架构…...

编程日记 2025/6/4 4:20:33

路由器重分发（OSPF+RIP），RIP充当翻译官，OSPF充当翻译官

路由器重分发（OSPFRIP） 版本 1 RIP充当翻译官 OSPF路由器只会OSPF语言；RIP路由器充当翻译官就要会OSPF语言和RIP语言；则在RIP中还需要将OSPF翻译成RIPOSPF 把RIP路由器当成翻译官，OSPF路由器就只需要宣告自己的ip&am…...

编程日记 2025/5/28 0:10:33

29-算法打卡-字符串-KMP算法理论2-第二十九天

1、KMP算法前缀表计算逻辑可以查看上一章节的前缀表概念以及逻辑，KMP算法基础理论[基础概念、前缀、后缀、最长公共前后缀、前缀表] 2、KMP算法前缀表使用当模式串和文本串匹配失败的时候，前缀表会告诉我们下一次的匹配中，模式串应该跳到…...

编程日记 2025/6/4 7:14:36

解锁生成式AI潜力的金钥匙

一、引言：生成式AI的浪潮与“提示词”的崛起在短短几年内，生成式人工智能（Generative AI）以前所未有的速度席卷全球，从文字创作到图像生成，从代码辅助到科学研究，以ChatGPT、Midjourney、DALL…...

编程日记 2025/6/1 9:03:06

统计定界子数组的数组

前言：看到这个题目的时候，只想着怎么暴力枚举右端点，结合线段树还是会超时，没找到很好的处理方法超时代码 class Tree1:def __init__(self,n):self.t [0]*(4*n)def update(self,o,l,r,index,va):if lr:self.t[o] vareturnmid …...

编程日记 2025/5/30 3:13:47

JAVA---字符串

ctrlN 搜索界面（idea） API和API帮助文档 API ： 应用程序编程接口（换句话说，就是别人已经写好了，我们不需要再编写，直接使用即可） Java API ：就是JDK中提供的各种功能…...

编程日记 2025/6/2 6:38:07

import tree # pip install dm_tree ModuleNotFoundError: No module named ‘tree‘

在导入tree包时，在python库里找了很久，一直以为是tree这个包没下载好，有的推荐执行 pip install dm_tree这是deepmind开发一个处理处理嵌套数据结构的库。它在某种程度上tree 概括了仅支持扁平序列的内置map函数，并允许将函数应用…...

编程日记 2025/6/3 1:32:14

Java ThreadLocal与内存泄漏

当我们利用 ThreadLocal 来管理数据时，我们不可避免地会面临内存泄漏的风险。原因在于 ThreadLocal 的工作方式。当我们在当前线程的 ThreadLocalMap 中存储一个值时，一旦这个值不再需要，释放它就变得至关重要。如果不这样做，那么…...

编程日记 2025/6/1 9:26:06

Rule.resource作用说明

1. 说明作用 Rule.resource 用于定义哪些文件需要被当前规则处理。它是对传统 test、include、exclude 的更底层封装，支持更灵活的匹配方式。与 test/include/exclude 的关系 test: /.js$/ 等价于resource: { test: /.js$/ } include: path.resolve(__dirname, ‘…...

编程日记 2025/6/2 0:37:27

【Docker项目实战】使用Docker部署Caddy+vaultwarden密码管理工具(详细教程）

【Docker项目实战】使用Docker部署vaultwarden密码管理工具前言一、vaultwarden介绍1.1 vaultwarden简介1.2 主要特点二、本次实践规划2.1 本地环境规划2.2 本次实践介绍三、本地环境检查3.1 检查Docker服务状态3.2 检查Docker版本3.3 检查docker compose 版本四、拉取镜像五、…...

编程日记 2025/6/4 13:38:49

代码随想录算法训练营第五十九天 | 1.ford算法精讲卡码网94.城市间货物运输

1.Bellman_ford 算法精讲题目链接：94. 城市间货物运输 I 文章讲解：代码随想录思路： 使用dijkstra，要求图中边的权值都为正数。带负权值的单源最短路问题，轮到Bellman_ford 算法。Bellman_ford算法的核心思想是对…...

编程日记 2025/6/3 10:47:08

shell（1）

1.shell变量介绍 i.Linux Shell中的变量分为,系统变量和用户自定义变量. ii.系统变量:$HOME,$PWD, $SHELL,$USER 例echo $HOME iii.显示当前shell中的所有变量--set 2.shell变量的定义基本语法 1.定义变量:变量名值注意号左右也不能有空格 2.撤销变量:unset 变量 3.声…...

编程日记 2025/6/2 5:38:23