当前位置： 首页 > news >正文

MCP协议与Dify集成教程

news 来源：原创 2025/7/15 1:34:43

一、MCP协议概述

MCP（Model Control Protocol）是一种新兴的开放协议，为大型语言模型（LLM）与外部应用之间构建了双向通信通道。它就像是AI的"USB-C"接口，帮助模型发现、理解并安全调用各种外部工具或API。

MCP协议的出现，为AI开发者提供了一套标准化的"乐高积木"，使我们不再需要从零开始构建每一个功能，不再需要重复造轮子，而是可以像搭积木一样，将各种功能模块组合起来，快速构建出功能强大的AI应用。

在MCP架构中，大模型（Host）运行在MCP客户端（Client）上，而完成任务所需的工具和数据则运行在MCP服务器（Server）上。服务器和客户端之间通过MCP协议进行通信和交互，实现了模型与外部工具的无缝连接。
在这里插入图片描述

二、Dify平台简介

Dify是一个强大的AI应用开发平台，它提供了友好的可视化界面，使开发者能够快速构建、部署和管理AI应用。通过Dify，即使是没有编程背景的用户也能轻松创建自己的AI助手、聊天机器人或其他AI应用。[1]

Dify平台支持MCP协议，这意味着开发者可以在Dify上轻松集成各种外部工具和服务，大大扩展了AI应用的能力边界。[3]

三、Dify与MCP集成步骤

1. 安装必要插件

要在Dify中使用MCP协议，首先需要安装两个关键插件：

  • Agent策略（支持MCP工具）
  • MCP工具调用插件

这两个插件为Dify提供了与MCP协议交互的能力，使平台能够发现并调用外部工具。[2]

2. 配置MCP服务

在Dify中配置MCP服务需要以下步骤：

  1. 进入Dify平台后，创建一个新的应用或选择现有应用
  2. 在应用设置中，找到"插件"或"扩展"选项
  3. 启用MCP相关插件
  4. 配置MCP服务器地址和认证信息
  5. 测试连接，确保Dify能够成功与MCP服务器通信[2]

3. 工具注册与发现

MCP协议的一个核心功能是工具注册与发现。在配置好MCP服务后，Dify会自动发现MCP服务器上注册的工具，并将它们展示在工具列表中。开发者可以选择需要的工具，并将它们添加到自己的AI应用中。[4]

例如，通过Zapier的MCP集成，Dify用户可以一键连接并调用7000多个应用，如Gmail、Slack、Google Sheets等，无需编写任何代码。[3]

4. 提示词设计

为了让AI模型能够正确理解和使用MCP工具，需要设计适当的提示词。一个好的提示词应该：

  • 明确告诉模型可用的工具及其功能
  • 提供使用工具的示例
  • 指导模型在什么情况下使用哪些工具
  • 说明如何处理工具返回的结果[1]

四、实战案例：Dify+MCP+DeepSeek开发

1. 环境准备

首先，需要准备以下环境：

  • Dify平台账号
  • DeepSeek模型API密钥
  • MCP服务器（可以是本地部署或云服务）

2. 创建应用

在Dify平台上创建一个新的应用，选择应用类型（如聊天机器人或AI助手），并配置基本信息。

3. 集成DeepSeek模型

  1. 在Dify应用设置中，选择"模型提供商"
  2. 添加DeepSeek作为模型提供商
  3. 输入API密钥和其他必要信息
  4. 测试连接，确保模型可以正常调用[4]

4. 配置MCP工具

  1. 在应用设置中，找到"工具"或"插件"选项
  2. 启用MCP工具调用插件
  3. 配置MCP服务器信息
  4. 从可用工具列表中选择需要的工具（如搜索引擎、数据分析工具、文件处理工具等）
  5. 为每个工具配置必要的参数和权限[2]

5. 设计对话流程

使用Dify的可视化界面设计对话流程，包括：

  • 用户输入的处理
  • 工具调用的触发条件
  • 结果展示的方式
  • 异常处理策略[1]

6. 测试与优化

  1. 在Dify的测试环境中测试应用
  2. 观察模型是否正确理解用户意图
  3. 检查工具调用是否按预期执行
  4. 根据测试结果调整提示词和配置
  5. 迭代优化，直到应用表现符合预期[4]

五、MCP协议的优势与应用场景

1. 标准化与互操作性

MCP协议提供了一个标准化的接口，使不同的AI模型和工具可以无缝协作。这种标准化大大降低了集成成本，提高了开发效率。[3]

2. 扩展模型能力

通过MCP协议，AI模型可以调用各种外部工具和服务，如搜索引擎、数据库、API等，从而获得实时信息、执行计算、操作文件等能力，极大地扩展了模型的应用范围。

3. 典型应用场景

  • 智能客服：结合知识库和CRM系统，提供精准的客户服务
  • 数据分析助手：调用数据处理工具，实现数据可视化和分析
  • 内容创作：连接各种创作工具，辅助内容生成和编辑
  • 自动化工作流：触发并协调多个系统的操作，实现业务流程自动化[4]

六、注意事项与最佳实践

1. 安全性考虑

在使用MCP协议时，需要注意以下安全问题：

  • 工具访问权限控制
  • 敏感信息的加密传输
  • API密钥的安全存储
  • 用户数据的隐私保护[3]

2. 性能优化

为了提高MCP工具调用的性能，可以采取以下措施：

  • 减少不必要的工具调用
  • 优化提示词，使模型能够更准确地选择工具
  • 缓存常用数据，减少重复请求
  • 设置合理的超时时间，避免长时间等待[1]

3. 用户体验设计

在设计使用MCP工具的AI应用时，应当注重用户体验：

  • 提供清晰的工具使用说明
  • 显示工具调用的进度和状态
  • 优雅处理工具调用失败的情况
  • 让用户了解AI正在使用哪些工具及原因

相关文章：

MCP协议与Dify集成教程

一、MCP协议概述 MCP（Model Control Protocol）是一种新兴的开放协议，为大型语言模型（LLM）与外部应用之间构建了双向通信通道。它就像是AI的"USB-C"接口，帮助模型发现、理解并安全调用各种外部工…...

编程日记 2025/7/15 1:34:43

flink常用算子整理

文章目录 前言1.重新分配(即打散)2.合并流的算子3.算子链操作4.侧边输出(目前只有一种)5.键控进行分区6.输出算子7.其他基础操作算子8.其他常用的算子9.Flink窗口等情况10.窗口举例前言 提示：以下是本篇文章正文内容，下面案例可供参考 1.重新分配(即打散) 2.合并流的算子 3…...

编程日记 2025/7/10 22:28:28

【SimSession】1：将视频发送逻辑与 libuv 事件循环集成是一个典型的并发设计问题

之前对SimSession的信令进行测试，echo可以与relay联通，现在单独提取 已经集成了webrtc的发送模块及libuv框架与SimSession和echo集成： 采集、编码和发送之前在pacedsender内部实现的 现在从pacedsender中去掉采集、编码，放在session中运行。 而pacedsender仅暴露发送部分：…...

编程日记 2025/6/29 8:21:02

Circular Plot系列(五): circle plot展示单细胞互作

这是我们circle系列的最后一节，我想常见的弦图是绕不开的，所以最后从前面介绍的circle plot思路，做一遍弦图。其实前面的内容如果消化了，plot互作弦图也就不成什么问题了。 效果如下： #cellchat提取互作结果&#xff…...

编程日记 2025/6/29 8:12:59

LLama-v2 权重下载

地址：llama模型 官方github仓库：llama仓库 注意点 网络代理位置：美国下面的国家选择 United States 克隆仓库后 运行bash download.sh输入邮箱收到的URL选择要下载的权重等待下载完成即可 有问题留言！！&#xff01…...

编程日记 2025/6/29 8:11:52

深入解析Linux进程间通信（IPC）：机制、应用与最佳实践

引言 在多任务操作系统中，进程间通信（Inter-Process Communication, IPC）是协同工作的核心机制。Linux作为现代操作系统的典范，提供了8种主要IPC方式，从传统的管道到面向网络的套接字，每种方法都暗藏独特的…...

编程日记 2025/7/3 13:27:53

基于开源AI大模型AI智能名片S2B2C商城小程序源码的私域流量稳定性构建研究

摘要：在私域流量时代，传统实体零售的"时间积累"逻辑被直播电商等新业态颠覆。完美日记等新锐品牌通过构建私域流量池，实现了从0到1的指数级增长，而传统品牌却陷入"流量焦虑"。本文提出以开源AI大模型AI智能名…...

编程日记 2025/7/11 19:17:43

第13章：陈默再访海奥华

第13章：陈默再访海奥华 第一节：启程——穿越虫洞的旅程 2046年，赤色世界的和平与繁荣达到了前所未有的高度。人类已经完成了从物质文明向意识文明的转变，精神力的普及让每一个人都拥有了学习、修复和感知的能力。然而&#xff0…...

编程日记 2025/6/29 6:58:53

Prompt compress 技术探究-LLMLingua2

LLMLingua2 https://arxiv.org/pdf/2403.12968是LLMLingua的改进版本。我们知道 LLMLingua需要用小模型压缩，模型太小不一定能保证性能，模型太大耗费时间又太长。这个方法理论上可以，但实际上不是很方便用。很难选择到合适的小模型。 小模型…...

编程日记 2025/6/29 7:34:02

【机器学习案列-22】基于线性回归（LR）的手机发布价格预测

🧑 博主简介：曾任某智慧城市类企业算法总监，目前在美国市场的物流公司从事高级算法工程师一职，深耕人工智能领域，精通python数据挖掘、可视化、机器学习等，发表过AI相关的专利并多次在AI类比赛中获奖。CSDN…...

编程日记 2025/7/3 21:18:17

python调用国税乐企直连接口开数电票之获取数字化电子发票批量预赋码信息

乐企平台介绍 乐企平台作为国家税务总局推出的唯一数电票标准化的API接口重要平台，旨在通过税务系统与企业自有信息系统的直连涉税服务，开票员登录企业自有系统（ERP、OMS、发票管理系统等）无需通过第三方平台即可实现国税直连开票…...

编程日记 2025/6/29 8:14:14

Axure打开html文件失败，解决方案：

1、在原型文件中找到 2、文件后缀名改为 axure-chrome-extension.rar ,解压后到axure-chrome-extension 3、打开Chrome浏览器，找到扩展程序 选择刚刚解压的文件axure-chrome-extension文件夹，配置完成，打开html试试吧...

编程日记 2025/6/29 7:34:09

Android第四次面试总结之Java基础篇（补充）

一、设计原则高频面试题（附大厂真题解析） 1. 单一职责原则（SRP）在 Android 开发中的应用（字节跳动真题） 真题：“你在项目中如何体现单一职责原则？举例说明。”考点：结合…...

编程日记 2025/7/8 18:30:07

网络开发基础（游戏）之 心跳机制

简介 心跳机制：是指客户端定时（比如每隔着10秒）向服务端发送PING消息，服务端收到后回应PONG消息。服务端会记录客户端最后一次发送PING消息的时间，如果很久没有收到下一次客户端发来的消息，服务端就就判…...

编程日记 2025/6/29 5:49:49

Hive进阶之路

目录 一、Hive 基础回顾 二、数据定义语言（DDL）进阶 2.1 复杂表创建 2.2 分区与分桶优化 三、数据操作语言（DML）深入 3.1 高效的数据加载 3.2 灵活的数据更新与删除 四、Hive 函数高级应用 4.1 内置函数的巧用 4.2 自定义…...

编程日记 2025/6/29 8:07:05

imx6uLL应用-v4l2

Linux V4L2 视频采集 JPEG 解码 LCD 显示实践 本文记录一个完整的嵌入式视频处理项目：使用 V4L2 接口从摄像头采集 MJPEG 图像，使用 libjpeg 解码为 RGB 格式，并通过 framebuffer 显示在 LCD 屏幕上。适用于使用 ARM Cortex-A 系列开发板进…...

编程日记 2025/7/14 9:46:58

以太坊智能合约开发框架：Hardhat v2 核心功能从入门到基础教程

一、设置项目 Hardhat 项目是安装了 hardhat 包并包含 hardhat.config.js 文件的 Node.js 项目。 操作步骤： ①初始化 npm npm init -y②安装 Hardhat npm install --save-dev hardhat③创建 Hardhat 项目 npx hardhat init如果选择 Create an empty hardhat.…...

编程日记 2025/6/29 5:11:55

【现代深度学习技术】现代循环神经网络06：编码器-解码器架构

【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈PyTorch深度学习 ⌋ ⌋ ⌋ 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重…...

编程日记 2025/6/29 5:11:54

Jasper and Stella: distillation of SOTA embedding models

摘要 Dense检索是许多深度学习应用系统中（例如常见问题 （FAQ） 和检索增强生成 （RAG））关键组成部分。在此过程中，Embedding模型将原始文本转换为向量。然而，目前在文本Embedding基准…...

编程日记 2025/6/29 8:10:03

程序的本质—API接口

API 是什么 官方定义：API 英文全称 Application Programming Interface，翻译过来为程序之间的接口。也是程序与外部世界的桥梁，实现了服务拆分与解藕的核心机制 大白话：按照规则提供输入，它帮你得到对应的输出 API可…...

编程日记 2025/6/29 7:56:56

Python函数完全指南：从零基础到灵活运用

Python函数是组织代码、实现代码复用的基本单元，也是Python编程中最重要的概念之一。本文将全面介绍Python函数的知识体系，帮助初学者系统掌握函数的使用方法。 一、函数基础概念 1. 什么是函数？ 函数是一段可重复使用的代码块&#xff0c…...

编程日记 2025/6/28 20:04:56

第十章.XML

文章目录 1.XMl简介2.解析XML技术2.1DOM解析XML 2.2DOM4j3.json 1.XMl简介 EXtensible Markup Language ,可扩充标记语言 特点: XML与操作系统,编程语言的开发平台无关实现不同系统之间的数据交换 作用: 数据交互配置应用程序和网站 XML标签 xml文档由一系列标签元素组成<…...

编程日记 2025/7/3 14:28:51

5个情感丰富GPT-4o图像提示词（不是吉卜力风格）

一场新的创意运动正在迅速兴起——人们不仅使用ChatGPT进行写作，还用它来构思富有想象力、情感丰富的视觉概念。 这一趋势正在改变我们讲故事、建立品牌和探索创意的方式。从异想天开的海报世界到基于物品的故事叙述，各行业的创作者正在将ChatGPT与视觉生成工具结合使用，赋…...

编程日记 2025/7/4 4:52:41

华为OD机试真题——求最多可以派出多少支队伍（2025A卷：100分）Java/python/JavaScript/C/C++/GO最佳实现

2025 A卷 100分 题型 本专栏内全部题目均提供Java、python、JavaScript、C、C、GO六种语言的最佳实现方式&#xff1b; 并且每种语言均涵盖详细的问题分析、解题思路、代码实现、代码详解、3个测试用例以及综合分析&#xff1b; 本文收录于专栏&#xff1a;《2025华为OD真题目录…...

编程日记 2025/7/8 20:17:16

《七年一剑》速读笔记

文章目录 书籍信息概览知己知彼市场的本质认识自我了解他人人剑合一 技术分析精要K线分型均线节奏形态画线成交量周期级别指标之王——MACD波动理论 管窥基本面A股周期论实战角度看财报 构建交易系统打开交易之门交易基础之买卖依据风险控制与仓位管理系统评估及情绪管理 实战秘…...

编程日记 2025/6/29 8:07:02

VMware-centOS7安装redis分布式集群

1.部署redis包 1.1 在usr/local文件夹里创建文件夹 mkdir software 1.2 进入文件夹 cd /usr/local/software/ 下载redis wget http://download.redis.io/releases/redis-6.2.6.tar.gz解压 tar zxvf redis-6.2.6.tar.gz重命名文件夹 mv redis-6.2.6 redis安装gcc编译器 yum i…...

编程日记 2025/6/29 7:17:10

Kubernetes(k8s)学习笔记(六)--KubeSphere前置环境安装

1、安装 helm&#xff08;master 节点执行&#xff09; Helm 是 Kubernetes 的包管理器。包管理器类似于我们在 Ubuntu 中使用的apt、Centos 中使用的 yum 或者 Python 中的 pip 一样&#xff0c;能快速查找、下载和安装软件包。Helm由客户端组件 helm 和服务端组件 Tiller 组…...

编程日记 2025/6/29 5:11:56

黑马点评day01(基于Redis)

1.7 Redis代替session的业务流程 1.7.1、设计key的结构 首先我们要思考一下利用redis来存储数据&#xff0c;那么到底使用哪种结构呢&#xff1f;由于存入的数据比较简单&#xff0c;我们可以考虑使用String&#xff0c;或者是使用哈希&#xff0c;如下图&#xff0c;如果使用…...

编程日记 2025/6/29 5:41:41

14.Excel：排序和筛选

一 位置 两个位置。 二 排序&#xff1a;如何使用 1.常规使用 补充&#xff1a;不弹出排序提醒排序。 选中要排序列中的任意一个单元格&#xff0c;然后排序。 2.根据要求进行排序 1.根据姓名笔画进行降序排序 要勾选上数据包含标题&#xff0c;默认是勾选了。 2.根据运营部、…...

编程日记 2025/6/29 7:51:22

力扣-字符串-468 检查ip

思路 考察字符串的使用&#xff0c;还有对所有边界条件的检查 spilt&#xff08;“\.”&#xff09;&#xff0c;toCharArray&#xff0c;Integer.parseInt() 代码 class Solution {boolean checkIpv4Segment(String str){if(str.length() 0 || str.length() > 4) retur…...

编程日记 2025/6/29 7:58:34

C++名称空间

名称空间 名称空间可以是全局的&#xff0c;也可以位于另一个名称空间中&#xff0c;但不能位于代码块中。因此&#xff0c;在默认情况下&#xff0c;在名称空间中声明的名称的链接性为外部的&#xff08;除非它引用了常量&#xff09; 名称空间是开放的&#xff0c;你可以在…...

编程日记 2025/6/29 6:36:45

Redis 过期与淘汰机制全解析

概述 Redis 作为一种高性能的内存数据库&#xff0c;提供了数据过期和淘汰策略以管理存储的数据。本文将详细探讨 Redis 中数据失效的基本原理、实现方式&#xff0c;并结合源码进行分析&#xff0c;帮助读者更深入地理解和优化 Redis 的使用。 数据过期机制 过期键的存储方…...

编程日记 2025/6/29 5:12:38

PMP-第四章 项目整合管理(一）

项目整合管理 项目整合管理包括对项目管理过程组内的各种过程和项目管理活动而进行识别、定义、组合、统一与协调的各种过程和活动项目整合管理必须由项目经理负责。其他知识领域可以由相关领域专家管理&#xff0c;但整合的责任不能被授权或转移项目与项目管理本质上具有整合…...

编程日记 2025/6/29 5:12:07

VSCode搭建STM32开发调试环境

闲言碎语&#xff1a; 好久没更&#xff0c;在忙着科研→校招→写毕业论文。 临近毕业&#xff0c;总结自己的大学生活&#xff1a;C\C、Java、Python、深度学习&#xff0c;学的乱七八糟。 秋招找了个嵌入式工作&#xff08;涉及AI应用&#xff09;&#xff0c;大致确定了以后…...

编程日记 2025/6/29 8:12:15

【数据结构】稀疏矩阵的快速转置

稀疏矩阵的快速转置 如图给出一个稀疏矩阵&#xff0c;要求表示出它的转置矩阵 由这个矩阵我们能轻松得到它的三元组顺序表 6行&#xff08;x坐标&#xff09;7列&#xff08;y坐标&#xff09;8个元素121213931-3361443245218611564-7 接下来我们同样把转置后的矩阵的三元组…...

编程日记 2025/7/14 10:59:26

【Godot】使用 Shader 实现可调节的精确切角效果

今天我们要实现的是一个四角精确切割Shader，可以在UI元素或Sprite的四个角分别切割出不同大小的三角形区域。 文章目录 什么是Godot Shader？数学原理详解左上角切割右上角切割右下角切割左下角切割四角切割Shader完整代码使用方法在Godot编辑器中设置通过代码控制进阶技巧1. …...

编程日记 2025/6/28 20:04:52

在CentOS环境中安装MySQL数据库保姆级教程

一.确认当前系统版本 1.1登录系统&#xff0c;切换至root账户 如图所示&#xff1a; 1.2&#xff1a;在终端中执行如下命令查看系统版本 cat /etc/redhat-release 二.添加 MySQL Yum 源 2.1访问MySQL开发者专区 https://dev.mysql.com/downloads/repo/yum/ TIPS: 1.发布包命…...

编程日记 2025/6/28 20:04:50

分布式系统中的 ActiveMQ：异步解耦与流量削峰（二）

四、流量削峰 &#xff08;一&#xff09;流量削峰原理深入解析 在当今互联网应用中&#xff0c;高并发场景屡见不鲜 。例如&#xff0c;电商平台的促销活动、在线票务系统的抢票时刻以及社交平台的热点事件爆发期等&#xff0c;都会在短时间内迎来大量用户请求。这些瞬间涌入…...

编程日记 2025/6/28 20:04:48

JAVA设计模式——（十）抽象工厂模式（Abstract Factory Pattern）

JAVA设计模式——&#xff08;十&#xff09;抽象工厂模式&#xff08;Abstract Factory Pattern&#xff09; 介绍理解实现工厂接口工厂实现类应用类应用类实现测试改造工厂类 应用 介绍 抽象工厂模式在工厂模式的基础上&#xff0c;适配的对象变为一组相关的对象&#xff0c…...

编程日记 2025/6/28 20:04:47

STM32的定时器

定时器的介绍 介绍&#xff1a;STM32F103C8T6微控制器内部集成了多种类型的定时器&#xff0c;这些定时器在嵌入式系统中扮演着重要角色&#xff0c;用于计时、延时、事件触发以及PWM波形生成、脉冲捕获等应用。 *几种定时器&#xff08;STM32F103系列&#xff09;&#xff1…...

编程日记 2025/6/29 5:12:14

ubuntu-PyQt5安装+PyCharm配置QtDesigner + QtUIC

个人环境 ubuntu22.04 pycharm 2024.3 python 3.10 1)先使用apt命令在线安装 1)sudo apt install pyqt5* 2)sudo apt install qttools5-dev-tools2&#xff09;Pycharm配置Pycharm External Tool 在设置—工具——外部工具中 配置QtDesigner Name &#xff1a;QtDesigne…...

编程日记 2025/6/29 6:07:42

测试基础笔记第十九天

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 文章目录 一、接口的概念二、接口的类型三、接口测试1.概念2.原理&#xff1a;3.特点:4.实现方式:5.什么是自动化接口测试&#xff1f; 二、HTTP协议1.HTTP协议简介2.URL格式…...

编程日记 2025/6/29 8:17:02

Ubuntu 系统上广受好评的浏览器推荐

日常使用与开发者首选 Firefox 特点&#xff1a;开源、隐私保护强大&#xff0c;支持丰富扩展&#xff08;如开发者工具、广告拦截&#xff09;&#xff0c;默认预装且跨平台兼容368。 适用场景&#xff1a;日常浏览、开发者调试&#xff08;支持实时 CSS/JS 编辑&#xff09;、…...

编程日记 2025/7/4 10:51:00

第 13 届蓝桥杯 C++ 青少组省赛中 / 高级组真题解析

一、选择题 第 1 题 题目&#xff1a;下列关于类中声明的变量描述正确的是 ( )&#xff61; 选项&#xff1a; A. 只属于该类 B. 属于全局变量 C. 任何情况下都可被该类所有实例共享 D. 属于该类&#xff0c;某些情况下也可被该类不同实例所共享 答案&#xff1a;D 解析&…...

编程日记 2025/6/29 7:34:41

Win10下安装Linux-Ubuntu24.04双系统

0 引言 Ubuntu 24.04 LTS&#xff08;代号“Noble Numbat”&#xff09;是 Canonical 于 2024 年 4 月 25 日发布的第 10 个长期支持版本&#xff0c;专注于性能优化、企业安全和开发者体验提升 Windows 10 是微软于 2015 年 7 月发布的跨平台操作系统&#xff0c;融合了传统桌…...

编程日记 2025/6/29 5:12:06

express 怎么搭建 WebSocket 服务器

一&#xff1a;使用 express-ws var express require(express); var app express(); var expressWs require(express-ws)(app);app.use(function (req, res, next) {console.log(middleware);req.testing testing;return next(); });app.get(/, function(req, res, next){…...

编程日记 2025/6/29 6:15:25

模型部署——cuda编程入门

CUDA中的线程与线程束 kernel是在device上线程中并行执行的函数&#xff0c;核函数用__global__符号声明&#xff0c;在调用时需要用<<<grid_size, block_size>>>来指定kernel要执行的线程数量。在CUDA中&#xff0c;每一个线程都要执行核函数&#xff0c;并…...

编程日记 2025/6/29 5:12:09

llfc项目TCP服务器笔记

ChatServer 一个TCP服务器必然会有连接的接收，维持，收发数据等逻辑。那我们就要基于asio完成这个服务的搭建。主服务是这个样子的 #include "LogicSystem.h"#include <csignal>#include <thread>#include <mutex>#include "AsioIOServiceP…...

编程日记 2025/6/29 5:22:29

NPP库中libnppi模块介绍

1. libnppi 模块简介 libnppi 是 NPP 库中专门用于 图像处理 的模块&#xff0c;提供高度优化的 GPU 加速函数&#xff0c;支持&#xff1a; 图像滤波&#xff08;卷积、形态学操作&#xff09; 几何变换&#xff08;旋转、缩放、透视变换&#xff09; 颜色空间转换&#xf…...

编程日记 2025/6/29 7:27:26

从头训练小模型: 3 传统RLHF与DPO的区别

这个步骤我其实是忽略了。如果我的目标是建立一个安全领域的模型&#xff0c;我个人理解这步骤并不太必要。关于人类偏好对齐&#xff1a;在前面的训练步骤中&#xff0c;模型已经具备了基本的对话能力。 此时模型还不知道什么是好的回答&#xff0c;什么是不好的回答。我们希…...

编程日记 2025/7/14 10:28:46