当前位置: 首页 > news >正文

科普:极简的AI乱战江湖

本文无图。

大模型

‌2022年2月,‌文生图应用的鼻祖Midjourney上线。

‌2022年8月,‌开源版的Midjourney,也就是Stable Diffusion上线。

2022年11月30日‌,OpenAI正式发布ChatGPT-3.5。

此后,不断有【大模型】面世,例如国内的文心一言、通义千问、讯飞星火、智谱清言、DeepSeek等,国外的LlaMa、Gemini等。

一点小常识:

  • 【量化】:在各类开源平台下载大模型时,有时会看到FP32、FP16、TF32、BF16等字眼,它们表示大模型的量化精度,通俗的解释是用整数代替浮点数,以提高模型运算速度、减少存储空间。

  • 【蒸馏】:就是把已经充分训练过的大模型的知识,让“小模型”来学习,类似于“小人国”。从而改善运行效率,减少运行开销。

  • 【微调】:这里的微调更多是指优化的意思。有两种方案:一种是基于LoRA的矩阵分解(可以把它比喻成用加法代替乘法,降低冗余但又不影响结果)的方式,另一种是基于Embedding的嵌入方式(可以把它理解为给大模型加个外G)。

  • 【评测】:为了避免大模型一本正经地胡说八道,就需要一些评价指标来保证执行结果的正确性和合理性,目前比较有名的大模型专业评测机构包括国外的MMLU和国内的OpenCompass、FlagEval。

智能体

如果把大模型比作大脑的话,那么【智能体】就等于是给大脑加上了耳朵和嘴巴:有专门用来写作的智能体,有专门用来编程的智能体,还有专门用来问诊的智能体,这些都和行业有关。

当智能体多了以后,人们发现如果将他们“串联”或“并联”起来,就可以组成功能更强大的应用,于是就出现了【工作流】。

为了解决大模型无法克服的“幻觉”问题,人们再次给它加了一层外G,叫做【RAG】,相当于是让大模型遇到不懂的问题时去查查字典。

为了满足文、图、音频、视频等互相转化的能力,出现了【多模态】大模型。

前阵子比较火的Manus本质上也是智能体 + 工作流 + RAG + 多模态的【多智能体】混搭,并且赋予了它独立访问网络,调用各种应用接口的能力。例如查询天气、航班、搜索网络内容。它的创新点在于以一种非常直观的形式将每一步的执行过程给展示了出来,并且任务分解的颗粒度合适,所以执行结果比较符合人们的期望。

社区

国外的大模型开发者们为了互相交流学习,整了一个叫做Hugging Face的社区,这里聚集了很多个人或组织训练好的免费大模型。

阿里的Model Scope则是国内版的Hugging Face,类似的还有其他的一些。

但它们基本上只提供大模型的上传、下载和托管,为了能够实现在线调用大模型,又出现了OpenRouter(国外)和硅基流动(国内)这种能够部署和调用大模型算力的平台。本质上,它们就是个中介代理(类似于链家),既提供中介服务,也提供“自营”的房源(大模型算力)出租。

除了Hugging Face、Model Scope、OpenRouter和硅基流动,还有一种介于本地部署和网页应用之间的大模型部署方式,这就是ollama和xinference,它们以类似于Docker的方式将大模型下载到本地,再通过它们暴露的端口来调用大模型的能力。

工具

在智能体里面,有做的非常出色的,比较有代表性的是早期的Kimi、豆包和扣子。

但是工程师们并不满足于此,他们自己动手对接各种大模型接口,然后将这些接口封装起来,形成了可以进行二次开发的大模型应用产品,其中最有代表性就是低代码平台Dify和更高级的开发框架LangChain,后起之秀CrewAI则是完全基于多智能体的应用开发组件。

而在开发侧,出现了Claude、Cursor、Trae这种原生的AI开发IDE(一种集成开发工具),它们不再只是插件,而是一种全新的AI开发范式。

相关文章:

科普:极简的AI乱战江湖

本文无图。 大模型 ‌2022年2月,‌文生图应用的鼻祖Midjourney上线。 ‌2022年8月,‌开源版的Midjourney,也就是Stable Diffusion上线。 2022年11月30日‌,OpenAI正式发布ChatGPT-3.5。 此后,不断有【大模型】面世&…...

养生指南:解锁健康生活新方式

一、饮食:精准搭配,科学滋养 饮食以 “少加工、多天然” 为核心。早餐选择希腊酸奶搭配蓝莓与一把混合坚果,富含蛋白质与抗氧化成分;午餐用藜麦饭搭配香煎龙利鱼和彩椒炒芦笋,营养全面且低脂;晚餐则是山药…...

Dolphinscheduler执行工作流失败,后台报duplicate key错误

背景 现场童鞋发来一张图如下 我很懵逼,不知道出了啥问题,在聊天工具上聊了10m还不知道啥,干脆就搞个腾讯会议(在此感谢腾讯爸爸免费会议)。哦,现场临时搭建了dolphinscheduler,然后导入工作流…...

【Vue】路由2——编程式路由导航、 两个新的生命周期钩子 以及 路由守卫、路由器的两种工作模式

目录 一、路由的push 与 replace切换 二、编程式路由导航 三、缓存路由组件 四、新增的两个生命周期钩子 五、路由守卫 5.1 前置路由守卫 5.2 后置路由守卫 5.3 独立路由守卫 5.4 组件内 路由守卫 六、路由器的两种工作模式 6.1 hash模式 6.2 history模式 6.3 V…...

VDC、SMC、MCU怎么协同工作的?

华为视频会议系统中,VDC(终端控制)、SMC(会话管理)、MCU(媒体处理) 通过分层协作实现端到端会议管理,其协同工作机制可总结为以下清晰架构: 1. 角色分工 组件核心职责类…...

ETL数据集成产品选型需要关注哪些方面?

ETL(Extract,Transform,Load)工具作为数据仓库和数据分析流程中的关键环节,其选型对于企业的数据战略实施有着深远的影响。谷云科技在 ETL 领域耕耘多年,通过自身产品的实践应用,对 ETL 产品选型…...

DriveGenVLM:基于视觉-语言模型的自动驾驶真实世界视频生成

《DriveGenVLM: Real-world Video Generation for Vision Language Model based Autonomous Driving》2024年8月发表,来自哥伦比亚大学的论文。 自动驾驶技术的进步需要越来越复杂的方法来理解和预测现实世界的场景。视觉语言模型(VLM)正在成…...

【达梦数据库】过程、函数、包头和包体详解零基础

目录 背景参考链接解释包头包体 背景 最近遇到关于包头和包体的问题,学习并记录 参考链接 参考链接: oracle的过程、函数、包头和包体详解零基础 解释 包头主要用于定义接口,包体主要用以实现包体中声明的存储过程、函数等。 包头 包体...

HarmonyOS开发样式布局

个人简介 👨‍💻‍个人主页: 魔术师 📖学习方向: 主攻前端方向,正逐渐往全栈发展 🚴个人状态: 研发工程师,现效力于政务服务网事业 🇨🇳人生格言&…...

SpringCloud——EureKa

目录 1.前言 1.微服务拆分及远程调用 3.EureKa注册中心 远程调用的问题 eureka原理 搭建EureKaServer 服务注册 服务发现 1.前言 分布式架构:根据业务功能对系统进行拆分,每个业务模块作为独立项目开发,称为服务。 优点: 降…...

【力扣刷题】LeetCode763-划分字母区间

文章目录 1. LeetCode763_划分字母区间 1. LeetCode763_划分字母区间 题目链接🔗 🐧解题思路: 区间合并 题目中这句话很关键“我们要把这个字符串划分为尽可能多的片段,同一字母最多出现在一个片段中。” 你这句话你可以理解为 把…...

使用for循环和字典功能,统计字符出现在一个英文句子中的次数(python)

本题目要求写出一段代码实现输入一个英文句子后,统计句子中各个字符(不区分大小写,包含空格和标点符号)出现的次数。 输入格式: 请例如:输入 Life is short,we need Python. 。 输出格式: 对每一个字符输出对应的出现次数&…...

带你搞懂@Valid和@Validated的区别

前言 有参数传递的地方都少不了参数校验。在实际开发过程中,参数校验是保证程序健壮性的重要环节,前端的参数校验是为了用户体验,后端的参数校验是为了安全。试想一下,如果在 Controller 层中没有经过任何校验的参数通过 Service层…...

大数据hadoop小文件处理方案

Hadoop处理小文件问题的解决方案可分为存储优化、处理优化和架构优化三个维度,以下是综合技术方案及实施要点: 一、存储层优化方案 1.文件合并技术 离线合并:使用hadoop fs -getmerge命令将多个小文件合并为大文件并重新上传; MapReduce合并:开发专用MR…...

安装NASM

安装NASM 注意:这篇文章在librdkafka安装系列,不需要参考,仅为了记录而写,请不要参考,后续编译openssl的时候,可以使用参数no-asm,不影响整个的编译步骤。这里主要作为记录帖子。 本篇是Windows系统编译Qt使用的kafka(librdkafka)系列可以不参考的一篇,编译librdkaf…...

RabbitMQ-高级

RabbitMQ-高级 文章目录 RabbitMQ-高级前言:消息可靠性问题1.生产者可靠性1.生产者重连2.生产者确认机制3.生产者代码实现原理 2.MQ的可靠性1.数据持久化2.LazyQueue 3.消费者可靠性1.消费者确认机制1.确认机制2.确认功能 2.失败重试机制1.开启失败重试机制2.多次失…...

深入解析Spring Boot与Kafka集成:构建高效消息驱动微服务

深入解析Spring Boot与Kafka集成:构建高效消息驱动微服务 引言 在现代微服务架构中,消息队列扮演着至关重要的角色,而Apache Kafka凭借其高吞吐量、低延迟和可扩展性,成为了许多企业的首选。本文将详细介绍如何在Spring Boot应用…...

Unreal Engine: Windows 下打包 AirSim项目 为 Linux 平台项目

环境: Windows: win10, UE4.27, Visual Studio 2022 Community.Linux: 22.04 windows环境安装教程: 链接遇到的问题(问题:解决方案) 点击Linux打包按钮,跳转至网页而不是执行打包流程:用VS打开项…...

【图像大模型】FLUX.1-dev:深度解析与实战指南

FLUX.1-dev:深度解析与实战指南 一、引言二、模型架构与技术原理(一)模型架构(二)Rectified Flow 技术(三)指导蒸馏(Guidance Distillation) 三、项目运行方式与执行步骤…...

mariadb 升级 (通过yum)

* 注意下 服务名, 有的服务器上是mysql,有的叫mariadb,mysqld的 #停止 systemctl stop mysql #修改源 vi /etc/yum.repos.d/MariaDB.repo baseurl http://yum.mariadb.org/11.4/centos7-amd64 #卸载 yum remove mysql #安装 yum install MariaDB-server galera-4 MariaDB-…...

Flink 非确定有限自动机NFA

Flink 是一个用于状态化计算的分布式流处理框架,而非确定有限自动机(NFA, Non-deterministic Finite Automaton)是一种在计算机科学中广泛使用的抽象计算模型,常用于正则表达式匹配、模式识别等领域。 Apache Flink 提供了对 NFA…...

Profinet转Ethernet IP主站网关:点燃氢醌生产线的智慧之光!

案例分享:转角指示器和Profinet转EthernetIP网关的应用 在现代工业自动化中,设备和系统之间的高效通信至关重要。最近,我们在某大型化工企业的生产线上实施了一个项目,旨在通过先进的设备和通信技术提高生产效率和安全性。该项目…...

动态IP技术在跨境电商中的创新应用与战略价值解析

在全球化4.0时代,跨境电商正经历从"流量红利"向"技术红利"的深度转型。动态IP技术作为网络基础设施的关键组件,正在重塑跨境贸易的运营逻辑。本文将从技术架构、应用场景、创新实践三个维度,揭示动态IP如何成为跨境电商突…...

WEB安全--SQL注入--Oracle注入

一、Oracle知识点了解 1.1、系统变量与表 版本号:SELECT * FROM V$VERSION 用户名:USER、SYS_CONTEXT(USERENV,SESSION_USER) 库名:ALL_USERS、USER_USERS、DBA_USERS 表名:ALL_TABLES、DBA_TABLES、USER_TABLES 字段名&…...

Unity预制体变体(Prefab Variants)、接口(Interface)、抽象类(Abstract Class)、枚举(Enumeration)

一、预制体变体(Prefab Variants) 预制体变体是什么? 预制体变体是指从同一个基础预制体派生出来的不同版本的预制体。这些变体可以包含不同的组件配置、属性值、子对象或者行为,但它们共享一些共同的基础结构和特性。通过创建预…...

pymol包安装和使用

PyMOL 是一款分子可视化软件,而pymol则是其对应的 Python 包,借助它能够实现对 PyMOL 的编程控制。 主要功能 分子结构可视化:支持展示蛋白质、核酸、小分子等多种分子的 3D 结构。自定义渲染:可对分子的表示方式、颜色以及光照…...

【学习笔记】机器学习(Machine Learning) | 第七章|神经网络(2)

机器学习(Machine Learning) 简要声明 基于吴恩达教授(Andrew Ng)课程视频 BiliBili课程资源 文章目录 机器学习(Machine Learning)简要声明 神经网络在图像识别及手写数字识别中的应用一、神经网络在图像识别中的应用&#xff0…...

【神经网络与深度学习】model.eval() 模式

引言 在深度学习模型的训练和推理过程中,不同的模式设置对模型的行为和性能有着重要影响。model.eval() 是 PyTorch 等深度学习框架中的关键操作,它用于将模型切换到评估模式(evaluation mode),确保模型在测试和推理阶…...

ASIC和FPGA,到底应该选择哪个?

ASIC和FPGA各有优缺点。 ASIC针对特定需求,具有高性能、低功耗和低成本(在大规模量产时);但设计周期长、成本高、风险大。FPGA则适合快速原型验证和中小批量应用,开发周期短,灵活性高,适合初创企…...

JavaScript 性能优化实战指南

JavaScript 性能优化实战指南 前言 随着前端应用复杂度提升,JavaScript 性能瓶颈日益突出。高效的性能优化不仅能提升用户体验,还能增强系统稳定性和可维护性。本文系统梳理了 JavaScript 性能优化的核心思路、常见场景和实战案例,结合代码…...

Unity3D HUD UI性能优化方案

前言 在Unity3D中实现高性能的HUD UI需要综合考虑渲染效率、CPU开销和内存管理。以下是分步的优化方案: 对惹,这里有一个游戏开发交流小组,大家可以点击进来一起交流一下开发经验呀! 1. 降低Draw Call:合批与图集 …...

晶圆Map图芯片选择显示示例

效果 列表中有四个Mark点,需求是选择某一个点时在Map图中区别显示出来。 实现思路: 根据DataGrid 的行选择 SelectionChanged事件,先循环所有Mark点清除Rectangle的边框大小,再获取选择的芯片,设置Rectangle的边框大小和颜色。 示例代码 1.UI代码 <DataGrid Grid.…...

HarmonyOS实战:自定义时间选择器

前言 最近在日常鸿蒙开发过程中&#xff0c;经常会使用一些时间选择器&#xff0c;鸿蒙官方提供的时间选择器满足不了需求&#xff0c;所以自己动手自定义一些经常会使用到的时间选择器&#xff0c;希望能帮到你&#xff0c;建议点赞收藏&#xff01; 实现效果 需求分析 默认…...

汽车零部件的EMI抗扰性测试

写在前面 本系列文章主要讲解汽车零部件的EMI抗扰性测试的相关知识,希望能帮助更多的同学认识和了解汽车零部件的EMI抗扰性测试。 若有相关问题,欢迎评论沟通,共同进步。(*^▽^*) 1. 背景介绍 多年以来,电磁干扰(EMI)效应一直是现代电子控制系统中备受关注的一个问题。…...

新能源汽车充电桩管理平台如何利用智慧技术优化资源配置问题?

在“双碳”目标的推动下&#xff0c;我国新能源汽车市场迅猛发展&#xff0c;但充电基础设施的供需失衡问题日益突出。部分区域充电桩利用率低下&#xff0c;而核心城区、高速服务区等场景却面临“一桩难求”的困境。智慧技术的引入为解决这一难题提供了新思路。通过物联网&…...

【zookeeper】--部署3.6.3

文章目录 下载解压创建data和logs配置文件1)创建目录并且编辑 zoo.cfg2)接下来将 node01 的 ZooKeeper 所有文件拷贝至 node02 和 node03。推荐从 node02 和 node03 拷贝4&#xff09;最后 vim /etc/profile 配置环境变量&#xff0c;环境搭建结束。配完环境变量后 source /etc…...

[低代码] 明道云调用本地部署 Dify 的进阶方法

在低代码开发平台明道云中,集成外部智能服务(如 Dify)可以极大地提升自动化和智能化能力。之前我们介绍了使用“发送自定义 API”节点直接调用本地部署的 Dify 服务的方法,虽然简单直观,但该方式存在一些限制,比如无法设置 Timeout、逻辑复用性差等问题。 为了构建更稳定…...

ICU库交叉编译

交叉编译步骤 Step 1: 先进行本机编译 ./runConfigureICU Linux/gccmake Step 2: 执行交叉编译 source /opt/fsl-imx-fb/4.14-sumo/environment-setup-cortexa9hf-neon-poky-linux-gnueabimkdir cross_install./configure --disable-samples --disable-tests --prefix/medi…...

永磁同步电机高性能控制算法(22)——基于神经网络的转矩脉动抑制算法为什么低速时的转速波动大?

0. 前言 在之前的知乎上发过一些转矩脉动抑制/谐波电流抑制的算法。例如&#xff1a; https://zhuanlan.zhihu.com/p/24723996895https://zhuanlan.zhihu.com/p/24723996895 这些算法基本上都需要先知道谐波的频率。 重复控制这个算法虽然可以抑制掉某个频率及其所有整数倍的…...

Java大厂面试实战:Spring Boot与微服务场景中的技术点解析

Java大厂面试实战&#xff1a;Spring Boot与微服务场景中的技术点解析 第一轮&#xff1a;基础技术了解 面试官&#xff1a;谢飞机&#xff0c;你好。从简历上看&#xff0c;你熟悉Spring Boot&#xff0c;那我们来聊聊它的核心功能吧。Spring Boot有哪些主要的特性&#xff…...

Pycharm 选择Python Interpreter

你的系统可能有多个 Python 环境&#xff0c;比如&#xff1a; macOS 自带的 /usr/bin/python3 你用 brew install python 安装的 /opt/homebrew/bin/python3 你可能还用了虚拟环境&#xff08;venv 或 conda&#xff09; PyCharm 默认配置可能用的是一个虚拟环境&#xff…...

文件夹如何打包成jar包

应用场景 主要是&#xff1a;比如 maven 引入一个依赖&#xff08;其实就是下载了一个 jar 包&#xff09;&#xff0c;然后需要修改 jar 包里面的某个文件&#xff0c;然后再重新打包成 jar 包&#xff0c;如下图&#xff1a; 使用方法 使用压缩工具打开这个 jar 包&#xf…...

sqli-labs第九关—‘时间盲注

一&#xff1a;判断闭合类型 先按照之前的判断方式判断&#xff0c;发现无论输入什么都显示You are in.......... 可以考虑使用时间盲注&#xff1a; 二&#xff1a;时间盲注Time-based Blind&#xff1a; 1.解释&#xff1a; 通过时间延迟判断结果 2.核心原理&#xff1a…...

10.15 LangChain v0.3重磅升级:Tool Calling技术颠覆大模型工具调用,效率飙升300%!

LangChain v0.3 技术生态与未来发展:支持 Tool Calling 的大模型 关键词:LangChain Tool Calling, 大模型工具调用, @tool 装饰器, ToolMessage 管理, Few-shot Prompting 1. Tool Calling 的技术革新 LangChain v0.3 的工具调用(Tool Calling)功能标志着大模型应用开发进…...

【C++】哈希的概念与实现

1.哈希概念 通过某种函数使元素的存储位置与它的关键码之间能够建立一一映射的关系&#xff0c;可以不经过任何比较&#xff0c;一次直接从表中得到要搜索的元素。 当向该结构中&#xff1a; 插入元素&#xff1a; 根据待插入元素的关键码&#xff0c;以此函数计算出该元素的…...

Spring 代理与 Redis 分布式锁冲突:一次锁释放异常的分析与解决

Spring 代理与 Redis 分布式锁冲突&#xff1a;一次锁释放异常的分析与解决 Spring 代理与 Redis 分布式锁冲突&#xff1a;一次锁释放异常的分析与解决1. 问题现象与初步分析2 . 原因探究&#xff1a;代理机制对分布式锁生命周期的干扰3. 问题复现伪代码4. 解决方案&#xff1…...

vue Element-ui对图片上传和选用时的比例控制

vue Element-ui对图片上传和选用时的比例控制 在后台上传图片和选用已经上传的图片时&#xff0c;往往会因为图片的比例控制不到位导致在客户端渲染时效果差强人意&#xff0c;虽然可以在操作时选择合适的比例上传&#xff0c;但必要的控制还是能完成渲染时良好的体验&#xf…...

UE5在C++项目中判断不同平台

在Unreal Engine 5的C代码中&#xff0c;可以通过以下方法判断当前运行的平台&#xff08;如Android、Windows、iOS&#xff09;&#xff0c;并根据平台执行不同的逻辑&#xff1a; 方法1&#xff1a;使用预处理器宏&#xff08;编译时判断&#xff09; Unreal Engine提供了一…...

用 CodeBuddy 实现「IdeaSpark 每日灵感卡」:一场 UI 与灵感的极简之旅

项目起点&#xff1a;一次随手的灵感 有时候&#xff0c;灵感稍纵即逝&#xff0c;尤其是面对屏幕发呆的时候。那天我忽然想到——要是能有一个每天弹出一句创意提示、灵感金句的应用就好了&#xff0c;最好配上简洁但有氛围感的 UI&#xff0c;像抽一张卡片一样&#xff0c;轻…...

std::ranges::views::as_const 和 std::ranges::as_const_view

std::ranges::views::as_const 和 std::ranges::as_const_view 是 C23 引入的视图适配器&#xff0c;用于生成一个不可变的视图&#xff0c;确保通过该视图访问元素时&#xff0c;元素被视为常量。以下是详细说明和示例&#xff1a; 基本概念 功能&#xff1a; 将输入范围的元素…...