百度智能云千帆大模型平台引领企业创新增长
本文整理自百度世界大会 2024——「智能跃迁 产业加速」论坛的同名演讲。
更多大会演讲内容，请访问：
https://baiduworld.baidu.com
首先，跟大家分享一张图，这个是我们目前大模型应用落地的场景分布。可以看到，大模型广泛渗透到各行各业，场景越来越丰富。
24 年 9 月份，我们发布了百度智能云千帆大模型平台 3.0。包括：模型开发层、模型服务层、应用开发层。提供了最专业的应用开发工具、最丰富的大模型、最全面的工具链。
在企业大模型落地的过程中，要解决很多的问题。最常见的有如何选择模型、如何构建 AI 原生应用、如何优化模型使用效果。我们给大家总结出了 3 大应用落地路径：
- 模型推理；
- 模型应用效果优化（包括提示词优化、模型精调、模型能力增强）；
- 大模型应用开发。
首先，讲模型推理。
在模型选择的过程中，我们发现 3 个趋势：
- 越来越追求效价比，效果更好兼顾成本更低；
- 根据不同需求，进行大小模型协同；
- 多模态模式协同工作；
百度智能云千帆大模型平台提供丰富的模型选择，有不同尺寸的大模型、精专垂类模型、以及传统多模态能力等。
第二个路径，模型应用效果优化，分为 3 个手段。最常见的就是提示词优化，包含 Prompt 和 Few-shot 两种方式。
举个例子，法律咨询场景，我给大模型一个指令「你是一个律师，请问经济合同纠纷案的解决流程是什么？」。可以看到大模型给出了一个基础的解决流程的答案。
要上生产环境用大模型代替律师工作，最简单就是通过提示词调优。
可以明显看到，右边增加了人设、风格、指令约束。输出结果更像真人律师，这就是提示词优化的作用。
提示词优化看似容易，其实没有那么简单，有很多的原则来适应模型和应用的需求。
为了进一步降低客户使用门槛，我们今天发布 Prompt 模板。用户可以一键复制，只要稍作改写，大模型的输出效果就会更好。
提示词优化有效果天花板。
如果想进一步提升应用场景下模型能力，第二招对模型进行模型训练，也就是我们经常说的模型精调。精调可以使模型风格、行为和应用需求对齐，有效提升模型效果。
千帆 ModelBuilder 提供的就是全流程的、模型训练和模型精调的工具链，包含：数据管理、训练模式、开发工具、评估优化、推理部署、大模型周边系统。
举个例子，宁波传媒使用千帆 ModelBuilder 模型精调工具，打造了一个小记者作文 AI 点评助手。通过视频来看下开发过程和应用效果。
今天，基于我们平台越来越多的场景实践，沉淀了一系列的模型精调样板间，进一步降低模型调优门槛。
企业只需要跟随样板间的步骤，一步一步设置模型训练的参数，就可以训练出符合企业需求的场景化模型。
我们在千帆 ModelBuilder 工具链不断迭代的过程中，又给大家提供了一个新的方法——模型蒸馏。
通过调用旗舰大模型产生的问答对，经过筛选得到有效的训练数据。在降低数据标注成本的同时，通过精调得到成本更低、耗时更优、效果趋近旗舰模型的轻量级大模型。
举个例子，百度电商数字人直播，通过模型蒸馏后，相比旗舰级模型效果能达到 90%，同时达到旗舰级 6 倍的速度，10% 的成本；更好的适应我们场景应用在效果、性能和成本之间的平衡。
客户在使用面临一个问题：模型刚上线符合预期，过了一段时间模型应用效果下降。
为什么下降？——用户请求 query 结构会发生改变。
怎么办？——持续调优。通过千帆 ModelBuilder 提供的工具链，帮企业建立自己的数据飞轮，根据用户反馈，持续迭代模型，让模型越用越聪明。
大模型应用效果优化第三招：模型能力增强。即给模型增加外部能力，比如检索增强能力和工具能力。
这个例子，是北京大学通过千帆 AppBuilder 的企业级 RAG 能力，打造了一个智能 AI 校园助手「小北学长」。
可以看到，这个校园助手的创建，就是外挂了北京大学独有的 30 万+ 知识文件，满足校园内特定场景的知识问答，回答准确率高达 95% 以上。
今天，千帆 AppBuilder 除了提供企业级 RAG 能力，还有企业级 Agent、企业级部署、企业级集成，共 4 大企业级能力。
大家知道 Agent 具备自主思考、自主编排、记忆、反思等能力，能够自主的做任务规划，一定程度上为企业降本增效。
但也有一些场景，需要严格按照企业的 SOP，也就是设定好的工作流来进行任务执行，就是我们今天全新发布的工作流 Agent 能力。
下面我们来看个例子：通过工作流 Agent，模拟航空公司客服人员，做机票退改签。
通过工作流 Agent，可实现流程高可控、低代码灵活编排、全局知识兜底、丝滑话题切换。
构建智能体应用，逐渐变成一个统一范式。
为了进一步降低应用开发门槛，我将带来今天的第三个发布：大模型应用样板间。
这些应用样板间，覆盖高达 100 多个场景。通过模板，一键复制到自己的工作台，稍作改写，就可以落地成企业自己的应用。
除了智能体作为应用载体之外，还有非常多的企业级传统应用，过去是通过写代码的方式开发，今天我们通过大模型也实现了零代码分钟级开发，它就是 AI 速搭平台。
继 9 月份云智大会发布之后，今天又有了全面的能力升级，实现了移动端的适配。
这个示例，是通过 AI 速搭一句话生成图书管理系统。
今天我的发布到此结束，非常希望通过千帆平台，以及我们的一系列样板间，持续为大家提供最低门槛、最高效易用的大模型落地工具，加速企业落地的最后一公里。
希望大家使用千帆，一起来构建更多的企业级 AI 原生应用。
应用已来，千帆助航。百度智能云千帆大模型平台愿在大模型的浪潮里，与企业一道乘风破浪，引领航向。
相关文章：
百度智能云千帆大模型平台引领企业创新增长
本文整理自百度世界大会 2024——「智能跃迁 产业加速」论坛的同名演讲。 更多大会演讲内容，请访问： https://baiduworld.baidu.com 首先，跟大家分享一张图，这个是我们目前大模型应用落地的场景分布。可以看到，大模型…...
scala统计词频
目标：统计词频 （1）从文件1.tst，读入内容，保存在一个字符串中。 （2）统计字符串中，每个单词出现的频率 （3）对结果进行排序 （4）把最后…...
CTF之密码学（费纳姆密码）
一、作为二进制替换密码的费纳姆密码 定义：费纳姆密码是一种由二进制产生的替换密码，也被称为弗纳姆密码（Vernam cipher）。它采用二进制表示法，将明文转化为二进制数字，并通过与密钥进行模2加法运算来产生密…...
postgresql按照年月日统计历史数据
1.按照日 SELECT a.time,COALESCE(b.counts,0) as counts from ( SELECT to_char ( b, YYYY-MM-DD ) AS time FROM generate_series ( to_timestamp ( 2024-06-01, YYYY-MM-DD hh24:mi:ss ), to_timestamp ( 2024-06-30, YYYY-MM-DD hh24:mi:ss ), 1 days ) AS b GROUP BY tim…...
Python 网络爬虫进阶：动态网页爬取与反爬机制应对
在上一篇文章中，我们学习了如何使用 Python 构建一个基本的网络爬虫。然而，在实际应用中，许多网站使用动态内容加载或实现反爬机制来阻止未经授权的抓取。因此，本篇文章将深入探讨以下进阶主题： 如何处理动态加载的网…...
YOLOv11融合PIDNet中的PagFM模块及相关改进思路
YOLOv11v10v8使用教程： YOLOv11入门到入土使用教程 YOLOv11改进汇总贴：YOLOv11及自研模型更新汇总 《PIDNet: A Real-time Semantic Segmentation Network Inspired by PID Controllers》 一、 模块介绍 论文链接：https://arxiv.org/pdf/2…...
使用Python实现自动化邮件通知：当长时程序运行结束时
使用Python实现自动化邮件通知：当长时程序运行结束时 前提声明 本代码仅供学习和研究使用，不得用于商业用途。请确保在合法合规的前提下使用本代码。 目录 引言项目背景项目设置代码分析 导入所需模块定义邮件发送函数发送邮件 实现步骤结语全部代码…...
smb cifs samba smbpasswd 笔记241127
smb cifs samba smbpasswd 笔记241127 SMB、CIFS和Samba都是与文件共享相关的技术，它们在不同的层面上发挥着作用。以下是关于SMB、CIFS和Samba的详细解释： SMB（Server Message Block） 定义：SMB（Server …...
)
Spring MVC练习(前后端分离开发实例)
White graces：个人主页 🙉专栏推荐:Java入门知识🙉 🐹今日诗词:二十五弦弹夜月，不胜清怨却飞来🐹 ⛳️点赞 ☀️收藏⭐️关注💬卑微小博主🙏 ⛳️点赞 ☀️收藏⭐️关注Ǵ…...
的工程)
使用 pycharm 新建不使用 python 虚拟环境( venv、conda )的工程
有时候我们发现一个好玩的 demo，想赶快在电脑上 pip install 一下跑起来，发现因为 python 的 venv、conda 环境还挺费劲的，因为随着时间的发展，之前记得很清楚的 venv、conda 的用法，不经常使用，半天跑不起…...
英语知识网站开发：Spring Boot框架应用
3系统分析 3.1可行性分析 通过对本英语知识应用网站实行的目的初步调查和分析，提出可行性方案并对其一一进行论证。我们在这里主要从技术可行性、经济可行性、操作可行性等方面进行分析。 3.1.1技术可行性 本英语知识应用网站采用SSM框架，JAVA作为开发语…...
Pandas 数据读取与导出
Pandas 是一个强大的 Python 库，用于数据处理和分析。它提供了许多函数来读取和导入数据，支持多种文件格式，如 CSV、Excel、SQL 数据库、JSON 等。以下是一些常用的数据读取和导出方法： 常用方法 格式文件格式读取函数写入&…...
Day49 | 动态规划 ：线性DP 判断子序列两个字符串的删除操作
Day49 | 动态规划 ：线性DP 判断子序列&&两个字符串的删除操作 动态规划应该如何学习？-CSDN博客 动态规划学习： 1.思考回溯法（深度优先遍历）怎么写 注意要画树形结构图 2.转成记忆化搜索 看哪些地方是重复…...
HDR视频技术之三：色度学与颜色空间
HDR 技术的第二个理论基础是色度学。从前面的内容中可以了解到，光学以及人类视觉感知模型为人类提供了解释与分析人类感知亮度的理论基础，但是 HDR 技术不仅仅关注于提升图像与视频的亮度范围，同时也关注于提供更加丰富的色彩。因此ÿ…...
nginx和netcore加载常见的3D模型
背景 数字孪生带火了3D版的Web世界，3D模型格式也是众多，常见的glb适合web传输，fbx，gltf，obj，unity等常用于模型编辑和处理。我们在用netcore或者wasm加载这些3D模型文件时，一般都需要手工增加M…...
ABAP开发学习——标准GUI状态模板的复制
补充一下创建了GUI状态后复制标准状态的方法 首先创建GUI状态 此时按钮全部都是空的 点击顶部的附加-调整模板 选择列表查看器 应用成功，下一步点击激活即可 另外需要注意，功能键中的三个图标的代码并不是习惯性写的”BACK、EXIT、CANCEL",在这个标…...
酷！用豆包MarsCode 写了一个五子棋小游戏
作者：一起重学前端 前言 2017 年，当时大学三本毕业前端工作一年，去深圳找工作面试，在拉勾上海投，接到某公司前端开发团队回复询问邮箱账号，喜滋滋的以为可以有面试了。一看邮箱，抛给我一道面试…...
IntelliJ IDEA 中，自动导包功能
在 IntelliJ IDEA 中，自动导包功能可以极大地提高开发效率，减少手动导入包所带来的繁琐和错误。以下是如何在 IntelliJ IDEA 中设置和使用自动导包功能的详细步骤： 一、设置自动导包 打开 IntelliJ IDEA： 启动 IntelliJ IDEA 并打…...
c#异步编程（async/await）
注：下文摘自ChatGPT，总结与案例都非常完善，可以快速理解并应用 0：使用场景 在winform界面程序中，在ui操作中涉及到一些耗时的等待操作，使用线程自己处理已经显得力不从心，如何能更好的实现&am…...
使用vcpkg自动链接tinyxml2时莫名链接其他库（例如boost）
使用vcpkg自动链接tinyxml2时莫名链接其他库（例如boost） vcpkg的自动链接功能非常方便，但在某些情况下会出现过度链接的问题。 链接错误症状 以tinyxml2为例，程序中调用tinyxml2的函数后，若vcpkg中同时存在opencv和…...
cocoscreater3.8.4生成图集并使用
1.安装texturepacker，去官网下载https://www.codeandweb.com/texturepacker 2.将图片拖动进来，即可自动生成精灵表，这里输出选用cocos2d-x，打包用免费版的“基本”就行，高级模式是收费的，然后点击“发布精…...
Ettercap工具使用说明
文章目录 Ettercap 简介Ettercap 的主要功能Ettercap 的安装在 Kali Linux（或基于 Debian 的系统）上安装：在其他操作系统上： Ettercap 的使用方式1. 基本模式2. MITM 攻击ARP 欺骗DNS 欺骗 3. 嗅探模式 常用插件防御建议 Ettercap…...
Linux 如何创建逻辑卷并使用
一、逻辑卷的介绍 生成环境中逻辑卷使用率很高 逻辑卷的诞生：如果对磁盘直接使用fdisk分区，那么这中分区，我们叫做Linux的标准分区，Linux的标准分区格式化成文件系统之后，挂载使用，那么一旦文件系统的空间…...
laravel-operate
php artisan cache:clear php artisan config:clear php artisan route:clear php artisan view:clear 1、查看artisan所有命令； php artisan list 2、查看命令描述及参数和选项； php artisan（n.工匠、技工） help migration&…...
探索Python WebSocket新境界：picows库揭秘
文章目录 探索Python WebSocket新境界：picows库揭秘第一部分：背景介绍第二部分：picows库概述第三部分：安装picows库第四部分：简单库函数使用方法第五部分：场景应用第六部分：常见Bug及解决方案第…...
海康VsionMaster学习笔记（学习工具+思路）
一、前言 VisionMaster算法平台集成机器视觉多种算法组件，适用多种应用场景，可快速组合算法，实现对工件或被测物的查找测量与缺陷检测等。VM算法平台依托海康威视在图像领域多年的技术积淀，自带强大的视觉分析工具库，可…...
Java面试题、八股文——JVM篇最终篇
1.如何选择垃圾收集器？ 选择合适的垃圾收集器（Garbage Collector, GC）对于优化Java应用程序的性能至关重要。不同的应用场景和系统需求可能需要不同类型的垃圾收集器来满足。以下是一些考虑因素以及常见的垃圾收集器选项，帮助您做…...
C++ 11重点总结2
1C11多线程 主要对少用的知识点进行详细描述，用的多的就给示例。照猫画虎 #include<thread> // 默认构造函数 thread() // 初始化构造函数 template<class Fn, class... Args> explicit thread(Fn&& fn, Args&&... args) // 移动构造…...
什么是 C++ 中的函数对象？它有什么特点？
在 C 中，函数对象（Function Object）是一种可调用对象，它允许像函数一样被调用，但实际上它可能并不是真正的函数。函数对象可以是以下几种类型之一： 普通函数： 一个普通的、定义在命名空间或类…...
Golang 反射
一、Go反射的应用场景 （一）对象序列化和反序列化 场景描述 在处理网络通信，数据存储等场景中，需要将对象转换为字节流（序列化）以便传输或存储，在接收端再将字节流转换回对象（反序列…...
)
hhdb数据库介绍(10-7)
OEM管理 为方便更换管理平台的产品Logo以及产品名称信息。引入“OEM管理功能”对外提供可视化更新Logo以及产品名称信息的入口。 功能入口： 具有管理权限的用户登录平台，通过 OEM管理的超链接进入功能页面，超链接路径需要在原访问页面url的…...
RabbitMQ的预取值详解
RabbitMQ的预取值（Prefetch Value）是一个关键概念，它决定了消费者在从队列中获取消息时，一次性可以获取的消息数量。这一机制对于优化消息分发和消费者的负载均衡至关重要。 什么是RabbitMQ的预取值？ 预取值是指消费者…...
mysql 触发器进入历史
一、触发器 MySQL 触发器（Triggers）是一种数据库对象，它与表关联，能在特定的事件（如插入、更新或删除）发生时自动执行一些指定的操作。使用触发器可以帮助我们自动维护数据库的完整性、一致性，…...
通过数巅能源大模型降本增效
在能源行业中，数据的有效利用对于企业的决策和运营至关重要。随着业务的发展，企业面临着数据分散、数据分析效率低、报告生成耗时等问题，制约了企业的发展和竞争力的提升。 数巅能源大模型解决方案 数巅科技推出了能源大模型解决方案&#x…...
如何编写出色的技术文档
目录 编辑 1. 明确文档目的和受众 目的的重要性 了解受众 2. 收集和组织信息 信息收集的技巧 组织信息 3. 规划文档结构 结构规划的重要性 结构规划的步骤 4. 编写内容 语言和风格 内容的组织 编写技巧 5. 审阅和测试 审阅的重要性 测试的必要性 6. 版本控…...
)
摄像头原始数据读取——gstreamer(gst_parse_launch)
摄像头原始数据读取——gstreamer(gst_parse_launch) #include <stdio.h> #include <string.h> #include <stdlib.h>#ifdef __cplusplus extern "C" { #endif#include <gst/gst.h>#ifdef __cplusplus }; #endifstatic gboolean bus_msg_tim…...
矩阵/矩阵乘法/特征值/特征向量的讲解
线性代数里有很多的概念，很多概念是有几何意义的，了解了几何意义可能会更好的理解各种概念及其相互之间的关系。 矩阵： 矩阵是一个变换，一个坐标系到另一个坐标系的变换。矩阵里的各个参数，代表了如何进行变换。 矩阵…...
docker-compose搭建xxl-job、mysql
docker-compose搭建xxl-job、mysql 1、搭建docker以及docker-compose2、下载xxl-job需要数据库脚本3、创建文件夹以及docker-compose文件4、坑来了5、正确配置6、验证-运行成功 1、搭建docker以及docker-compose 略 2、下载xxl-job需要数据库脚本 下载地址：https…...
《图像形态学运算全解析：原理、语法及示例展示》
简介： 本文详细介绍了图像形态学中的多种运算，包括腐蚀、膨胀、开运算、闭运算、形态学梯度运算、礼帽运算以及黑帽运算。分别阐述了各运算的原理、语法格式，并通过 Python 代码结合具体示例图片（如erode.JPG、dilate.JPG、close.…...
【面试分享】C++ 中结构体（struct）和类（class）的区别
在 C中，结构体（struct）和类（class）有一些相似之处，但也存在一些重要的区别： 一、默认访问权限 结构体： 在 C中，结构体的默认成员访问权限是public（公有&…...
Rk3588 onnx转rknn，出现 No module named ‘rknn‘
一、操作步骤： rk3588 需要将yolo11 的模型onnx转rknn。 https://github.com/airockchip/rknn_model_zoo/tree/main/examples/yolo11 这个是用yolo11训练的模型，有80种类型。 完整下载下来后，在按文档描述下载模型下来： 然后进…...
HarmonyOS：@Provide装饰器和@Consume装饰器：与后代组件双向同步
一、前言 Provide和Consume，应用于与后代组件的双向数据同步，应用于状态数据在多个层级之间传递的场景。不同于上文提到的父子组件之间通过命名参数机制传递，Provide和Consume摆脱参数传递机制的束缚，实现跨层级传递。 其中Provi…...
在并发情况下，Elasticsearch如果保证读写一致？
大家好，我是锋哥。今天分享关于【在并发情况下，Elasticsearch如果保证读写一致？】面试题。希望对大家有帮助； 在并发情况下，Elasticsearch如果保证读写一致？ 1000道 互联网大厂Java工程师 精选面试题-Java…...
通过 SSH 进行WordPress网站的高级服务器管理
我在管理hostease的服务器时，时常需要通过SSH登录服务器进行修改。而在网站管理中，SSH不仅是一个基础工具，更是高级用户用来精细化管理和优化服务器的重要工具。通过SSH，你可以深入监控服务器的性能、精细管理系统资源，…...
关闭AWS账号后，服务是否仍会继续运行？
在使用亚马逊网络服务（AWS）时，用户有时可能会考虑关闭自己的AWS账户。这可能是因为项目结束、费用过高，或是转向使用其他云服务平台。然而，许多人对关闭账户后的服务状态感到困惑，我们九河云和大家一起探讨…...
PostgreSQL数据库参数调优实践
PostgreSQL（简称PG）数据库的性能调优是一个复杂但至关重要的过程，特别是在处理大量数据和复杂查询时。通过合理设置和调整数据库参数，可以显著提升数据库的性能和响应速度。本文将从多个方面详细介绍PostgreSQL数据库参数调优的实…...
Leetcode - 144双周赛
目录 一，3360. 移除石头游戏 二，3361. 两个字符串的切换距离 三，3362. 零数组变换 III 四，3363. 最多可收集的水果数目 一，3360. 移除石头游戏 本题直接模拟过程，可以额外使用一个布尔变量标记谁赢&…...
微信小程序全局配置：TabBar与页面配置详解
微信小程序全局配置：TabBar与页面配置详解 引言 随着移动互联网的迅猛发展，微信小程序作为一种新兴的应用形式，因其便捷性和丰富的功能而受到广泛欢迎。在小程序的开发过程中，全局配置是非常重要的一环，尤其是tabBar和页面的配置。本文将深入探讨微信小程序的全局配置，…...
）)
Linux创建免密登陆（错误：Permission denied (publickey,gssapi-keyex,gssapi-with-mic)）
报错截图 解决方法 1. mkdir -p ~/.ssh 2. chmod 700 ~/.ssh 3. ssh-keygen，一直回车 4. chmod 600 /root/.ssh/id_rsa 5. 将公钥内容追加到服务器上，cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys 6. chmod 600 ~/.ssh/authorized_keys…...
机器学习深掘临床研究中小分子代谢标志物的探索与应用
摘要 随着生命科学的发展，小分子生物标志物在临床研究中的作用日益凸显。机器学习技术为挖掘小分子生物标志物提供了强大工具。本文介绍了小分子生物标志物的定义、分类及在临床医学中的应用，阐述了常用机器学习算法在生物标志物挖掘中的优势࿰…...