当前位置： 首页 > news >正文

揭开AI-OPS 的神秘面纱 第四讲 AI 模型服务层（自研方向）

news 来源：原创 2025/8/26 19:41:52

A-corern

AI 模型服务层技术架构与组件选型分析（自研方向）

基于自有开发寻训练方向

AI 模型服务层 是 AI-Ops 架构的 核心智能引擎，负责构建、训练、部署、管理和监控各种 AI 模型，为上层应用服务层提供智能分析和决策能力。 AI 模型服务层需要提供一个灵活、可扩展、高性能的平台，支持模型的全生命周期管理，并能够方便地与数据平台层和应用服务层集成。

AI 模型服务层的主要职责包括：

  • 模型构建: 提供模型开发工具、框架和环境，支持模型设计、编码、调试和测试。
  • 模型训练: 利用数据平台层提供的训练数据，训练 AI 模型，支持分布式训练、超参数优化、模型评估等。
  • 模型注册和版本管理: 将训练好的模型注册到模型仓库，进行版本管理，方便模型的复用、回滚和升级。
  • 模型部署: 将模型部署为在线推理服务

相关文章：

揭开AI-OPS 的神秘面纱 第四讲 AI 模型服务层（自研方向）

AI 模型服务层技术架构与组件选型分析（自研方向） 基于自有开发寻训练方向 AI 模型服务层 是 AI-Ops 架构的 核心智能引擎，负责构建、训练、部署、管理和监控各种 AI 模型，为上层应用服务层提供智能分析和决策能力。 AI 模型服务层需要提供一个灵活、可扩展、高性能的平台…...

编程日记 2025/8/26 19:41:52

[通俗易懂C++]:std::optional

[通俗易懂C]:std::optional 考虑下面这样一个函数: int doIntDivision(int x, int y) {return x / y; }如果调用者传入一个语义上无效的值（例如 y 0 ），此函数无法计算一个返回值（因为除以 0 在数学上是未定义的）。在…...

编程日记 2025/8/26 19:30:08

深入理解与配置 Nginx TCP 日志输出

一、背景介绍 在现代网络架构中，Nginx 作为一款高性能的 Web 服务器和反向代理服务器，广泛应用于各种场景。除了对 HTTP/HTTPS 协议的出色支持，Nginx 从 1.9.0 版本开始引入了对 TCP 和 UDP 协议的代理功能，这使得它在处理数据库…...

编程日记 2025/8/26 19:39:30

使用 vxe-table 导出 excel，支持带数值、货币、图片等带格式导出

使用 vxe-table 导出 excel，支持带数值、货币、图片等带格式导出，通过官方自动的导出插件 plugin-export-xlsx 实现导出功能 查看官网：https://vxetable.cn gitbub：https://github.com/x-extends/vxe-table gitee：htt…...

编程日记 2025/8/26 19:32:29

Spring-事务

Spring 事务 事务的基本概念 🔹 什么是事务？ 事务是一组数据库操作，它们作为一个整体，要么全部成功，要么全部回滚。 常见的事务场景： 银行转账（扣款和存款必须同时成功） 订单系统…...

编程日记 2025/8/26 19:34:47

开源项目介绍：Native-LLM-for-Android

项目地址：Native-LLM-for-Android 创作活动时间：2025年 支持在 Android 设备上运行大型语言模型 （LLM） ，具体支持的模型包括： DeepSeek-R1-Distill-Qwen: 1.5B Qwen2.5-Instruct: 0.5B, 1.5B Qwen2/2.5VL:…...

编程日记 2025/8/26 0:55:44

vocabulary is from your listening,other speaking and your thought.

不要把单词放在自己的大脑里，放在自己的嘴巴里，自己在那疯狂重复的recite，its futile.只是单点记忆单词，记住也是temporary，而且是单点的记忆，当别人说此词汇，你也听不懂或分辨就是这个单词&…...

编程日记 2025/8/26 3:52:49

前端知识点---路由模式-实例模式和单例模式(ts)

在 ArkTS（Ark UI 框架）中，路由实例模式（Standard Instance Mode）主要用于管理页面跳转。当创建一个新页面时，可以选择标准实例模式（Standard Mode）或单实例模式（Single M…...

编程日记 2025/8/26 19:32:27

Matplotlib库中color 参数颜色有多少种

**当我们绘图超过十几种颜色。我都是 定义颜色列表（ ** colors [blue, green, red, cyan, magenta, yellow, greenyellow, orange, purple, brown, pink, gray]1、 颜色名称 Matplotlib常用的颜色名称： red 或 r green 或 g blue 或 b yellow 或 y cy…...

编程日记 2025/8/26 19:39:30

LINUX虚拟机中，不能播放RTSP设备，怎么办

首先，主机能够打开RTSP设备。虚拟机无法打开。 虚拟机网络设置 桥接网卡，选择正确的网卡。 虚拟机IP设置 需要是同一个网段。交换机的设备是192.168.1.192 用ffplay测试...

编程日记 2025/8/26 19:41:51

宝塔的ssl文件验证域名后，会在域名解析列表中留下记录吗？

在使用宝塔面板进行SSL证书验证域名后，通常不会在域名解析列表中留下记录。验证过程中添加的TXT记录仅用于验证域名的所有权，一旦验证完成，就可以安全地删除这些记录，不会影响SSL证书的正常使用。根据搜索结果，DNS验证…...

编程日记 2025/8/26 19:41:51

mitt 依赖库详解

一、概述 mitt 是一个极其轻量级的 JavaScript 事件发射器库，实现了发布-订阅模式。该模式允许对象间松散耦合，一个对象（发布者）可以发布事件，而其他对象（订阅者）可以监听这些事件并作出响应。…...

编程日记 2025/8/26 15:38:52

OSPF网络类型：NBMA与P2MP

一、NBMA网络 NBMA网络的特点 连接方式： 支持多台设备连接到同一个网络段，但网络本身不支持广播或组播。典型例子：帧中继、ATM。 DR/BDR选举： 由于网络不支持广播，OSPF需要手动配置邻居。 仍然会选举DR&#xff08…...

编程日记 2025/8/21 1:16:21

VUE叉的工作原理？

Vuex 是 Vue.js 的一个专门用于状态管理的库，其工作原理基于单向数据流和集中式存储，旨在解决跨组件之间状态共享和管理的复杂性。以下是 Vuex 的核心工作原理及其关键组成部分： 核心概念 State（状态） Vuex 使用一个单…...

编程日记 2025/8/24 21:49:49

H.264语法结构分析之frame_cropping_flag

技术背景 开发者对接我们轻量级RTSP服务的时候，利用部分开源的播放器，播放流数据的时候，说分辨率不对，导致看到的图像有问题，用我们的player或常见的通用播放器，又都是好的，这就扯到了今天的主…...

编程日记 2025/8/26 19:34:49

【智能体】本地安装Conda和搭建OpenManus环境

整理不易，请不要令色你的赞和收藏。 1. 前言 没体验到 Manus？不妨使用 MetaGPT 开源的 OpenManus 搭建自己的 Manus。本文将带你安装 Conda 并搭建自己的 Manus。 2. 前提条件 已安装 conda，没安装的话，下文有介绍。 OpenManu…...

编程日记 2025/8/26 19:32:26

【linux网络编程】套接字编程API详细介绍

在C语言中&#xff0c;套接字&#xff08;Socket&#xff09;编程主要用于网络通信&#xff0c;尤其是在基于TCP/IP协议的应用程序开发中。常用的套接字编程API主要基于Berkeley Sockets&#xff08;伯克利套接字&#xff09;接口&#xff0c;这些函数通常在<sys/socket.h&g…...

编程日记 2025/8/26 19:39:31

杂项知识笔记搜集

1.pygame pygame可以画出来图形界面&#xff0c;pygame Python仓库 PyGame游戏编程_游戏程序设计csdn-CSDN博客 2.V4L2库 V4L2是Linux上的Camera采集器的框架 Video for Linux &#xff0c;是从Linux2.1版本开始支持的。HDMI视频采集卡采集到的视频通过USB3.0输出&#xff0…...

编程日记 2025/8/26 19:30:12

模型微调——模型性能提升方法及注意事项（自用）

名词补充 人为为训练数据标注的标签称为黄金标准或真实值&#xff0c;这个过程一定程度上保证训练的准确性&#xff0c;但是其人工标注的成本和时间很高&#xff0c;并且标注的标签受人的主观因素影响。 导致模型性能不佳的因素和解决办法 ①不同类别的数据不平衡&#xff1a;统…...

编程日记 2025/8/25 19:44:47

RabbitMQ之旅(1)

相信自己,终会成功 目录 主流MQ产品 1.kafaka 2.RocketMQ 3.RabbitMQ 在xshell上安装RabbitMQ RabbitMQ七种工作模式 1.简单模式 ​编辑 2.工作队列模式 3.发布/订阅模式 4.路由模式 5.通配符模式 6.RPC模式 AMQP.BasicProperties 设置消息属性的类 7.发布确认模…...

编程日记 2025/8/23 20:40:03

TCP7680端口是什么服务

WAF上看到有好多tcp7680端口的访问信息 于是上网搜索了一下&#xff0c;确认TCP7680端口是Windows系统更新“传递优化”功能的服务端口&#xff0c;个人理解应该是Windows利用这个TCP7680端口&#xff0c;直接从内网已经具备更新包的主机上共享下载该升级包&#xff0c;无需从微…...

编程日记 2025/8/20 8:04:36

跟着 Lua 5.1 官方参考文档学习 Lua (11)

文章目录 5.4.1 – PatternsCharacter Class:Pattern Item:Pattern:Captures: string.find (s, pattern [, init [, plain]])例子&#xff1a;string.find 的简单使用 string.match (s, pattern [, init])string.gmatch (s, pattern)string.gsub (s, pattern, repl [, n])例子&…...

编程日记 2025/8/24 16:42:33

＜script setup＞和export default { setup() { ... } }区别

在 Vue 3 组合式 API&#xff08;Composition API&#xff09;中&#xff0c;<script setup> 和 export default setup() {} 都用于定义组件的逻辑&#xff0c;但它们有一些重要的区别&#xff1a; 1️⃣ <script setup>&#xff08;推荐&#xff09; ✅ 更简洁、…...

编程日记 2025/8/26 11:35:42

leetcode hot100--动态规划【五步总纲】

五步&#xff1a; 1.dp数组以及下标定义 dp[i] 2.递推公式 dp[n]dp[n-1]dp[n-2] 3.dp数组如何初始化 注意&#xff1a;判断边界条件&#xff0c;n0dp[1]就不存在【斐波那契】 4.遍历顺序 for循环顺序 5.打印数组【debug】 第一题&#xff1a;斐波那契数列 首先回顾了…...

编程日记 2025/8/26 6:58:37

RtlLookupAtomInAtomTable函数分析之RtlpAtomMapAtomToHandleEntry函数的作用是验证其正确性

第一部分&#xff1a; NTSTATUS RtlLookupAtomInAtomTable( IN PVOID AtomTableHandle, IN PWSTR AtomName, OUT PRTL_ATOM Atom OPTIONAL ) { NTSTATUS Status; PRTL_ATOM_TABLE p (PRTL_ATOM_TABLE)AtomTableHandle; PRTL_ATOM_TABLE_ENTRY a; …...

编程日记 2025/8/26 19:39:30

【从零开始学习计算机科学】硬件设计与FPGA原理

硬件设计 硬件设计流程 在设计硬件电路之前，首先要把大的框架和架构要搞清楚，这要求我们搞清楚要实现什么功能，然后找找有否能实现同样或相似功能的参考电路板（要懂得尽量利用他人的成果，越是有经验的工程师越会懂得借鉴他人的成果）。如果你找到了的参考设计，最好还是…...

编程日记 2025/8/20 12:20:05

todo: 使用融云imserve做登录(android)

使用融云做登录注册思路 注册界面需要name, email, password考虑到融云注册用户的post格式 POST http://api.rong-api.com/user/getToken.json?userId1690544550qqcom&nameIronman这里的userId可以使用用户的email&#xff0c;但是要截断和 . 符号&#xff0c;即1690544…...

编程日记 2025/8/26 19:41:52

从0开始的操作系统手搓教程23：构建输入子系统——实现键盘驱动1——热身驱动

目录 所以&#xff0c;键盘是如何工作的 说一说我们的8042 输出缓冲区寄存器 状态寄存器 控制寄存器 动手&#xff01; 注册中断 简单整个键盘驱动 Reference ScanCode Table 我们下一步就是准备进一步完善我们系统的交互性。基于这个&#xff0c;我们想到的第一个可以…...

编程日记 2025/8/26 5:16:50

Azure云生态系统详解：核心服务、混合架构与云原生概念

核心服务&#xff1a;深入掌握Azure SQL Database、Azure Database for PostgreSQL、Azure Database for MySQL的架构、备份恢复、高可用性配置&#xff08;如Geo-Replication、自动故障转移组、异地冗余备份&#xff09;。混合架构&#xff1a;熟悉Azure Arc&#xff08;管理混…...

编程日记 2025/8/26 19:39:30

Unity Dots

文章目录 什么是DotsDOTS的优势ECS&#xff08;实体组件系统&#xff09;Job System作业系统Burst编译器最后 什么是Dots DOTS&#xff08;Data-Oriented Technology Stack&#xff09;是Unity推出的一种用于开发高性能游戏和应用的数据导向技术栈&#xff0c;包含三大核心组件…...

编程日记 2025/8/24 10:29:01

SAP DOI EXCEL宏的使用

OAOR里上传EXCEL模版 屏幕初始化PBO创建DOI EXCEL对象&#xff0c;并填充EXCEL内容 *&---------------------------------------------------------------------* *& Module INIT_DOI_DISPLAY_9100 OUTPUT *&--------------------------------------------…...

编程日记 2025/8/24 10:27:06

VSTO（C#）Excel开发3：Range对象 处理列宽和行高

初级代码游戏的专栏介绍与文章目录-CSDN博客 我的github&#xff1a;codetoys&#xff0c;所有代码都将会位于ctfc库中。已经放入库中我会指出在库中的位置。 这些代码大部分以Linux为目标但部分代码是纯C的&#xff0c;可以在任何平台上使用。 源码指引&#xff1a;github源…...

编程日记 2025/8/23 23:06:42

单链表基本操作的实现与解析(补充)

目录 一、引言 二、代码实现 遍历考虑情况 三、操作解析 查找操作&#xff08;sltfind函数&#xff09; 前插操作&#xff08;sltinsert函数&#xff09; 后插操作&#xff08;sltinsertafter函数&#xff09; 前删操作&#xff08;slterase函数&#xff09; 后删操作&…...

编程日记 2025/8/26 19:30:13

电子学会—2024年月6青少年软件编程(图形化)四级等级考试真题——魔法门

魔法门 1.准备工作 (1)保留默认角色小猫和白色背景; (2)添加角色Home Button&#xff0c;复制9个造型&#xff0c;在每个造型上分别加上数字1到9&#xff0c;如下图所示; 2.功能实现 (1)程序开始&#xff0c;依次克隆出五个Home Button&#xff0c;克隆体之间的间距为90; …...

编程日记 2025/8/23 0:01:53

《加快应急机器人发展的指导意见》中智能化升级的思考——传统应急设备智能化升级路径与落地实践

感谢阅读本次内容分享&#xff0c;下面我将解读分析《加快应急机器人发展的指导意见》&#xff0c;喜欢的点赞支持一下呗~(日更真的很辛苦~)&#xff0c;欢迎评论区留言讨论&#xff0c;你们的发言我都会看到~ 《加快应急机器人发展的指导意见》中智能化升级的思考——传统应急…...

编程日记 2025/8/26 19:32:29

Git系列之git tag和ReleaseMilestone

以下是关于 Git Tag、Release 和 Milestone 的深度融合内容&#xff0c;并补充了关于 Git Tag 的所有命令、详细解释和指令实例&#xff0c;条理清晰&#xff0c;结合实际使用场景和案例。 1. Git Tag 1.1 定义 • Tag 是 Git 中用于标记特定提交&#xff08;commit&#xf…...

编程日记 2025/8/25 0:46:23

【每日学点HarmonyOS Next知识】Web上传文件、监听上下左右区域连续点击、折叠悬停、字符串相关、播放沙盒视频

1、HarmonyOS APP内h5原生webview input[typefile]无法唤醒手机上传&#xff1f; 文件上传要使用对应的picker https://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V5/web-file-upload-V5 Web组件支持前端页面选择文件上传功能&#xff0c;应用开发者可以使用on…...

编程日记 2025/8/22 21:45:15

解决电脑问题（3）——显示器问题

当电脑显示器出现问题时&#xff0c;可以根据不同的故障现象采取相应的解决方法&#xff0c;以下是一些常见的情况及解决措施&#xff1a; 屏幕无显示 检查连接&#xff1a;首先检查显示器与电脑主机之间的视频连接线是否插好&#xff0c;确保两端的接口都牢固连接&#xff0c…...

编程日记 2025/8/21 16:49:09

AArch64架构及其编译器

—1.关于AArch64架构 AArch64是ARMv8-A架构的64位执行状态&#xff0c;支持高性能计算和大内存地址空间。它广泛应用于现代处理器&#xff0c;如苹果的A系列芯片、高通的Snapdragon系列&#xff0c;以及服务器和嵌入式设备。 • 编译器&#xff1a;可以使用GCC、Clang等编译器编…...

编程日记 2025/8/22 11:03:06

免费送源码：Java+springboot+MySQL 房屋租赁系统小程序的设计与实现 计算机毕业设计原创定制

目 录 摘要 1 1 绪论 1 1.1选题意义 1 1.2开发现状 1 1.3springboot框架介绍 1 1.4论文结构与章节安排 1 2 房屋租赁系统小程序系统分析 3 2.1 可行性分析 3 2.1.1 技术可行性分析 3 2.1.2 经济可行性分析 3 2.1.3 法律可行性分析 3 2.2 系统功能分析 3 2.2.1 功…...

编程日记 2025/8/25 9:19:48

前端数据模拟 Mock.js 学习笔记

mock.js介绍 Mock.js是一款前端开发中拦截Ajax请求再生成随机数据响应的工具&#xff0c;可以用来模拟服务器响应 优点是&#xff1a;非常方便简单&#xff0c;无侵入性&#xff0c;基本覆盖常用的接口数据类型支持生成随机的文本、数字、布尔值、日期、邮箱、链接、图片、颜…...

编程日记 2025/8/22 5:21:47

【Linux内核系列】：深入解析输出以及输入重定向

&#x1f525; 本文专栏&#xff1a;Linux &#x1f338;作者主页&#xff1a;努力努力再努力wz ★★★ 本文前置知识&#xff1a; 文件系统以及文件系统调用接口 用c语言简单实现一个shell外壳程序 内容回顾 那么在此前的学习中&#xff0c;我们对于Linux的文件系统已经有了…...

编程日记 2025/8/21 5:09:36

Adam 优化器与动量法：二阶矩与 ODE 的联系

Adam 优化器与动量法&#xff1a;二阶矩与 ODE 的联系 作为深度学习研究者&#xff0c;你一定对 Adam&#xff08;Adaptive Moment Estimation&#xff09;优化器非常熟悉。它因自适应学习率和高效率而成为训练神经网络的标配算法。Adam 使用了一阶动量&#xff08;梯度的指数…...

编程日记 2025/8/23 10:23:05

嵌入式学习第二十三天--网络及TCP

进程通信的方式: 同一主机 传统 system V 不同主机 网络 --- 解决不同主机间 的进程间通信 网络 (通信) //1.物理层面 --- 联通(通路) //卫星 2G 3G 4G 5G 星链 (千帆) //2.逻辑层面 --- 通路(软件) MAC os LINUX …...

编程日记 2025/8/24 21:49:07

前端表单提交与后端处理全解析：从HTML到Axios与SpringBoot实战

前端表单提交与后端处理全解析：从HTML到Axios与SpringBoot实战 一、GET与POST请求的两种面孔 1. HTML表单基础实现 <!-- GET请求示例：搜索表单 --> <form action="/api/search" method="GET"><input type="text" name="…...

编程日记 2025/8/24 2:11:05

python django orm websocket html 实现deepseek持续聊天对话页面

最终效果&#xff1a; 技术栈&#xff1a; python django orm websocket html 项目结构&#xff1a; 这里只展示关键代码&#xff1a; File: consumers.py # -*- coding:utf-8 -*- # Author: 喵酱 # time: 2025 - 03 -02 # File: consumers.py # desc: import json from asg…...

编程日记 2025/8/24 19:46:04

大白话html语义化标签优势与应用场景

大白话html语义化标签优势与应用场景 大白话解释 语义化标签就是那些名字能让人一看就大概知道它是用来做什么的标签。以前我们经常用<div>来做各种布局&#xff0c;但是<div>本身没有什么实际的含义&#xff0c;就像一个没有名字的盒子。而语义化标签就像是有名…...

编程日记 2025/8/19 23:52:15

考研英语语法全攻略：从基础到长难句剖析​

引言 在考研英语的备考之旅中，语法犹如一座灯塔，为我们在浩瀚的英语知识海洋中指引方向。无论是阅读理解中复杂长难句的解读，还是写作时准确流畅表达的需求，扎实的语法基础都起着至关重要的作用。本文将结合有道考研语法基础入门课的相关内容，为大家全面梳理考研英语语法…...

编程日记 2025/8/17 13:31:30

Vue3 生命周期

回顾Vue2的生命周期 创建&#xff08;创建前&#xff0c;创建完毕&#xff09;beforeCreate、created挂载&#xff08;挂载前&#xff0c;挂载完毕&#xff09;beforeMount、mounted更新&#xff08;更新前&#xff0c;更新完毕&#xff09;beforeUpdate、updated销毁&#xf…...

编程日记 2025/8/26 17:08:25

hbase-05 namespace、数据的确界TTL

要点 掌握HBase的命名空间namespace概念 掌握HBase数据版本确界 掌握HBase数据TTL 1. HBase的namespace 1.1 namespace基本介绍 在HBase中&#xff0c;namespace命名空间指对一组表的逻辑分组&#xff0c;类似RDBMS中的database&#xff0c;方便对表在业务上划分。Apache…...

编程日记 2025/8/25 11:06:21