IBM:生成式AI时代的网络安全研究报告
《生成式 AI 时代的网络安全》由 IBM 发布,该报告指出随着生成式 AI 在企业中的广泛应用,网络安全面临新的挑战与机遇。
一、简介
网络安全领导者在面对生成式 AI 带来的变革时,需应对其潜在风险。尽管生成式 AI 能大幅提高企业生产力,但也可能导致数据泄露等安全问题。黑客可能利用生成式 AI 发起更具针对性和规模性的网络攻击,如创建逼真的网络钓鱼邮件、深度伪造音频等。同时,企业也可利用 AI 进行网络安全防护,本指南旨在帮助企业应对这些挑战。
二、网络罪犯使用生成式 AI 的方式
- 攻击组织:利用大型语言模型快速创建大量网络钓鱼邮件,增加用户点击恶意链接的风险;通过聊天机器人研究受害者信息,进行更具针对性的网络钓鱼攻击,即“网络钓鱼 3.0”。
- 攻击 AI:对企业 AI 模型“投毒”,注入恶意训练数据,使模型出现故障或恶意行为;利用自然语言提示“破解”语言模型,获取机密信息、创建恶意代码或提供错误安全建议。
三、AI 在网络安全中的作用
网络安全领域面临人员短缺、数据激增和攻击面扩大等挑战。传统 AI 解决方案已被用于网络安全,可帮助安全运营中心分析师评估风险和推荐应对措施,提高安全运营效率。生成式 AI 作为网络安全的增力因素,可自动执行重复任务,加速威胁搜寻,解释机器生成数据,整理威胁情报等,提升安全团队的工作效率和能力。
四、保护 AI 的风险与建议
- 风险:
- 软件供应链风险:企业使用生成式 AI 开发软件时,可能因 AI 未接受安全代码训练,增加安全风险;同时,企业可能基于存在风险的开源代码和商业软件组件构建软件,导致新的风险暴露。
- 仓促的数据安全实践:企业急于应用生成式 AI,可能忽视数据安全最佳实践,如加密、驻留和特权访问控制等。
- 幻觉:使用生成式 AI 生成的代码构建软件,可能存在错误或幻觉,损害源代码的完整性和安全性。
- 数据泄露:若对第三方 AI 引擎监督治理不当,组织可能面临机密数据暴露的风险,且新的攻击方式可能削弱模型性能。
- 黑匣效应:部分 AI 处理过程缺乏可见性、透明度和可解释性,给安全管理带来困难。
- 建议:
- 保护数据:使用数据发现和分类检测敏感数据,实施加密、访问管理和合规性监控等数据安全控制,防止数据丢失。
- 保护模型:扫描漏洞、强化集成,配置策略和访问控制,保护 AI 模型开发。
- 确保使用安全:检测数据或提示泄漏,监控恶意输入,实施 AI 安全解决方案,开发响应运行手册。
- 保护基础架构:在底层 AI 基础架构中扩展网络安全策略和解决方案,加强威胁检测与响应、数据安全等。
- 建立 AI 治理:构建具备 AI 治理框架,实现负责任、可解释、高质量且值得信赖的 AI 模型,监控公平性、偏差和漂移,自动记录模型资料以支持审计,整合多个工具和平台。
总之,生成式 AI 为网络安全带来了新的挑战,但也为网络安全防护提供了新的机遇和手段。企业应充分认识到这些风险,采取相应的保护措施,建立完善的 AI 治理框架,确保在享受生成式 AI 带来的便利和效益的同时,保障网络安全。随着生成式 AI 的不断发展,网络安全指南也将不断完善,以适应新的安全需求。
相关文章:
IBM:生成式AI时代的网络安全研究报告
《生成式 AI 时代的网络安全》由 IBM 发布,该报告指出随着生成式 AI 在企业中的广泛应用,网络安全面临新的挑战与机遇。 一、简介 网络安全领导者在面对生成式 AI 带来的变革时,需应对其潜在风险。尽管生成式 AI 能大幅提高企业生产力&…...
用于完成个人搜索的反向图像搜索工具
简介: Infringement.report 提供了一个强大的反向图像搜索工具,称为 Raider。这对于网络安全人员和渗透测试人员来说,是一个不可或缺的工具。 主要功能: 反向图像搜索: 该工具允许用户通过图像进行搜索,…...
JavaEE 从入门到精通(二) ~SpringMVC 接收请求和设置响应
晚上好,愿这深深的夜色给你带来安宁,让温馨的夜晚抚平你一天的疲惫,美好的梦想在这个寂静的夜晚悄悄成长。 目录 前言 一、获取请求数据 1. 简单参数 1.1 请求行获取参数 a. 与查询参数的名称相同,底层会自动映射到形参中。 …...
【正点原子i.MX93开发板试用连载体验】中文提示词的训练
本文首发于电子发烧友论坛:【正点原子i.MX93开发板试用连载体验】基于深度学习的语音本地控制 - 正点原子学习小组 - 电子技术论坛 - 广受欢迎的专业电子论坛! 好久没有更新了,今天再来更新一下。 我们用前面提到的录音工具录制了自己的中文语音&#…...
牛客JS题(二十一)数组扁平化
注释很详细,直接上代码 涉及知识点: 递归flat字符串操作正则表达式替换 题干: 我的答案 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8" /></head><body><script&…...
搜索引擎设计:如何避免大海捞针般的信息搜索
搜索引擎设计:如何避免大海捞针般的信息搜索 随着互联网的发展,信息的数量呈爆炸式增长。如何在海量信息中快速、准确地找到所需信息,成为了搜索引擎设计中的核心问题。本文将详细探讨搜索引擎的设计原理和技术,从信息获取、索引…...
Go语言中 validation 库不能校验零值问题
在使用 Gin 框架的时候,前后端传递数据的时候,比如使用 JSON 格式,通常会使用 ShouldBindJSON 去用结构体打 tag 绑定前端传来的 JSON 格式数据 问题描述 在用于绑定的结构体中,通常会使用 validator 库进行参数的校验ÿ…...
前端HTML+CSS复习
学完了canvas,本来想去系统学3D的,但是转念一想,还是先去复习HTMLCSS吧。 不看不知道,系统学的,跟我这种想一出是一出的学习方式还是有很多区别的。 还是那句话: 翻烂一本书,胜过敲键盘。 今天…...
基于K210智能人脸识别+车牌识别系统(完整工程资料源码)
运行效果: 基于K210的智能人脸与车牌识别系统工程 目录: 运行效果: 目录: 前言: 一、国内外研究现状与发展趋势 二、相关技术基础 2.1 人脸识别技术 2.2 车牌识别技术 三、智能小区门禁系统设计 3.1 系统设计方案 3.2 …...
ADB Installer 0 file(s)copied
在为泡面神器刷安卓,做准备工作装ADB时报错了,以下是报错提示 再用cmd命令adb version验证下,提示adb不是有效命令,百分百安装失败了,往上各种搜索查询均没有对症的,其中也尝试了安装更新版本的,…...
反转链表(LeetCode)
题目 给你单链表的头节点,请你反转链表,并返回反转后的链表 解题 class ListNode:def __init__(self, value0, nextNone):self.value valueself.next nextdef reverse_linked_list_recursive(head: ListNode) -> ListNode:# 空链表或单节点链表if …...
ubuntu init set
1 cuda驱动 cuda use not open test 自己下载安装 以上操作后可能是核显卡,需要执行下列进入独立显卡,才能进行HDMI链接 sudo prime-select nvidia sudo prime-select intel prime-select query 该命令用于查看目前的显卡使用模式,可以看到…...
设计界的新宠:5款热门UI在线设计软件评测
随着用户界面设计行业的蓬勃发展,越来越多的设计师进入用户界面设计。选择一个方便的用户界面设计工具尤为重要!除了传统的用户界面设计工具,在线用户界面设计工具也受到越来越多设计师的青睐。这种不受时间、地点、计算机配置限制的工作方法…...
leetcode 107.二叉树的层序遍||
1.题目要求: 给你二叉树的根节点 root ,返回其节点值 自底向上的层序遍历 。 (即按从叶子节点所在层到根节点所在的层,逐层从左向右遍历)2.此题步骤: 1.先创建好队列,出队和入队函数: //创建队列 typedef struct que…...
C语言 ——— 在控制台实现三子棋游戏(适用于五子棋、十子琪…………)
目录 实现三子棋游戏的简介 三子棋游戏代码的测试文件、实现文件、头文件 实现三子棋游戏 打印菜单,让玩家选择是否玩游戏 --- game.c 玩家对局完后多次选择是否再次进行游戏 --- test.c 三子棋棋子的存储 将二维数组board的行和列定义为常变量 --- game.h 初…...
【必看!】阿里云推出QWen-7B和QWen-7b-Chat,开放免费商用!
阿里云于8月3日宣布开源两款重要的大型模型——QWen-7B和QWen-7b-Chat。这两款模型的参数规模达到了令人瞩目的70亿,并且已经在Hugging Face和ModelScope平台上开放,并可免费商用。以下是相关链接: GitHub项目主页:https://githu…...
Java 15 新特性(JKD15)
Java 15 是 Java 语言的最新版本,于 2020 年 9 月 15 日正式发布。Java 15 中引入了许多新的特性和改进,以下是其中的一些主要特性。 1. Text Blocks Java 15 中的 Text Blocks 特性已经从预览状态升级为标准特性。Text Blocks 可以用来简化字符串 lit…...
电脑添加虚拟网卡与ensp互联,互访
一、按照过程 1、打开设备管理器 2、点击网络适配器,点击左上角操作,点击“添加过时硬件” 3、下一页 4、选择“安装我手动从列表选择的硬件”,下一页 5、下拉,选择“网络适配器”,下一页 6、厂商选择“Microsoft”&…...
Kylin系列(一)入门
Kylin系列(一)入门 Apache Kylin是一个开源的分布式分析引擎,最初由eBay开发并贡献至Apache软件基金会。它专为大数据场景设计,能够在Hadoop之上提供低延迟的在线分析处理(OLAP)查询。Kylin通过预计算技术,将复杂的数…...
Mysql大单表JSON优化
优化方案 MySQL 8.0.32 中,有几种方法可以优化存储 JSON 字符串的数据表。以下是一些建议,可以帮助您减少存储空间: 使用压缩: MySQL 8.0 支持表级压缩,可以通过修改表来启用压缩。 ALTER TABLE your_table ROW_FORMATCOMPRESS…...
智能硬件创新实训平台-嵌入式、物联网、移动互联网、人工智能实验实训教学平台
智能硬件是继智能手机之后的一个科技概念,通过软硬件结合的方式,对传统设备进行改造,进而让其拥有智能化的功能。智能化之后,硬件具备连接的能力,实现互联网服务的加载,形成“云端”的典型架构,…...
opencv c++ python等比缩小或放大显示图片代码
c代码,其中scale_percent用来设置百分比,例如50 就是百分之五十,也就是一半的大小,当然也可以设置成200,相当于原来的2倍大小,注意图片路径换成实际路径。 #include <opencv2/opencv.hpp>int main()…...
程序编译及链接
你好!感谢支持孔乙己的新作,本文就程序的编译及链接与大家分析我的思路。 希望能大佬们多多纠正及支持 !!! 个人主页:爱摸鱼的孔乙己-CSDN博客 1.翻译译环境与运行环境 当我们进行程序设计时&…...
逻辑推理复杂推理能力评估之大模型微调(Datawhale AI 夏令营)
在逻辑推理任务中,我们采用了LoRA(Low-Rank Adaptation)技术对大模型进行微调。LoRA是一种高效的模型微调方法,通过引入低秩矩阵调整模型权重,从而实现对大型预训练语言模型的适应性调整。LoRA的主要优势包括对不同下游…...
pikachu漏洞平台~文件包含漏洞
在PHP程序中使用文件包含的对象可以被前端的用户控制且没有经过过滤或严格的定义,用户可以将其他的文件作为参数带入到PHP代码中解释执行,从而造成敏感信息泄露/程序文件读取/GetShell等危害的漏洞。 0x01文件包含漏洞 连接成功,完毕&#x…...
linux系统编程中Shell脚本配置,及man test命令手册
Shell脚本配置是指在脚本中设置各种参数、选项和环境,以确保脚本能够根据预期的需求和环境执行。配置可以包括变量设置、环境变量、命令选项和错误处理等。 1. 脚本开头的配置 Shebang 第一行通常是shebang,它告诉系统使用哪个解释器来执行脚本。例如…...
【康复学习--LeetCode每日一题】572. 另一棵树的子树
题目: 给你两棵二叉树 root 和 subRoot 。检验 root 中是否包含和 subRoot 具有相同结构和节点值的子树。如果存在,返回 true ;否则,返回 false 。 二叉树 tree 的一棵子树包括 tree 的某个节点和这个节点的所有后代节点。tree …...
OpenAI Function Call实现大模型agent自己判断用工具、上网搜索或直接大模型回答案例
参考: https://blog.csdn.net/weixin_42357472/article/details/140891660?spm=1001.2014.3001.5501 大模型用的deepseek 1)写了两个function,一个是天气工具,一个是搜索工具 2)大模型Function Call自己判断内容属于哪个工具就去调用对应工具 3)如果大模型Function Call…...
文章解读与仿真程序复现思路——电网技术EI\CSCD\北大核心《考虑源-荷不确定性的省间电力现货市场潮流风险概率评估》
本专栏栏目提供文章与程序复现思路,具体已有的论文与论文源程序可翻阅本博主免费的专栏栏目《论文与完整程序》 论文与完整源程序_电网论文源程序的博客-CSDN博客https://blog.csdn.net/liang674027206/category_12531414.html 电网论文源程序-CSDN博客电网论文源…...
JAVA中实现线程安全的三种方式
JAVA中实现线程安全的三种方式 1. 同步代码块2. 同步方法3. ReentrantLock4. 总结 💖The Begin💖点点关注,收藏不迷路💖 1. 同步代码块 使用synchronized关键字加在需要同步的代码块上,并指定一个锁对象。这种方式可以…...
3个二创文案生成器,让文案创作变简单
在当今数字时代,内容创作已经成为了一项非常重要的工作。无论是为了推广产品、营销服务,还是仅仅为了吸引读者,优质的文案都是至关重要的。然而,对于许多人来说,写出令人印象深刻的文案并不容易。这就是为什么二创文案…...
Java 属性拷贝 三种实现方式
第一种 List<OrederPayCustomer> orederPayCustomerList this.list(queryWrapper); List<CustomerResp>customerRespListnew ArrayList<>();for (OrederPayCustomer orederPayCustomer : orederPayCustomerList) {CustomerResp customerResp new Custome…...
C++: 如何把源码编译成SDK提供第三方使用
在我们开发过程中,经常会遇到提供SDK的情况,对于C语言,是可以方便地将源码封装成静态库或者动态库然后打包提供给第三方使用的。这样,一方面可以保护源码,另一方面也简化了对方的使用过程。 目录 一、关于动态库和静态…...
redis详细介绍
Redis是一个开源的、基于内存的高性能键值对数据库,属于NoSQL数据库的一种。它以高性能、丰富的数据结构、持久化特性、复制、集群以及发布/订阅等特性而闻名。以下是Redis的详细介绍: 一、基本介绍 名称:Redis,全称Remote Dicti…...
jar命令
文章目录 jar命令摘要 一、引言二、正文内容2.1 jar解压jar包2.2 重新打成jar包2.3 步骤2.4 sh脚本文件 jar命令 摘要 jar命令 一、引言 jar命令 二、正文内容 2.1 jar解压jar包 \# 解压 jar -xvf test.jar 2.2 重新打成jar包 jar -uvf0 marriage-admin-1.0.0.jar.j…...
CentOS上面的MySQL安装~~~保姆级教程
目录 0.声明 1.下载官网包包 2.新建文件夹,把rpm拖拽进来 3.安装yum源,查看前后变化 4.安装mysql服务 5.查看是否安装成功 6.出现报错的解决方案 7.启动MySQL 8.查看启动服务 9.配置文件 10.重新运行 11.免密码登录 12.再谈配置文件 0.声明…...
数组的复制
需求:现在有一个数组arr{1,2,3},然后有另外一个数组temp{99,100},现在需要将temp复制到arr。 java public class test1 {public static void main(String[] args) {int arr1[] new int[]{1,2,3};int temp[] new int[]{99,100};arr1 temp;System.out.p…...
Python RPA流程自动化机器人简单案例
RPA(Robotic Process Automation,机器人流程自动化)是一种通过软件机器人模拟和执行人类用户在计算机上的操作的技术。 下面是pyautogui 键盘操作的常见参数说明: https://blog.csdn.net/wydyzq12/article/details/122008396 以…...
在git中如何忽略.vscode目录?
在Git中,如果你想忽略某个特定的文件或目录(比如.vscode目录),你可以通过以下步骤来实现: 创建或编辑.gitignore文件 在项目的根目录下,如果还没有.gitignore文件,你需要创建一个。如果已经有了…...
python脚本:连接数据库,检查直播流是否可用
使用的是MySQL数据库 需要使用mysql-connector-python库来连接MySQL数据库。首先,请确保你已经安装了这个库,如果没有安装,可以通过以下命令安装: pip install mysql-connector-python假设: MySQL数据库已经配置好,并且有一个名为live_streams的表,其中包含至少两列:…...
MFC修改鼠标光标形状
1.新建项目 2.添加资源Cursor 3.添加鼠标移动响应函数,用于显示鼠标光标形状 void C修改鼠标光标View::OnMouseMove(UINT nFlags, CPoint point) {// TODO: 在此添加消息处理程序代码和/或调用默认值CRect rc;GetClientRect(&rc);if (point.x < rc.right / …...
【英语语法】限定性定语从句与非限定性定语从句(先行词概念)
文章目录 英语语法:限定性定语从句与非限定性定语从句详解1. 限定性定语从句1.1 定义与功能1.2 使用关系代词和关系副词示例句子: 1.3 标点和语调 2. 非限定性定语从句2.1 定义与功能2.2 使用关系代词示例句子: 2.3 标点和语调 3. 区别和选择…...
web小游戏开发:2048(完)移动操作及动画效果
web小游戏开发:2048(完)移动操作及动画效果 添加随机数字游戏开始时的初始化显示分数移动和合并获取行列元素下标记录移动轨迹完整的 js小结添加随机数字 书接前文,我们在前边定义了一个 move 方法,暂时先往后放放。 在我们已经初始化好的界面上,我们需要先制作一个出现…...
pythonflaskMYSQL自驾游搜索系统32127-计算机毕业设计项目选题推荐(附源码)
目 录 摘要 1 绪论 1.1研究背景 1.2爬虫技术 1.3flask框架介绍 2 1.4论文结构与章节安排 3 2 自驾游搜索系统分析 4 2.1 可行性分析 4 2.2 系统流程分析 4 2.2.1数据增加流程 5 2.3.2数据修改流程 5 2.3.3数据删除流程 5 2.3 系统功能分析 5 2.3.1 功能性分析 6 2.3.2 非功…...
(学习总结10)C++类和对象1
C类和对象1 一、类的定义1.类定义格式2.访问限定符3. 类域 二、实例化1.实例化概念2.对象大小 三、this指针四、C和C语言实现Stack对比 以下代码环境在 VS2022。 一、类的定义 1.类定义格式 class 为定义类的关键字,Stack 为类的名字, { } 中为类的主体…...
python 中 file.read(), file.readline()和file.readlines()区别和用法
python 中 file.read(), file.readline()和file.readlines()区别和用法 文章目录 python 中 file.read(), file.readline()和file.readlines()区别和用法1. file.read()2. file.readline()3. file.readlines()4. 总结5. 注意事项 file.read(), file.readline(), 和 file.readli…...
车辆出险报告(h5)-车辆出险记录接口-车辆相关接口
接口简介:通过vin及行驶证查询车辆出险、理赔、事故记录接口。查询成功率99%,返回URL地址的查询报告。 不能对返回的报告进行任何的修改,否则由用户自行承担相应的责任 报告结果只保留30天,如需永久保存,请您查询后自行保存 接口地…...
如何在 Next.js 中实现分页
一.介绍 分页功能可将大型数据集划分为可管理的块,从而帮助管理它们。您可以在 Next.js 的服务器端或客户端实现分页。这里有一份精简的入门指南。 1. 服务器端分页 1.1 创建 API 路由 设置 API 路由来处理分页。 // pages/api/posts.js export default async …...
Mockito基础入门
Mockito 快速入门教程 概述 Mockito 是一个流行的Java单元测试Mock框架,用于接口和数据模拟。 依赖安装 <dependency><groupId>org.mockito</groupId><artifactId>mockito-core</artifactId><version>3.12.4</version>…...
o(∩_∩)o设置代理访问博客(五)o(∩_∩)o --使用BeeWare打包应用
背景: 最近了解了一个新的打包框架BeeWare,据说他支持的平台要比nuitka更多。利用之前访问博客的脚本,来尝试一下打包windows应用程序。 BeeWare 从零开始 环境:python -m pip install briefcase 使用pycharm新建了一个名为bee…...