当前位置： 首页 > news >正文

【探商宝】 Llama 4--技术突破与争议并存的开源多模态

news 来源：原创 2025/8/26 6:08:32

核心亮点

  1. 混合专家架构（MoE）的全面应用
    Llama 4 是 Meta 首个全系列采用 MoE 架构 的模型，通过稀疏激活机制显著提升效率。例如：

    • Llama 4 Scout（中杯）：16 位专家，17B 活跃参数，总参数量 109B，单张 H100 GPU 可运行 INT4 量化版本，支持 1000 万上下文窗口（约 2000 万字）。

    • Llama 4 Maverick（大杯）：128 位专家，17B 活跃参数，总参数量 400B，支持 100 万上下文，编程能力对标 DeepSeek V3（参数仅其一半），性价比极高（每百万 Token 成本 0.19 美元）。

    • Llama 4 Behemoth（超大杯）：2 万亿总参数，288B 活跃参数，仍在训练中，已超越 GPT-4.5 和 Claude Sonnet 3.7 的 STEM 任务性能，定位为“教师模型”。

  2. 原生多模态与长上下文突破

    • 早期融合（Early Fusion）：文本、图像、视频数据在预训练阶段统一处理，突破传统多模态模型的分阶段限制。

    • iRoPE 架构：通过交错注意力层实现“短序列训练，长序列泛化”，Scout 后训练仅支持 256K 上下文，推理时可扩展至 1000 万 Token。

  3. 训练技术创新

    • MetaP 超参数优化技术：动态调整每层学习率和初始化规模，支持不同规模模型的参数迁移，大幅降低训练成本。

    • FP8 精度训练：Behemoth 使用 32,000 块 GPU 和 FP8 精度，实现 390 TFLOPs/GPU 的高效运算。

技术争议与不足

  1. 性能质疑与“背题”争议

    • 有匿名爆料称，Llama 4 在后训练阶段混入基准测试数据以提升成绩，导致公开模型与评测版本存在行为差异。

    • 实测显示，Maverick 的代码能力仅接近 Qwen-QwQ-32B，与官方宣称的“媲美 DeepSeek V3”存在差距。

  2. 中文支持缺失与部署门槛

    • 官方支持 12 种语言（含泰语、越南语），但 未包含中文，可能影响中文任务表现。

    • Scout 需单 H100 运行 INT4 量化版，Maverick 需 H100 集群部署，Behemoth 的落地难度堪比 GPT-4.5。

  3. 生态定位尴尬

    • 与 DeepSeek R1（推理优化）、Gemini 2.0 Flash（图像生成）等竞品相比，Llama 4 缺乏垂直场景优势。

    • 开源协议收紧：月活超 7 亿的公司需向 Meta 申请许可，商业化使用受限。

行业影响与未来展望

  1. 开源生态的“双刃剑”

    • 正面：Scout 和 Maverick 的开放下载，为中小开发者提供低成本多模态方案，可能催生新应用场景（如长文档分析、视频理解）。

    • 负面：Behemoth 的封闭训练和严格协议，被质疑“假开源真垄断”。

  2. 技术风向标意义

    • MoE 架构普及：Meta 的入局加速 MoE 成为行业标配，DeepSeek 等厂商的“轻量化专家”策略或受挑战。

    • 多模态竞争升级：早期融合技术可能推动 GPT-5、Gemini 3.0 等闭源模型迭代。

  3. 中国市场机遇

    • 中文支持的短板为国产模型（如 DeepSeek、Qwen）留下窗口期，需在长上下文、多模态融合领域加速追赶。

总结
Llama 4 是 Meta 在开源多模态领域的里程碑，其 MoE 架构和超长上下文能力重新定义了大模型能效比。然而，性能争议、中文缺失和部署门槛使其面临“叫好不叫座”的风险。对开发者而言，Scout 和 Maverick 是值得尝试的工具，但需警惕过度依赖 Meta 生态；对行业而言，这场开源与闭源的“军备竞赛”远未结束。

（本文观点基于公开资料，技术细节以 Meta 官方文档为准）

相关文章：

【探商宝】 Llama 4--技术突破与争议并存的开源多模态

核心亮点 混合专家架构（MoE）的全面应用 Llama 4 是 Meta 首个全系列采用 MoE 架构 的模型，通过稀疏激活机制显著提升效率。例如： Llama 4 Scout（中杯）：16 位专家，17B 活跃参数&#…...

编程日记 2025/8/26 6:08:32

可发1区的超级创新思路（python 实现）：一种轻量化的动态稀疏门控网络

首先声明，该模型为原创！原创！原创！且该思路还未有成果发表，感兴趣的小伙伴可以借鉴！ 一、应用领域 视频异常检测、生成视频检测。 二、模型解析 该模型由1.关键帧动态选择机制、2.关键帧动态选择机制以及3.关键帧动态选择机制三大核心组件构成，形成端到端的视频异常…...

编程日记 2025/8/26 5:12:06

flink cdc的source数据流如何配置事件时间，如何设置时间语义，分配时间戳并生成水位线

在 Flink CDC 中为 Source 数据流配置事件时间需要结合时间语义设置、时间戳分配和水位线生成三个核心步骤。以下是具体配置方法及注意事项： 1. 设置时间语义 Flink 默认使用处理时间（Processing Time），需显式指定事件时间语义&a…...

编程日记 2025/8/22 17:56:29

Vue3：初识Vue，Vite服务器别名及其代理配置

一、创建一个Vue3项目 创建Vue3项目默认使用Vite作为现代的构建工具，以下指令本质也是通过下载create-vue来构建项目。 基于NodeJs版本大于等于18.3，使用命令行进行操作。 1、命令执行 npm create vuelatest输入项目名称 2、选择附加功能 选择要包含的功…...

编程日记 2025/8/25 22:05:57

医疗场景与事件驱动的高匹配颗粒度医疗智能体研发方向探析(代码版)

结合技术实现、应用场景与挑战展开分析： 一、医疗场景驱动的智能体核心方向 全场景覆盖的诊疗辅助医疗智能体系统编程方案 1.1、技术架构设计 #mermaid-svg-OKB0oAt38jXWNClG {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#m…...

编程日记 2025/8/19 7:11:05

HTML5 浏览器兼容性：让旧浏览器也能拥抱 HTML5

在前端开发领域，HTML5 带来了一系列令人兴奋的新特性和功能，极大地提升了用户体验和开发效率。然而，由于互联网用户使用的浏览器版本千差万别，部分旧版本浏览器并不支持 HTML5，这给开发者带来了兼容性方面的挑战。不过…...

编程日记 2025/8/24 11:30:11

Kubernetes 集群搭建（三）：使用dashboard用户界面（需要访问外网获取yaml）

（一）简介 K8s Dashboard是Kubernetes提供的一种基于Web的用户界面工具，用于可视化地管理和监控Kubernetes集群 主要功能： 资源查看与管理： 查看Kubernetes集群中的各种资源，如节点、Pod、服务、部署等。 对…...

编程日记 2025/8/19 5:13:03

【图像处理基石】什么是ISP色彩管理？

在ISP（Image Signal Processor，图像信号处理器）管线中，色彩管理是图像处理流程的核心环节，主要负责从传感器原始数据（RAW）到最终输出图像（如YUV、RGB或JPEG）的色彩转换、…...

编程日记 2025/8/22 4:47:37

金融维度下的公链价值重构：重塑财富新秩序

公链的引言： 众人对 Crypto、Token 的探讨热度居高不下。在此大背景下，我打算另辟蹊径，从金融维度重新剖析区块链分布式账本。那么，我们究竟该如何正确认知它？又该如何搭建起一套从金融视角出发的分析框架呢&#xff1…...

编程日记 2025/8/23 7:44:46

LeetCode算法题(Go语言实现)_34

题目 考虑一棵二叉树上所有的叶子，这些叶子的值按从左到右的顺序排列形成一个 叶值序列 。 如果有两棵二叉树的叶值序列是相同，那么我们就认为它们是 叶相似 的。 如果给定的两个根结点分别为 root1 和 root2 的树是叶相似的，则返回 true&…...

编程日记 2025/8/25 22:47:50

# 项目部署指南：Flask、Gradio与Docker实现流程

Python项目部署指南：Flask、Gradio与Docker实践 1. 引言 在机器学习和Web开发中，将模型或应用部署为在线服务是关键一步。本文将介绍如何使用 Flask 和 Gradio 快速构建前端界面，并通过 Docker 容器化实现高效部署，涵盖完整流程图…...

编程日记 2025/8/25 13:56:23

2022第十三届蓝桥杯大赛软件赛省赛C/C++ 大学 B 组（题解解析）

记录刷题的过程、感悟、题解。 希望能帮到，那些与我一同前行的，来自远方的朋友😉 大纲： 1、九进制转十进制-（解析）-简单的进制转化问题😄 2、顺子日期-（解析）-考察日期 3…...

编程日记 2025/8/21 15:15:50

UML之序列图的参与者与生命线

序列图是建模过程中必选的一种描述行为的手段，它展示在某些有用的行为中元素之间的消息交换和相互作用。交互是构成行为的一个单元；这些元素必须是可连接元素，通常将这些可连接元素称为交互中的参与者（Participants）。…...

编程日记 2025/8/21 13:13:38

基于Python Flask快速构建网络安全工具资源库的Web应用实践

引言 在网络安全领域，信息收集（OSINT）是渗透测试、漏洞挖掘和威胁分析的关键环节。然而，面对海量工具和分散的技术文档，安全研究人员常需耗费大量时间查找和比对工具信息。本文将介绍如何利用 Python Flask HTML 技…...

编程日记 2025/8/24 17:39:21

xv6-labs-2024 lab1

lab-1 注：实验环境在我的汇编随手记的末尾部分有搭建教程。 0.前置 第零章 xv6为我们提供了多种系统调用，其中，exec将从某个文件里读取内存镜像(这确实是一个好的说法)，并且将其替换到调用它的内存空间，也就是这个…...

编程日记 2025/8/25 5:14:35

HTTP Form v.s. Flask-WTF Form v.s. Bootstrap Form

在Flask-WTF和Bootstrap 的Form创建中，添加了页面显示Flash Messages。 相比Flask_WTF, Bootstrap用 render_form(form)渲染样式，自动带错误提示，不需要像Flask_WTF那样手写 for error in ... 。 项目结构： register_app/ ├── HTTP_Form_App.py ├── FlaskWTF_Form…...

编程日记 2025/8/23 7:23:10

Linux网络编程——https的协议及其加密解密方式

目录 一、前言 https协议 常见的加密方式 1、对称加密 2、非对称加密 3、数字签名 1. 只用对称加密 2、只用单一的非对称加密 3、双方都使用非对称加密 4、非对称加密对称加密 证书 证书颁发流程 服务器与客户端的证书验证流程 5、证书非对称加密对称加密 前言 上一…...

编程日记 2025/8/23 9:14:57

Node.js 下载与安装（图文）

下载 官网：【直达：https://nodejs.org/en/】。 点击【Download】，选择【版本，系统】。点击【Windows Installer(.msi)】。 安装 双击【.msi文件】，选择【安装路径】，也可以一直【下一步】。 查看版本 …...

编程日记 2025/8/26 6:06:15

3.31-4.06 Web3 游戏周报：Pebble 玩家留存率登顶，Treasure DAO 面临重组危机

回顾上周的区块链游戏概况，查看 Footprint Analytics 与 ABGA 最新发布的数据报告。 【3.31–4.06】Web3 游戏行业动态 链游生态系统 Treasure DAO 因财务危机面临重组，将终止游戏运营和 Treasure Chain3A 链游 Shrapnel 开发商 Neon Machine 深陷财务…...

编程日记 2025/8/24 4:16:53

echarts生成3D立体地图react组件

地图散点图效果： react项目中安装echarts、echarts-gl依赖： npm install echarts echarts-gl 文件目录结构： 地图组件map目录下文件代码，点击散点图圆点触发事件handleCityClick： index.jsx： import { …...

编程日记 2025/8/26 6:03:51

Node.js 中处理 Excel 文件的最佳实践

在现代应用开发中，Excel 文件仍然是数据交换和存储的重要格式之一。在 Node.js 环境中，处理 Excel 文件的需求日益增加。本文将介绍如何在 Node.js 中高效地处理 Excel 文件，涵盖工具选择、基本操作和最佳实践。 1. 选择合适的库 在 Node.js…...

编程日记 2025/8/25 9:19:34

解决Ubuntu系统鼠标不流畅的问题

电脑是联想的台式组装机，安装ubuntu系统（不管是16、18、20、22）后，鼠标都不流畅。最近几天想解决这个问题，于是怀疑到了显卡驱动上。怀疑之前一直用的是集成显卡，而不是独立显卡，毕竟2060的显卡…...

编程日记 2025/8/23 1:16:34

【Linux】虚拟机设置静态IP

主播我今天下午学了几节微服务课，上课的时候，直接把手机拿走了去上课（电脑连的我手机的热点），虚拟机没关，晚上主播我回来继续学，电脑连上热点之后，发现虚拟机连接不上了，…...

编程日记 2025/8/21 19:32:32

Web API：AbortController

Web API：AbortController 主要用途基本工作原理基本用法示例高级用例1. 实现请求超时2. 取消多个请求3. 与其他异步 API 一起使用 浏览器支持总结 主要用途 AbortController 是一个 Web API，主要用于取消一个或多个 Web 请求（如 fetch 请求&…...

编程日记 2025/8/22 20:10:44

服务器配置虚拟IP

服务器配置虚拟IP的核心步骤取决于具体场景，主要包括本地单机多IP配置和高可用集群下的虚拟IP管理两种模式。‌ 一、本地虚拟IP配置（单服务器多IP） ‌基于Linux系统‌： ‌确认网络接口‌：使用 ip addr 或 ifconfig 查…...

编程日记 2025/8/26 6:03:50

《AI大模型应知应会100篇》第5篇：大模型发展简史：从BERT到ChatGPT的演进

第5篇：大模型发展简史：从BERT到ChatGPT的演进 摘要 近年来，人工智能领域最引人注目的进步之一是大模型（Large Language Models, LLMs）的发展。这些模型不仅推动了自然语言处理（NLP）技术的飞跃&…...

编程日记 2025/8/26 6:03:49

小球反弹(蓝桥杯C语言)

有一长方形，长为 343720343720 单位长度，宽为 233333233333 单位长度。在其内部左上角顶点有一小球 (无视其体积)，其初速度如图所示且保持运动速率不变，分解到长宽两个方向上的速率之比为 dx:dy15:17dx:dy15:17。小球碰到长方形的…...

编程日记 2025/8/24 10:25:30

Java面试39-Zookeeper中的Watch机制的原理

Zookeeper是一个分布式协调组件，为分布式架构下的多个应用组件提供了顺序访问控制能力。它的数据存储采用了类似于文件系统的树形结构，以节点的方式来管理存储在Zookeeper上的数据。 Zookeeper提供了一个Watch机制，可以让客户端感知到Zooke…...

编程日记 2025/8/26 6:03:53

3️⃣ Coze工作流基础教学（2025年全新版本）

目录 一、什么是工作流 二、为什么用工作流 三、工作流使用场景 四、怎么学习工作流 五、工作流功能概述 六、制作工作流基础流程 6.1 创建工作流 6.2 配置工作流 6.3 调试工作流 6.4 发布工作流 6.5 使用工作流 6.6 复制工作流 6.7 删除工作流 6.8 设置工作流异…...

编程日记 2025/8/26 6:03:51

备战蓝桥杯——走迷宫问题（BFS解决）

这是一个经典的BFS算法 1. BFS算法保证最短路径 核心机制：广度优先搜索按层遍历所有可能的路径，首次到达终点的路径长度即为最短步数。这是BFS的核心优势。队列的作用：通过队列按先进先出的顺序处理节点，确保每一步探索的都是当…...

编程日记 2025/8/25 19:23:29

usbip学习记录

USB/IP: USB device sharing over IP make menuconfig配置： Device Drivers -> Staging drivers -> USB/IP support Device Drivers -> Staging drivers -> USB/IP support -> Host driver 如果还有作为客户端的需要，继续做以下配置&a…...

编程日记 2025/8/26 6:01:55

mlir-tblgen 的应用渐进式示例

示例01 -gen-dialect-decls toy_dia.1.toy include "mlir/IR/OpBase.td" //include "mlir/IR/FunctionInterfaces.td" //include "mlir/IR/SymbolInterfaces.td" //include "mlir/Interfaces/SideEffectInterfaces.td"def Toy_Diale…...

编程日记 2025/8/24 14:52:42

AI大模型与未来社会结构的重构：从工具到共生体

一、引言：从蒸汽机到ChatGPT，文明的每一次跃迁都始于“工具的自我进化” 历史长河中，每一次技术革命，都伴随着人类社会组织、认知方式乃至价值体系的巨变。从18世纪的蒸汽机到20世纪的信息技术，再到21世纪的人工智能&…...

编程日记 2025/8/17 23:25:10

2015年-全国大学生数学建模竞赛(CUMCM)试题速浏、分类及浅析

2015年-全国大学生数学建模竞赛(CUMCM)试题速浏、分类及浅析 全国大学生数学建模竞赛（China Undergraduate Mathematical Contest in Modeling）是国家教委高教司和中国工业与应用数学学会共同主办的面向全国大学生的群众性科技活动，目的在于激励学生学习数学的积极性，提高学…...

编程日记 2025/8/23 17:44:52

免费Deepseek-v3接口实现Browser-Use Web UI：浏览器自动化本地模拟抓取数据实录

源码 https://github.com/browser-use/web-ui 我们按照官方教程，修订几个环节，更快地部署 步骤 1：克隆存储库 git clone https://github.com/browser-use/web-ui.git cd web-ui Step 2: Set Up Python Environment 第 2 步：设置…...

编程日记 2025/8/25 20:22:37

Bash判断命令是否存在

在 Bash 脚本里，你可以通过多种方法判断某个命令是否存在。下面为你详细介绍几种常见的判断方式。 1. 使用command -v command -v命令能够返回指定命令的可执行文件路径，如果该命令不存在则不会有输出。借助这一特性，我们可以结合条件判断语…...

编程日记 2025/8/22 7:39:55

双指针(滑动窗口)

用于在数组或字符串的进行快速排序 匹配 排序或移动操作。 双指针不是真的指针，只是用两个变量来表示下标(在后面都用指针来表示) 双指针往往和单调性 排序 联系在一起，暴力往往是O(n方)双指针利用单调性可以优化到o(n) 有对撞指针 快慢指针 美丽区间…...

编程日记 2025/8/22 7:44:26

在PPT中同时自动播放多个视频的方法

在PPT中同时自动播放多个视频的方法 文章目录 在PPT中同时自动播放多个视频的方法1 准备视频2 设置动画为“出现”3 设置所有视频为“自动播放”4 最终效果与其他设置 在PPT制作的过程中，我们经常遇到需要同时自动播放多个视频的情况。本文将详细介绍实现这种效果的…...

编程日记 2025/8/21 14:44:24

使用 Vue 快速集成 FullCalendar 日历组件教程

FullCalendar 是一款功能强大的 JavaScript 日历组件，支持 React/Vue 等主流框架，提供丰富的日历视图和交互功能。本文将手把手教你在 Vue 项目中快速集成，并演示核心功能实现。 📦 主要特性亮点 ✅ 月/周/日多视图切换 ✅…...

编程日记 2025/8/22 7:39:55

xv6-labs-2024 lab2

lab-2 0. 前置 课程记录 操作系统的隔离性，举例说明就是，当我们的shell，或者qq挂掉了，我们不希望因为他，去影响其他的进程，所以在不同的应用程序之间，需要有隔离性，并且&#xff0…...

编程日记 2025/8/21 13:42:32

redis导入成功，缺不显示数据

SpringBootTest class SecurityApplicationTests {AutowiredStringRedisTemplate template; //添加这句代码，自动装载，即可解决文章三处代码报错Testvoid contextLoads() {String compact Jwts.builder().signWith(Jwts.SIG.HS512.key().build()).subj…...

编程日记 2025/8/22 1:20:26

Flink对比Spark streaming、Storm

对比Spark streaming、Storm 产品 模型 语义 容错机制 状态管理 延时 吞吐量 Storm native at-least-once ack 无 low low Spark streaming micro-batch exactly-once RDD checkpoint 有 medium high Flink native exactly-once checkpoint 有 low …...

编程日记 2025/8/22 7:42:26

力扣316去除重复字母-单调栈

题目来源: 给你一个字符串 s ，请你去除字符串中重复的字母，使得每个字母只出现一次。需保证 返回结果的字典序最小（要求不能打乱其他字符的相对位置）。 示例 1： 输入：s "bcabc" 输出&#xff…...

编程日记 2025/8/22 7:40:22

第421场周赛：数组的最大因子得分、

Q1、数组的最大因子得分 1、题目描述 给你一个整数数组 nums。 因子得分 定义为数组所有元素的最小公倍数（LCM）与最大公约数（GCD）的 乘积。 在 最多 移除一个元素的情况下，返回 nums 的 最大因子得分。 注意&…...

编程日记 2025/8/23 17:03:33

COMSOL 与人工智能融合的多物理场应用：28个案例的思路、方法与工具概述

应用案例概述 基于 COMSOL 与人工智能（AI）结合的应用案例涵盖了 28 个多领域场景，包括工程（如热传导优化、结构力学预测）、能源（如电池热管理、燃料电池性能）、生物医学（如药物传递…...

编程日记 2025/8/21 20:15:02

【算法】插入排序

算法系列五：插入排序 一、直接插入排序 1.原理 2.实现 3.性质 3.1时间复杂度 3.2空间复杂度 3.3稳定性 二、希尔排序 1.原理 1.1优化方向 1.2优化原理 2.设计 2.1比较无序时 2.2比较有序时 3.实现 4.性质 4.1时间复杂度 4.2空间复杂度 4.3稳定性…...

编程日记 2025/8/24 5:08:25

企业展示型网站模板HTML5网站模板下载指南

在当今数字化浪潮中，企业网站已成为企业展示形象、推广产品和服务的重要窗口。一个设计精美、功能完善的企业展示型网站，不仅能提升企业的品牌形象，还能吸引潜在客户，促进业务增长。而HTML5网站模板，凭借其跨平台兼容性…...

编程日记 2025/8/22 7:40:22

C盘清理——快速处理

C盘清理 | 快速处理 软件：小番茄C盘清理 https://ccleancdn.xkbrowser.com/cleanmaster/FanQieClean_13054_st.exe 前言：为什么需要专业的C盘清理工具？ 作为一位长期与Windows系统打交道的技术博主，我深知C盘空间不足带来的痛苦…...

编程日记 2025/8/22 7:42:28

什么是模型驱动开发MDD?有哪些应用场景？

模型驱动开发（Model-Driven Development，MDD）是一种以模型为核心的软件开发方法，其核心思想是通过创建高层次的抽象模型来描述系统的结构和行为，而非直接编写代码。这些模型经过自动化工具的转换或生成，最终…...

编程日记 2025/8/22 7:28:05

uniapp小程序生成海报/图片并保存分享

调研结果： 方法一：canvasuni.canvasToTempFilePath耗时太长，现在卡在canvas的绘制有问题，canvas绘制的部分东西不生效但是找不到原因 方法二：使用wxml-to-canvas其实也差不多是用canvas手动绘制，可能会卡在…...

编程日记 2025/8/21 17:18:45