当前位置：首页 > news >正文

PyTorch与TensorFlow模型全方位解析：保存、加载与结构可视化

news 来源：原创 2025/7/30 13:11:20

前言
一、保存整个模型
二、pytorch模型的加载
2.1 只保存的模型参数的加载方式：
2.2 保存结构和参数的模型加载
三、pytorch模型网络结构的查看
3.1 print
3.2 summary
3.3 netron
3.3.1 解决方法1
3.3.2 解决方法2
3.4 TensorboardX
四、tensorflow 框架的线性回归
4.1 tensorflow模型的定义
4.1.1 tf.keras.Sequential
4.1.2 tf.keras.Sequential()另一种方式
4.1.3 就是写一个类重写实现网络的搭建
4.1.4 tensorflow中最常用的
4.2 tensorflow模型的保存
4.2.1 保存为 .h5
4.2.2 只保存参数
4.3 tensorflow模型的加载
4.3.1 模型加载针对方式1
4.3.2 加载只保存参数，包括权重w及偏置b
4.4 tensorflow模型网络结构的查看
4.4.1 summary() 模型搭建好就有summary()
4.4.2 使用netron
4.4.3 最经典的 tensorboard 方法
总结

前言

书接上文

PyTorch 线性回归详解：模型定义、保存、加载与网络结构-CSDN博客本文全面阐述了PyTorch框架下线性回归的实现过程，涵盖了模型定义的不同方式（如nn.Sequential、nn.ModuleList等）、模型保存方法（torch.save()），以及模型加载和网络结构查看。结合具体代码示例，旨在帮助读者深入理解并掌握PyTorch在解决线性回归问题中的应用。https://blog.csdn.net/qq_58364361/article/details/147329215?spm=1011.2415.3001.10575&sharefrom=mp_manage_link

一、保存整个模型

保存：要保存整个模型，包括其结构和参数，可以使用torch.save()函数保存整个模型。

将整个模型保存到名为"entire_model.pth"的文件中。但是要注意，保存整个模型可能会占用更多的磁盘空间，并且不如保存状态字典灵活，因为状态字典可以与不同的模型结构兼容。

import torch
import numpy as np# 1. 数据准备
# 定义原始数据，包含x和y值
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8],[0.4, 39.2], [-1.4, -15.7],[-1.4, -37.3], [-1.8, -49.1],[1.5, 75.6], [0.4, 34.0],[0.8, 62.3]]
# 将数据转换为NumPy数组，方便后续处理
data = np.array(data)
# 从NumPy数组中提取x和y数据
x_data = data[:, 0]  # 所有行的第0列，即x值
y_data = data[:, 1]  # 所有行的第1列，即y值# 2. 数据转换为Tensor
# 将NumPy数组转换为PyTorch张量，这是使用PyTorch进行计算的基础
x_train = torch.tensor(x_data, dtype=torch.float32)  # 将x数据转换为float32类型的张量
y_train = torch.tensor(y_data, dtype=torch.float32)  # 将y数据转换为float32类型的张量# 3. 使用DataLoader加载数据
# 导入DataLoader和TensorDataset
from torch.utils.data import DataLoader, TensorDataset# 将x_train和y_train组合成一个数据集
dataset = TensorDataset(x_train, y_train)  # 创建一个TensorDataset，将x和y数据配对# 使用DataLoader创建数据加载器，用于批量处理数据
dataloader = DataLoader(dataset, batch_size=2, shuffle=False)  # batch_size=2表示每次加载2个样本，shuffle=False表示不打乱数据顺序# 4. 定义模型
import torch.nn as nn  # 导入torch.nn模块，通常简写为nn，包含神经网络相关的类和函数# 定义线性回归模型
class LinearModel(nn.Module):  # 继承nn.Module，这是所有神经网络模块的基类# 构造函数，用于初始化模型def __init__(self):super(LinearModel, self).__init__()  # 调用父类的构造函数# 定义一个线性层，输入维度为1，输出维度为1self.layers = nn.Linear(1, 1)  # 创建一个线性层，用于学习线性关系# 前向传播函数，定义模型的计算过程def forward(self, x):# 将输入x通过线性层x = self.layers(x)  # 将输入数据通过线性层进行计算return x  # 返回计算结果# 5. 初始化模型
# 创建模型实例
model = LinearModel()  # 实例化线性回归模型# 6. 定义损失函数
# 使用均方误差作为损失函数
criterion = nn.MSELoss()  # 创建MSELoss实例，用于计算损失# 7. 定义优化器
# 使用随机梯度下降算法作为优化器
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)  # 创建SGD优化器，用于更新模型参数, lr是学习率# 8. 训练模型
# 设置迭代次数
epoches = 500  # 设置迭代次数# 循环迭代训练模型
for n in range(1, epoches + 1):  # 迭代epoches次epoch_loss = 0  # 初始化epoch损失# 遍历dataloader，获取每个batch的数据for batch_x, batch_y in dataloader:  # 遍历dataloader，每次返回一个batch的x和y数据# 增加x_batch的维度，以匹配线性层的输入维度x_batch_add_dim = batch_x.unsqueeze(1)  # 在第1维增加一个维度，将x_batch从[batch_size]变为[batch_size, 1]# 使用模型进行预测y_pre = model(x_batch_add_dim)  # 将x_batch输入模型，得到预测值# 计算损失batch_loss = criterion(y_pre.squeeze(1), batch_y)  # 计算预测值和真实值之间的均方误差, squeeze(1) 移除维度为1的维度# 梯度更新optimizer.zero_grad()  # 清空优化器中的梯度，避免累积# 计算损失函数对模型参数的梯度batch_loss.backward()  # 反向传播，计算梯度# 根据优化算法更新参数optimizer.step()  # 使用优化器更新模型参数epoch_loss = epoch_loss + batch_loss  # 累加每个batch的损失avg_loss = epoch_loss / (len(dataloader))  # 计算平均损失# 打印训练信息if n % 100 == 0 or n == 1:  # 每100次迭代打印一次信息print(model)  # 打印模型结构torch.save(model, f'model_{n}.pth')  #保存模型print(f"epoches:{n},loss:{avg_loss}")  # 打印迭代次数和损失值

二、pytorch模型的加载

模型的保存有两种方式，模型的加载也有两种方式

加载：

要加载保存的模型，使用torch.load()函数

2.1 只保存的模型参数的加载方式：

加载模型需要3步骤：

步骤1：需要模型结构(保存时搭建的模型)

步骤2：使用torch.load("model.pth")加载模型参数

步骤3：:实例化模型（model）使用model.load_state_dict(torch.load("model.pth"))将model和参数结合起来

import torch.nn as nn
import torch
import numpy as np# 示例数据
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)
x_data = data[:, 0]  # 获取 x 数据
y_data = data[:, 1]  # 获取 y 数据x_train = torch.tensor(x_data, dtype=torch.float32)  # 将 x 数据转换为 PyTorch 张量
y_train = torch.tensor(y_data, dtype=torch.float32)  # 将 y 数据转换为 PyTorch 张量from torch.utils.data import DataLoader, TensorDatasetdataset = TensorDataset(x_train, y_train)  # 创建 TensorDataset
dataloader = DataLoader(dataset, batch_size=2, shuffle=False)  # 创建 DataLoaderimport torch.nn as nnclass LinearModel(nn.Module):"""线性模型类"""def __init__(self):"""初始化线性模型"""super(LinearModel,self,).__init__()# 定义一个线性层self.layers = nn.Linear(1, 1)def forward(self,x):"""前向传播函数:param x: 输入张量:return: 输出张量"""x = self.layers(x)  # 通过线性层return xmodel = LinearModel()  # 实例化线性模型model.load_state_dict(torch.load("model_1.pth"))  # 加载模型参数model.eval()  # 设置为评估模式
x_test = torch.tensor([[-0.5]], dtype=torch.float32)  # 创建测试数据
with torch.no_grad():  # 禁用梯度计算y_pre = model(x_test)  # 进行预测
print(y_pre)  # 打印预测结果

2.2 保存结构和参数的模型加载

加载模型需要2步骤：

步骤1：需要模型结构

步骤2：使用torch.load("entire_model.pth")加载模型

import torch
import numpy as np# 准备数据：输入特征和对应的目标值
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)
# 提取输入特征 (x) 和目标值 (y)
x_data = data[:, 0]
y_data = data[:, 1]# 将数据转换为 PyTorch 张量，并指定数据类型为 float32
x_train = torch.tensor(x_data, dtype=torch.float32)
y_train = torch.tensor(y_data, dtype=torch.float32)# 导入 DataLoader 和 TensorDataset
from torch.utils.data import DataLoader, TensorDataset# 创建 TensorDataset，将 x_train 和 y_train 组合成数据集
dataset = TensorDataset(x_train, y_train)
# 创建 DataLoader，用于批量加载数据
dataloader = DataLoader(dataset, batch_size=2, shuffle=False)import torch.nn as nn# 定义线性模型类
class LinearModel(nn.Module):def __init__(self):super(LinearModel,self,).__init__()# 定义一个线性层，输入维度为 1，输出维度为 1self.layers = nn.Linear(1, 1)def forward(self,x):# 定义前向传播过程x = self.layers(x)return x# 加载预训练的模型
model = torch.load("model_1.pth")# 将模型设置为评估模式，禁用 dropout 等
model.eval()
# 创建一个测试数据
x_test = torch.tensor([[-0.5]], dtype=torch.float32)
# 在无梯度计算的环境下进行预测
with torch.no_grad():# 使用加载的模型进行预测y_pre = model(x_test)
# 打印预测结果
print(y_pre)

三、pytorch模型网络结构的查看

3.1 print

print(model) 能打印出网络结构，不能检测模型搭建是否正确

print(model) 仅打印模型结构。

import torch.nn as nn  # 导入神经网络模块
import torch  # 导入 torch
import numpy as np  # 导入 numpy# 定义数据集，包含输入和输出
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)  # 将数据转换为 numpy 数组
x_data = data[:, 0]  # 获取输入数据
y_data = data[:, 1]  # 获取输出数据x_train = torch.tensor(x_data, dtype=torch.float32)  # 将输入数据转换为 tensor
y_train = torch.tensor(y_data, dtype=torch.float32)  # 将输出数据转换为 tensorfrom torch.utils.data import DataLoader, TensorDataset  # 导入 DataLoader 和 TensorDatasetdataset = TensorDataset(x_train, y_train)  # 将输入和输出数据组合成 dataset
dataloader = DataLoader(dataset, batch_size=2, shuffle=False)  # 创建 dataloader，用于批量加载数据import torch.nn as nn  # 导入神经网络模块# 定义线性模型
class LinearModel(nn.Module):def __init__(self):super(LinearModel,self,).__init__()  # 调用父类构造函数self.layers = nn.Linear(1, 1)  # 定义一个线性层，输入维度为 1，输出维度为 1self.layers1 = nn.Linear(2, 2)  # 定义一个线性层，输入维度为 2，输出维度为 2def forward(self,x):  # 定义前向传播函数x = self.layers(x)  # 通过第一个线性层x = self.layers1(x)  # 通过第二个线性层return x  # 返回输出model = LinearModel()  # 实例化模型
print(model)  # 打印模型结构

3.2 summary

先安装 pip install torchsummary

torchsummary 主要用于查看模型结构并且检测网络是否搭建正确，不正确就报错

import torch.nn as nn  # 导入神经网络模块
import torch  # 导入torch
import numpy as np  # 导入numpy# 准备数据
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)  # 转换为numpy数组
x_data = data[:, 0]  # 获取x数据
y_data = data[:, 1]  # 获取y数据x_train = torch.tensor(x_data, dtype=torch.float32)  # 转换为torch张量
y_train = torch.tensor(y_data, dtype=torch.float32)  # 转换为torch张量from torch.utils.data import DataLoader, TensorDataset  # 导入DataLoader和TensorDatasetdataset = TensorDataset(x_train, y_train)  # 创建数据集
dataloader = DataLoader(dataset, batch_size=2, shuffle=False)  # 创建数据加载器import torch.nn as nn  # 导入神经网络模块# 定义线性模型
class LinearModel(nn.Module):def __init__(self):super(LinearModel,self,).__init__()  # 调用父类初始化方法self.layers = nn.Linear(1, 2)  # 定义线性层1，输入维度1，输出维度2self.layers1 = nn.Linear(2, 5)  # 定义线性层2，输入维度2，输出维度5def forward(self,x):  # 定义前向传播函数x = self.layers(x)  # 通过线性层1x = self.layers1(x)  # 通过线性层2return x  # 返回输出model = LinearModel()  # 实例化模型from torchsummary import summary  # 导入summarysummary(model,input_size=(1,),  # 输入尺寸device="cpu"  # 设备)

3.3 netron

pip install --upgrade netron

netron

pycharm 终端下输入 pip install netron -i Simple Index

下载好后，在终端下输入 netron，在浏览器上输入 http://localhost:8080 即可

netron 用于模型文件的可视化，

问题：netron对pytorch支持不好，层和层之间没有连线

3.3.1 解决方法1

什么是 JIT？

首先要知道 JIT 是一种概念，全称是 Just In Time Compilation，中文译为「即时编译」，是一种程序优化的方法

将模型保存为脚本文件分两步

step1,先转化为脚本模型

script_model=torch.jit.script(model)

step2保存为文件

torch.jit.save(script_model,"script_model.pth")

使用netron打开有连线了

import torch.nn as nn  # 导入神经网络模块
import torch  # 导入torch
import numpy as np  # 导入numpy# 准备数据
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)  # 转换为numpy数组
x_data = data[:, 0]  # 获取x数据
y_data = data[:, 1]  # 获取y数据x_train = torch.tensor(x_data, dtype=torch.float32)  # 转换为torch张量
y_train = torch.tensor(y_data, dtype=torch.float32)  # 转换为torch张量
print(x_train)  # 打印x_train
import torch.nn as nn  # 再次导入神经网络模块criterion = nn.MSELoss()  # 定义均方误差损失函数# 定义线性模型
class LinearModel(nn.Module):def __init__(self):super(LinearModel,self,).__init__()  # 调用父类初始化方法self.layers = nn.Linear(1, 1)  # 定义线性层1，输入维度1，输出维度1self.layers1 = nn.Linear(1, 2)  # 定义线性层2，输入维度1，输出维度2def forward(self,x):  # 定义前向传播函数x = self.layers(x)  # 通过线性层1x = self.layers1(x)  # 通过线性层2return x  # 返回输出model = LinearModel()  # 实例化模型
script_model = torch.jit.script(model)  # 将模型转换为 TorchScript
torch.jit.save(script_model, 'script_model.pth')  # 保存 TorchScript 模型

3.3.2 解决方法2

转成ONNX保存，ONNX(Open Neural Network Exchange)是一个开放的深度学习模型交换格式，它允许在不同的深度学习框架之间共享、迁移和使用模型。ONNX的目标是提供一个通用的中间表示，使得各种深度学习框架(如pytorch tensorflow MXNeE等)之间能够更轻松交换模型，并且能够在不同框架之间进行模型的部署和推理。

转化为ONNX模型，如果不能运行就安装onnx

安装命令 pip install onnx -i Simple Index

import torch.nn as nn  # 导入神经网络模块
import torch  # 导入torch
import numpy as np  # 导入numpy# 准备数据，这里是一些二维数据点
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]
data = np.array(data)  # 将数据转换为numpy数组，方便后续处理
x_data = data[:, 0]  # 从数据中提取x坐标
y_data = data[:, 1]  # 从数据中提取y坐标x_train = torch.tensor(x_data, dtype=torch.float32)  # 将x坐标转换为torch张量，并指定数据类型为float32
y_train = torch.tensor(y_data, dtype=torch.float32)  # 将y坐标转换为torch张量，并指定数据类型为float32
print(x_train)  # 打印x_train，用于调试
import torch.nn as nn  # 再次导入神经网络模块，虽然已经导入过，但为了代码完整性保留criterion = nn.MSELoss()  # 定义均方误差损失函数，用于衡量模型预测值和真实值之间的差距# 定义一个线性模型类，继承自nn.Module
class LinearModel(nn.Module):def __init__(self):# 调用父类的初始化方法super(LinearModel,self,).__init__()# 定义一个线性层，输入维度为1，输出维度为1self.layers = nn.Linear(1, 1)# 定义一个线性层，输入维度为1，输出维度为2self.layers1 = nn.Linear(1, 2)# 定义一个线性层，输入维度为2，输出维度为2self.layers2 = nn.Linear(2, 2)def forward(self,x):# 定义模型的前向传播过程x = self.layers(x)  # 将输入x通过第一个线性层x = self.layers1(x)  # 将第一个线性层的输出通过第二个线性层x = self.layers2(x)  # 将第二个线性层的输出通过第三个线性层return x  # 返回模型的输出model = LinearModel()  # 实例化线性模型torch.onnx.export(model,  # 要导出的模型torch.rand(1, 1),  # 模型的输入，这里使用一个随机张量"model1.onnx"  # 导出的onnx模型的文件名)

3.4 TensorboardX

TensorboardX 这个工具使得 pytorch 框架也可以使用到 Tensorboard 的便捷功能。

安装：

pip install TensorboardX -i Simple Index

tensorboardX 可以记录和可视化模型训练过程中的指标以及模型结构。，

求换到logs路径下执行下面命令

#tensorboard --logdir ./logs

python -m tensorboard.main --logdir="./logs"

就可以通过http://localhost:6006/ 查看了

import torch  # 导入torch
import numpy as np  # 导入numpydata = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6],[0.4, 34.0], [0.8, 62.3]]  # 定义数据集
data = np.array(data)  # 将数据转换为numpy数组
x_data = data[:, 0]  # 获取x坐标数据
y_data = data[:, 1]  # 获取y坐标数据x_train = torch.tensor(x_data, dtype=torch.float32)  # 将x数据转换为torch张量，指定数据类型
y_train = torch.tensor(y_data, dtype=torch.float32)  # 将y数据转换为torch张量，指定数据类型
print(x_train)  # 打印x_train，用于调试
import torch.nn as nn  # 再次导入神经网络模块，避免潜在的未定义错误criterion = nn.MSELoss()  # 定义均方误差损失函数class LinearModel(nn.Module):  # 定义线性模型def __init__(self):  # 定义初始化方法super(LinearModel,self,).__init__()  # 调用父类初始化方法self.layers = nn.Linear(1, 1)  # 定义线性层，输入维度为1，输出维度为1def forward(self,x):  # 定义前向传播函数x = self.layers(x)  # 将输入x通过线性层return x  # 返回输出model = LinearModel()  # 实例化线性模型
from tensorboardX import SummaryWriter  # 导入SummaryWriter，用于TensorBoard可视化writer = SummaryWriter(logdir="logs")  # 创建SummaryWriter实例，指定日志存储路径
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)  # 定义优化器，使用随机梯度下降算法epoches = 500  # 定义训练轮数
for n in range(1, epoches + 1):  # 循环训练y_prd = model(x_train.unsqueeze(1))  # 模型预测，unsqueeze(1)将x_train的维度从(N,)变为(N,1)loss = criterion(y_prd.squeeze(1), y_train)  # 计算损失，squeeze(1)将y_prd的维度从(N,1)变为(N,)optimizer.zero_grad()  # 梯度清零loss.backward()  # 反向传播，计算梯度optimizer.step()  # 更新模型参数writer.add_scalar("loss", loss, n)  # 将损失值写入TensorBoardwriter.add_scalar("learing_rate", optimizer.param_groups[0]["lr"], n)  # 将学习率写入TensorBoardif n % 10 == 0 or n == 1:  # 每10轮打印一次损失值print(f"epoches:{n},loss:{loss}")  # 打印轮数和损失值writer.add_graph(model, torch.rand(1, 1))  # 将模型结构写入TensorBoard
writer.close()  # 关闭SummaryWriter

四、tensorflow 框架的线性回归

从以下5个方面对深度学习框架tensorflow框架的线性回归进行介绍

1.tensorflow模型的定义

2.tensorflow模型的保存

3.tensorflow模型的加载

4.tensorflow模型网络结构的查看

5.tensorflow框架线性回归的代码实现

上面这5方面的内容，让大家，掌握并理解tensorflow框架实现线性回归的过程。

tensorflow官网

https://www.tensorflow.org/guide/keras/sequential_modelhttps://www.tensorflow.org/guide/keras/sequential_model

下面这个网址也可以使用

Module: tf | TensorFlow v2.16.1## TensorFlowhttps://tensorflow.google.cn/api_docs/python/tf

4.1 tensorflow模型的定义

什么是tf.keras？

tf.keras的功能是实现tensorflow模型搭建、模型训练和模型预测

4.1.1 tf.keras.Sequential


import tensorflow as tfmodel=tf.keras.Sequential([tf.keras.layers.Dense(1,#输出特征的维度
input_shape=(1,)#输入的特征维度
)] #使用序列层需要在列表中添加线性层)

4.1.2 tf.keras.Sequential()另一种方式

import tensorflow as tf
#方案2的第1种方法
model=tf.keras.Sequential() #申请一个序列的对象
model.add(tf.keras.Input(shape=(1,)))
model.add(tf.keras.layers.Dense(1))
#方案2的第2种方法
model=tf.keras.Sequential()
model.add(tf.keras.layers.Dense(1,input_shape=(1,)))

4.1.3 就是写一个类重写实现网络的搭建

import tensorflow as tf
from tensorflow.keras import Modelclass Linear(Model):#初始化def __init__(self):super(Linear,self).__init__()#定义网络层self.linear=tf.keras.layers.Dense(1)#和pytroch有点不同，pytorch使用forward 这里使用call函数调用def call(self,x,**kwargs):x=self.linear(x)return x
model=Linear()

4.1.4 tensorflow中最常用的

import tensorflow as tf
#直接写个函数
def linear():#input 表示输入的特征维度信息，且要指定数据类型input=tf.keras.layers.Input(shape=(1,),dtype=tf.float32)#下面层数搭建必须要把上一次的输入使用圆括号括起来y=tf.keras.layers.Dense(1)(input)#最后网络网络搭建以后必须使用tf.keras.models.Model进行封装，且输入参数(inputs)为输入的维度信息，输出参数(outputs)为最后一层网络输出model=tf.keras.models.Model(inputs=input,outputs=y)#返回模型return model
model=linear()

4.2 tensorflow模型的保存

模型的保存方式

4.2.1 保存为 .h5

HDF5文件后缀名 .h5

保存参数、模型结构、训练的配置等等

只针对函数或者顺序模型的方式 方案3不支持

model.save('./my_model.h5')

4.2.2 只保存参数

保存参数包括权重w及偏置b

model.save_weights('./model.weights.h5')

import tensorflow as tf
from  tensorflow.keras import Model#tensorflow最常用的搭建方式
#直接写个函数
def linear():#input 表示输入的特征维度信息，且要指定数据类型input=tf.keras.layers.Input(shape=(1,),dtype=tf.float32)#下面层数搭建必须要把上一次的输入使用圆括号括起来y=tf.keras.layers.Dense(1)(input)#最后网络网络搭建以后必须使用tf.keras.models.Model进行封装，且输入参数(inputs)为输入的维度信息，输出参数(outputs)为最后一层网络输出model=tf.keras.models.Model(inputs=input,outputs=y)#返回模型return model
model=linear()model.save('./my_model.h5')#保存为参数方式
model.save_weights('./model.weights.h5')

4.3 tensorflow模型的加载

4.3.1 模型加载针对方式1

import tensorflow as tf
from  tensorflow.keras import Model
#针对第一个方案 所有的参数都保存了
# 模型的加载方式 # 方式1: HDF5文件 后缀名 .h5
#加载参数、模型结构、训练的配置等等
#方式1：与pytorch区别，pytorch需要原来的模型结构，
# 在tensorflow里面可以不给原来的模型结构load_model=tf.keras.models.load_model('my_model.h5')
print(load_model)

4.3.2 加载只保存参数，包括权重w及偏置b

import tensorflow as tf 
def linear():#input 表示输入的特征维度信息，且要指定数据类型input=tf.keras.layers.Input(shape=(1,),dtype=tf.float32)#下面层数搭建必须要把上一次的输入使用圆括号括起来y=tf.keras.layers.Dense(1)(input)#最后网络网络搭建以后必须使用tf.keras.models.Model进行封装，且输入参数(inputs)为输入的维度信息，输出参数(outputs)为最后一层网络输出model=tf.keras.models.Model(inputs=input,outputs=y)#返回模型return model
model=linear()model.load_weights('model.weights.h5')
print(model)

4.4 tensorflow模型网络结构的查看

4.4.1 summary() 模型搭建好就有summary()

print(model.summary())

4.4.2 使用netron

netron pycharm 终端下输入 pip install netron

下载好后，在终端下输入 netron，

在浏览器上输入 http://localhost:8080 即可

打开一个模型后刷新就可以打开另一个模型

4.4.3 最经典的 tensorboard 方法

#在计算图中添加模型

tensorboard_callback=tf.keras.callbacks.TensorBoard(log_dir='./logs')

#callbacks需要一个列表

model.fit(x_train,y_train,epochs=epochs,callbacks=[tensorboard_callback])

下载tensorboard 终端下载 pip install tensorboard ，下载成功后，切到日志写入的文件夹的上一个文件夹所在位置，输入python -m tensorboard.main --logdir="./logs" 下面会出来一个网址 http://localhost:6006/ 在浏览器打开就可以了。会显示缺少这个包，将six安装上 pip install six

效果图

模型训练好网络查看代码

#导入库
import tensorflow as tf
import numpy as np
from tensorflow.keras import Model
#设置随机化种子
seed=1
#设置随机数种子 确保每次的运行结果一致
tf.random.set_seed(seed)# 1.散点输入 定义输入数据
data = [[-0.5, 7.7], [1.8, 98.5], [0.9, 57.8], [0.4, 39.2], [-1.4, -15.7], [-1.4, -37.3], [-1.8, -49.1], [1.5, 75.6], [0.4, 34.0], [0.8, 62.3]]
#转化为数组
data=np.array(data)
# 提取x 和y
x_data=data[:,0]
y_data=data[:,1]#转化为tensorflow用的张量 创建张量
x_train=tf.constant(x_data,dtype=tf.float32)
y_train=tf.constant(y_data,dtype=tf.float32)#可以将numpy数组或者tensorflow张量 把数据切成(x_train_i,y_train_i)
dataset=tf.data.Dataset.from_tensor_slices((x_train,y_train))
#shuffle是打乱，但是这个buffer_size是啥？
# buffer_size规定了乱序缓冲区的大小，且要求缓冲区大小小于或等于数据集的完整大小；
# 假设数据集的大小为10000，buffer_size为1000，最开始算法会把前1000个数据放入缓冲区；
#当从缓冲区内的这1000个数据中随机选出一个元素后，这个元素的位置会被数据集的第1001个数据替换；然后再从
#这1000个元素中随机选择第2个元素，第2个会被数据集中第1002个数据替换，以此类推，此外buffer_size不宜过大
# ，过大会导致内存爆炸
dataset=dataset.shuffle(buffer_size=10)
#数据集的batch是2
dataset=dataset.batch(2)
#预取训练的方式,CPU取数据，GPU tpu会取出来一批数据，在cpu上没效果 效果会改善延迟和吞吐量
dataset=dataset.prefetch(buffer_size=tf.data.experimental.AUTOTUNE)# 方案4
def linear():input=tf.keras.layers.Input(shape=(1,),dtype=tf.float32)y=tf.keras.layers.Dense(1)(input)model=tf.keras.models.Model(inputs=input,outputs=y)return model
model=linear()
# #3.定义损失函数和优化器
optimizer=tf.keras.optimizers.SGD(learning_rate=0.01)
#模型配置
model.compile(optimizer=optimizer,#配置优化器loss="mean_squared_error"#配置使用什么损失函数)#查看网络结构
#方法1：summary()
#结构中None是batch
print(model.summary())#方法2 使用netron
# netron pycharm 终端下输入  pip install netron
# 下载好后，在终端下输入 netron，
# 在浏览器上输入 http://localhost:8080 即可
# 打开一个模型后刷新就可以打开另一个模型#方法 3 最经典的 tensorboard 方法
epochs=500
#在计算图中添加模型
tensorboard_callback=tf.keras.callbacks.TensorBoard(log_dir='./logs')
#callbacks需要一个列表
#模型训练
model.fit(x_train,#输入数据y_train,#输入标签数据epochs=epochs,#迭代的次数callbacks=[tensorboard_callback]#图形展示可有可无)
#保存模型
model.save_weights("model.weights.h5")
#预测模型
input_data=np.array([[-0.5]])
pre=model.predict(input_data)
#从数组中提取出结果值
print(f"model result :{pre[0][0]:2.3f}")

总结

本文全面介绍了PyTorch和TensorFlow两大深度学习框架中模型的保存、加载以及网络结构可视化的方法。针对PyTorch，详细讲解了使用torch.save()保存和torch.load()加载整个模型以及仅保存模型参数的方法，并探讨了如何使用print(model)、torchsummary、Netron和TensorboardX等工具查看和验证模型结构。对于TensorFlow，文章阐述了使用tf.keras定义模型的三种方式，包括tf.keras.Sequential、通过类继承重写以及函数式API，并介绍了将模型保存为.h5文件和仅保存模型参数的方法。同时，本文还展示了TensorFlow模型加载以及使用summary()、Netron和TensorBoard等工具进行模型结构可视化的具体步骤。

前言