pytorch11：模型加载与保存、finetune迁移训练
发布时间：2024年01月11日
目录
一、模型加载与保存
1.1 序列化与反序列化概念
序列化是将数据结构或对象转换为可以存储或传输的格式的过程，而反序列化则是将存储或传输的数据重新转换为数据结构或对象的过程。
在计算机科学中，序列化和反序列化通常用于数据持久化、网络传输和进程间通信等场景。以下是对序列化和反序列化的详细解读：
- 序列化：
- 序列化的过程将数据结构或对象转换为字节流或其他格式，以便在存储或传输时能够被保存下来或发送出去。这通常涉及将数据结构中的字段和属性转换为二进制码或文本格式，以便能够被存储在文件中或通过网络传输。
- 序列化的结果可以是二进制数据、JSON、XML等格式，不同的数据类型和应用场景可能采用不同的序列化格式。
- 序列化的过程可以包括将对象进行扁平化、编码、压缩等操作，以便提高存储和传输的效率和安全性。
- 反序列化：
- 反序列化的过程是将序列化后的数据重新转换为原始的数据结构或对象，使得在存储或传输后能够恢复原来的数据格式和内容。
- 反序列化的过程需要根据序列化时采用的格式和规则，对序列化后的数据进行解码、解压缩等操作，最终还原为原始的数据结构或对象。
- 反序列化的过程需要确保数据的完整性和正确性，以及适当地处理可能存在的异常和错误情况。
在实际应用中，序列化和反序列化广泛应用于各种领域，如数据库持久化、分布式系统通信、缓存存储、远程过程调用等。常见的序列化和反序列化技术包括JSON、XML、Protocol Buffers、Thrift等，它们在不同的场景和需求下有着不同的优势和适用性。
通过序列化技术，将内存中的数据存储到硬盘，在需要使用的时候通过反序列化的方法转化成可读取数据。
1.2 pytorch中的序列化与反序列化
- torch.save(序列化)：用于保存模型
主要参数：
? obj：对象
? f：输出路径 - torch.load(反序列化)：用于加载模型
主要参数
? f：文件路径
? map_location：指定存放位置, cpu or gpu
1.3 模型保存的两种方法
方法1：保存整个Module模型
torch.save(net, path)
方法2：保存模型参数parameter
state_dict = net.state_dict()
torch.save(state_dict , path)
使用方法1会比较耗时耗费资源，通常我们会使用方法2，只保存模型训练过程中的参数。
代码实现：
import torch
import numpy as np
import torch.nn as nn
class LeNet2(nn.Module):
def __init__(self, classes):
super(LeNet2, self).__init__()
self.features = nn.Sequential(
nn.Conv2d(3, 6, 5),
nn.ReLU(),
nn.MaxPool2d(2, 2),
nn.Conv2d(6, 16, 5),
nn.ReLU(),
nn.MaxPool2d(2, 2)
)
self.classifier = nn.Sequential(
nn.Linear(16*5*5, 120),
nn.ReLU(),
nn.Linear(120, 84),
nn.ReLU(),
nn.Linear(84, classes)
)
def forward(self, x):
x = self.features(x)
x = x.view(x.size()[0], -1)
x = self.classifier(x)
return x
def initialize(self):
for p in self.parameters():
p.data.fill_(2024111)
net = LeNet2(classes=2024)
# "训练"
print("训练前: ", net.features[0].weight[0, ...])
net.initialize() #模型模型训练参数改变
print("训练后: ", net.features[0].weight[0, ...])
path_model = "./model.pkl"
path_state_dict = "./model_state_dict.pkl"
# 保存整个模型
torch.save(net, path_model)
# 保存模型参数
net_state_dict = net.state_dict()
torch.save(net_state_dict, path_state_dict)
输出结果：
1.4 模型加载两种方法
方法1：加载模型
代码实现：
# ================================== load net ===========================
flag = 1
# flag = 0
if flag:
path_model = "./model.pkl"
net_load = torch.load(path_model)
print(net_load)
输出结果：
方法2： 加载参数
代码实现：
# ================================== load state_dict ===========================
flag = 1
# flag = 0
if flag:
path_state_dict = "./model_state_dict.pkl"
state_dict_load = torch.load(path_state_dict)
print(state_dict_load.keys())
输出结果：
将保存的参数名称打印出来；
方法3：将参数加载到新的模型当中
# ================================== update state_dict ===========================
flag = 1
# flag = 0
if flag:
net_new = LeNet2(classes=2019)
print("加载前: ", net_new.features[0].weight[0, ...])
net_new.load_state_dict(state_dict_load)
print("加载后: ", net_new.features[0].weight[0, ...])
输出结果：
以上完整代码：
# -*- coding: utf-8 -*-
import torch
import numpy as np
import torch.nn as nn
class LeNet2(nn.Module):
def __init__(self, classes):
super(LeNet2, self).__init__()
self.features = nn.Sequential(
nn.Conv2d(3, 6, 5),
nn.ReLU(),
nn.MaxPool2d(2, 2),
nn.Conv2d(6, 16, 5),
nn.ReLU(),
nn.MaxPool2d(2, 2)
)
self.classifier = nn.Sequential(
nn.Linear(16*5*5, 120),
nn.ReLU(),
nn.Linear(120, 84),
nn.ReLU(),
nn.Linear(84, classes)
)
def forward(self, x):
x = self.features(x)
x = x.view(x.size()[0], -1)
x = self.classifier(x)
return x
def initialize(self):
for p in self.parameters():
p.data.fill_(20191104)
# ================================== load net ===========================
# flag = 1
flag = 0
if flag:
path_model = "./model.pkl"
net_load = torch.load(path_model)
print(net_load)
# ================================== load state_dict ===========================
flag = 1
# flag = 0
if flag:
path_state_dict = "./model_state_dict.pkl"
state_dict_load = torch.load(path_state_dict)
print(state_dict_load.keys())
# ================================== update state_dict ===========================
flag = 1
# flag = 0
if flag:
net_new = LeNet2(classes=2024)
print("加载前: ", net_new.features[0].weight[0, ...])
net_new.load_state_dict(state_dict_load)
print("加载后: ", net_new.features[0].weight[0, ...])
二、断点训练
首先我们需要确定模型训练过程中哪些参数是会一直发生变化的，模型中的权值以及优化器中的可学习参数是一直发生变化的，数据以及损失函数是保持不变的。
断点训练函数方法：
2.1 断点保存代码
当训练到第5次的时候我们进行人为中断训练，将当前训练阶段的模型权值参数、优化器参数、训练轮数保存到checkpoint
if (epoch+1) % checkpoint_interval == 0: # checkpoint_interval初始值设置为5
checkpoint = {"model_state_dict": net.state_dict(),
"optimizer_state_dict": optimizer.state_dict(),
"epoch": epoch}
path_checkpoint = "./checkpoint_{}_epoch.pkl".format(epoch)
torch.save(checkpoint, path_checkpoint)
if epoch > 5:
print("训练意外中断...")
break
输出结果：
2.2 断点恢复代码
加载上一次训练相关参数数据
# ============================ step 5+/5 断点恢复 ============================
path_checkpoint = "./checkpoint_4_epoch.pkl"
checkpoint = torch.load(path_checkpoint)
net.load_state_dict(checkpoint['model_state_dict']) # 加载网络模型参数
optimizer.load_state_dict(checkpoint['optimizer_state_dict']) # 加载优化器当中相关可学习参数
start_epoch = checkpoint['epoch'] # 加载上一次训练轮数
scheduler.last_epoch = start_epoch # 学习率策略更新
输出结果：
当前训练初始轮数从第5轮开始训练，所以精度可以很快增加。
完整代码展示
save_checkpoint.py；保存断点参数数据
# -*- coding: utf-8 -*-
import os
import random
import numpy as np
import torch
import torch.nn as nn
from torch.utils.data import DataLoader
import torchvision.transforms as transforms
import torch.optim as optim
from PIL import Image
from matplotlib import pyplot as plt
import sys
hello_pytorch_DIR = os.path.abspath(os.path.dirname(__file__) + os.path.sep + ".." + os.path.sep + "..")
sys.path.append(hello_pytorch_DIR)
from model.lenet import LeNet
from tools.my_dataset import RMBDataset
from tools.common_tools import set_seed
import torchvision
set_seed(1) # 设置随机种子
rmb_label = {"1": 0, "100": 1}
# 参数设置
checkpoint_interval = 5
MAX_EPOCH = 10
BATCH_SIZE = 16
LR = 0.01
log_interval = 10
val_interval = 1
# ============================ step 1/5 数据 ============================
BASE_DIR = os.path.dirname(os.path.abspath(__file__))
split_dir = os.path.abspath(os.path.join(BASE_DIR, "..", "..", "data", "rmb_split"))
train_dir = os.path.join(split_dir, "train")
valid_dir = os.path.join(split_dir, "valid")
if not os.path.exists(split_dir):
raise Exception(r"数据 {} 不存在, 回到lesson-06\1_split_dataset.py生成数据".format(split_dir))
norm_mean = [0.485, 0.456, 0.406]
norm_std = [0.229, 0.224, 0.225]
train_transform = transforms.Compose([
transforms.Resize((32, 32)),
transforms.RandomCrop(32, padding=4),
transforms.RandomGrayscale(p=0.8),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
valid_transform = transforms.Compose([
transforms.Resize((32, 32)),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
# 构建MyDataset实例
train_data = RMBDataset(data_dir=train_dir, transform=train_transform)
valid_data = RMBDataset(data_dir=valid_dir, transform=valid_transform)
# 构建DataLoder
train_loader = DataLoader(dataset=train_data, batch_size=BATCH_SIZE, shuffle=True)
valid_loader = DataLoader(dataset=valid_data, batch_size=BATCH_SIZE)
# ============================ step 2/5 模型 ============================
net = LeNet(classes=2)
net.initialize_weights()
# ============================ step 3/5 损失函数 ============================
criterion = nn.CrossEntropyLoss() # 选择损失函数
# ============================ step 4/5 优化器 ============================
optimizer = optim.SGD(net.parameters(), lr=LR, momentum=0.9) # 选择优化器
scheduler = torch.optim.lr_scheduler.StepLR(optimizer, step_size=6, gamma=0.1) # 设置学习率下降策略
# ============================ step 5+/5 断点恢复 ============================
path_checkpoint = "./checkpoint_4_epoch.pkl"
checkpoint = torch.load(path_checkpoint)
net.load_state_dict(checkpoint['model_state_dict']) # 加载网络模型参数
optimizer.load_state_dict(checkpoint['optimizer_state_dict']) # 加载优化器当中相关可学习参数
start_epoch = checkpoint['epoch'] # 加载上一次训练轮数
scheduler.last_epoch = start_epoch # 学习率策略更新
# ============================ step 5/5 训练 ============================
train_curve = list()
valid_curve = list()
for epoch in range(start_epoch + 1, MAX_EPOCH):
loss_mean = 0.
correct = 0.
total = 0.
net.train()
for i, data in enumerate(train_loader):
# forward
inputs, labels = data
outputs = net(inputs)
# backward
optimizer.zero_grad()
loss = criterion(outputs, labels)
loss.backward()
# update weights
optimizer.step()
# 统计分类情况
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).squeeze().sum().numpy()
# 打印训练信息
loss_mean += loss.item()
train_curve.append(loss.item())
if (i + 1) % log_interval == 0:
loss_mean = loss_mean / log_interval
print("Training:Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, i + 1, len(train_loader), loss_mean, correct / total))
loss_mean = 0.
scheduler.step() # 更新学习率
if (epoch + 1) % checkpoint_interval == 0:
checkpoint = {"model_state_dict": net.state_dict(),
"optimizer_state_dic": optimizer.state_dict(),
"loss": loss,
"epoch": epoch}
path_checkpoint = "./checkpint_{}_epoch.pkl".format(epoch)
torch.save(checkpoint, path_checkpoint)
# if epoch > 5:
# print("训练意外中断...")
# break
# validate the model
if (epoch + 1) % val_interval == 0:
correct_val = 0.
total_val = 0.
loss_val = 0.
net.eval()
with torch.no_grad():
for j, data in enumerate(valid_loader):
inputs, labels = data
outputs = net(inputs)
loss = criterion(outputs, labels)
_, predicted = torch.max(outputs.data, 1)
total_val += labels.size(0)
correct_val += (predicted == labels).squeeze().sum().numpy()
loss_val += loss.item()
valid_curve.append(loss.item())
print("Valid:\t Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, j + 1, len(valid_loader), loss_val / len(valid_loader), correct / total))
train_x = range(len(train_curve))
train_y = train_curve
train_iters = len(train_loader)
valid_x = np.arange(1, len(valid_curve) + 1) * train_iters * val_interval # 由于valid中记录的是epochloss，需要对记录点进行转换到iterations
valid_y = valid_curve
plt.plot(train_x, train_y, label='Train')
plt.plot(valid_x, valid_y, label='Valid')
plt.legend(loc='upper right')
plt.ylabel('loss value')
plt.xlabel('Iteration')
plt.show()
checkpoint_resume.py：加载断点参数数据
# -*- coding: utf-8 -*-
import os
import random
import numpy as np
import torch
import torch.nn as nn
from torch.utils.data import DataLoader
import torchvision.transforms as transforms
import torch.optim as optim
from PIL import Image
from matplotlib import pyplot as plt
import sys
hello_pytorch_DIR = os.path.abspath(os.path.dirname(__file__) + os.path.sep + ".." + os.path.sep + "..")
sys.path.append(hello_pytorch_DIR)
from model.lenet import LeNet
from tools.my_dataset import RMBDataset
from tools.common_tools import set_seed
import torchvision
set_seed(1) # 设置随机种子
rmb_label = {"1": 0, "100": 1}
# 参数设置
checkpoint_interval = 5
MAX_EPOCH = 10
BATCH_SIZE = 16
LR = 0.01
log_interval = 10
val_interval = 1
# ============================ step 1/5 数据 ============================
BASE_DIR = os.path.dirname(os.path.abspath(__file__))
split_dir = os.path.abspath(os.path.join(BASE_DIR, "..", "..", "data", "rmb_split"))
train_dir = os.path.join(split_dir, "train")
valid_dir = os.path.join(split_dir, "valid")
if not os.path.exists(split_dir):
raise Exception(r"数据 {} 不存在, 回到lesson-06\1_split_dataset.py生成数据".format(split_dir))
norm_mean = [0.485, 0.456, 0.406]
norm_std = [0.229, 0.224, 0.225]
train_transform = transforms.Compose([
transforms.Resize((32, 32)),
transforms.RandomCrop(32, padding=4),
transforms.RandomGrayscale(p=0.8),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
valid_transform = transforms.Compose([
transforms.Resize((32, 32)),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
# 构建MyDataset实例
train_data = RMBDataset(data_dir=train_dir, transform=train_transform)
valid_data = RMBDataset(data_dir=valid_dir, transform=valid_transform)
# 构建DataLoder
train_loader = DataLoader(dataset=train_data, batch_size=BATCH_SIZE, shuffle=True)
valid_loader = DataLoader(dataset=valid_data, batch_size=BATCH_SIZE)
# ============================ step 2/5 模型 ============================
net = LeNet(classes=2)
net.initialize_weights()
# ============================ step 3/5 损失函数 ============================
criterion = nn.CrossEntropyLoss() # 选择损失函数
# ============================ step 4/5 优化器 ============================
optimizer = optim.SGD(net.parameters(), lr=LR, momentum=0.9) # 选择优化器
scheduler = torch.optim.lr_scheduler.StepLR(optimizer, step_size=6, gamma=0.1) # 设置学习率下降策略
# ============================ step 5+/5 断点恢复 ============================
path_checkpoint = "./checkpoint_4_epoch.pkl"
checkpoint = torch.load(path_checkpoint)
net.load_state_dict(checkpoint['model_state_dict']) # 加载网络模型参数
optimizer.load_state_dict(checkpoint['optimizer_state_dict']) # 加载优化器当中相关可学习参数
start_epoch = checkpoint['epoch'] # 加载上一次训练轮数
scheduler.last_epoch = start_epoch # 学习率策略更新
# ============================ step 5/5 训练 ============================
train_curve = list()
valid_curve = list()
for epoch in range(start_epoch + 1, MAX_EPOCH):
loss_mean = 0.
correct = 0.
total = 0.
net.train()
for i, data in enumerate(train_loader):
# forward
inputs, labels = data
outputs = net(inputs)
# backward
optimizer.zero_grad()
loss = criterion(outputs, labels)
loss.backward()
# update weights
optimizer.step()
# 统计分类情况
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).squeeze().sum().numpy()
# 打印训练信息
loss_mean += loss.item()
train_curve.append(loss.item())
if (i + 1) % log_interval == 0:
loss_mean = loss_mean / log_interval
print("Training:Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, i + 1, len(train_loader), loss_mean, correct / total))
loss_mean = 0.
scheduler.step() # 更新学习率
if (epoch + 1) % checkpoint_interval == 0:
checkpoint = {"model_state_dict": net.state_dict(),
"optimizer_state_dic": optimizer.state_dict(),
"loss": loss,
"epoch": epoch}
path_checkpoint = "./checkpint_{}_epoch.pkl".format(epoch)
torch.save(checkpoint, path_checkpoint)
# if epoch > 5:
# print("训练意外中断...")
# break
# validate the model
if (epoch + 1) % val_interval == 0:
correct_val = 0.
total_val = 0.
loss_val = 0.
net.eval()
with torch.no_grad():
for j, data in enumerate(valid_loader):
inputs, labels = data
outputs = net(inputs)
loss = criterion(outputs, labels)
_, predicted = torch.max(outputs.data, 1)
total_val += labels.size(0)
correct_val += (predicted == labels).squeeze().sum().numpy()
loss_val += loss.item()
valid_curve.append(loss.item())
print("Valid:\t Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, j + 1, len(valid_loader), loss_val / len(valid_loader), correct / total))
train_x = range(len(train_curve))
train_y = train_curve
train_iters = len(train_loader)
valid_x = np.arange(1, len(valid_curve) + 1) * train_iters * val_interval # 由于valid中记录的是epochloss，需要对记录点进行转换到iterations
valid_y = valid_curve
plt.plot(train_x, train_y, label='Train')
plt.plot(valid_x, valid_y, label='Valid')
plt.legend(loc='upper right')
plt.ylabel('loss value')
plt.xlabel('Iteration')
plt.show()
三、finetune
3.1 迁移学习
首先了解一下迁移学习(Transfer Learning)概念：它机器学习分支，研究源域(source domain)的知识如何应用到目标域(target
domain)，来提高模型的性能。
图(a)是传统的机器学习过程，针对某一个任务进行网络模型训练
图(b)是迁移学习过程，通过对源任务进行模型训练得到一个"知识"，当我们需要训练一个新的任务时，可以在源任务训练的"知识"上继续进行训练，从而得到target模型；
3.2 模型的迁移学习
假设我们已经训练好一个模型了，我们把网络训练过程中的权值当做"知识"，当我想要再训练一个新的模型任务时，但是数据量较小，不足以训练一个较好的模型，我们把上一个模型的知识应用到新的任务当中，这就是模型的迁移训练，从而提高模型的精度和效果。就好比一个人学会了一门乐器之后，已经掌握了相关乐理知识，再让他去学习另外一门乐器就会更加容易学习！！！
3.2 模型微调步骤
通常我们会找到模型训练过程中具有相同共性的部分，例如下面这个神经网络，分为两部分，分别是特征提取部分feature和图像分类部分classifier两个部分，当我们需要进行其他图像分类任务的时候，我们可以保留图像特征提取部分，改变分类部分的output类别数。
3.2.1 模型微调步骤
- 获取预训练模型参数：源任务当中学习到的"知识"。
- 加载模型（load_state_dict）：将知识加载到新的模型当中。
- 修改输出层，不同任务输出层类别数不同。
3.2.2 模型微调训练方法
- 固定预训练的参数(固定参数的方法：requires_grad =False；lr=0)。
- Features Extractor较小学习率（params_group），不同的参数组设置不同的学习率，例如特征提取模块我们希望它变动不大，可以设置较小的学习率，在特征分类模块可以设置较大的学习率。
3.3 迁移训练实验
1、数据准备
Finetune Resnet -18 用于二分类，蚂蚁蜜蜂二分类数据，训练集：各120～张 验证集：各70～张
下载Resnet -18预训练模型，下载地址:https://download.pytorch.org/models/resnet18-5c106cde.pth
2、实验结果
在经过25轮训练之后，不使用预训练模型的精度提升的很慢，但是使用了预训练模型之后精度可以快速上升。
数据处理模块，用于获取蜜蜂和蚂蚁图片路径以及文件夹标签：
class AntsDataset(Dataset):
def __init__(self, data_dir, transform=None):
# 初始化函数，接收数据目录和数据变换操作
self.label_name = {"ants": 0, "bees": 1} # 定义标签对应的字典
self.data_info = self.get_img_info(data_dir) # 获取图片信息
self.transform = transform # 保存数据变换操作
def __getitem__(self, index):
# 获取指定索引处的数据
path_img, label = self.data_info[index] # 获取图片路径和标签
img = Image.open(path_img).convert('RGB') # 打开图片并转换为RGB格式
if self.transform is not None:
img = self.transform(img) # 对图片进行数据变换
return img, label # 返回处理后的图片和标签
def __len__(self):
# 返回数据集的长度
return len(self.data_info)
def get_img_info(self, data_dir):
# 获取图片信息的函数
data_info = list() # 创建空列表用于保存图片信息
for root, dirs, _ in os.walk(data_dir):
# 遍历数据目录中的子目录
for sub_dir in dirs:
img_names = os.listdir(os.path.join(root, sub_dir)) # 获取子目录下的文件列表
img_names = list(filter(lambda x: x.endswith('.jpg'), img_names)) # 筛选出.jpg格式的文件名
# 遍历该子目录下的图片
for i in range(len(img_names)):
img_name = img_names[i] # 获取图片文件名
path_img = os.path.join(root, sub_dir, img_name) # 构建完整的图片路径
label = self.label_name[sub_dir] # 获取图片的标签
data_info.append((path_img, int(label))) # 将图片路径和标签添加到数据信息列表中
if len(data_info) == 0:
raise Exception("\ndata_dir:{} is a empty dir! Please checkout your path to images!".format(
data_dir)) # 若数据信息列表为空，则抛出异常
return data_info # 返回图片信息列表
加载预训练模型模块：
flag = 1
if flag:
path_pretrained_model = os.path.join("finetune_resnet18-5c106cde.pth")
if not os.path.exists(path_pretrained_model):
raise Exception("\n{} 不存在，请下载 07-02-数据-模型finetune.zip\n放到 {}下，并解压即可".format(
path_pretrained_model, os.path.dirname(path_pretrained_model)))
state_dict_load = torch.load(path_pretrained_model)
resnet18_ft.load_state_dict(state_dict_load)
冻结网络层方法
# 冻结所有网络层
flag_m1 = 0
# flag_m1 = 1
if flag_m1:
for param in resnet18_ft.parameters():
param.requires_grad = False
print("conv1.weights[0, 0, ...]:\n {}".format(resnet18_ft.fc.weight[0, 0, ...]))
替换fc层，因为我们是2分类模型，所以需要修改分类网络；
# 3/3 替换fc层
num_ftrs = resnet18_ft.fc.in_features # 获取原网络中的特征输入
resnet18_ft.fc = nn.Linear(num_ftrs, classes) #classes=2
网络分组模块，我们希望特征提取部分参数更新小一些，分类部分参数更新大一些；
if flag:
# 将网络划分为两个参数组
fc_params_id = list(map(id, resnet18_ft.fc.parameters()))
"""
这一行首先使用resnet18_ft.fc.parameters()获取了ResNet18模型中全连接层的参数，
然后通过map(id, ...)将每个参数的内存地址映射为一个列表。这样得到的fc_params_id列表包含了全连接层参数的内存地址。
"""
base_params = filter(lambda p: id(p) not in fc_params_id, resnet18_ft.parameters())
"""
这一行使用filter函数和lambda表达式来过滤resnet18_ft模型中不属于全连接层的参数。具体来说，filter函数通过
lambda p: id(p) not in fc_params_id对resnet18_ft.parameters()中的参数进行过滤，
保留那些内存地址不在fc_params_id列表中的参数。这样就得到了base_params，其中包含了除全连接层参数外的其他层的参数,也就是特征提取部分。
"""
optimizer = optim.SGD([
{'params': base_params, 'lr': LR * 0}, # 卷积层的学习率设置小一些，如果设置为0的话，会直接冻结卷积层
{'params': resnet18_ft.fc.parameters(), 'lr': LR}], momentum=0.9)
else:
optimizer = optim.SGD(resnet18_ft.parameters(), lr=LR, momentum=0.9) # 选择优化器
完整模型训练代码如下：
# -*- coding: utf-8 -*-
import os
import numpy as np
import torch
import torch.nn as nn
from torch.utils.data import DataLoader
import torchvision.transforms as transforms
import torch.optim as optim
from matplotlib import pyplot as plt
from torch.utils.data import Dataset
from PIL import Image
import sys
import random
hello_pytorch_DIR = os.path.abspath(os.path.dirname(__file__) + os.path.sep + ".." + os.path.sep + "..")
sys.path.append(hello_pytorch_DIR)
import torchvision.models as models
import torchvision
BASEDIR = os.path.dirname(os.path.abspath(__file__))
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
print("use device :{}".format(device))
# =====================参数设置=====================
def set_seed(seed=1):
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed(seed)
set_seed(1) # 设置随机种子
label_name = {"ants": 0, "bees": 1}
# 参数设置
MAX_EPOCH = 25
BATCH_SIZE = 16
LR = 0.001
log_interval = 10
val_interval = 1
classes = 2
start_epoch = -1
lr_decay_step = 5
# =======================读取图片数据==============================
class AntsDataset(Dataset):
def __init__(self, data_dir, transform=None):
# 初始化函数，接收数据目录和数据变换操作
self.label_name = {"ants": 0, "bees": 1} # 定义标签对应的字典
self.data_info = self.get_img_info(data_dir) # 获取图片信息
self.transform = transform # 保存数据变换操作
def __getitem__(self, index):
# 获取指定索引处的数据
path_img, label = self.data_info[index] # 获取图片路径和标签
img = Image.open(path_img).convert('RGB') # 打开图片并转换为RGB格式
if self.transform is not None:
img = self.transform(img) # 对图片进行数据变换
return img, label # 返回处理后的图片和标签
def __len__(self):
# 返回数据集的长度
return len(self.data_info)
def get_img_info(self, data_dir):
# 获取图片信息的函数
data_info = list() # 创建空列表用于保存图片信息
for root, dirs, _ in os.walk(data_dir):
# 遍历数据目录中的子目录
for sub_dir in dirs:
img_names = os.listdir(os.path.join(root, sub_dir)) # 获取子目录下的文件列表
img_names = list(filter(lambda x: x.endswith('.jpg'), img_names)) # 筛选出.jpg格式的文件名
# 遍历该子目录下的图片
for i in range(len(img_names)):
img_name = img_names[i] # 获取图片文件名
path_img = os.path.join(root, sub_dir, img_name) # 构建完整的图片路径
label = self.label_name[sub_dir] # 获取图片的标签
data_info.append((path_img, int(label))) # 将图片路径和标签添加到数据信息列表中
if len(data_info) == 0:
raise Exception("\ndata_dir:{} is a empty dir! Please checkout your path to images!".format(
data_dir)) # 若数据信息列表为空，则抛出异常
return data_info # 返回图片信息列表
# ============================ step 1/5 数据 ============================
data_dir = os.path.abspath(os.path.join(BASEDIR, "..", "..", "data", "hymenoptera_data"))
if not os.path.exists(data_dir):
raise Exception("\n{} 不存在，请下载 07-02-数据-模型finetune.zip 放到\n{} 下，并解压即可".format(
data_dir, os.path.dirname(data_dir)))
train_dir = os.path.join(data_dir, "train")
valid_dir = os.path.join(data_dir, "val")
norm_mean = [0.485, 0.456, 0.406]
norm_std = [0.229, 0.224, 0.225]
train_transform = transforms.Compose([
transforms.RandomResizedCrop(224),
transforms.RandomHorizontalFlip(),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
valid_transform = transforms.Compose([
transforms.Resize(256),
transforms.CenterCrop(224),
transforms.ToTensor(),
transforms.Normalize(norm_mean, norm_std),
])
# 构建MyDataset实例
train_data = AntsDataset(data_dir=train_dir, transform=train_transform)
valid_data = AntsDataset(data_dir=valid_dir, transform=valid_transform)
# 构建DataLoder
train_loader = DataLoader(dataset=train_data, batch_size=BATCH_SIZE, shuffle=True)
valid_loader = DataLoader(dataset=valid_data, batch_size=BATCH_SIZE)
# ============================ step 2/5 模型 ============================
# 1/3 构建模型
resnet18_ft = models.resnet18()
# 2/3 加载模型参数
# flag = 0
flag = 1
if flag:
path_pretrained_model = os.path.join("finetune_resnet18-5c106cde.pth")
if not os.path.exists(path_pretrained_model):
raise Exception("\n{} 不存在，请下载 07-02-数据-模型finetune.zip\n放到 {}下，并解压即可".format(
path_pretrained_model, os.path.dirname(path_pretrained_model)))
state_dict_load = torch.load(path_pretrained_model)
resnet18_ft.load_state_dict(state_dict_load)
# 冻结所有网络层
flag_m1 = 0
# flag_m1 = 1
if flag_m1:
for param in resnet18_ft.parameters():
param.requires_grad = False
print("conv1.weights[0, 0, ...]:\n {}".format(resnet18_ft.fc.weight[0, 0, ...]))
# 冻结卷积层
flag_c = 0
# flag_c = 1
if flag_c:
for name, param in resnet18_ft.named_parameters():
if "fc" in name: # 如果参数名中不包含"fc"，即不是全连接层的参数
param.requires_grad = False
# 3/3 替换fc层
num_ftrs = resnet18_ft.fc.in_features # 获取原网络中的特征输入
resnet18_ft.fc = nn.Linear(num_ftrs, classes)
resnet18_ft.to(device)
# ============================ step 3/5 损失函数 ============================
criterion = nn.CrossEntropyLoss() # 选择损失函数
# ============================ step 4/5 优化器 ============================
# 法2 : conv 小学习率
flag = 0
# flag = 1
if flag:
# 将网络划分为两个参数组
fc_params_id = list(map(id, resnet18_ft.fc.parameters()))
"""
这一行首先使用resnet18_ft.fc.parameters()获取了ResNet18模型中全连接层的参数，
然后通过map(id, ...)将每个参数的内存地址映射为一个列表。这样得到的fc_params_id列表包含了全连接层参数的内存地址。
"""
base_params = filter(lambda p: id(p) not in fc_params_id, resnet18_ft.parameters())
"""
这一行使用filter函数和lambda表达式来过滤resnet18_ft模型中不属于全连接层的参数。具体来说，filter函数通过
lambda p: id(p) not in fc_params_id对resnet18_ft.parameters()中的参数进行过滤，
保留那些内存地址不在fc_params_id列表中的参数。这样就得到了base_params，其中包含了除全连接层参数外的其他层的参数,也就是特征提取部分。
"""
optimizer = optim.SGD([
{'params': base_params, 'lr': LR * 0}, # 卷积层的学习率设置小一些，如果设置为0的话，会直接冻结卷积层
{'params': resnet18_ft.fc.parameters(), 'lr': LR}], momentum=0.9)
else:
optimizer = optim.SGD(resnet18_ft.parameters(), lr=LR, momentum=0.9) # 选择优化器
# optimizer = optim.Adam(resnet18_ft.parameters(), lr=0.01)
scheduler = torch.optim.lr_scheduler.StepLR(optimizer, step_size=lr_decay_step, gamma=0.1) # 设置学习率下降策略
# ============================ step 5/5 训练 ============================
train_curve = list()
valid_curve = list()
for epoch in range(start_epoch + 1, MAX_EPOCH):
loss_mean = 0.
correct = 0.
total = 0.
resnet18_ft.train()
for i, data in enumerate(train_loader):
# forward
inputs, labels = data
inputs, labels = inputs.to(device), labels.to(device)
outputs = resnet18_ft(inputs)
# backward
optimizer.zero_grad()
loss = criterion(outputs, labels)
loss.backward()
# update weights
optimizer.step()
# 统计分类情况
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).squeeze().cpu().sum().numpy()
# 打印训练信息
loss_mean += loss.item()
train_curve.append(loss.item())
if (i + 1) % log_interval == 0:
loss_mean = loss_mean / log_interval
print("Training:Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, i + 1, len(train_loader), loss_mean, correct / total))
loss_mean = 0.
# if flag_m1:
print("epoch:{} conv1.weights[0, 0, ...] :\n {}".format(epoch, resnet18_ft.fc.weight[0, 0, ...]))
scheduler.step() # 更新学习率
# validate the model
if (epoch + 1) % val_interval == 0:
correct_val = 0.
total_val = 0.
loss_val = 0.
resnet18_ft.eval()
with torch.no_grad():
for j, data in enumerate(valid_loader):
inputs, labels = data
inputs, labels = inputs.to(device), labels.to(device)
outputs = resnet18_ft(inputs)
loss = criterion(outputs, labels)
_, predicted = torch.max(outputs.data, 1)
total_val += labels.size(0)
correct_val += (predicted == labels).squeeze().cpu().sum().numpy()
loss_val += loss.item()
loss_val_mean = loss_val / len(valid_loader)
valid_curve.append(loss_val_mean)
print("Valid:\t Epoch[{:0>3}/{:0>3}] Iteration[{:0>3}/{:0>3}] Loss: {:.4f} Acc:{:.2%}".format(
epoch, MAX_EPOCH, j + 1, len(valid_loader), loss_val_mean, correct_val / total_val))
train_x = range(len(train_curve))
train_y = train_curve
train_iters = len(train_loader)
valid_x = np.arange(1, len(valid_curve) + 1) * train_iters * val_interval # 由于valid中记录的是epochloss，需要对记录点进行转换到iterations
valid_y = valid_curve
plt.plot(train_x, train_y, label='Train')
plt.plot(valid_x, valid_y, label='Valid')
plt.legend(loc='upper right')
plt.ylabel('loss value')
plt.xlabel('Iteration')
plt.show()
文章来源:https://blog.csdn.net/J_oshua/article/details/135522504
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符，请联系我的编程经验分享网邮箱：chenni525@qq.com进行投诉反馈，一经查实，立即删除！
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符，请联系我的编程经验分享网邮箱：chenni525@qq.com进行投诉反馈，一经查实，立即删除！