wordpress 资源站点,ppt模板免费下载 素材红色主题,网页制作与网站建设实验报告,wordpress产品展示主题深度学习——图像分类#xff08;CIFAR-10#xff09; 文章目录 前言一、实现图像分类1.1. 获取并组织数据集1.2. 划分训练集、验证集1.3. 图像增广1.4. 引入数据集1.5. 定义模型1.6. 定义训练函数1.7. 训练模型并保存模型参数 二、生成一个桌面小程序2.1. 使用QT设计师设计界… 深度学习——图像分类CIFAR-10 文章目录 前言一、实现图像分类1.1. 获取并组织数据集1.2. 划分训练集、验证集1.3. 图像增广1.4. 引入数据集1.5. 定义模型1.6. 定义训练函数1.7. 训练模型并保存模型参数 二、生成一个桌面小程序2.1. 使用QT设计师设计界面2.2. 代码实现 总结 前言
CIFAR-10数据集是一个常用的图像分类数据集数据集的类别包括飞机、汽车、鸟类、猫、鹿、狗、青蛙、马、船和卡车。 本章将使用Resnet18模型来对图像进行分类并形成一个小的exe程序。
参考书 《动手学深度学习》 参考文章 一、实现图像分类 以下模型训练皆在kaggle中 1.1. 获取并组织数据集 直接在kaggle官网的CIFAR-10竞赛中下载压缩包得到图像数据集图像为png格式。 将下载后的压缩包导入kaggle中的自己的notebook中 将train文件夹中的图像与其对应的标签文件trainLabels.csv对应形成字典格式 import collections
import math
import os
import shutil
import pandas as pd
import torch
import torchvision
from torch import nn
from d2l import torch as d2l#我们用以下函数读取CSV文件中的标签它返回一个字典该字典将文件名中不带扩展名的部分映射到其标签。data_dir /kaggle/input/cifar-10/CIFAR-10.data/# save
def read_csv_labels(fname):读取fname来给标签字典返回一个文件名with open(fname, r) as f:# 跳过文件头行(列名)lines f.readlines()[1:]tokens [l.rstrip().split(,) for l in lines]return dict(((name, label) for name, label in tokens))labels read_csv_labels(os.path.join(data_dir, trainLabels.csv))
print(# 训练样本 :, len(labels))
print(# 类别 :, len(set(labels.values())))
1.2. 划分训练集、验证集 为了确保验证集是从原始训练集中的每一类的10%我们将原始的文件复制到新的目录再来划分。 target_dir /kaggle/working/my_directory#我们定义reorg_train_valid函数来将验证集从原始的训练集中拆分出来。
#此函数中的参数valid_ratio是验证集中的样本数与原始训练集中的样本数之比。def copyfile(filename, target_dir):将文件复制到目标目录os.makedirs(target_dir, exist_okTrue)shutil.copy(filename, target_dir)def reorg_train_valid(data_dir, labels, valid_ratio):将验证集从原始的训练集中拆分出来# 训练数据集中样本最少的类别中的样本数n collections.Counter(labels.values()).most_common()[-1][1]# 验证集中每个类别的样本数n_valid_per_label max(1, math.floor(n * valid_ratio))label_count {}for train_file in os.listdir(os.path.join(data_dir, train)):label labels[train_file.split(.)[0]]fname os.path.join(data_dir, train, train_file)copyfile(fname, os.path.join(target_dir, train_valid_test,train_valid, label))if label not in label_count or label_count[label] n_valid_per_label:copyfile(fname, os.path.join(target_dir, train_valid_test,valid, label))label_count[label] label_count.get(label, 0) 1else:copyfile(fname, os.path.join(target_dir, train_valid_test,train, label))return n_valid_per_label#下面的reorg_test函数用来在预测期间整理测试集以方便读取。
def reorg_test(data_dir):在预测期间整理测试集以方便读取for test_file in os.listdir(os.path.join(data_dir, test)):copyfile(os.path.join(data_dir, test, test_file),os.path.join(target_dir, train_valid_test, test,unknown))#最后我们使用一个函数来调用前面定义的函数read_csv_labels、reorg_train_valid和reorg_test
def reorg_cifar10_data(data_dir, valid_ratio):labels read_csv_labels(os.path.join(data_dir, trainLabels.csv))reorg_train_valid(data_dir, labels, valid_ratio)reorg_test(data_dir)#我们将10的训练样本作为调整超参数的验证集
batch_size 128
valid_ratio 0.1
reorg_cifar10_data(data_dir, valid_ratio)
1.3. 图像增广 使用图像增广来解决过拟合的问题。例如在训练中 我们可以随机水平翻转图像。 我们还可以对彩色图像的三个RGB通道执行标准化 #图像增广
transform_train torchvision.transforms.Compose([# 在高度和宽度上将图像放大到40像素的正方形torchvision.transforms.Resize(40),# 随机裁剪出一个高度和宽度均为40像素的正方形图像# 生成一个面积为原始图像面积0.641倍的小正方形# 然后将其缩放为高度和宽度均为32像素的正方形torchvision.transforms.RandomResizedCrop(32, scale(0.64, 1.0),ratio(1.0, 1.0)),torchvision.transforms.RandomHorizontalFlip(),torchvision.transforms.ToTensor(),# 标准化图像的每个通道torchvision.transforms.Normalize([0.4914, 0.4822, 0.4465],[0.2023, 0.1994, 0.2010])])#在测试期间我们只对图像执行标准化以消除评估结果中的随机性。
transform_test torchvision.transforms.Compose([torchvision.transforms.ToTensor(),torchvision.transforms.Normalize([0.4914, 0.4822, 0.4465],[0.2023, 0.1994, 0.2010])])
1.4. 引入数据集 #接下来我们[读取由原始图像组成的数据集]每个样本都包括一张图片和一个标签。
train_ds, train_valid_ds [torchvision.datasets.ImageFolder(os.path.join(target_dir, train_valid_test, folder),transformtransform_train) for folder in [train, train_valid]]valid_ds, test_ds [torchvision.datasets.ImageFolder(os.path.join(target_dir, train_valid_test, folder),transformtransform_test) for folder in [valid, test]]
在训练期间我们需要[指定上面定义的所有图像增广操作]。 当验证集在超参数调整过程中用于模型评估时不应引入图像增广的随机性。
在最终预测之前我们根据训练集和验证集组合而成的训练模型进行训练以充分利用所有标记的数据。train_iter, train_valid_iter [torch.utils.data.DataLoader(dataset, batch_size, shuffleTrue, drop_lastTrue)for dataset in (train_ds, train_valid_ds)]valid_iter torch.utils.data.DataLoader(valid_ds, batch_size, shuffleFalse,drop_lastTrue)test_iter torch.utils.data.DataLoader(test_ds, batch_size, shuffleFalse,drop_lastFalse)
1.5. 定义模型 以Resnet-18模型为例 #定义模型定义了Resnet-18模型
def get_net():num_classes 10net d2l.resnet18(num_classes, 3)return netloss nn.CrossEntropyLoss(reductionnone)
1.6. 定义训练函数 #我们将根据模型在验证集上的表现来选择模型并调整超参数。 下面我们定义了模型训练函数train
def train(net, train_iter, valid_iter, num_epochs, lr, wd, devices, lr_period,lr_decay):trainer torch.optim.SGD(net.parameters(), lrlr, momentum0.9,weight_decaywd)scheduler torch.optim.lr_scheduler.StepLR(trainer, lr_period, lr_decay)num_batches, timer len(train_iter), d2l.Timer()legend [train loss, train acc]if valid_iter is not None:legend.append(valid acc)animator d2l.Animator(xlabelepoch, xlim[1, num_epochs],legendlegend)net nn.DataParallel(net, device_idsdevices).to(devices[0])for epoch in range(num_epochs):net.train()metric d2l.Accumulator(3)for i, (features, labels) in enumerate(train_iter):timer.start()l, acc d2l.train_batch_ch13(net, features, labels,loss, trainer, devices)metric.add(l, acc, labels.shape[0])timer.stop()if (i 1) % (num_batches // 5) 0 or i num_batches - 1:animator.add(epoch (i 1) / num_batches,(metric[0] / metric[2], metric[1] / metric[2],None))if valid_iter is not None:valid_acc d2l.evaluate_accuracy_gpu(net, valid_iter)animator.add(epoch 1, (None, None, valid_acc))scheduler.step()measures (ftrain loss {metric[0] / metric[2]:.3f}, ftrain acc {metric[1] / metric[2]:.3f})if valid_iter is not None:measures f, valid acc {valid_acc:.3f}print(measures f\n{metric[2] * num_epochs / timer.sum():.1f}f examples/sec on {str(devices)})
1.7. 训练模型并保存模型参数 通过对超参数的不断调整获得满意的模型后保存 devices, num_epochs, lr, wd d2l.try_all_gpus(), 20, 2e-4, 5e-4
lr_period, lr_decay, net 4, 0.9, get_net()dummy_input torch.zeros((batch_size, 3, 32, 32)) # 虚拟的输入数据
net.forward(dummy_input) # 初始化模型参数train(net, train_iter, valid_iter, num_epochs, lr, wd, devices, lr_period,lr_decay)#保存在notebook中
import os
model_path /kaggle/working/model.pth
torch.save(net.state_dict(), model_path)
print(fModel saved to {model_path})#形成一个下载链接
from IPython.display import FileLink
FileLink(rmodel.pth)
当我们确定了最终的超参数设置后我们可以使用所有标记的数据重新训练模型并使用测试集来评估其性能。
net, preds get_net(), []dummy_input torch.zeros((batch_size, 3, 32, 32)) # 虚拟的输入数据
net.forward(dummy_input) # 初始化模型参数train(net, train_valid_iter, None, num_epochs, lr, wd, devices, lr_period,lr_decay)try:for X, _ in test_iter:y_hat net(X.to(devices[0]))preds.extend(y_hat.argmax(dim1).type(torch.int32).cpu().numpy())sorted_ids list(range(1, len(test_ds) 1))sorted_ids.sort(keylambda x: str(x))df pd.DataFrame({id: sorted_ids, label: preds})df[label] df[label].apply(lambda x: train_valid_ds.classes[x])df.to_csv(submission.csv, indexFalse)
except Exception as e:print(f识别过程中出现错误{e})#形成一个下载链接
from IPython.display import FileLink
FileLink(rmodel.pth) 二、生成一个桌面小程序 之前也学习了一些有关pyqt的知识试着将模型部署到桌面小程序中起一个交互式的作用 2.1. 使用QT设计师设计界面 保存为ui文件再转为py文件具体方法请看
python GUI编程——PyQt学习一
2.2. 代码实现
import sys
from PyQt6.QtWidgets import (QApplication, QDialog, QFileDialog,QMessageBox,QGraphicsScene,QGraphicsPixmapItem)
from PyQt6.QtGui import QPixmap
import CIFAR10_class
from CIFAR10_pred import predict_
from PIL import Imageclass CIFAR10_classApp(QDialog, CIFAR10_class.Ui_Dialog):def __init__(self):super().__init__()self.setupUi(self)self.show()self.pushButton_input.clicked.connect(self.input_images)self.pushButton_run.clicked.connect(self.run_model)# 创建标签部件self.graphicsView_input.setScene(QGraphicsScene(self)) # 创建场景对象并设置为graphicsView_input的场景def input_images(self):try:global fnameimgName, imgType QFileDialog.getOpenFileName(self, 导入图片, , *.jpg;;*.png;;All Files(*))pixmap QPixmap(imgName).scaled(self.graphicsView_input.width(), self.graphicsView_input.height())pixmap_item QGraphicsPixmapItem(pixmap)scene self.graphicsView_input.scene() # 获取graphicsView_input的场景scene.clear() # 清空场景scene.addItem(pixmap_item) # 添加图像fname imgName# 显示导入成功的消息框QMessageBox.information(self, 信息提示, 导入成功)except Exception as e:QMessageBox.critical(self, 错误提示, f识别过程中出现错误{str(e)})def run_model(self):global fnamefile_name str(fname)img Image.open(file_name)try:a, b predict_(img)self.plainTextEdit_result.setPlainText(a)self.plainTextEdit_pred.setPlainText(str(b))QMessageBox.information(self, 信息提示, 识别成功)except Exception as e:QMessageBox.critical(self, 错误提示, f识别过程中出现错误{str(e)})if __name__ __main__:app QApplication(sys.argv)window CIFAR10_classApp()sys.exit(app.exec())对照片进行分类的预测 import torch
import torchvision.transforms as transforms
from d2l import torch as d2ldef predict_(img):定义了数据转换的操作。通过transforms.ToTensor()将图像转换为张量transforms.Normalize()对图像进行归一化处理data_transform transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010)),])img data_transform(img) #将输入图像应用数据转换操作img torch.unsqueeze(img, dim0) #在第0维度上添加一个维度用于适配网络输入num_classes 10model d2l.resnet18(num_classes, 3)model_weight_pth model.pth# model.load_state_dict(torch.load(model_weight_pth)) #指定了模型权重文件路径并加载权重到模型中# 使用torch.load加载模型同时将模型映射到CPU上model.load_state_dict(torch.load(model_weight_pth, map_locationtorch.device(cpu)))model.eval() #将模型设置为评估模式即关闭Dropout和Batch Normalization的随机性classes {0: 飞机, 1: 汽车, 2: 鸟, 3: 猫, 4: 鹿, 5: 狗, 6: 青蛙, 7: 马, 8: 船, 9: 卡车}#将输入图像输入模型中进行推理with torch.no_grad():output torch.squeeze(model(img))print(output)predict torch.softmax(output, dim0)predict_cla torch.argmax(predict).numpy()return classes[str(predict_cla)], round(predict[predict_cla].item(),5) 额外从网上找一张图片来试试 因为这个模型使用低像素的图片集训练而来所以对高像素的照片的分类效果不是很好。所以训练模型的时候如果想预测高像素的图片建议使用高像素的训练数据来训练模型以获得更好的预测性能。 总结
本章主要是对一个常见的图像数据集CIFAR-10用Resnet18模型来进行图像分类然后形成一个桌面小程序用来更好的交互和展示。其中最重要的还是模型的建立通过对不同模型的测试以及超参数的调整来找到”最优解“。
明日复明日明日何其多我生待明日万事成蹉跎。
–2023-10-24 进阶篇
