[目标检测]——YOLOv5模型使用记录

1、创建文件、xml等存放位置

在yolov5目录下创建data文件夹（名字可以自定义），目录结构如下，将之前labelImg标注好的xml文件和图片放到对应目录下：

…images # 存放图片

…Annotations # 存放图片对应的xml文件

…ImageSets/Main #之后会在Main文件夹内自动生成train.txt，val.txt，test.txt和trainval.txt四个文件，存放训练集、验证集、测试集图片的名字（无后缀.jpg）

这里本来是使用voc_labels执行后生成的train、test、val，这里使用ImageSets/Main中的文件是因为改写了代码：（在datasets.py中自己组了图片路径）

因为修改了代码中图片的路径组成，所以在替换平台是一定需要把路径格式进行调整，否则会出现如下报错：（Ubuntu20.04）

2、数据集分割

ImageSets文件夹下面有个Main子文件夹，其下面存放训练集、验证集、测试集的划分，通过脚本生成，可以创建一个split_train_val.py文件，代码内容如下：

import osimport randomtrainval_percent = 0.9train_percent = 0.9xmlfilepath = 'data/Annotations'txtsavepath = 'data/ImageSets'total_xml = os.listdir(xmlfilepath)num = len(total_xml)list = range(num)tv = int(num * trainval_percent)tr = int(tv * train_percent)trainval = random.sample(list, tv)train = random.sample(trainval, tr)ftrainval = open('data/ImageSets/Main/trainval.txt', 'w')ftest = open('data/ImageSets/Main/test.txt', 'w')ftrain = open('data/ImageSets/Main/train.txt', 'w')fval = open('data/ImageSets/Main/val.txt', 'w')for i in list:name = total_xml[i][:-4] + '\n'if i in trainval:ftrainval.write(name)if i in train:ftrain.write(name)else:fval.write(name)else:ftest.write(name)ftrainval.close()ftrain.close()fval.close()ftest.close()

运行代码后，在Main文件夹下生成下面四个txt文档：

3、准备labels

接下来准备labels，把数据集格式转换成yolo_txt格式，即将每个xml标注提取bbox信息为txt格式（这种数据集格式成为yolo_txt格式），每个图像对应一个txt文件，文件每一行为一个目标的信息，包括类别 xmin xmax ymin ymax。格式如下：

创建voc_label.py文件，将训练集、验证集、测试集生成label标签（训练中要用到），同时将数据集路径导入txt文件中，代码内容如下：

# xml解析包import xml.etree.ElementTree as ETimport pickleimport os# os.listdir() 方法用于返回指定的文件夹包含的文件或文件夹的名字的列表from os import listdir, getcwdfrom os.path import joinsets = ['train', 'test', 'val']classes = ['H', 'C', 'M', 'N', 'O', 'tri']# 进行归一化操作def convert(size, box): # size:(原图w,原图h) , box:(xmin,xmax,ymin,ymax)dw = 1./size[0]# 1/wdh = 1./size[1]# 1/hx = (box[0] + box[1])/2.0 # 物体在图中的中心点x坐标y = (box[2] + box[3])/2.0 # 物体在图中的中心点y坐标w = box[1] - box[0] # 物体实际像素宽度h = box[3] - box[2] # 物体实际像素高度x = x*dw # 物体中心点x的坐标比(相当于 x/原图w)w = w*dw # 物体宽度的宽度比(相当于 w/原图w)y = y*dh # 物体中心点y的坐标比(相当于 y/原图h)h = h*dh # 物体宽度的宽度比(相当于 h/原图h)return (x, y, w, h) # 返回 相对于原图的物体中心点的x坐标比,y坐标比,宽度比,高度比,取值范围[0-1]# year ='', 对应图片的id（文件名）def convert_annotation(image_id):'''将对应文件名的xml文件转化为label文件，xml文件包含了对应的bunding框以及图片长款大小等信息，通过对其解析，然后进行归一化最终读到label文件中去，也就是说一张图片文件对应一个xml文件，然后通过解析和归一化，能够将对应的信息保存到唯一一个label文件中去labal文件中的格式：calss x y w h同时，一张图片对应的类别有多个，所以对应的ｂｕｎｄｉｎｇ的信息也有多个'''# 对应的通过year 找到相应的文件夹，并且打开相应image_id的xml文件，其对应bund文件# print(image_id)# print("*********")in_file = open('data/Annotations/%s.xml' % (image_id))# 准备在对应的image_id 中写入对应的label，分别为# <object-class> <x> <y> <width> <height>out_file = open('data/labels/%s.txt' % (image_id), 'w')# 解析xml文件tree = ET.parse(in_file)# 获得对应的键值对root = tree.getroot()# 获得图片的尺寸大小size = root.find("size")# 如果xml内的标记为空，增加判断条件if size != None:# 获得宽w = int(size.find('width').text)# print("*******")# print(w)# print("******")# 获得高h = int(size.find('height').text)# 遍历目标objfor obj in root.iter('object'):# 获得difficult ？？difficult = obj.find('difficult').text# 获得类别 =string 类型cls = obj.find('name').text# 如果类别不是对应在我们预定好的class文件中，或difficult==1则跳过if cls not in classes or int(difficult) == 1:continue# 通过类别名称找到idcls_id = classes.index(cls)# 找到bndbox 对象xmlbox = obj.find('bndbox')# 获取对应的bndbox的数组 = ['xmin','xmax','ymin','ymax']b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),float(xmlbox.find('ymax').text))print(image_id, cls, b)# 带入进行归一化操作# w = 宽, h = 高， b= bndbox的数组 = ['xmin','xmax','ymin','ymax']bb = convert((w, h), b)# bb 对应的是归一化后的(x,y,w,h)# 生成 calss x y w h 在label文件中out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')# 返回当前工作目录wd = getcwd()print(wd)for image_set in sets:'''对所有的文件数据集进行遍历做了两个工作：１．将所有图片文件都遍历一遍，并且将其所有的全路径都写在对应的txt文件中去，方便定位２．同时对所有的图片文件进行解析和转化，将其对应的bundingbox 以及类别的信息全部解析写到label 文件中去最后再通过直接读取文件，就能找到对应的label 信息'''# 先找labels文件夹如果不存在则创建if not os.path.exists('data/labels/'):os.makedirs('data/labels/')# 读取在ImageSets/Main 中的train、test..等文件的内容# 包含对应的文件名称image_ids = open('data/ImageSets/Main/%s.txt' % (image_set)).read().strip().split()# 打开对应的_train.txt 文件对其进行写入准备list_file = open('data/%s.txt' % (image_set), 'w')# 将对应的文件_id以及全路径写进去并换行for image_id in image_ids:list_file.write('data/images/%s.jpg\n' % (image_id))# 调用 year = 年份 image_id = 对应的文件名_idconvert_annotation(image_id)# 关闭文件list_file.close()# os.system(‘comand’) 会执行括号中的命令，如果命令成功执行，这条语句返回0，否则返回1# os.system("cat _train.txt _val.txt _train.txt _val.txt > train.txt")# os.system("cat _train.txt _val.txt _test.txt _train.txt _val.txt > train.all.txt")

运行后会生成如下labels文件夹和三个包含数据集的txt文件，其中labels中为不同图像的标注文件，train.txt等txt文件为划分后图像所在位置的路径，如train.txt就含有所有训练集图像的绝对路径。

三个txt文件里面的内容如下：

4、配置文件——数据集的配置

在yolov5目录下的data文件夹下新建一个pic.yaml文件（可以自定义命名），用来存放训练集和验证集的划分文件（train.txt和val.txt），这两个文件是通过运行voc_label.py代码生成的，然后是目标的类别数目和具体类别列表，pic.yaml内容如下：

5、训练数据

（1）训练代码中参数修改

参数对应解释：

epochs：指的就是训练过程中整个数据集将被迭代多少次,显卡不行你就调小点。batch-size：一次看完多少张图片才进行权重更新，梯度下降的mini-batch,显卡不行你就调小点。cfg：存储模型结构的配置文件data：存储训练、测试数据的文件img-size：输入图片宽高,显卡不行你就调小点。rect：进行矩形训练resume：恢复最近保存的模型开始训练nosave：仅保存最终checkpointnotest：仅测试最后的epochevolve：进化超参数bucket：gsutil bucketcache-images：缓存图像以加快训练速度weights：权重文件路径name： 重命名results.txt to results_name.txtdevice：cuda device, i.e. 0 or 0,1,2,3 or cpuadam：使用adam优化multi-scale：多尺度训练，img-size +/- 50%single-cls：单类别的训练集

6、训练结果分析

根据自己的硬件配置修改参数，训练好的模型会被保存在yolov5目录下的runs/exp0/weights/last.pt和best.pt，详细训练数据保存在runs/exp0/results.txt文件中。

（1）权重文件

训练后，会得到两个权重文件（best.py 和 last.py），其中：

best.py是保存最好的权重文件，所以其内容回不断被更新，直至训练完成得到当前训练过程中最好的。last.py是最后一轮得到的权重文件一般在测试时指定权重文件用best.py

last.pt文件的用处：

如果想在每次训练的基础上继续做训练，这时候指定权重文件的时候就需要指定last.pt这一权重文件，将其作为基础继续训练，并指定训练多少个epoch

（2）过程数据

训练过程中的数据都保存在runs目录下，对应expxx中的results.txt中，下图截取了部分案例供参考。

7、训练报错

找不到 SPPF 模块，这个只需要在下载权重文件的时候，下载把v6.0替换成v5.0

/ultralytics/yolov5/releases/download/v6.0/yolov5m.pt替换成：5/ultralytics/yolov5/releases/download/v.0/yolov5m.pt