darknet-yolov3訓練自己的數據集（轉）

一、標注工具（labelimg）

1.下載地址

2.雙擊運行

3.保存后的文件為xml格式

 二、下載編譯darknet

1.拉取darknet

git clone https://github.com/pjreddie/darknet
cd darknet

2.修改配置文件Makefile（如何使用gpu可參考）

GPU=1 #如果使用GPU設置為1，CPU設置為0
CUDNN=1  #如果使用CUDNN設置為1，否則為0
OPENCV=0 #如果調用攝像頭，還需要設置OPENCV為1，否則為0
OPENMP=0  #如果使用OPENMP設置為1，否則為0
DEBUG=0  #如果使用DEBUG設置為1，否則為0

3.開始編譯

make

4.下載yolov3預訓練模型

wget https://pjreddie.com/media/files/yolov3.weights

5.測試

./darknet detect cfg/yolov3.cfg yolov3.weights data/dog.jpg

或者

./darknet detector test cfg/coco.data cfg/yolov3.cfg yolov3.weights data/dog.jpg

官網鏈接

三、准備數據集、訓練、測試

1.在darknet目錄下創建myData文件夾，目錄結構如下，將之前標注好的圖片和xml文件放到對應目錄下

myData
  ...JPEGImages#存放圖像
 
  ...Annotations#存放圖像對應的xml文件
 
  ...ImageSets/Main # 存放訓練/驗證圖像的名字（格式如 000001.jpg或者000001），里面包括train.txt。這里給出的格式是: 000000，因為下面的代碼中給出了圖像的格式。

將自己的數據集圖片拷貝到JPEGImages目錄下。將數據集label文件拷貝到Annotations目錄下。在myData下創建test.py，將下面代碼拷貝進去運行，將生成四個文件：train.txt,val.txt,test.txt和trainval.txt。

import os
import random

trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'Annotations'
txtsavepath = 'ImageSets\Main'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('ImageSets/Main/trainval.txt', 'w')
ftest = open('ImageSets/Main/test.txt', 'w')
ftrain = open('ImageSets/Main/train.txt', 'w')
fval = open('ImageSets/Main/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

運行test.py

2.將數據轉換成darknet支持的格式

yolov3提供了將VOC數據集轉為YOLO訓練所需要的格式的代碼，在scripts/voc_label.py文件中。這里提供一個修改版本的。在darknet文件夾下新建一個my_lables.py文件，內容如下：

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
 
#源代碼sets=[('2012', 'train'), ('2012', 'val'), ('2007', 'train'), ('2007', 'val'), ('2007', 'test')]
sets=[('myData', 'train')]  # 改成自己建立的myData
 
classes = ["person", "foot", "face"] # 改成自己的類別
 
def convert(size, box):
    dw = 1./(size[0])
    dh = 1./(size[1])
    x = (box[0] + box[1])/2.0 - 1
    y = (box[2] + box[3])/2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x*dw
    w = w*dw
    y = y*dh
    h = h*dh
    return (x,y,w,h)
 
def convert_annotation(year, image_id):
    in_file = open('myData/Annotations/%s.xml'%(image_id))  # 源代碼VOCdevkit/VOC%s/Annotations/%s.xml
    out_file = open('myData/labels/%s.txt'%(image_id), 'w')  # 源代碼VOCdevkit/VOC%s/labels/%s.txt
    tree=ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
 
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult)==1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
        bb = convert((w,h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
 
wd = getcwd()
 
for year, image_set in sets:
    if not os.path.exists('myData/labels/'):  # 改成自己建立的myData
        os.makedirs('myData/labels/')
    image_ids = open('myData/ImageSets/Main/%s.txt'%(image_set)).read().strip().split()
    list_file = open('myData/%s_%s.txt'%(year, image_set), 'w')
    for image_id in image_ids:
        list_file.write('%s/myData/JPEGImages/%s.jpg\n'%(wd, image_id))
        convert_annotation(year, image_id)
    list_file.close()

3.運行該腳本

python my_lables.py

會在./myData目錄下生成一個labels文件夾一個txt文件(myData_train.txt)(內容是: 類別的編碼和目標的相對位置)。

lables文件中的‘txt文件的含義為：

同理如果要生成訓練數據 sets=[('myData', 'train')] 改為sets=[('myData', 'train'), ('myData', 'test')] 

具體的每一個值的計算方式是這樣的：假設一個標注的boundingbox的左下角和右上角坐標分別為（x1,y1）(x2,y2)，圖像的寬和高分別為w,h

歸一化的中心點x坐標計算公式：（(x2+x1) / 2.0）/ w

歸一化的中心點y坐標計算公式：（(y2+y1) / 2.0）/ h

歸一化的目標框寬度的計算公式： (x2-x1) / w

歸一化的目標框高度計算公式：（(y2-y1)/ h

4.修改darknet/cfg下的voc.data和yolov3-voc.cfg文件

為了保險起見，復制這兩個文件，並分別重命名為my_data.data和my_yolov3.cfg

my_data.data內容：

classes= 3 ##改為自己的分類個數
##下面都改為自己的路徑
train  = /home/XXX/darknet/myData/myData_train.txt  
names = /home/XXX/darknet/myData/myData.names #稍后需要創建這個文件
backup = /home/XXX/darknet/myData/weights

my_yolov3.cfg的內容：

/yolo, 總共會搜出3個含有yolo的地方。
每個地方都必須要改2處， filters：3*（5+len（classes））；
其中：classes: len(classes) = 3，這里以我的工程為例
filters = 24
classes = 3
可修改：random = 1：原來是1，顯存小改為0。（是否要多尺度輸出。）

 5.可以指定訓練批次和訓練輪數

[net]
# Testing            ### 測試模式                                          
# batch=1
# subdivisions=1
# Training           ### 訓練模式，每次前向的圖片數目 = batch/subdivisions 
batch=64
subdivisions=16
width=416            ### 網絡的輸入寬、高、通道數
height=416
channels=3
momentum=0.9         ### 動量 
decay=0.0005         ### 權重衰減
angle=0
saturation = 1.5     ### 飽和度
exposure = 1.5       ### 曝光度 
hue=.1               ### 色調
learning_rate=0.001  ### 學習率 
burn_in=1000         ### 學習率控制的參數
max_batches = 50200  ### 迭代次數                                          
policy=steps         ### 學習率策略 
steps=40000,45000    ### 學習率變動步長 

因為是訓練，所以注釋Testing,打開Training，其中

batch=64                          每batch個樣本更新一次參數。

subdivisions=16               如果內存不夠大，將batch分割為subdivisions個子batch，每個子batch的大小為batch/subdivisions。

6.在myData文件夾下新建myData.names文件

people
foot
car

7.下載預訓練權重

wget https://pjreddie.com/media/files/darknet53.conv.74

8.開始訓練

./darknet detector train cfg/my_data.data cfg/my_yolov3.cfg darknet53.conv.74

或者指定gpu訓練，默認使用gpu0

./darknet detector train cfg/my_data.data cfg/my_yolov3.cfg darknet53.conv.74 -gups 0,1,2,3

查看gpu信息

從停止處重新訓練

./darknet detector train cfg/my_data.data cfg/my_yolov3.cfg darknet53.conv.74 -gups 0,1,2,3 myData/weights/my_yolov3.backup -gpus 0,1,2,3

9.測試

./darknet detect cfg/my_yolov3.cfg weights/my_yolov3.weights 1.jpg

10.效果

11.關於opencv調用yolo模型，參考https://www.cnblogs.com/answerThe/p/11486090.html