簡單HOG+SVM mnist手寫數字分類

使用工具 ：VS2013 + OpenCV 3.1

數據集：minst

訓練數據：60000張　　測試數據：10000張　　輸出模型：HOG_SVM_DATA.xml  

數據准備

train-images-idx3-ubyte.gz:  training set images (9912422 bytes) 
train-labels-idx1-ubyte.gz:  training set labels (28881 bytes) 
t10k-images-idx3-ubyte.gz:   test set images (1648877 bytes) 
t10k-labels-idx1-ubyte.gz:   test set labels (4542 bytes)

首先我們利用matlab將數據轉換成 .bmp 圖片格式

fid_image=fopen('train-images.idx3-ubyte','r');
fid_label=fopen('train-labels.idx1-ubyte','r');
% Read the first 16 Bytes
magicnumber=fread(fid_image,4);
size=fread(fid_image,4);
row=fread(fid_image,4);
col=fread(fid_image,4);
% Read the first 8 Bytes
extra=fread(fid_label,8);
% Read labels related to images
imageIndex=fread(fid_label);
Num=length(imageIndex);
% Count repeat times of 0 to 9
cnt=zeros(1,10);
for k=1:Num
    image=fread(fid_image,[max(row),max(col)]);     % Get image data
    val=imageIndex(k);      % Get value of image
    for i=0:9
        if val==i
            cnt(val+1)=cnt(val+1)+1;
        end
    end
    if cnt(val+1)<10
        str=[num2str(val),'_000',num2str(cnt(val+1)),'.bmp'];
    elseif cnt(val+1)<100
        str=[num2str(val),'_00',num2str(cnt(val+1)),'.bmp'];
    elseif cnt(val+1)<1000
        str=[num2str(val),'_0',num2str(cnt(val+1)),'.bmp'];
    else
        str=[num2str(val),'_',num2str(cnt(val+1)),'.bmp'];
    end
    imwrite(image',str);
end
fclose(fid_image);
fclose(fid_label);

 

然后使用cmd指令寫入圖片路徑： dir /b/s/p/w *.bmp > num.txt  添加標簽，如下圖

然后打亂樣本順序。

 

訓練

int main0()
{
    vector<string> img_path;//輸入文件名變量     
    vector<int> img_catg;
    int nLine = 0;
    string line;
    size_t pos;
    ifstream svm_data("./train-images/random.txt");//訓練樣本圖片的路徑都寫在這個txt文件中，使用bat批處理文件可以得到這個txt文件       
    unsigned long n;
    while (svm_data)//將訓練樣本文件依次讀取進來      
    {
        if (getline(svm_data, line))
        {
            nLine++;
            pos = line.find_last_of(' ');
            img_path.push_back(line.substr(0, pos));//圖像路徑      
            img_catg.push_back(atoi(line.substr(pos + 1).c_str()));//atoi將字符串轉換成整型，標志(0,1，2，...，9)，注意這里至少要有兩個類別，否則會出錯      
        }
    }

    svm_data.close();//關閉文件      
    int nImgNum = nLine; //nImgNum是樣本數量，只有文本行數的一半，另一半是標簽         
    cv::Mat data_mat(nImgNum, 324, CV_32FC1);//第二個參數，即矩陣的列是由下面的descriptors的大小決定的，可以由descriptors.size()得到，且對於不同大小的輸入訓練圖片，這個值是不同的    
    data_mat.setTo(cv::Scalar(0));
    //類型矩陣,存儲每個樣本的類型標志      
    cv::Mat res_mat(nImgNum, 1, CV_32S);
    res_mat.setTo(cv::Scalar(0));
    cv::Mat src;
    cv::Mat trainImg(cv::Size(28, 28), 8, 3);//需要分析的圖片，這里默認設定圖片是28*28大小，所以上面定義了324，如果要更改圖片大小，可以先用debug查看一下descriptors是多少，然后設定好再運行      

    //處理HOG特征    
    for (string::size_type i = 0; i != img_path.size(); i++)
    {
        src = cv::imread(img_path[i].c_str(), 1);
        if (src.data == NULL)//if (src == NULL)
        {
            cout << " can not load the image: " << img_path[i].c_str() << endl;
            continue;
        }

        //cout << " 處理： " << img_path[i].c_str() << endl;

        cv::resize(src, trainImg, trainImg.size()); 
        cv::HOGDescriptor *hog = new cv::HOGDescriptor(cv::Size(28, 28), cv::Size(14, 14), cv::Size(7, 7), cv::Size(7, 7), 9);
        vector<float>descriptors;//存放結果       
        hog->compute(trainImg, descriptors, cv::Size(1, 1), cv::Size(0, 0)); //Hog特征計算        
        //cout << "HOG dims: " << descriptors.size() << endl;
        n = 0;
        for (vector<float>::iterator iter = descriptors.begin(); iter != descriptors.end(); iter++)
        {
            //cvmSet(data_mat, i, n, *iter);
            data_mat.at<float>(i, n) = *iter;//存儲HOG特征  
            n++;
        }
        //cvmSet(res_mat, i, 0, img_catg[i]);
        res_mat.at<int>(i, 0) = img_catg[i];
        //cout << " 處理完畢: " << img_path[i].c_str() << " " << img_catg[i] << endl;
    }
    cout << "computed features!" << endl;

    cv::Ptr<cv::ml::SVM> svm = cv::ml::SVM::create();//新建一個SVM        
    svm->setType(cv::ml::SVM::C_SVC);
    svm->setKernel(cv::ml::SVM::LINEAR);
    svm->setC(1);
    //-------------------不使用參數優化-------------------------//
    svm->setTermCriteria(cv::TermCriteria(CV_TERMCRIT_EPS, 1000, FLT_EPSILON));
    svm->train(data_mat, cv::ml::ROW_SAMPLE, res_mat);//訓練數據   
    //-------------------參數優化-------------------------//
    //svm->setTermCriteria = cv::TermCriteria(cv::TermCriteria::MAX_ITER, (int)1e7, 1e-6);
    //cv::Ptr<cv::ml::TrainData> td = cv::ml::TrainData::create(data_mat, cv::ml::ROW_SAMPLE, res_mat);
    //svm->trainAuto(td, 10);

    //保存訓練好的分類器        
    svm->save("HOG_SVM_DATA.xml");
    cout << "saved model!" << endl;
    //檢測樣本      
    cv::Mat test;//IplImage *test;
    char result[512];
    vector<string> img_test_path;
    vector<int> img_test_catg;
    int coorect = 0;
    ifstream img_tst("./test-images/random.txt");  //加載需要預測的圖片集合，這個文本里存放的是圖片全路徑，不要標簽  
    while (img_tst)
    {
        if (getline(img_tst, line))
        {
            pos = line.find_last_of(' ');
            img_test_catg.push_back(atoi(line.substr(pos + 1).c_str()));//atoi將字符串轉換成整型，標志(0,1，2，...，9)，注意這里至少要有兩個類別，否則會出錯      
            img_test_path.push_back(line.substr(0, pos));//圖像路徑      
        }
    }
    img_tst.close();

    ofstream predict_txt("SVM_PREDICT.txt");//把預測結果存儲在這個文本中     
    for (string::size_type j = 0; j != img_test_path.size(); j++)//依次遍歷所有的待檢測圖片      
    {
        test = cv::imread(img_test_path[j].c_str(), 1);
        if (test.data == NULL)//test == NULL
        {
            cout << " can not load the image: " << img_test_path[j].c_str() << endl;
            continue;
        }
        cv::Mat trainTempImg(cv::Size(28, 28), 8, 3);
        trainTempImg.setTo(cv::Scalar(0));
        cv::resize(test, trainTempImg, trainTempImg.size());
        cv::HOGDescriptor *hog = new cv::HOGDescriptor(cv::Size(28, 28), cv::Size(14, 14), cv::Size(7, 7), cv::Size(7, 7), 9);
        vector<float>descriptors;//結果數組         
        hog->compute(trainTempImg, descriptors, cv::Size(1, 1), cv::Size(0, 0));
        //cout << "HOG dims: " << descriptors.size() << endl;
        cv::Mat SVMtrainMat(1, descriptors.size(), CV_32FC1);
        int n = 0;
        for (vector<float>::iterator iter = descriptors.begin(); iter != descriptors.end(); iter++)
        {
            SVMtrainMat.at<float>(0, n) = *iter;
            n++;
        }

        int ret = svm->predict(SVMtrainMat);//檢測結果  
        if (ret == img_test_catg[j])
            coorect++;
        sprintf(result, "%s  %d\r\n", img_test_path[j].c_str(), ret);
        predict_txt << result;  //輸出檢測結果到文本  
    }
    predict_txt.close();
    cout << coorect*100 / img_test_path.size() << "%" << endl;
    return 0;
}

 

測試

int main(int argc, char* argv[])
{
    cv::Ptr<cv::ml::SVM> svm = cv::ml::SVM::create();   
    svm = cv::ml::SVM::load("HOG_SVM_DATA.xml");;//加載訓練好的xml文件，這里訓練的是10K個手寫數字  
    //檢測樣本      
    cv::Mat test;
    char result[300]; //存放預測結果   
    test = cv::imread("6.bmp", 1); //待預測圖片，用系統自帶的畫圖工具隨便手寫  
    if (!test.data)
    {
        MessageBox(NULL, TEXT("待預測圖像不存在！"), TEXT("提示"), MB_ICONWARNING);
        return -1;
    }
    cv::Mat trainTempImg(cv::Size(28, 28), 8, 3);
    trainTempImg.setTo(cv::Scalar(0));
    cv::resize(test, trainTempImg, trainTempImg.size());
    cv::HOGDescriptor *hog = new cv::HOGDescriptor(cv::Size(28, 28), cv::Size(14, 14), cv::Size(7, 7), cv::Size(7, 7), 9);
    vector<float>descriptors;//結果數組         
    hog->compute(trainTempImg, descriptors, cv::Size(1, 1), cv::Size(0, 0));
    //cout << "HOG dims: " << descriptors.size() << endl;
    cv::Mat SVMtrainMat(1, descriptors.size(), CV_32FC1);
    int n = 0;
    for (vector<float>::iterator iter = descriptors.begin(); iter != descriptors.end(); iter++)
    {
        SVMtrainMat.at<float>(0, n) = *iter;
        n++;
    }
    int ret = svm->predict(SVMtrainMat);//檢測結果  
    sprintf(result, "%d\r\n", ret);
    cv::namedWindow("dst", 0);
    cv::imshow("dst", test);
    MessageBox(NULL, result, TEXT("預測結果"), MB_OK);
    return 0;
}