《視覺SLAM十四講》課后習題—ch7（更新中……）

參考：https://blog.csdn.net/zilanpotou182/article/details/66478915（SIFT、SURF、ORB三種特征點的區別）

1.除了本書介紹的ORB特征點外，你還能找到哪些特征點？請說說SIFT或SURF的原理，並對比它們與ORB之間的優劣

　　特征點：圖像里一些特別的地方

　　特征點的種類：SIFT、SURF、ORB、FAST

　　SIFT算法充分考慮了在圖像變換過程中出現的光照、尺度、旋轉等變化，但是這會帶來極大的計算量。

　　SURF算法的速度遠快於SIFT，SURF的魯棒性很好，特征點識別率較SIFT高，在視角、光照、尺度變化等情形下，大體上都優於SIFT。

　　ORB算法運算速度與前兩者相比速度最快，但是這種算法尺度方面效果較差，因為ORB不具備尺度變換。

　　定量比較：計算速度：ORB>>SURF>>SIFT（各差一個量級）

    　　　　　　旋轉魯棒性：SURF>ORB~SIFT（表示差不多）

    　　　　　　模糊魯棒性： SURF>ORB~SIFT

    　　　　　　尺度變換魯棒性： SURF>SIFT>ORB（ORB並不具備尺度變換性）

　　綜上，我們在選擇特征點時的依據是如果對計算實時性要求非常高，可選用ORB算法，但基本要保證正對拍攝；如果對實行性要求稍高，可以選擇SURF；基本不用SIFT

---

 

2.設計程序調用OpenCV中的其他種類特征點。統計在提取1000個特征點時在你的機器上的運行時間。

　　首先我們要知道如果要調用opencv中的SIFT和SURF特征點，SIFT和SURF都在nonfree模塊中，所以我們就需要nonfree模塊。

　　但是在opencv3中，SURF/SIFT 以及其它的一些東西被移動到了獨立的庫(opencv_contrib)中。

　　所以首先我們需要安裝opencv_contrib：（如果你用的是opencv2可以省略安裝opencv_contrib這一步驟）

　　安裝步驟見：安裝opencv_contrib（ubuntu16.0）

　　ORB、SIFT、SURF三種特征點提取方法的代碼如下：

#include <iostream>
#include <opencv2/core/core.hpp>
#include <opencv2/features2d/features2d.hpp>
//#include <opencv2/nonfree/features2d.hpp>
//#include <opencv2/nonfree/nonfree.hpp>//SIFT
#include <opencv2/highgui/highgui.hpp>
#include <opencv2/xfeatures2d/nonfree.hpp>//SIFT
#include <chrono>

//using namespace xfeatures2d;
using namespace std;
using namespace cv;

int main(int argc,char** argv)
{
    if(argc!=2)
    {
        cout<<"usage:feature_extraction img1"<<endl;
        return 1;
    }

    //讀取圖像
    Mat img_1=imread(argv[1],CV_LOAD_IMAGE_COLOR);

    //初始化
    vector<KeyPoint> keypoints_1;//關鍵點,指特征點在圖像里的位置

    //orb
    chrono::steady_clock::time_point ORB_t1=chrono::steady_clock::now();
    Ptr<ORB> orb=ORB::create(500,1.2f,8,31,0,2,ORB::HARRIS_SCORE,31,20);
    chrono::steady_clock::time_point ORB_t2=chrono::steady_clock::now();
    chrono::duration<double> ORB_time_used=chrono::duration_cast<chrono::duration<double>>(ORB_t2-ORB_t1);
    cout<<"extract keypoints of ORB costs: "<<ORB_time_used.count()<<" seconds."<<endl;
    orb->detect(img_1,keypoints_1);

    cout<<"KP1 = "<<keypoints_1.size()<<endl;//特征點的數量
    Mat outimg1;
    drawKeypoints(img_1,keypoints_1,outimg1,Scalar::all(-1),DrawMatchesFlags::DEFAULT);
    imshow("1.png的ORB特征點",outimg1);


//    //SIFT
//    chrono::steady_clock::time_point SIFT_t1=chrono::steady_clock::now();
//    Ptr<xfeatures2d::SiftFeatureDetector> siftDetector_1=xfeatures2d::SiftFeatureDetector::create();
//    siftDetector_1->detect(img_1,keypoints_1);
//    chrono::steady_clock::time_point SIFT_t2=chrono::steady_clock::now();
//    chrono::duration<double> SIFT_time_used=chrono::duration_cast<chrono::duration<double>>(SIFT_t2-SIFT_t1);
//    cout<<"extract keypoints of SIFT costs: "<<SIFT_time_used.count()<<" seconds."<<endl;
//    Mat outImg;
//    drawKeypoints(img_1,keypoints_1,outImg,Scalar::all(-1),DrawMatchesFlags::DEFAULT);

//    cout<<"KP1 = "<<keypoints_1.size()<<endl;
//    imshow("1.png的SIFT特征點",outImg);

//    //SURF
//    chrono::steady_clock::time_point SURF_t1=chrono::steady_clock::now();
//    Ptr<xfeatures2d::SurfFeatureDetector> surfDetector_1=xfeatures2d::SurfFeatureDetector::create();
//    surfDetector_1->detect(img_1,keypoints_1);
//    chrono::steady_clock::time_point SURF_t2=chrono::steady_clock::now();
//    chrono::duration<double> SURF_time_used=chrono::duration_cast<chrono::duration<double>>(SURF_t2-SURF_t1);
//    cout<<"extract keypoints of SURF costs: "<<SURF_time_used.count()<<" seconds."<<endl;
//    Mat outImg;
//    drawKeypoints(img_1,keypoints_1,outImg,Scalar::all(-1),DrawMatchesFlags::DEFAULT);
//    cout<<"KP1 = "<<keypoints_1.size()<<endl;
//    imshow("1.png的SURF特征點",outImg);
    waitKey(0);

    return 0;
}

　實驗結果：原始圖像為：

　　　　　　　　　　　　　　　　

　　　　　1) ORB

　　　　　　　　　

　　　　　2) SIFT

　　　　　　　　

　　　　  3) SURF

　　　　　　　　

　　　　分析：可見，計算速度是ORB最快，SURF次之，SIFT最慢。

　　但是為什么基於同一張圖片提取特征點，三種方法提取出的特征點數目不一樣而且相差還很多呢？應該是因為三種方法的原理決定的吧，是因為三種方法提取特征點時選擇什么是特征點的依據不同？

SURF選取特征點的依據：SURF算法先利用Hessian矩陣確定候選點，然后進行非極大抑制。

 

---

 

3.我們發現，OpenCV提供的ORB特征點在圖像當中分布不夠均勻，你是否能找到或提出讓特征點分布更加均勻的方法？
 　　我的想法是對於一張待提取特征點的圖像，我們把它分成一個個小塊，設定一個閾值，對於對個小塊，提取特征點，若特征點的數目超過了閾值就不再提取（這種方式可能速度快一些，但是缺點也很明顯……），或者在所有提取到的特征點中選擇等於閾值的更好的特征點？

　　利用非極大值抑制取出局部較密集特征點的思想：使用非極大值抑制算法去除臨近位置多個特征點的問題。為每一個特征點計算出其響應大小。計算方式是一個特征點和其周圍n個特征點偏差的絕對值和。在比較臨近的特征點中，保留響應值較大的特征點，刪除其余的特征點。

 

---

10.在Ceres中實現PnP和ICP的優化

　PnP:

　　　　求解一個優化問題，關鍵是是要寫出它的cost Fuction的最小二乘形式。

　　根據教材的分析，本題的最小二乘問題可寫作：（見P162）

　　這個誤差項表示的是將像素坐標（觀測到的投影位置）與3D點按照當前估計的位姿進行投影得到的位置相比較得到的誤差。所以，我們可以得到以下信息：

　　已知的有：3D點——我們用p_3D表示（等下程序中用）,其對應得投影坐標記為（u, v）

　　　　　　　觀測得到的投影位置的像素坐標——p_p

　　待估計的變量：R，t

　　並且在利用ceres優化時，我們還要給出殘差的形式：

　　　　　　residual[0]=u-p_p(0,0)

　　　　　　residual[1]=v-p_p(0,1)

　　Ceres的用法步驟：1）定義Cost Function模型；2）調用AddResidualBlock將誤差項添加到目標函數中；3）自動求導需要指定誤差項和優化變量得維度；4）定好問題后，調用solve函數求解。

　　　　理清楚整個問題的流程，我們就可以利用Ceres優化庫來實現PnP優化了。同時優化相機的位姿（即內參,R,t）和外參，代碼如下：參考https://www.jianshu.com/p/34cb21e00264

 

#include <iostream>
#include <opencv2/core/core.hpp>
#include <opencv2/features2d/features2d.hpp>
#include <opencv2/highgui/highgui.hpp>
#include <opencv2/calib3d/calib3d.hpp>
#include <Eigen/Core>
#include <Eigen/Geometry>
#include <ceres/ceres.h>
#include <Eigen/SVD>
#include <chrono>

#include "common/tools/rotation.h"


using namespace std;
using namespace cv;


//第一步：定義Cost Function函數
struct cost_function
{
    cost_function(Point3f p_3D,Point2f p_p):_p_3D(p_3D),_p_p(p_p) {}//3D-2D：知道n個3D空間點以及其投影位置，然后估計相機位姿
    //計算殘差
    template <typename T>//模板：使得在定義時可以模糊類型
    bool operator() (
            const T* const r, const T* const t,//r,t為待優化的參數
            const T* K,//k為待優化的參數
            T* residual ) const //殘差
    {
         T p_3d[3];
         T p_Cam[3];//相機坐標系下空間點的坐標
         p_3d[0]=T(_p_3D.x);
         p_3d[1]=T(_p_3D.y);
         p_3d[2]=T(_p_3D.z);
//         通過tool文件夾中的rotation.h中的AngleAxisRotatePoint()函數
//         計算在相機僅旋轉的情況下，新坐標系下的坐標
//         也就是p_Cam=R*p_3d
         cout<<"point_3d: "<<p_3d[0]<<" "<<p_3d[1]<<"  "<<p_3d[2]<<endl;
         AngleAxisRotatePoint(r,p_3d,p_Cam);

         p_Cam[0]=p_Cam[0]+t[0];
         p_Cam[1]=p_Cam[1]+t[1];
         p_Cam[2]=p_Cam[2]+t[2];
         //R,t計算T
        //Eigen::Isometry3d T_w_c;
//        T_w_c.rotate(r);

         const T x=p_Cam[0]/p_Cam[2];
         const T y=p_Cam[1]/p_Cam[2];
         //3D點投影后的像素坐標
//         const T u=x*520.9+325.1;
//         const T v=y*521.0+249.7;
        const T u=x*K[0]+K[1];
        const T v=y*K[2]+K[3];

         //觀測到的投影位置的像素坐標
         T u1=T(_p_p.x);
         T v1=T(_p_p.y);

         //殘差
         residual[0]=u-u1;
         residual[1]=v-v1;
    }
    Point3f _p_3D;
    Point2f _p_p;
};

void find_feature_matches (
    const Mat& img_1, const Mat& img_2,
    std::vector<KeyPoint>& keypoints_1,
    std::vector<KeyPoint>& keypoints_2,
    std::vector< DMatch >& matches );

// 像素坐標轉相機歸一化坐標
Point2d pixel2cam ( const Point2d& p, const Mat& K );

void bundleAdjustment(const vector<Point3f> points_3d,
                      const vector<Point2f> points_2d, Mat K, Mat &r, Mat &t);

int main ( int argc, char** argv )
{
    if ( argc != 4 )
    {
        cout<<"usage: pose_estimation_3d2d img1 img2 depth1"<<endl;
        return 1;
    }
    //-- 讀取圖像
    Mat img_1 = imread ( argv[1], CV_LOAD_IMAGE_COLOR );
    Mat img_2 = imread ( argv[2], CV_LOAD_IMAGE_COLOR );

    vector<KeyPoint> keypoints_1, keypoints_2;
    vector<DMatch> matches;
    find_feature_matches ( img_1, img_2, keypoints_1, keypoints_2, matches );
    cout<<"一共找到了"<<matches.size() <<"組匹配點"<<endl;

    // 建立3D點
    Mat d1 = imread ( argv[3], CV_LOAD_IMAGE_UNCHANGED );       // 深度圖為16位無符號數，單通道圖像
    Mat K = ( Mat_<double> ( 3,3 ) << 520.9, 0, 325.1, 0, 521.0, 249.7, 0, 0, 1 );
    vector<Point3f> pts_3d;
    vector<Point2f> pts_2d;
    for ( DMatch m:matches )
    {
        ushort d = d1.ptr<unsigned short> (int ( keypoints_1[m.queryIdx].pt.y )) [ int ( keypoints_1[m.queryIdx].pt.x ) ];
        if ( d == 0 )   // bad depth
            continue;
        float dd = d/5000.0;
        Point2d p1 = pixel2cam ( keypoints_1[m.queryIdx].pt, K );
        pts_3d.push_back ( Point3f ( p1.x*dd, p1.y*dd, dd ) );
        pts_2d.push_back ( keypoints_2[m.trainIdx].pt );
    }

    cout<<"3d-2d pairs: "<<pts_3d.size() <<endl;

    Mat r, t;
//    solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false,cv::SOLVEPNP_EPNP ); // 調用OpenCV 的 PnP 求解，可選擇EPNP，DLS等方法
   // solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false,CV_ITERATIVE );
    solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false);
    Mat R;
    cv::Rodrigues ( r, R ); // r為旋轉向量形式，用Rodrigues公式轉換為矩陣

    cout<<"optional before: "<<endl;
    cout<<"R="<<endl<<R<<endl;
    cout<<"t="<<endl<<t<<endl<<endl;

    cout<<"calling bundle adjustment"<<endl;

    bundleAdjustment(pts_3d,pts_2d,K,r,t);
}

void find_feature_matches ( const Mat& img_1, const Mat& img_2,
                            std::vector<KeyPoint>& keypoints_1,
                            std::vector<KeyPoint>& keypoints_2,
                            std::vector< DMatch >& matches )
{
    //-- 初始化
    Mat descriptors_1, descriptors_2;
    // used in OpenCV3
    Ptr<FeatureDetector> detector = ORB::create();
    Ptr<DescriptorExtractor> descriptor = ORB::create();
    // use this if you are in OpenCV2
    // Ptr<FeatureDetector> detector = FeatureDetector::create ( "ORB" );
    // Ptr<DescriptorExtractor> descriptor = DescriptorExtractor::create ( "ORB" );
    Ptr<DescriptorMatcher> matcher  = DescriptorMatcher::create ( "BruteForce-Hamming" );
    //-- 第一步:檢測 Oriented FAST 角點位置
    detector->detect ( img_1,keypoints_1 );
    detector->detect ( img_2,keypoints_2 );

    //-- 第二步:根據角點位置計算 BRIEF 描述子
    descriptor->compute ( img_1, keypoints_1, descriptors_1 );
    descriptor->compute ( img_2, keypoints_2, descriptors_2 );

    //-- 第三步:對兩幅圖像中的BRIEF描述子進行匹配，使用 Hamming 距離
    vector<DMatch> match;
    // BFMatcher matcher ( NORM_HAMMING );
    matcher->match ( descriptors_1, descriptors_2, match );

    //-- 第四步:匹配點對篩選
    double min_dist=10000, max_dist=0;

    //找出所有匹配之間的最小距離和最大距離, 即是最相似的和最不相似的兩組點之間的距離
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        double dist = match[i].distance;
        if ( dist < min_dist ) min_dist = dist;
        if ( dist > max_dist ) max_dist = dist;
    }

    printf ( "-- Max dist : %f \n", max_dist );
    printf ( "-- Min dist : %f \n", min_dist );

    //當描述子之間的距離大於兩倍的最小距離時,即認為匹配有誤.但有時候最小距離會非常小,設置一個經驗值30作為下限.
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        if ( match[i].distance <= max ( 2*min_dist, 30.0 ) )
        {
            matches.push_back ( match[i] );
        }
    }
}

Point2d pixel2cam ( const Point2d& p, const Mat& K )
{
    return Point2d
           (
               ( p.x - K.at<double> ( 0,2 ) ) / K.at<double> ( 0,0 ),
               ( p.y - K.at<double> ( 1,2 ) ) / K.at<double> ( 1,1 )
           );
}

//構建最小二乘問題
void bundleAdjustment(const vector<Point3f> points_3d,
                      const vector<Point2f> points_2d,Mat K, Mat &r, Mat &t)
{
//    cout<<"R = "<<endl<<R<<endl;
    cout<<"start:"<<endl;
    double rotation_vector[3],tranf[3];//旋轉向量r，平移t
    double k[4];
    rotation_vector[0]=r.at<double>(0,0);
    rotation_vector[1]=r.at<double>(0,1);
    rotation_vector[2]=r.at<double>(0,2);

    tranf[0]=t.at<double>(0,0);
    tranf[1]=t.at<double>(1,0);
    tranf[2]=t.at<double>(2,0);

    k[0]=520.9;
    k[1]=325.1;
    k[2]=521.0;
    k[3]=249.7;

    ceres::Problem problem;
    for(int i=0;i<points_3d.size();++i)
    {
        ceres::CostFunction* costfunction=new ceres::AutoDiffCostFunction<cost_function,2,3,3,4>(new cost_function(points_3d[i],points_2d[i]));
        problem.AddResidualBlock(costfunction,NULL,rotation_vector,tranf,k);
    }
//    cout<<rotation_vector[0]<<" "<<rotation_vector[1]<<" "<<rotation_vector[2]<<endl;
    //配置求解器
    ceres::Solver::Options option;
    option.linear_solver_type=ceres::DENSE_QR;//DENSE_SCHUR
    //true:迭代信息輸出到屏幕.false:不輸出
    option.minimizer_progress_to_stdout=true;

    ceres::Solver::Summary summary;//優化信息
    //可以和g2o優化做對比
    chrono::steady_clock::time_point t1=chrono::steady_clock::now();
    //開始優化
    ceres::Solve(option,&problem,&summary);
    chrono::steady_clock::time_point t2=chrono::steady_clock::now();
    chrono::duration<double> time_used=chrono::duration_cast<chrono::duration<double>>(t2-t1);
    cout<<"solve time cost = "<<time_used.count()<<" second."<<endl;

    //輸出結果
    cout<<summary.BriefReport()<<endl;
    Mat Rotaion_vector=(Mat_<double>(3,1)<<rotation_vector[0],rotation_vector[1],rotation_vector[2]);
//    cout<<rotation_vector[0]<<" "<<rotation_vector[1]<<""<<rotation_vector[2]<<endl;//0,1,2
    Mat Rotation_matrix;
    Rodrigues(Rotaion_vector,Rotation_matrix);//r為旋轉向量形式，用Rodrigues公式轉換為矩陣
    cout<<"after optional:"<<endl;
    cout<<"R = "<<endl<<Rotation_matrix<<endl;
//    cout<<"R = "<<endl<<<<endl;
    cout<<"t = "<<tranf[0]<<" "<<tranf[1]<<" "<<tranf[2]<<endl;
}

 

 　　結果：

　　　　　

　　　　　　和g2o優化所得結果做對比：結果大致相同，優化用時也差不多。

 

 ICP：

　　參考：https://www.jianshu.com/p/1b02e9a36cc4

#include <iostream>
#include <opencv2/core/core.hpp>
#include <ceres/ceres.h>

#include <opencv2/highgui/highgui.hpp>
#include <opencv2/calib3d/calib3d.hpp>
#include <opencv2/features2d/features2d.hpp>
#include <Eigen/Core>
#include <Eigen/Geometry>
#include <Eigen/SVD>

#include <chrono>

#include "common/tools/rotation.h"

using namespace std;
using namespace cv;

void find_feature_matches(const Mat& img_1,const Mat& img_2,
                          vector<KeyPoint>& keypoints_1,
                          vector<KeyPoint>& keypoints_2,
                          vector<DMatch>& matches);

//像素坐標轉相機歸一化坐標
Point2d pixel2cam(const Point2d& p,const Mat& K);

void pose_estimation_3d3d(const vector<Point3f>& pts1,
                          const vector<Point3f>& pts2,
                          Mat& r,Mat& t_inv);

void bundleAdjustment(const vector<Point3f>& points_3f,
                      const vector<Point3f>& points_2f,
                      Mat& R, Mat& t_inv);//test 聲明的行參和定義的不同是否可行:可以的!

struct cost_function_define
{
    cost_function_define(Point3f p1,Point3f p2):_p1(p1),_p2(p2){}
    template<typename T>
    bool operator()(const T* const cere_r,const T* const cere_t,T* residual) const
    {
        T p_1[3];
        T p_2[3];
        p_1[0]=T(_p1.x);
        p_1[1]=T(_p1.y);
        p_1[2]=T(_p1.z);
        AngleAxisRotatePoint(cere_r,p_1,p_2);
        p_2[0]=p_2[0]+cere_t[0];
        p_2[1]=p_2[1]+cere_t[1];
        p_2[2]=p_2[2]+cere_t[2];
        const T x=p_2[0]/p_2[2];
        const T y=p_2[1]/p_2[2];
        const T u=x*520.9+325.1;
        const T v=y*521.0+249.7;
        T p_3[3];
        p_3[0]=T(_p2.x);
        p_3[1]=T(_p2.y);
        p_3[2]=T(_p2.z);

        const T x1=p_3[0]/p_3[2];
        const T y1=p_3[1]/p_3[2];

        const T u1=x1*520.9+325.1;
        const T v1=y1*521.0+249.7;

        residual[0]=u-u1;
        residual[1]=v-v1;
    }
    Point3f _p1,_p2;
};

int main(int argc,char** argv)
{
    if(argc!=5)
    {
        cout<<"usage:pose_estimation_3d3d img1 img2 depth1 depth2"<<endl;
        return 1;
    }

    //讀取圖像
    Mat img_1=imread(argv[1],CV_LOAD_IMAGE_COLOR);//test
    Mat img_2=imread(argv[2],CV_LOAD_IMAGE_COLOR);

    vector<KeyPoint> keypoints_1,keypoints_2;
    vector<DMatch> matches;
    find_feature_matches(img_1,img_2,keypoints_1,keypoints_2,matches);
    cout<<"一共找到了"<<matches.size()<<"組匹配點"<<endl;

    //建立3D點
    Mat depth_1=imread(argv[3],CV_LOAD_IMAGE_UNCHANGED);//深度圖為16位無符號數，單通道圖像
    Mat depth_2=imread(argv[4],CV_LOAD_IMAGE_UNCHANGED);//深度圖為16位無符號數，單通道圖像
    Mat K=(Mat_<double>(3,3)<<520.9,0,325.1,
                              0,521.0,249.7,
                              0,0,1);
    vector<Point3f> pts1,pts2;
    for(DMatch m:matches)
    {
        ushort d1=depth_1.ptr<unsigned short>(int(keypoints_1[m.queryIdx].pt.y))[int(keypoints_1[m.queryIdx].pt.x)];
        ushort d2=depth_2.ptr<unsigned short>(int(keypoints_2[m.trainIdx].pt.y))[int(keypoints_2[m.trainIdx].pt.x)];
        if(d1==0 || d2==0)//bad depth
            continue;
        Point2d p1=pixel2cam(keypoints_1[m.queryIdx].pt,K);
        Point2d p2=pixel2cam(keypoints_2[m.trainIdx].pt,K);
        float dd1=float(d1)/5000.0;
        float dd2=float(d2)/5000.0;
        pts1.push_back(Point3f(p1.x*dd1,p1.y*dd1,dd1));
        pts2.push_back(Point3f(p2.x*dd2,p2.y*dd2,dd2));
    }

    cout<<"3d-3d pairs: "<<pts1.size()<<endl;
    Mat R,t;
    pose_estimation_3d3d(pts1,pts2,R,t);
    cout<<"ICP via SVD results: "<<endl;
    cout<<"R ="<<endl<<R<<endl;
    cout<<"t ="<<endl<<t<<endl;
    Mat R_inv=R.t();
    Mat t_inv=-R.t()*t;
    cout<<"R_inv ="<<endl<<R_inv<<endl;//R^(-1)
    cout<<"t_inv ="<<endl<<t_inv<<endl;

    Mat r;
    Rodrigues(R_inv,r);//R_inv->r
    cout<<"r= "<<endl<<r<<endl;

    for(int i=0;i<5;++i)
    {
        cout<<"p1= "<<pts1[i]<<endl;//??
        cout<<"p2= "<<pts2[i]<<endl;//??
        cout<<"(R*p2+t) = "<<
              R*(Mat_<double>(3,1)<<pts2[i].x,pts2[i].y,pts2[i].z)+t
           <<endl;
        cout<<endl;
    }

    cout<<"calling bundle adjustment"<<endl;
    bundleAdjustment(pts1,pts2,r,t_inv);

    return 0;
}

//匹配特征點對
void find_feature_matches ( const Mat& img_1, const Mat& img_2,
                            std::vector<KeyPoint>& keypoints_1,
                            std::vector<KeyPoint>& keypoints_2,
                            std::vector< DMatch >& matches )
{
    //-- 初始化
    Mat descriptors_1, descriptors_2;
    // used in OpenCV3
    Ptr<FeatureDetector> detector = ORB::create();
    Ptr<DescriptorExtractor> descriptor = ORB::create();
    // use this if you are in OpenCV2
    // Ptr<FeatureDetector> detector = FeatureDetector::create ( "ORB" );
    // Ptr<DescriptorExtractor> descriptor = DescriptorExtractor::create ( "ORB" );
    Ptr<DescriptorMatcher> matcher  = DescriptorMatcher::create ( "BruteForce-Hamming" );
    //-- 第一步:檢測 Oriented FAST 角點位置
    detector->detect ( img_1,keypoints_1 );
    detector->detect ( img_2,keypoints_2 );

    //-- 第二步:根據角點位置計算 BRIEF 描述子
    descriptor->compute ( img_1, keypoints_1, descriptors_1 );
    descriptor->compute ( img_2, keypoints_2, descriptors_2 );

    //-- 第三步:對兩幅圖像中的BRIEF描述子進行匹配，使用 Hamming 距離
    vector<DMatch> match;
    // BFMatcher matcher ( NORM_HAMMING );
    matcher->match ( descriptors_1, descriptors_2, match );

    //-- 第四步:匹配點對篩選
    double min_dist=10000, max_dist=0;

    //找出所有匹配之間的最小距離和最大距離, 即是最相似的和最不相似的兩組點之間的距離
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        double dist = match[i].distance;
        if ( dist < min_dist ) min_dist = dist;
        if ( dist > max_dist ) max_dist = dist;
    }

    printf ( "-- Max dist : %f \n", max_dist );
    printf ( "-- Min dist : %f \n", min_dist );

    //當描述子之間的距離大於兩倍的最小距離時,即認為匹配有誤.但有時候最小距離會非常小,設置一個經驗值30作為下限.
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        if ( match[i].distance <= max ( 2*min_dist, 30.0 ) )
        {
            matches.push_back ( match[i] );
        }
    }
}

Point2d pixel2cam(const Point2d &p, const Mat &K)
{
    return Point2d(
                (p.x-K.at<double>(0,2))/K.at<double>(0,0),
                (p.y-K.at<double>(1,2))/K.at<double>(1,1)
                    );
}

void pose_estimation_3d3d(const vector<Point3f> &pts1, const vector<Point3f> &pts2, Mat &r, Mat &t_inv)
{
    Point3f p1,p2;//center of mass
    int N=pts1.size();
    //計算兩組點的質心位置p1,p2
    for(int i=0;i<N;++i)
    {
        p1+=pts1[i];
        p2+=pts2[i];
    }
    p1=Point3f(Vec3f(p1)/N);//test
    cout<<"p1 ="<<endl<<p1<<endl;
    p2=Point3f(Vec3f(p2)/N);//test

    //計算每個點的去質心坐標q1,q2
    vector<Point3f> q1(N),q2(N);
    for(int i=0;i<N;++i)
    {
        q1[i]=pts1[i]-p1;
        q2[i]=pts2[i]-p2;
    }

    //compute q1*q2^T,即書中P174的矩陣W(7.56)
    Eigen::Matrix3d W=Eigen::Matrix3d::Zero();
    for(int i=0;i<N;++i)
    {
        W+=Eigen::Vector3d(q1[i].x,q1[i].y,q1[i].z)*Eigen::Vector3d(q2[i].x,q2[i].y,q2[i].z).transpose();
    }
    cout<<"W ="<<endl<<W<<endl<<endl;

    //SVD on W
    Eigen::JacobiSVD<Eigen::Matrix3d> svd(W,Eigen::ComputeFullU|Eigen::ComputeFullV);
    Eigen::Matrix3d U=svd.matrixU();
    Eigen::Matrix3d V=svd.matrixV();

    if(U.determinant()*V.determinant()<0)
    {
        for(int x=0;x<3;++x)
        {
            U(x,2)*=-1;
        }
    }

    cout<<"U="<<U<<endl;
    cout<<"V="<<V<<endl;

    Eigen::Matrix3d R_=U*(V.transpose());
    Eigen::Vector3d t_=Eigen::Vector3d(p1.x,p1.y,p1.z)-R_*Eigen::Vector3d(p2.x,p2.y,p2.z);

    //convert to cv::Mat
    r=(Mat_<double>(3,3)<<
       R_(0,0),R_(0,1),R_(0,2),
       R_(1,0),R_(1,1),R_(1,2),
       R_(2,0),R_(2,1),R_(2,2));
    t_inv=(Mat_<double>(3,1)<<t_(0,0),t_(1,0),t_(2,0));
}

void bundleAdjustment(const vector<Point3f> &pts1, const vector<Point3f> &pts2, Mat &r, Mat &t_inv)
{

    double cere_rot[3], cere_tranf[3];
    //關於初值的選取有疑問，隨便選擇一個初值時，結果不正確，why??
    cere_rot[0]=r.at<double>(0,0);
    cere_rot[1]=r.at<double>(1,0);
    cere_rot[2]=r.at<double>(2,0);

    cere_tranf[0]=t_inv.at<double>(0,0);
    cere_tranf[1]=t_inv.at<double>(1,0);
    cere_tranf[2]=t_inv.at<double>(2,0);


    ceres::Problem problem;
    for(int i=0;i<pts1.size();++i)
    {
        ceres::CostFunction* costfunction=new ceres::AutoDiffCostFunction<cost_function_define,2,3,3>(new cost_function_define(pts1[i],pts2[i]));
        problem.AddResidualBlock(costfunction,NULL,cere_rot,cere_tranf);
    }

    ceres::Solver::Options option;
    option.linear_solver_type=ceres::DENSE_SCHUR;
    option.minimizer_progress_to_stdout=true;
    ceres::Solver::Summary summary;
    ceres::Solve(option,&problem,&summary);
    cout<<summary.BriefReport()<<endl;

    cout<<"optional after: "<<endl;
    Mat cam_3d=(Mat_<double>(3,1)<<cere_rot[0],cere_rot[1],cere_rot[2]);
//    cout<<"cam_3d : "<<endl<<cam_3d<<endl;
    Mat cam_9d;
    Rodrigues(cam_3d,cam_9d);
    291 
    cout<<"cam_9d: "<<endl<<cam_9d<<endl;
    cout<<"cam_t: "<<endl<<cere_tranf[0]<<" "<<cere_tranf[1]<<" "<<cere_tranf[2]<<endl;
    Mat tranf_3d=(Mat_<double>(3,1)<<cere_tranf[0],cere_tranf[1],cere_tranf[2]);

    for(int i=0;i<5;++i)
    {
        cout<<"p1= "<<pts1[i]<<endl;
        cout<<"p2= "<<pts2[i]<<endl;
        cout<<"(R*p1+t)= "<<
              cam_9d*(Mat_<double>(3,1)<<pts1[i].x,pts1[i].y,pts1[i].z)+tranf_3d<<endl;
        cout<<endl;
    }
}

結果：

　　僅用ICP得到的位姿為：

　　　　　　

　　我們在兩幅圖片上分別找一些特征點驗證得到的位姿結果：p1=R*p2+t

　　　　　　

 　　利用Ceres優化之后：

　　　　　　

 　　進行驗證：