步骤
1. 按照官网的Option1安装步骤安装
https://github.com/facebookresearch/maskrcnn-benchmark/blob/master/INSTALL.md
注意:编译cocoApi会遇到-Wno-cpp相关的错误,直接将 cocoapi\PythonAPI\setup.py中的选项去掉即可,修改成红色的命令
ext_modules = [ Extension( 'pycocotools._mask', sources=['../common/maskApi.c', 'pycocotools/_mask.pyx'], include_dirs = [np.get_include(), '../common'], #extra_compile_args=['-Wno-cpp', '-Wno-unused-function', '-std=c99'], extra_compile_args=['-std=c99'], ) ]
2. maskrcnn的编译错误
no instance of function template "THCCeilDiv" matches
解决办法:将对应文件里面的"THCCeilDiv" 对应语句换掉,文件包括maskrcnn-benchmark\maskrcnn_benchmark\csrc\cuda目录下的ROIAlign_cuda.cu, ROIPool_cuda.cu, SigmoidFocalLoss_cuda.cu
//dim3 grid(std::min(THCCeilDiv(d_logits_size, 512L), 4096L)); dim3 grid(std::min(((int)d_logits_size + 512 -1) / 512, 4096));
参考上面的示例替换即可