Windows下使用Gflags檢查內存越界

環境:windows xp. vs2005

Gflags可用於查找內存越界的問題。

訪問一塊申請的內存時，當訪問的地址超過申請的范圍時，就發生了內存越界的問題。

編寫測試程序MemoryOverflow.exe。在程序中，Fun函數使用new申請了16個字節的內存，因此p[0]~p[15]都是可訪問的合法地址。

#include <iostream>
using namespace std;

int Fun()
{
    char *p = new char[16];
    memset(p, 0x00, 16*sizeof(char));

    p[0]  = 1; //合法改寫
    p[15] = 2; //合法改寫
    p[16] = 3; //越界，delete可檢查出來
    p[17] = 4; //越界，delete可檢查出來
    p[18] = 5; //越界，delete可檢查出來
    p[19] = 6; //越界，delete可檢查出來
    p[20] = 7; //越界，Gflags可檢查出來

    delete p;
    p = NULL;

    return 0;
}

int main()
{
    Fun();

    return 0;
}

 在VS2005Debug模式下，每次使用new申請一塊內存時，會多出36個字節，其中32個字節在P的前面，4個字節在p的后面。后面4個字節保護區以0xFD進行填充。如果p后面的4個字節被改寫掉，則在delete時會校驗失敗。

發生內存越界時，一般不會有異常發生，而是可能在后面的代碼中發生異常。Gflags能在發生內存越界時，就立即提示出來。

Gflags會在用戶申請的內存后面分配一個保護區（一般是一個虛擬頁，寫保護屬性），一旦發生內存越界，就會觸發中斷，定位發生內存越界的代碼行。

在命令行中輸入指令：Gflags.exe /p /enable MemoryOverflow.exe /full /unaligned        //非對齊方式完全啟用page heap

使用VS2005調試MemoryOverflow.exe，當執行到 p[20] = 7;  時，就會提示內存越界了。