码上欢乐
相关内容   简体   繁体

Bitmap算法解析

本文转载自  查看原文  2012-11-07 00:45  4536 
       bitmap是一个十分有用的结构。所谓的Bit-map就是用一个bit位来标记某个元素对应的Value， 而Key即是该元素。由于采用了Bit为单位来存储数据，因此在存储空间方面，可以大大节省。
     适用范围：可进行数据的快速查找，判重，删除，一般来说数据范围是int的10倍以下
基本原理及要点：使用bit数组来表示某些元素是否存在，比如8位电话号码
扩展：bloom filter可以看做是对bit-map的扩展
问题实例：
1)已知某个文件内包含一些电话号码，每个号码为8位数字，统计不同号码的个数。
8位最多99 999 999，大概需要99m个bit，大概10几m字节的内存即可。
2)2.5亿个整数中找出不重复的整数的个数，内存空间不足以容纳这2.5亿个整数。
将bit-map扩展一下，用2bit表示一个数即可，0表示未出现，1表示出现一次，2表示出现2次及以上。或者我们不用2bit来进行表示，我们用两个bit-map即可模拟实现这个2bit-map。
下面是一个简单的Bitmap的实现：
[cpp] view plain copy print ?
  1. #include "stdafx.h"   
  2. #include <iostream>   
  3. using namespace std;  
  4.   
  5. char *g_bitmap = NULL;    
  6. int g_size = 0;    
  7. int g_base = 0;   
  8.   
  9. //功能：初始化bitmap    
  10. //参数： size：bitmap的大小，即bit位的个数    
  11. //      start：起始值    
  12. //返回值：0表示失败，1表示成功    
  13. int bitmap_init(int size, int start)    
  14. {    
  15.     g_size = size/8+1;  
  16.     g_base = start;  
  17.     g_bitmap = new char[g_size];    
  18.     if(g_bitmap == NULL)  
  19.     {  
  20.         return 0;    
  21.     }  
  22.     memset(g_bitmap, 0x0, g_size);    
  23.     return 1;    
  24. }    
  25.   
  26. //功能：将值index的对应位设为1    
  27. //index:要设的值    
  28. //返回值：0表示失败，1表示成功    
  29. int bitmap_set(int index)    
  30. {    
  31.         int quo = (index-g_base)/8 ;  //确定所在的字节   
  32.         int remainder = (index-g_base)%8;  //字节内的偏移     
  33.         unsigned char x = (0x1<<remainder);      
  34.         if( quo > g_size)    
  35.                 return 0;  
  36.         g_bitmap[quo] |= x;   //所在字节内的特定位置为1     
  37.         return 1;     
  38. }    
  39.    
  40. //功能：取bitmap第i位的值    
  41. //i：待取位    
  42. //返回值：-1表示失败，否则返回对应位的值    
  43. int bitmap_get(int i)    
  44. {    
  45.     int quo = (i)/8 ;    
  46.     int remainder = (i)%8;    
  47.     unsigned char x = (0x1<<remainder);    
  48.     unsigned char res;    
  49.     if( quo > g_size)    
  50.         return -1;    
  51.     res = g_bitmap[quo] & x;    
  52.     return res > 0 ? 1 : 0;     
  53. }    
  54.   
  55.    
  56.  //功能：返回index位对应的值      
  57. int bitmap_data(int index)    
  58. {    
  59.     return (index + g_base);    
  60. }    
  61.   
  62. //释放内存    
  63. int bitmap_free()    
  64. {    
  65.     delete [] g_bitmap;  
  66.     return 0;  
  67. }      
  68.    
  69. int _tmain(int argc, _TCHAR* argv[])   
  70. {    
  71.     int a[] = {5,8,7,6,3,1,10,78,56,34,23,12,43,54,65,76,87,98,89,100};    
  72.     int i;    
  73.     bitmap_init(100, 0);    
  74.     for(i=0; i<20; i++)  
  75.     {  
  76.         bitmap_set(a[i]);    
  77.     }  
  78.     for(i=0; i<=100; i++)    
  79.     {    
  80.         if(bitmap_get(i) > 0 )    
  81.             cout << bitmap_data(i)<< " ";  
  82.     }    
  83.     cout << endl;    
  84.     bitmap_free();   
  85.     return 0;    
  86. }    

【问题实例】

1)已知某个文件内包含一些电话号码，每个号码为8位数字，统计不同号码的个数。

8位最多99 999 999，大概需要99m个bit，大概10几m字节的内存即可。 （可以理解为从0-99 999 999的数字，每个数字对应一个Bit位，所以只需要99M个Bit==1.2MBytes，这样，就用了小小的1.2M左右的内存表示了所有的8位数的电话）

2)2.5亿个整数中找出不重复的整数的个数，内存空间不足以容纳这2.5亿个整数。

将bit-map扩展一下，用2bit表示一个数即可，0表示未出现，1表示出现一次，2表示出现2次及以上，在遍历这些数的时候，如果对应位置的值是0，则将其置为1；如果是1，将其置为2；如果是2，则保持不变。或者我们不用2bit来进行表示，我们用两个bit-map即可模拟实现这个 2bit-map，都是一样的道理。

一、bitmap算法思想 

    32位机器上，一个整形，比如int a; 在内存中占32bit位，可以用对应的32bit位对应十进制的0-31个数，bitmap算法利用这种思想处理大量数据的排序与查询. 

    优点：1.运算效率高，不许进行比较和移位；2.占用内存少，比如N=10000000；只需占用内存为N/8=1250000Byte=1.25M。 
   缺点：所有的数据不能重复。即不可对重复的数据进行排序和查找。 

   比如： 
          第一个4就是 
          00000000000000000000000000010000 
          而输入2的时候 
          00000000000000000000000000010100 
          输入3时候 
          00000000000000000000000000011100 
          输入1的时候 
          00000000000000000000000000011110 

    思想比较简单，关键是十进制和二进制bit位需要一个map图，把十进制的数映射到bit位。下面详细说明这个map映射表。 

二、map映射表 

假设需要排序或者查找的总数N=10000000，那么我们需要申请内存空间的大小为int a[1 + N/32]，其中：a[0]在内存中占32为可以对应十进制数0-31，依次类推： 
bitmap表为： 

a[0]--------->0-31 
a[1]--------->32-63 
a[2]--------->64-95 
a[3]--------->96-127 
.......... 

那么十进制数如何转换为对应的bit位，下面介绍用位移将十进制数转换为对应的bit位。 

三、位移转换 

例如十进制0，对应在a[0]所占的bit为中的第一位： 
00000000000000000000000000000001 

0-31：对应在a[0]中 

i =0                        00000000000000000000000000000000 
temp=0                  00000000000000000000000000000000 
answer=1                00000000000000000000000000000001 
i =1                         00000000000000000000000000000001 
temp=1                   00000000000000000000000000000001 
answer=2                 00000000000000000000000000000010 
i =2                          00000000000000000000000000000010 
temp=2                    00000000000000000000000000000010 
answer=4                  00000000000000000000000000000100 
i =30                         00000000000000000000000000011110 
temp=30                   00000000000000000000000000011110 
answer=1073741824  01000000000000000000000000000000 
i =31                         00000000000000000000000000011111 
temp=31                   00000000000000000000000000011111 
answer=-2147483648 10000000000000000000000000000000 

32-63：对应在a[1]中 

i =32                    00000000000000000000000000100000 
temp=0                00000000000000000000000000000000 
answer=1              00000000000000000000000000000001 
i =33                     00000000000000000000000000100001 
temp=1                 00000000000000000000000000000001 
answer=2               00000000000000000000000000000010 
i =34                      00000000000000000000000000100010 
temp=2                  00000000000000000000000000000010 
answer=4                00000000000000000000000000000100 
i =61                       00000000000000000000000000111101 
temp=29                  00000000000000000000000000011101 
answer=536870912   00100000000000000000000000000000 
i =62                        00000000000000000000000000111110 
temp=30                   00000000000000000000000000011110 
answer=1073741824  01000000000000000000000000000000 
i =63                         00000000000000000000000000111111 
temp=31                   00000000000000000000000000011111 
answer=-2147483648 10000000000000000000000000000000 


浅析上面的对应表： 
1.求十进制0-N对应在数组a中的下标： 
十进制0-31，对应在a[0]中，先由十进制数n转换为与32的余可转化为对应在数组a中的下标。比如n=24,那么 n/32=0，则24对应在数组a中的下标为0。又比如n=60,那么n/32=1，则60对应在数组a中的下标为1，同理可以计算0-N在数组a中的下标。 

2.求0-N对应0-31中的数： 
十进制0-31就对应0-31，而32-63则对应也是0-31，即给定一个数n可以通过模32求得对应0-31中的数。 

3.利用移位0-31使得对应32bit位为1. 
四、编程实现 

 

 

 

[cpp]  view plain copy
 
  1. #include <stdio.h>  
  2.   
  3. #define BITSPERWORD 32  
  4. #define SHIFT 5  
  5. #define MASK 0x1F  
  6. #define N 10000000  
  7.   
  8. int a[1 + N/BITSPERWORD];//申请内存的大小  
  9.   
  10. //set 设置所在的bit位为1  
  11. //clr 初始化所有的bit位为0  
  12. //test 测试所在的bit为是否为1  
  13.   
  14. void set(int i) {        a[i>>SHIFT] |=  (1<<(i & MASK)); }  
  15. void clr(int i) {        a[i>>SHIFT] &= ~(1<<(i & MASK)); }  
  16. int  test(int i){ return a[i>>SHIFT] &   (1<<(i & MASK)); }  
  17.   
  18. int main()  
  19. {   int i;  
  20.     for (i = 0; i < N; i++)  
  21.         clr(i);    
  22.     while (scanf("%d", &i) != EOF)  
  23.         set(i);  
  24.     for (i = 0; i < N; i++)  
  25.         if (test(i))  
  26.             printf("%d\n", i);  
  27.   
  28.     return 0;  
  29. }  


解析本例中的void set(int i) {        a[i>>SHIFT] |=  (1<<(i & MASK)); } 

1.i>>SHIFT： 
其中SHIFT=5，即i右移5为，2^5=32,相当于i/32，即求出十进制i对应在数组a中的下标。比如i=20，通过i>>SHIFT=20>>5=0 可求得i=20的下标为0； 

2.i & MASK： 
其中MASK=0X1F,十六进制转化为十进制为31，二进制为0001 1111，i&（0001 1111）相当于保留i的后5位。 

比如i=23，二进制为：0001 0111，那么 
                         0001 0111 
                   &    0001 1111 = 0001 0111 十进制为：23 
比如i=83，二进制为：0000 0000 0101 0011，那么 
                          0000 0000 0101 0011 
                     &   0000 0000 0001 0000 = 0000 0000 0001 0011 十进制为：19 

i & MASK相当于i%32。 

3.1<<(i & MASK) 
相当于把1左移 (i & MASK)位。 
比如(i & MASK)=20，那么i<<20就相当于： 
         0000 0000 0000 0000 0000 0000 0000 0001 >>20 
      =0000 0000 0000 1000 0000 0000 0000 0000 

4.void set(int i) {        a[i>>SHIFT] |=  (1<<(i & MASK)); }等价于： 
void set(int i) 
{ 
   a[i/32] |= (1<<(i%32)); 
}


免责声明！

本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系本站邮箱yoyou2525@163.com删除。



猜您在找 bitmap算法 Bitmap 算法 什么是Bitmap算法？ BitMap 算法 详解BitMap算法 BitMap算法详解 【位图算法】什么是BitMap BitMap算法及其实现(Python) Bitmap简单使用及简单解析 简单实用算法——位图算法（BitMap）
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM