本文主要是介绍对大数据量进行排序--位图法，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
题目：对2G的数据量进行排序，这是基本要求。
数据：1、每个数据不大于8亿；2、数据类型位int；3、每个数据最多重复一次。
内存：最多用200M的内存进行操作。
我听过很多种类似问题的解法，有的是内存多次利用，有的用到了外存，我觉得这两种做法都不是比较好的思想，太慢。由于这个题目看起来没有对效率进行约束，所以这两种方法也是对的，但是我这次提出一个比较好的算法来解答此题，如果有更好的做法请赶快跟帖留言，共同讨论。希望大神们的加入。。。。。
思想：把200M的内存平分，可以开两个数组，一个数组arr存放一遍不重复的所有数据，另一个数组arr_2只存放重复的数据。存放方法是对数组中的每个数据的位进行操作。比如：18这个数，18/32=0，18就会对应arr[0]这个数组中的某一位，而每一个数组元素都是32位组成，18%32=18，也就是说arr[0]那个数的第18位对应18这个数。同样道理再来一个数：43 43/32=1,43%32=11，也就是说43对应的是arr[1]中的第11位。只要找到了对应位置，把该位置1，其余位置不变（默认为0），遍历一次数据，就会把内存中的对应位置1.如果遇到重复数据，此时就会用到第二个数组了，若本次查询该位已经为1，那么就要把arr_2这个数组中的对应位置1。在输出的时候就要同步遍历两个数组。
输出：就是一个反向还原过程，遍历内存中的每一位，该位对应的有数组下标和所处位，进行一次乘、和运算就能还原回来数据，并依次写入文件或者打印到屏幕上。
废话不多说，直接上代码，如有问题，跟帖讨论。
#include <stdio.h> #include <stdlib.h> #define NUM 1024*1024 //数据占用的内存大小，即存储数据的载体 #define N 1024*1024*128 //10测试正确性可以用10来测 //数据量 unsigned long int arr[NUM]; unsigned long int arr_2[NUM]; unsigned long int temp[N];//本可不必开辟这个数组的，直接从文件中读取 int main(){ int i,j,temp_num=0,temp_num_2=0,flag=0; //清空内存 memset(arr,0,sizeof(arr)); memset(arr_2,0,sizeof(arr_2));//得到数据,存到数组中 for(i=0;i<N;i++){ temp[i]=N-i; temp[i++]=N-i; } //下边这个循环是一个排序过程，把对应位置1，如果原来是1，就把另一块内存中的对应位置1 for(i=0;i<N;i++){ if(((arr[temp[i]/32] >> (temp[i]%32)) & 0x00000001) == 1) arr_2[temp[i]/32] |= (0x00000001<<(temp[i]%32)); arr[temp[i]/32] |= (0x00000001<<(temp[i]%32)); } printf("\n"); for(i=0;i<NUM && flag<N;i++){ if(arr[i] == 0) continue; temp_num=arr[i]; for(j=0;j<32;j++){ if((temp_num&0x00000001) == 0){ temp_num=(temp_num>>1); } else if((temp_num&0x0001) == 1){ printf("%d ",(i<<5)+j); temp_num=(temp_num>>1); temp_num_2=arr[i]; flag++; //重复数据的输出 if((temp_num_2&0x00000001) == 1){ printf("%d ",(i<<5)+j); flag++; } } } } printf("\n"); return 0; }
这篇关于对大数据量进行排序--位图法的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
