本文主要是介绍MPI-2 并行IO的使用方法，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
转自 http://www.cnblogs.com/LCcnblogs/p/6050075.html
写的MPI程序需要用到并行IO来操作文件，但是搜遍了度娘都没有找到多少关于并行IO函数的使用方法。最后在知网搜到了一些有用的论文，看了一下，感觉豁然开朗。
MPI-1对文件的操作是使用绑定语言的函数调用来进行的，通常采用的是串行IO的读写方式，一般情况下是用一个主进程打开文件和读取数据，然后分发给其他进程来处理，这种串行IO数据的通信量很大、效率较低。MPI-2实现了并行IO，允许多个进程同时对文件进行操作，从而避免了文件数据在不同进程间的传送，对于需要密集文件操作的程序而言，简直是一大福祉！
并行IO可分为三种方法：指定显式偏移量、独立文件指针和共享文件指针，每种方式又可分为阻塞和非阻塞两种情况。
下面以读写一个二进制文件数组为例，阐述这三种方法的函数调用。下面的三个mian函数分别对应三种方法，读取“data"二进制文件数组（文件内容：行数、列数、数组元素），读取完整后由进程0输出其读取的数据以验证读取是否正确，最后所有进程将其读取的数据写入一个叫“data2"的二进制文件。怎么来查看二进制文件的内容以验证是否读写正确呢，或者说二进制文件和可读内容的文本文件之间怎么转换呢？下面也给出简单代码。
1 #include<stdio.h> 2 #include<stdlib.h> 3 #include<string.h> 4 #include"mpi.h" 5 6 #define BLOCK_LOW(rank,size,n) ((rank)*(n)/(size)) 7 #define BLOCK_HIGH(rank,size,n) (BLOCK_LOW((rank)+1,size,n)-1) 8 #define BLOCK_SIZE(rank,size,n) (BLOCK_HIGH(rank,size,n)-BLOCK_LOW(rank,size,n)+1) 9 10 //并行IO：指定显式偏移的文件操作 11 int main(int argc, char *argv[]) 12 { 13 int size,rank,i; 14 int n,m; 15 float *array; 16 MPI_File fh; 17 MPI_Status status; 18 MPI_Init(&argc,&argv); 19 MPI_Comm_rank(MPI_COMM_WORLD,&rank); 20 MPI_Comm_size(MPI_COMM_WORLD,&size); 21 22 MPI_File_open(MPI_COMM_WORLD,"data",MPI_MODE_RDONLY,MPI_INFO_NULL,&fh); 23 MPI_File_read_at_all(fh,0,&n,1,MPI_INT,&status); //从偏移量0处读取 24 MPI_File_read_at_all(fh,sizeof(int),&m,1,MPI_INT,&status); //从偏移量1个int处读取 25 array=(float *)malloc(BLOCK_SIZE(rank,size,n)*m*sizeof(float)); 26 MPI_File_read_at_all(fh,2*sizeof(int)+BLOCK_LOW(rank,size,n)*m*sizeof(float),array,BLOCK_SIZE(rank,size,n)*m,MPI_FLOAT,&status); 27 MPI_File_close(&fh); 28 29 if(rank==0){ 30 printf("rank=%d: %d %d\n",rank,n,m); 31 for(i=0;i<BLOCK_SIZE(rank,size,n)*m;i++){ 32 printf("% .0f",array[i]); 33 if((i+1)%m==0) putchar('\n'); 34 } 35 } 36 37 MPI_File_open(MPI_COMM_WORLD,"data2",MPI_MODE_CREATE|MPI_MODE_WRONLY,MPI_INFO_NULL,&fh); 38 MPI_File_write_at_all(fh,0,&n,1,MPI_INT,&status); 39 MPI_File_write_at_all(fh,sizeof(int),&m,1,MPI_INT,&status); 40 MPI_File_write_at_all(fh,2*sizeof(int)+BLOCK_LOW(rank,size,n)*m*sizeof(float),array,BLOCK_SIZE(rank,size,n)*m,MPI_FLOAT,&status); 41 MPI_File_close(&fh); 42 43 MPI_Finalize(); 44 return 0; 45 } 46 47 /* 48 //并行IO：独立文件指针 49 int main(int argc,char *argv[]) 50 { 51 int size,rank,i; 52 int n,m; 53 float *array; 54 MPI_File fh; 55 MPI_Status status; 56 MPI_Init(&argc,&argv); 57 MPI_Comm_rank(MPI_COMM_WORLD,&rank); 58 MPI_Comm_size(MPI_COMM_WORLD,&size); 59 60 MPI_File_open(MPI_COMM_WORLD,"data",MPI_MODE_RDONLY,MPI_INFO_NULL,&fh); 61 MPI_File_set_view(fh,0,MPI_INT,MPI_INT,"internal",MPI_INFO_NULL); //设置绝对偏移量为0 62 MPI_File_read_all(fh,&n,1,MPI_INT,&status); //读取后偏移量自动加1 63 MPI_File_read_all(fh,&m,1,MPI_INT,&status); 64 array=(float *)malloc(BLOCK_SIZE(rank,size,n)*m*sizeof(float)); 65 MPI_File_set_view(fh,2*sizeof(int)+BLOCK_LOW(rank,size,n)*m*sizeof(float),MPI_FLOAT,MPI_FLOAT,"internal",MPI_INFO_NULL);//重置偏移量 66 MPI_File_read_all(fh,array,BLOCK_SIZE(rank,size,n)*m,MPI_INT,&status); 67 MPI_File_close(&fh); 68 69 if(rank==0){ 70 printf("rank=%d: %d %d\n",rank,n,m); 71 for(i=0;i<BLOCK_SIZE(rank,size,n)*m;i++){ 72 printf("% .0f",array[i]); 73 if((i+1)%m==0) putchar('\n'); 75 } 76 } 77 78 MPI_File_open(MPI_COMM_WORLD,"data2",MPI_MODE_CREATE|MPI_MODE_WRONLY,MPI_INFO_NULL,&fh); 79 MPI_File_set_view(fh,0,MPI_INT,MPI_INT,"internal",MPI_INFO_NULL); 80 MPI_File_write_all(fh,&n,1,MPI_INT,&status); 81 MPI_File_write_all(fh,&m,1,MPI_INT,&status); 82 MPI_File_set_view(fh,2*sizeof(int)+BLOCK_LOW(rank,size,n)*m*sizeof(float),MPI_FLOAT,MPI_FLOAT,"internal",MPI_INFO_NULL); 83 MPI_File_write_all(fh,array,BLOCK_SIZE(rank,size,n)*m,MPI_FLOAT,&status); 84 MPI_File_close(&fh); 85 86 MPI_Finalize(); 87 } 88 */ 89 90 /* 91 //并行IO：共享文件指针 92 int main(int argc,char *argv[]) 93 { 94 int size,rank,i; 95 int n,m; 96 float *array; 97 MPI_File fh; 98 MPI_Status status; 99 MPI_Init(&argc,&argv); 100 MPI_Comm_rank(MPI_COMM_WORLD,&rank); 101 MPI_Comm_size(MPI_COMM_WORLD,&size); 102 103 MPI_File_open(MPI_COMM_WORLD,"data",MPI_MODE_RDONLY,MPI_INFO_NULL,&fh); 104 MPI_File_read_at_all(fh,0,&n,1,MPI_INT,&status); //指定显式偏移的读取 105 MPI_File_read_at_all(fh,sizeof(int),&m,1,MPI_INT,&status); 106 array=(float *)malloc(BLOCK_SIZE(rank,size,n)*m*sizeof(float)); 107 MPI_File_seek_shared(fh,2*sizeof(int),MPI_SEEK_SET); //共享文件指针，偏移量是2个int 108 MPI_File_read_ordered(fh,array,BLOCK_SIZE(rank,size,n)*m,MPI_FLOAT,&status); //按序读取 109 MPI_File_close(&fh); 110 111 if(rank==0){ 112 printf("rank=%d: %d %d\n",rank,n,m); 113 for(i=0;i<BLOCK_SIZE(rank,size,n)*m;i++){ 114 printf("% .0f",array[i]); 115 if((i+1)%m==0) putchar('\n'); 117 } 118 } 119 120 MPI_File_open(MPI_COMM_WORLD,"data2",MPI_MODE_CREATE|MPI_MODE_WRONLY,MPI_INFO_NULL,&fh); 121 MPI_File_write_at_all(fh,0,&n,1,MPI_INT,&status); //指定显式偏移的写入 122 MPI_File_write_at_all(fh,sizeof(int),&m,1,MPI_INT,&status); 123 MPI_File_seek_shared(fh,2*sizeof(int),MPI_SEEK_SET); //共享文件指针，偏移量是2个int 124 MPI_File_write_ordered(fh,array,BLOCK_SIZE(rank,size,n)*m,MPI_FLOAT,&status); //按序写入 125 MPI_File_close(&fh); 126 127 MPI_Finalize(); 128 } 129 */
1 //将二进制数组文件转换为文本文件。要求二进制文件的内容：行数 列数 数组元素 2 #include <stdio.h> 3 #include <stdlib.h> 4 5 typedef float type; 6 7 int main() 8 { 9 int i,j; 10 int n,m; 11 type **array; 12 FILE *fp; 13 fp=fopen("data","rb"); 14 fread(&n,sizeof(int),1,fp); 15 fread(&m,sizeof(int),1,fp); 16 17 array=(type **)malloc(n*sizeof(type *)); 18 *array=(type *)malloc(n*m*sizeof(type)); 19 for(i=1;i<n;i++) array[i]=array[i-1]+m; 20 21 fread(&array[0][0],n*m*sizeof(type),1,fp); //注意不能是地址 array 22 fclose(fp); 23 24 fp=fopen("data.txt","w"); 25 fprintf(fp," %d %d\n",n,m); 26 for(i=0;i<n;i++){ 27 for(j=0;j<m;j++) 28 fprintf(fp,"% f ",array[i][j]); 29 putc('\n',fp); 30 } 31 fprintf(stdout,"Successfully!\n"); 32 }
1 //将数组文本文件转换为二进制文件。要求文本文件的内容：行数 列数 数组元素 2 #include <stdio.h> 3 #include <stdlib.h> 4 5 typedef float type; 6 7 int main() 8 { 9 int i,j; 10 int n,m; 11 type **array; 12 FILE *fp; 13 fp=fopen("data.txt","r"); 14 fscanf(fp,"%d",&n); 15 fscanf(fp,"%d",&m); 16 17 array=(type **)malloc(n*sizeof(type *)); 18 *array=(type *)malloc(n*m*sizeof(type)); 19 for(i=1;i<n;i++) array[i]=array[i-1]+m; 20 21 for(i=0;i<n;i++) 22 for(j=0;j<m;j++) 23 fscanf(fp,"%f",&array[i][j]); 24 fclose(fp); 25 26 fp=fopen("data","wb"); 27 fwrite(&n,sizeof(int),1,fp); 28 fwrite(&m,sizeof(int),1,fp); 29 fwrite(&array[0][0],n*m*sizeof(type),1,fp); //注意不能是地址 &array 30 fclose(fp); 31 fprintf(stdout,"Successfully!\n"); 32 }
一个示例的文本文件数组data.txt:
8 8
1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000
2.000000 2.000000 2.000000 2.000000 2.000000 2.000000 2.000000 2.000000
3.000000 3.000000 3.000000 3.000000 3.000000 3.000000 3.000000 3.000000
4.000000 4.000000 4.000000 4.000000 4.000000 4.000000 4.000000 4.000000
5.000000 5.000000 5.000000 5.000000 5.000000 5.000000 5.000000 5.000000
6.000000 6.000000 6.000000 6.000000 6.000000 6.000000 6.000000 6.000000
7.000000 7.000000 7.000000 7.000000 7.000000 7.000000 7.000000 7.000000
8.000000 8.000000 8.000000 8.000000 8.000000 8.000000 8.000000 8.000000
这篇关于MPI-2 并行IO的使用方法的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
