C++ 扩展python(二)简单的mpi(使用SWIG)上

2023-12-27 02:32

本文主要是介绍C++ 扩展python(二)简单的mpi(使用SWIG)上,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

上一篇实现了一个简单的C++函数对python的扩展,但是其实现方法需要对C/C++扩展python有很深的了解,对我而言目前的学习成本过高,因此有了这一篇博客:

swig是一个包装和接口生成器工具,可以为C/C++程序构建生成各种脚本语言的调用接口。

使用 SWIG 包装 C/C++ 程序是比较简单的,只需要编写一个 .i 接口文件,在其中声明调用接口和完成所需的类型映射即可。如要了解更多,可参考完整的 SWIG 使用文档,此处我们只以以下简单的例子来展示用 SWIG 包装 C 语言 MPI 程序以供 mpi4py 调用的方法。SWIG 的 .i 接口文件有点类似于 C/C++ 的头文件,最简单的包装 C 语言方法是直接将一段 C 程序代码放入 .i 接口文件的 %{ %} 之间,并在外面完成类型映射及声明要导出的函数接口。

我们将此函数放入接口文件 helloworld.i 的 %{ %} 之间,并在下面声明其函数原型,因为其参数为一个 MPI_Comm 类型的通信子,还需要指明一个由 mpi4py 中的通信子到 MPI_Comm 类型的映射,这个映射在 mpi4py 软件中包含的 mpi4py.i 中定义,因此需要 include mpi4py/mpi4py.i。

因为我的需求是扩展mpi通信,所以索性这次的例子先直接上手一个mpi点对点通信的简单测试。

完整的接口文件如下:

/* hello.i */%module hello%{#define MPICH_SKIP_MPICXX 1
#define OMPI_SKIP_MPICXX  1#include <mpi.h>
#include <stdio.h>int sayhello(MPI_Comm comm) {int size, rank;int value;MPI_Status status;char pname[MPI_MAX_PROCESSOR_NAME]; int len;if (comm == MPI_COMM_NULL) {printf("You passed MPI_COMM_NULL !!!\n");return -1;}MPI_Comm_size(comm, &size);MPI_Comm_rank(comm, &rank);MPI_Get_processor_name(pname, &len);pname[len] = 0;printf("Hello, World! I am process %d of %d on %s.\n",rank, size, pname);int x;if(rank == 0){value = 2;MPI_Send(&value, 1, MPI_INT, 1, 0, comm);}else{MPI_Recv(&value, 1, MPI_INT, 0, 0, comm, &status);}return value;
}%}%include mpi4py/mpi4py.i%mpi4py_typemap(Comm, MPI_Comm);int sayhello(MPI_Comm comm);

使用 swig 工具和以上的接口文件就可以产生两个包装文件:hello_wrap.c 和 hello.py,命令如下(注意将其中的头文件路径改成你的系统中实际的路径):

$ swig -python -I/path/to/python/lib/python3.8/site-packages/mpi4py/include -o hello_wrap.c hello.i

生成的 helloworld_wrap.c 文件是对 sayhello 函数的一个包装,而生成的 helloworld.py 中有如下语句:

...import _hello...def sayhello(*args):return _hello.sayhello(*args)
sayhello = _hello.sayhello

由此可见我们还需要由 hello_wrap.c 编译出一个名称为 _hello.so 的扩展库才能被 Python 导入和使用,编译所用的命令同我们在上一篇中介绍的命令几乎一致,此次我们使用mpi进行编译,如下(注意将其中的头文件路径改成你的系统中实际的路径):

mpicc -I/.../anaconda3/include/python3.8 -I/.../anaconda3/lib/python3.8/site-packages/mpi4py/include  -o _hello.so hello_wrap.c -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7

在编译时需要给出相应的库,如果不知道自己的自己的路径可以通过在命令行输入如下命令来获取依赖库的位置:

python -c "import sysconfig; print( sysconfig.get_path('include') )"
python -c "import mpi4py; print( mpi4py.get_include() )"

 

下面我们写一个test.py来进行简单的测试。 

import hello as ho
from mpi4py import MPIcomm = MPI.COMM_WORLD
rank = comm.Get_rank()
x = ho.sayhello(comm)
print("rank is %d, x= %d"%(rank,x))

测试结果如下,嗯简单实现成功了。

但是这种编译方式对于真正的项目开发而言还是有些繁琐,所以接下将近一步学习相应的扩展过程。

 

本文大部分内容借鉴自:

https://www.jianshu.com/p/558d4f3e4bfb

https://www.jianshu.com/p/104fd3775fed

感谢大佬的分享,这个博主详细的写了很多关于mpi4py的东西,从最基础的开始到后面的扩展部分,想快速学习mpi4py的童鞋可以去看看。

这篇关于C++ 扩展python(二)简单的mpi(使用SWIG)上的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/541617

相关文章

PostgreSQL的扩展dict_int应用案例解析

《PostgreSQL的扩展dict_int应用案例解析》dict_int扩展为PostgreSQL提供了专业的整数文本处理能力,特别适合需要精确处理数字内容的搜索场景,本文给大家介绍PostgreS... 目录PostgreSQL的扩展dict_int一、扩展概述二、核心功能三、安装与启用四、字典配置方法

Python中你不知道的gzip高级用法分享

《Python中你不知道的gzip高级用法分享》在当今大数据时代,数据存储和传输成本已成为每个开发者必须考虑的问题,Python内置的gzip模块提供了一种简单高效的解决方案,下面小编就来和大家详细讲... 目录前言:为什么数据压缩如此重要1. gzip 模块基础介绍2. 基本压缩与解压缩操作2.1 压缩文

Spring IoC 容器的使用详解(最新整理)

《SpringIoC容器的使用详解(最新整理)》文章介绍了Spring框架中的应用分层思想与IoC容器原理,通过分层解耦业务逻辑、数据访问等模块,IoC容器利用@Component注解管理Bean... 目录1. 应用分层2. IoC 的介绍3. IoC 容器的使用3.1. bean 的存储3.2. 方法注

Python设置Cookie永不超时的详细指南

《Python设置Cookie永不超时的详细指南》Cookie是一种存储在用户浏览器中的小型数据片段,用于记录用户的登录状态、偏好设置等信息,下面小编就来和大家详细讲讲Python如何设置Cookie... 目录一、Cookie的作用与重要性二、Cookie过期的原因三、实现Cookie永不超时的方法(一)

Python内置函数之classmethod函数使用详解

《Python内置函数之classmethod函数使用详解》:本文主要介绍Python内置函数之classmethod函数使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录1. 类方法定义与基本语法2. 类方法 vs 实例方法 vs 静态方法3. 核心特性与用法(1编程客

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四