C++ 扩展python(二)简单的mpi(使用SWIG)上

2023-12-27 02:32

本文主要是介绍C++ 扩展python(二)简单的mpi(使用SWIG)上,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

上一篇实现了一个简单的C++函数对python的扩展,但是其实现方法需要对C/C++扩展python有很深的了解,对我而言目前的学习成本过高,因此有了这一篇博客:

swig是一个包装和接口生成器工具,可以为C/C++程序构建生成各种脚本语言的调用接口。

使用 SWIG 包装 C/C++ 程序是比较简单的,只需要编写一个 .i 接口文件,在其中声明调用接口和完成所需的类型映射即可。如要了解更多,可参考完整的 SWIG 使用文档,此处我们只以以下简单的例子来展示用 SWIG 包装 C 语言 MPI 程序以供 mpi4py 调用的方法。SWIG 的 .i 接口文件有点类似于 C/C++ 的头文件,最简单的包装 C 语言方法是直接将一段 C 程序代码放入 .i 接口文件的 %{ %} 之间,并在外面完成类型映射及声明要导出的函数接口。

我们将此函数放入接口文件 helloworld.i 的 %{ %} 之间,并在下面声明其函数原型,因为其参数为一个 MPI_Comm 类型的通信子,还需要指明一个由 mpi4py 中的通信子到 MPI_Comm 类型的映射,这个映射在 mpi4py 软件中包含的 mpi4py.i 中定义,因此需要 include mpi4py/mpi4py.i。

因为我的需求是扩展mpi通信,所以索性这次的例子先直接上手一个mpi点对点通信的简单测试。

完整的接口文件如下:

/* hello.i */%module hello%{#define MPICH_SKIP_MPICXX 1
#define OMPI_SKIP_MPICXX  1#include <mpi.h>
#include <stdio.h>int sayhello(MPI_Comm comm) {int size, rank;int value;MPI_Status status;char pname[MPI_MAX_PROCESSOR_NAME]; int len;if (comm == MPI_COMM_NULL) {printf("You passed MPI_COMM_NULL !!!\n");return -1;}MPI_Comm_size(comm, &size);MPI_Comm_rank(comm, &rank);MPI_Get_processor_name(pname, &len);pname[len] = 0;printf("Hello, World! I am process %d of %d on %s.\n",rank, size, pname);int x;if(rank == 0){value = 2;MPI_Send(&value, 1, MPI_INT, 1, 0, comm);}else{MPI_Recv(&value, 1, MPI_INT, 0, 0, comm, &status);}return value;
}%}%include mpi4py/mpi4py.i%mpi4py_typemap(Comm, MPI_Comm);int sayhello(MPI_Comm comm);

使用 swig 工具和以上的接口文件就可以产生两个包装文件:hello_wrap.c 和 hello.py,命令如下(注意将其中的头文件路径改成你的系统中实际的路径):

$ swig -python -I/path/to/python/lib/python3.8/site-packages/mpi4py/include -o hello_wrap.c hello.i

生成的 helloworld_wrap.c 文件是对 sayhello 函数的一个包装,而生成的 helloworld.py 中有如下语句:

...import _hello...def sayhello(*args):return _hello.sayhello(*args)
sayhello = _hello.sayhello

由此可见我们还需要由 hello_wrap.c 编译出一个名称为 _hello.so 的扩展库才能被 Python 导入和使用,编译所用的命令同我们在上一篇中介绍的命令几乎一致,此次我们使用mpi进行编译,如下(注意将其中的头文件路径改成你的系统中实际的路径):

mpicc -I/.../anaconda3/include/python3.8 -I/.../anaconda3/lib/python3.8/site-packages/mpi4py/include  -o _hello.so hello_wrap.c -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7

在编译时需要给出相应的库,如果不知道自己的自己的路径可以通过在命令行输入如下命令来获取依赖库的位置:

python -c "import sysconfig; print( sysconfig.get_path('include') )"
python -c "import mpi4py; print( mpi4py.get_include() )"

 

下面我们写一个test.py来进行简单的测试。 

import hello as ho
from mpi4py import MPIcomm = MPI.COMM_WORLD
rank = comm.Get_rank()
x = ho.sayhello(comm)
print("rank is %d, x= %d"%(rank,x))

测试结果如下,嗯简单实现成功了。

但是这种编译方式对于真正的项目开发而言还是有些繁琐,所以接下将近一步学习相应的扩展过程。

 

本文大部分内容借鉴自:

https://www.jianshu.com/p/558d4f3e4bfb

https://www.jianshu.com/p/104fd3775fed

感谢大佬的分享,这个博主详细的写了很多关于mpi4py的东西,从最基础的开始到后面的扩展部分,想快速学习mpi4py的童鞋可以去看看。

这篇关于C++ 扩展python(二)简单的mpi(使用SWIG)上的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/541617

相关文章

使用animation.css库快速实现CSS3旋转动画效果

《使用animation.css库快速实现CSS3旋转动画效果》随着Web技术的不断发展,动画效果已经成为了网页设计中不可或缺的一部分,本文将深入探讨animation.css的工作原理,如何使用以及... 目录1. css3动画技术简介2. animation.css库介绍2.1 animation.cs

使用雪花算法产生id导致前端精度缺失问题解决方案

《使用雪花算法产生id导致前端精度缺失问题解决方案》雪花算法由Twitter提出,设计目的是生成唯一的、递增的ID,下面:本文主要介绍使用雪花算法产生id导致前端精度缺失问题的解决方案,文中通过代... 目录一、问题根源二、解决方案1. 全局配置Jackson序列化规则2. 实体类必须使用Long封装类3.

Python文件操作与IO流的使用方式

《Python文件操作与IO流的使用方式》:本文主要介绍Python文件操作与IO流的使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、python文件操作基础1. 打开文件2. 关闭文件二、文件读写操作1.www.chinasem.cn 读取文件2. 写

PyQt6中QMainWindow组件的使用详解

《PyQt6中QMainWindow组件的使用详解》QMainWindow是PyQt6中用于构建桌面应用程序的基础组件,本文主要介绍了PyQt6中QMainWindow组件的使用,具有一定的参考价值,... 目录1. QMainWindow 组php件概述2. 使用 QMainWindow3. QMainW

使用Python自动化生成PPT并结合LLM生成内容的代码解析

《使用Python自动化生成PPT并结合LLM生成内容的代码解析》PowerPoint是常用的文档工具,但手动设计和排版耗时耗力,本文将展示如何通过Python自动化提取PPT样式并生成新PPT,同时... 目录核心代码解析1. 提取 PPT 样式到 jsON关键步骤:代码片段:2. 应用 JSON 样式到

python通过curl实现访问deepseek的API

《python通过curl实现访问deepseek的API》这篇文章主要为大家详细介绍了python如何通过curl实现访问deepseek的API,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编... API申请和充值下面是deepeek的API网站https://platform.deepsee

java变量内存中存储的使用方式

《java变量内存中存储的使用方式》:本文主要介绍java变量内存中存储的使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍2、变量的定义3、 变量的类型4、 变量的作用域5、 内存中的存储方式总结1、介绍在 Java 中,变量是用于存储程序中数据

关于Mybatis和JDBC的使用及区别

《关于Mybatis和JDBC的使用及区别》:本文主要介绍关于Mybatis和JDBC的使用及区别,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、JDBC1.1、流程1.2、优缺点2、MyBATis2.1、执行流程2.2、使用2.3、实现方式1、XML配置文件

macOS Sequoia 15.5 发布: 改进邮件和屏幕使用时间功能

《macOSSequoia15.5发布:改进邮件和屏幕使用时间功能》经过常规Beta测试后,新的macOSSequoia15.5现已公开发布,但重要的新功能将被保留到WWDC和... MACOS Sequoia 15.5 正式发布!本次更新为 Mac 用户带来了一系列功能强化、错误修复和安全性提升,进一步增

Java资源管理和引用体系的使用详解

《Java资源管理和引用体系的使用详解》:本文主要介绍Java资源管理和引用体系的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、Java的引用体系1、强引用 (Strong Reference)2、软引用 (Soft Reference)3、弱引用 (W