C++ 扩展python(二)简单的mpi(使用SWIG)上

2023-12-27 02:32

本文主要是介绍C++ 扩展python(二)简单的mpi(使用SWIG)上,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

上一篇实现了一个简单的C++函数对python的扩展,但是其实现方法需要对C/C++扩展python有很深的了解,对我而言目前的学习成本过高,因此有了这一篇博客:

swig是一个包装和接口生成器工具,可以为C/C++程序构建生成各种脚本语言的调用接口。

使用 SWIG 包装 C/C++ 程序是比较简单的,只需要编写一个 .i 接口文件,在其中声明调用接口和完成所需的类型映射即可。如要了解更多,可参考完整的 SWIG 使用文档,此处我们只以以下简单的例子来展示用 SWIG 包装 C 语言 MPI 程序以供 mpi4py 调用的方法。SWIG 的 .i 接口文件有点类似于 C/C++ 的头文件,最简单的包装 C 语言方法是直接将一段 C 程序代码放入 .i 接口文件的 %{ %} 之间,并在外面完成类型映射及声明要导出的函数接口。

我们将此函数放入接口文件 helloworld.i 的 %{ %} 之间,并在下面声明其函数原型,因为其参数为一个 MPI_Comm 类型的通信子,还需要指明一个由 mpi4py 中的通信子到 MPI_Comm 类型的映射,这个映射在 mpi4py 软件中包含的 mpi4py.i 中定义,因此需要 include mpi4py/mpi4py.i。

因为我的需求是扩展mpi通信,所以索性这次的例子先直接上手一个mpi点对点通信的简单测试。

完整的接口文件如下:

/* hello.i */%module hello%{#define MPICH_SKIP_MPICXX 1
#define OMPI_SKIP_MPICXX  1#include <mpi.h>
#include <stdio.h>int sayhello(MPI_Comm comm) {int size, rank;int value;MPI_Status status;char pname[MPI_MAX_PROCESSOR_NAME]; int len;if (comm == MPI_COMM_NULL) {printf("You passed MPI_COMM_NULL !!!\n");return -1;}MPI_Comm_size(comm, &size);MPI_Comm_rank(comm, &rank);MPI_Get_processor_name(pname, &len);pname[len] = 0;printf("Hello, World! I am process %d of %d on %s.\n",rank, size, pname);int x;if(rank == 0){value = 2;MPI_Send(&value, 1, MPI_INT, 1, 0, comm);}else{MPI_Recv(&value, 1, MPI_INT, 0, 0, comm, &status);}return value;
}%}%include mpi4py/mpi4py.i%mpi4py_typemap(Comm, MPI_Comm);int sayhello(MPI_Comm comm);

使用 swig 工具和以上的接口文件就可以产生两个包装文件:hello_wrap.c 和 hello.py,命令如下(注意将其中的头文件路径改成你的系统中实际的路径):

$ swig -python -I/path/to/python/lib/python3.8/site-packages/mpi4py/include -o hello_wrap.c hello.i

生成的 helloworld_wrap.c 文件是对 sayhello 函数的一个包装,而生成的 helloworld.py 中有如下语句:

...import _hello...def sayhello(*args):return _hello.sayhello(*args)
sayhello = _hello.sayhello

由此可见我们还需要由 hello_wrap.c 编译出一个名称为 _hello.so 的扩展库才能被 Python 导入和使用,编译所用的命令同我们在上一篇中介绍的命令几乎一致,此次我们使用mpi进行编译,如下(注意将其中的头文件路径改成你的系统中实际的路径):

mpicc -I/.../anaconda3/include/python3.8 -I/.../anaconda3/lib/python3.8/site-packages/mpi4py/include  -o _hello.so hello_wrap.c -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7

在编译时需要给出相应的库,如果不知道自己的自己的路径可以通过在命令行输入如下命令来获取依赖库的位置:

python -c "import sysconfig; print( sysconfig.get_path('include') )"
python -c "import mpi4py; print( mpi4py.get_include() )"

 

下面我们写一个test.py来进行简单的测试。 

import hello as ho
from mpi4py import MPIcomm = MPI.COMM_WORLD
rank = comm.Get_rank()
x = ho.sayhello(comm)
print("rank is %d, x= %d"%(rank,x))

测试结果如下,嗯简单实现成功了。

但是这种编译方式对于真正的项目开发而言还是有些繁琐,所以接下将近一步学习相应的扩展过程。

 

本文大部分内容借鉴自:

https://www.jianshu.com/p/558d4f3e4bfb

https://www.jianshu.com/p/104fd3775fed

感谢大佬的分享,这个博主详细的写了很多关于mpi4py的东西,从最基础的开始到后面的扩展部分,想快速学习mpi4py的童鞋可以去看看。

这篇关于C++ 扩展python(二)简单的mpi(使用SWIG)上的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/541617

相关文章

Python实战之SEO优化自动化工具开发指南

《Python实战之SEO优化自动化工具开发指南》在数字化营销时代,搜索引擎优化(SEO)已成为网站获取流量的重要手段,本文将带您使用Python开发一套完整的SEO自动化工具,需要的可以了解下... 目录前言项目概述技术栈选择核心模块实现1. 关键词研究模块2. 网站技术seo检测模块3. 内容优化分析模

使用shardingsphere实现mysql数据库分片方式

《使用shardingsphere实现mysql数据库分片方式》本文介绍如何使用ShardingSphere-JDBC在SpringBoot中实现MySQL水平分库,涵盖分片策略、路由算法及零侵入配置... 目录一、ShardingSphere 简介1.1 对比1.2 核心概念1.3 Sharding-Sp

深入解析C++ 中std::map内存管理

《深入解析C++中std::map内存管理》文章详解C++std::map内存管理,指出clear()仅删除元素可能不释放底层内存,建议用swap()与空map交换以彻底释放,针对指针类型需手动de... 目录1️、基本清空std::map2️、使用 swap 彻底释放内存3️、map 中存储指针类型的对象

Java 正则表达式的使用实战案例

《Java正则表达式的使用实战案例》本文详细介绍了Java正则表达式的使用方法,涵盖语法细节、核心类方法、高级特性及实战案例,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要... 目录一、正则表达式语法详解1. 基础字符匹配2. 字符类([]定义)3. 量词(控制匹配次数)4. 边

Python Counter 函数使用案例

《PythonCounter函数使用案例》Counter是collections模块中的一个类,专门用于对可迭代对象中的元素进行计数,接下来通过本文给大家介绍PythonCounter函数使用案例... 目录一、Counter函数概述二、基本使用案例(一)列表元素计数(二)字符串字符计数(三)元组计数三、C

使用Spring Cache本地缓存示例代码

《使用SpringCache本地缓存示例代码》缓存是提高应用程序性能的重要手段,通过将频繁访问的数据存储在内存中,可以减少数据库访问次数,从而加速数据读取,:本文主要介绍使用SpringCac... 目录一、Spring Cache简介核心特点:二、基础配置1. 添加依赖2. 启用缓存3. 缓存配置方案方案

Python内存优化的实战技巧分享

《Python内存优化的实战技巧分享》Python作为一门解释型语言,虽然在开发效率上有着显著优势,但在执行效率方面往往被诟病,然而,通过合理的内存优化策略,我们可以让Python程序的运行速度提升3... 目录前言python内存管理机制引用计数机制垃圾回收机制内存泄漏的常见原因1. 循环引用2. 全局变

使用Python的requests库来发送HTTP请求的操作指南

《使用Python的requests库来发送HTTP请求的操作指南》使用Python的requests库发送HTTP请求是非常简单和直观的,requests库提供了丰富的API,可以发送各种类型的HT... 目录前言1. 安装 requests 库2. 发送 GET 请求3. 发送 POST 请求4. 发送

python 线程池顺序执行的方法实现

《python线程池顺序执行的方法实现》在Python中,线程池默认是并发执行任务的,但若需要实现任务的顺序执行,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋... 目录方案一:强制单线程(伪顺序执行)方案二:按提交顺序获取结果方案三:任务间依赖控制方案四:队列顺序消

Nginx中配置使用非默认80端口进行服务的完整指南

《Nginx中配置使用非默认80端口进行服务的完整指南》在实际生产环境中,我们经常需要将Nginx配置在其他端口上运行,本文将详细介绍如何在Nginx中配置使用非默认端口进行服务,希望对大家有所帮助... 目录一、为什么需要使用非默认端口二、配置Nginx使用非默认端口的基本方法2.1 修改listen指令