C++扩展python(三)boost.Python实现(附swig比较)

2023-12-27 02:32

本文主要是介绍C++扩展python(三)boost.Python实现(附swig比较),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文98%内容转载自博客:https://www.jianshu.com/p/1b4235c90567

除了可以使用 SWIG 包装 C/C++ 之外,还可以使用 C++ 的 boost.Python 库包装 C/C++ MPI 程序以供 mpi4py 调用。

关于各种包装方式的优缺点可以看这一篇博客,或者这一篇。

 

话不多说下面我们以包装 C++ MPI 程序为例对此进行介绍。

Boost.Python 是 C++ 的 Boost 库的一部分,用来在 C++ 代码中调用 Python 代码以及在 Python 代码中调用 C++ 代码,并且避免用户直接操作指针。Boost.Python 库可以让 C++ 和 Python 几乎无缝结合。这里不介绍 Boost.Python 的详细使用方法,感兴趣的读者可以参考其文档。我们只会以简单的例子展示如何使用 Boost.Python 库包装 C/C++ MPI 程序以供 mpi4py 调用。

假设我们有以下使用了 Boost.Python 的 C++ 程序文件 helloworld.cxx,其中定义了函数 sayhello,其接受一个 MPI 通信子作为参数。

// helloworld.cxx#include <mpi.h>
#include <iostream>static void sayhello(MPI_Comm comm)
{if (comm == MPI_COMM_NULL) {std::cout << "You passed MPI_COMM_NULL !!!" << std::endl;return;}int size;MPI_Comm_size(comm, &size);int rank;MPI_Comm_rank(comm, &rank);int plen; char pname[MPI_MAX_PROCESSOR_NAME];MPI_Get_processor_name(pname, &plen);std::cout <<"Hello, World! " <<"I am process "  << rank  <<" of "           << size  <<" on  "          << pname <<"."              << std::endl;
}#include <boost/python.hpp>
#include <mpi4py/mpi4py.h>
using namespace boost::python;static void hw_sayhello(object py_comm)
{PyObject* py_obj = py_comm.ptr();MPI_Comm *comm_p = PyMPIComm_Get(py_obj);if (comm_p == NULL) throw_error_already_set();sayhello(*comm_p);
}BOOST_PYTHON_MODULE(helloworld)
{if (import_mpi4py() < 0) return; /* Python 2.X */def("sayhello", hw_sayhello);
}/** Local Variables:* mode: C++* End:*/

我们要将其编译成扩展模块 helloworld.so 以供 mpi4py 程序调用,可以使用类似于以下的编译命令(注意将其中的头文件路径改成你的系统中实际的路径):

$ mpicxx -I/path/to/python/include/python2.7  -I/path/to/python/lib/python2.7/site-packages/mpi4py/include -o helloworld.so helloworld.cxx -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7 -lboost_python -lboost_python-mt

这编译命令与前两篇中使用的编译命令非常类似,不同的是,对 C++ 程序,这里使用的是 mpicxx 编译器,另外除了指定 Python.h 和 mpi4py.h 的头文件路径及链接 python2.7 等库文件外,还需额外链接 boost_python 和 boost_python-mt 库文件,因为这里我们是使用 Boost.Python 库来包装的。

编译成功后会生成扩展模块 helloworld.so,然后就可以在我们的 mpi4py 程序中像使用其它 Python 模块一样导入该模块并调用该模块中定义的 sayhello 函数,可以向此函数传递一个 mpi4py 中定义的通信子,如 MPI.COMM_WORLD 或者其它通信子对象。例如使用以下的 test 例程:

# test.pyfrom mpi4py import MPI
import helloworld as hwnull = MPI.COMM_NULL
hw.sayhello(null)comm = MPI.COMM_WORLD
hw.sayhello(comm)try:hw.sayhello(list())
except:pass
else:assert 0, "exception not raised"

执行结果如下:

 

$ mpiexec -n 4 python test.py
You passed MPI_COMM_NULL !!!
Hello, World! I am process 1 of 4 on  node2.
You passed MPI_COMM_NULL !!!
Hello, World! I am process 2 of 4 on  node2.
You passed MPI_COMM_NULL !!!
Hello, World! I am process 3 of 4 on  node2.
You passed MPI_COMM_NULL !!!
Hello, World! I am process 0 of 4 on  node2.

为了方便,我们也可以编写如下 Makefile 以简化上述操作(注意其中使用了在上一篇中介绍的 python-config 文件):

 

# Makefile.PHONY: default
default: build test cleanPYTHON = python
PYTHON_CONFIG = ${PYTHON} ./python-config
MPI4PY_INCLUDE = ${shell ${PYTHON} -c 'import mpi4py; print( mpi4py.get_include() )'}
BOOST_INCS =
BOOST_LIBS = -lboost_python -lboost_python-mtMPICXX = mpicxx
CXXFLAGS = -fPIC ${shell ${PYTHON_CONFIG} --includes} ${BOOST_INCS}
LDFLAGS = -shared ${shell ${PYTHON_CONFIG} --libs} ${BOOST_LIBS}
SO = ${shell ${PYTHON_CONFIG} --extension-suffix}
.PHONY: build
build: helloworld${SO}
helloworld${SO}: helloworld.cxx${MPICXX} ${CXXFLAGS} -I${MPI4PY_INCLUDE} -o $@ $< ${LDFLAGS}MPIEXEC = mpiexec
NP_FLAG = -n
NP = 5
.PHONY: test
test: build${MPIEXEC} ${NP_FLAG} ${NP} ${PYTHON} test.py.PHONY: clean
clean:${RM} helloworld${SO}

编译扩展库,执行程序及清理可以分别使用如下命令:

 

$ make build
$ make test
$ make clean

 

ps:虽然boost.Python据说扩展性不错,但是鉴于我目前的水平,还是最终选择swig来实现吧,我看openmm其实也使用了swig,毕竟以后跟它一起走,那就和(tou)谐(lan)一点哈哈哈。

 

感谢原文博主!

这篇关于C++扩展python(三)boost.Python实现(附swig比较)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/541618

相关文章

Python实战之SEO优化自动化工具开发指南

《Python实战之SEO优化自动化工具开发指南》在数字化营销时代,搜索引擎优化(SEO)已成为网站获取流量的重要手段,本文将带您使用Python开发一套完整的SEO自动化工具,需要的可以了解下... 目录前言项目概述技术栈选择核心模块实现1. 关键词研究模块2. 网站技术seo检测模块3. 内容优化分析模

使用shardingsphere实现mysql数据库分片方式

《使用shardingsphere实现mysql数据库分片方式》本文介绍如何使用ShardingSphere-JDBC在SpringBoot中实现MySQL水平分库,涵盖分片策略、路由算法及零侵入配置... 目录一、ShardingSphere 简介1.1 对比1.2 核心概念1.3 Sharding-Sp

深入解析C++ 中std::map内存管理

《深入解析C++中std::map内存管理》文章详解C++std::map内存管理,指出clear()仅删除元素可能不释放底层内存,建议用swap()与空map交换以彻底释放,针对指针类型需手动de... 目录1️、基本清空std::map2️、使用 swap 彻底释放内存3️、map 中存储指针类型的对象

Python Counter 函数使用案例

《PythonCounter函数使用案例》Counter是collections模块中的一个类,专门用于对可迭代对象中的元素进行计数,接下来通过本文给大家介绍PythonCounter函数使用案例... 目录一、Counter函数概述二、基本使用案例(一)列表元素计数(二)字符串字符计数(三)元组计数三、C

Java+AI驱动实现PDF文件数据提取与解析

《Java+AI驱动实现PDF文件数据提取与解析》本文将和大家分享一套基于AI的体检报告智能评估方案,详细介绍从PDF上传、内容提取到AI分析、数据存储的全流程自动化实现方法,感兴趣的可以了解下... 目录一、核心流程:从上传到评估的完整链路二、第一步:解析 PDF,提取体检报告内容1. 引入依赖2. 封装

Java实现复杂查询优化的7个技巧小结

《Java实现复杂查询优化的7个技巧小结》在Java项目中,复杂查询是开发者面临的“硬骨头”,本文将通过7个实战技巧,结合代码示例和性能对比,手把手教你如何让复杂查询变得优雅,大家可以根据需求进行选择... 目录一、复杂查询的痛点:为何你的代码“又臭又长”1.1冗余变量与中间状态1.2重复查询与性能陷阱1.

Python内存优化的实战技巧分享

《Python内存优化的实战技巧分享》Python作为一门解释型语言,虽然在开发效率上有着显著优势,但在执行效率方面往往被诟病,然而,通过合理的内存优化策略,我们可以让Python程序的运行速度提升3... 目录前言python内存管理机制引用计数机制垃圾回收机制内存泄漏的常见原因1. 循环引用2. 全局变

使用Python的requests库来发送HTTP请求的操作指南

《使用Python的requests库来发送HTTP请求的操作指南》使用Python的requests库发送HTTP请求是非常简单和直观的,requests库提供了丰富的API,可以发送各种类型的HT... 目录前言1. 安装 requests 库2. 发送 GET 请求3. 发送 POST 请求4. 发送

python 线程池顺序执行的方法实现

《python线程池顺序执行的方法实现》在Python中,线程池默认是并发执行任务的,但若需要实现任务的顺序执行,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋... 目录方案一:强制单线程(伪顺序执行)方案二:按提交顺序获取结果方案三:任务间依赖控制方案四:队列顺序消

Redis实现分布式锁全过程

《Redis实现分布式锁全过程》文章介绍Redis实现分布式锁的方法,包括使用SETNX和EXPIRE命令确保互斥性与防死锁,Redisson客户端提供的便捷接口,以及Redlock算法通过多节点共识... 目录Redis实现分布式锁1. 分布式锁的基本原理2. 使用 Redis 实现分布式锁2.1 获取锁