Python+Go——带大家一起另寻途径提高计算性能

2024-01-23 18:50

本文主要是介绍Python+Go——带大家一起另寻途径提高计算性能,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一腔热血勤珍重,洒去犹能化碧涛。

/1 前言/

Hello各位小伙伴你们好,我们都知道Python是一个生产力很高的语言,小编本人也非常喜欢Python,经常使用Python帮助小编以最高的效率完成最多的事,但是Python的性能,是我们一直诟病的一个问题,尤其是一个大锁GIL,有时候想想简直像吃了苍蝇一样有点难受。

当然了,现在我们大部分程序都是(IO)网络密集型程序,Python足以胜任,但是如果说我们已经存在的项目或者想要开发的项目中,存在有计算密集型的程序场景,我们该怎么办呢?

可能有的小伙伴听说过Python + C\C++,用C\C++重写Python计算密集的地方,来提高性能。当然, 这是一种很好的解决办法,但是我们知道C\C++是有一些学习成本,有没有再更好的解决方案呢?

/2 尝试在Python中调用Golang代码/

后来有幸接触到了Golang,使用了一端时间小编就在想,Python要是能调用Go代码就好了,实在是不想学习C\C++,毕竟C\C++的指针和自己释放内存还是比较有门槛的,Go就很方便了,垃圾自动回收,省的内存泄漏还有天生高并发等优势。

经过不断的查阅了一些资料,踩了一些坑,功夫不负有心人,终于找到了合适的办法,在此分享给大家。

目前最广泛的Python解释器是CPython,Python正好留出来有可以调用C\C++代码的模块,Go经过一些方法,也是可以编译成类似Python可调用的C\C++的文件。

/3 测试环境/

系统:windows

Python解释器:Python 3.7.6(64位)

Go编译器:Go 1.14(64位)

/4 性能对比/

为了更好的体现出来优化之后的效果,我们大概对比一下两个语言在计算密集情况下的差距。

测试:分别计算一个亿(100000000)的累加模拟大量计算。

1)Python代码

import timedef run(n):sum = 0for i in range(n):sum += iprint(sum)if __name__ == '__main__':startTime = time.time()run(100000000)endTime = time.time()print("耗时:", endTime - startTime)

可以看到耗时:10s左右,如下图所示。

2)Go代码

package mainimport ("fmt""time"
)func run(n int) {sum := 0for i := 0; i < n; i++ {sum += i}fmt.Println(sum)
}
func main() {var startTime = time.Now()run(100000000)fmt.Println("耗时:", time.Since(startTime))
}

可以看到耗时:200ms左右,如下图所示。

3)测试结论

我们可以看到,在计算方面,Python和Go是有很大的差距的,如果计算这一块能放在Go上就好了。

别着急,马上开始。

/5 Go代码编译为Python可调用的.so文件/

1)Go代码

功能:接收传入的值进行累加,并且返回最终的累加值。

package mainimport ("C" //C必须导入
)//export run
func run(n int) int{/*必须要export 函数名//是注释的意思,相当于Python中的 #我也是第一次见注释还有作用,黑人三问好???固定写法*/sum := 0for i := 0; i < n; i++ {sum += i}fmt.Println("我是Go代码,我跑完了,我的结果是:",sum)return sum
}func main() {//main函数中什么都不要写,和包名main要对应
}
2)编译为.so文件供Python调用。

命令如下:

go build -buildmode=c-shared -o 输出的.so文件 go源文件

例如:

go build -buildmode=c-shared -o s1.so s1.go

会生成.h文件和.so文件,.so文件供Python调用,如下图所示:


3)Ptyhon调用so文件

将上述生成的.so文件复制到Python项目的同一级目录。

4)Python代码

依然是计算一个亿,关键部分由Go生成的.so执行。

from ctypes import *
import timeif __name__ == '__main__':startTime = time.time()s = CDLL("s1.so")  # 加载s1.so文件result = s.run(100000000)  # 调用Go生成的.so文件里面的run函数print("result:", result)endTime = time.time()print("耗时:", endTime - startTime)


可以看到耗时:0.11s左右,如下图所示。


5)为什么计算的耗时时间不一致,难道是计算错了???

我们可以看到,虽然速度很快,但是Python在调用Go生成的.so文件之后,拿到的返回值竟然是错的,但是在Go中打印的确实对的,这是为什么呢???

不要慌,问题不大!我们来计算一次稍微小一点的,上个100w的。

额,怎么还是错误。

6)我们再来计算更小一些的数,以10023为例,一个不零不整的数值。

    

这次可以看到,结果是对的。但是100w+结果为什么会是错的呢???

我们在上述可以知道,.so文件计算的结果却是正确的,可能是在python接收的时候转换的时候错了,不过别捉急,本章已经有点长了,在下章一定会把这个坑解决的,敬请期待~

/6 小结/

也许Python+Go提高关键地方性能和Python + C\C++相比不是最好的,但是小编认为该方法却是最省心的,毕竟C\C++的门槛是比较高的。


不过话说回来,目前这个性能确实可能也够用了,毕竟Python+Go比Pthon+C\C++的效率可能要高上几倍不止。
用最少的时间撸完最多的代码,加最少的班,人生苦短,我们用Python~~

end

【Java遇见PythonGo】 由一位资深老码农运营,混迹于世界500强外企多年的,做过开发,测试,项目管理,对技术比较痴迷,也是一位后端开发爱好者。

在这里希望给大家分享一些Java,Python和Go语言的编程技巧 ,以及趣味实战干货和面试经验,程序员圈的趣事。欢迎喜欢Java,Python和Go的程序员关注。

Java遇见PythonGo

长按2秒,输入:【面试】

获取大厂Java面试资料

点这里,进菜鸟学PythonB站大本营

这篇关于Python+Go——带大家一起另寻途径提高计算性能的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/637196

相关文章

Python中Json和其他类型相互转换的实现示例

《Python中Json和其他类型相互转换的实现示例》本文介绍了在Python中使用json模块实现json数据与dict、object之间的高效转换,包括loads(),load(),dumps()... 项目中经常会用到json格式转为object对象、dict字典格式等。在此做个记录,方便后续用到该方

从基础到高级详解Python数值格式化输出的完全指南

《从基础到高级详解Python数值格式化输出的完全指南》在数据分析、金融计算和科学报告领域,数值格式化是提升可读性和专业性的关键技术,本文将深入解析Python中数值格式化输出的相关方法,感兴趣的小伙... 目录引言:数值格式化的核心价值一、基础格式化方法1.1 三种核心格式化方式对比1.2 基础格式化示例

Python与MySQL实现数据库实时同步的详细步骤

《Python与MySQL实现数据库实时同步的详细步骤》在日常开发中,数据同步是一项常见的需求,本篇文章将使用Python和MySQL来实现数据库实时同步,我们将围绕数据变更捕获、数据处理和数据写入这... 目录前言摘要概述:数据同步方案1. 基本思路2. mysql Binlog 简介实现步骤与代码示例1

Python ORM神器之SQLAlchemy基本使用完全指南

《PythonORM神器之SQLAlchemy基本使用完全指南》SQLAlchemy是Python主流ORM框架,通过对象化方式简化数据库操作,支持多数据库,提供引擎、会话、模型等核心组件,实现事务... 目录一、什么是SQLAlchemy?二、安装SQLAlchemy三、核心概念1. Engine(引擎)

从原理到实战解析Java Stream 的并行流性能优化

《从原理到实战解析JavaStream的并行流性能优化》本文给大家介绍JavaStream的并行流性能优化:从原理到实战的全攻略,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的... 目录一、并行流的核心原理与适用场景二、性能优化的核心策略1. 合理设置并行度:打破默认阈值2. 避免装箱

Ubuntu如何升级Python版本

《Ubuntu如何升级Python版本》Ubuntu22.04Docker中,安装Python3.11后,使用update-alternatives设置为默认版本,最后用python3-V验证... 目China编程录问题描述前提环境解决方法总结问题描述Ubuntu22.04系统自带python3.10,想升级

Python自动化处理PDF文档的操作完整指南

《Python自动化处理PDF文档的操作完整指南》在办公自动化中,PDF文档处理是一项常见需求,本文将介绍如何使用Python实现PDF文档的自动化处理,感兴趣的小伙伴可以跟随小编一起学习一下... 目录使用pymupdf读写PDF文件基本概念安装pymupdf提取文本内容提取图像添加水印使用pdfplum

Python 基于http.server模块实现简单http服务的代码举例

《Python基于http.server模块实现简单http服务的代码举例》Pythonhttp.server模块通过继承BaseHTTPRequestHandler处理HTTP请求,使用Threa... 目录测试环境代码实现相关介绍模块简介类及相关函数简介参考链接测试环境win11专业版python

GO语言短变量声明的实现示例

《GO语言短变量声明的实现示例》在Go语言中,短变量声明是一种简洁的变量声明方式,使用:=运算符,可以自动推断变量类型,下面就来具体介绍一下如何使用,感兴趣的可以了解一下... 目录基本语法功能特点与var的区别适用场景注意事项基本语法variableName := value功能特点1、自动类型推

GO语言中函数命名返回值的使用

《GO语言中函数命名返回值的使用》在Go语言中,函数可以为其返回值指定名称,这被称为命名返回值或命名返回参数,这种特性可以使代码更清晰,特别是在返回多个值时,感兴趣的可以了解一下... 目录基本语法函数命名返回特点代码示例命名特点基本语法func functionName(parameters) (nam