【基础篇】Python+Go——带大家一起另寻途径提高计算性能

2024-01-23 18:50

本文主要是介绍【基础篇】Python+Go——带大家一起另寻途径提高计算性能,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

一腔热血勤珍重,洒去犹能化碧涛。

/1 前言/

    Hello各位小伙伴你们好,我们都知道Python是一个生产力很高的语言,小编本人也非常喜欢Python,经常使用Python帮助小编以最高的效率完成最多的事,但是Python的性能,是我们一直诟病的一个问题,尤其是一个大锁GIL,有时候想想简直像吃了苍蝇一样有点难受。

    当然了,现在我们大部分程序都是(IO)网络密集型程序,Python足以胜任,但是如果说我们已经存在的项目或者想要开发的项目中,存在有计算密集型的程序场景,我们该怎么办呢?

    可能有的小伙伴听说过Python + C\C++,用C\C++重写Python计算密集的地方,来提高性能。

    当然, 这是一种很好的解决办法,但是我们知道C\C++是有一些学习成本,有没有再更好的解决方案呢?

/2 尝试在Python中调用Golang代码/

    后来有幸接触到了Golang,使用了一端时间小编就在想,Python要是能调用Go代码就好了,实在是不想学习C\C++,毕竟C\C++的指针和自己释放内存还是比较有门槛的,Go就很方便了,垃圾自动回收,省的内存泄漏还有天生高并发等优势。

    经过不断的查阅了一些资料,踩了一些坑,功夫不负有心人,终于找到了合适的办法,在此分享给大家。

    目前最广泛的Python解释器是CPython,Python正好留出来有可以调用C\C++代码的模块,Go经过一些方法,也是可以编译成类似Python可调用的C\C++的文件。

/3 测试环境/

系统:windows

Python解释器:Python 3.7.6(64位)

Go编译器:Go 1.14(64位)

/4 性能对比/

    为了更好的体现出来优化之后的效果,我们大概对比一下两个语言在计算密集情况下的差距。

    测试:分别计算一个亿(100000000)的累加模拟大量计算。

1)Python代码

import timedef run(n):sum = 0for i in range(n):sum += iprint(sum)if __name__ == '__main__':startTime = time.time()run(100000000)endTime = time.time()print("耗时:", endTime - startTime)

可以看到耗时:10s左右,如下图所示。

2)Go代码

package mainimport ("fmt""time"
)func run(n int) {sum := 0for i := 0; i < n; i++ {sum += i}fmt.Println(sum)
}
func main() {var startTime = time.Now()run(100000000)fmt.Println("耗时:", time.Since(startTime))
}

可以看到耗时:200ms左右,如下图所示。

3)测试结论

    我们可以看到,在计算方面,Python和Go是有很大的差距的,如果计算这一块能放在Go上就好了。

    别着急,马上开始。

/5 Go代码编译为Python可调用的.so文件/

1)Go代码

功能:接收传入的值进行累加,并且返回最终的累加值。

package mainimport ("C" //C必须导入
)//export run
func run(n int) int{/*必须要export 函数名//是注释的意思,相当于Python中的 #我也是第一次见注释还有作用,黑人三问好???固定写法*/sum := 0for i := 0; i < n; i++ {sum += i}fmt.Println("我是Go代码,我跑完了,我的结果是:",sum)return sum
}func main() {//main函数中什么都不要写,和包名main要对应
}
2)编译为.so文件供Python调用。

命令如下:

go build -buildmode=c-shared -o 输出的.so文件 go源文件

例如:

go build -buildmode=c-shared -o s1.so s1.go

会生成.h文件和.so文件,.so文件供Python调用,如下图所示:


3)Ptyhon调用so文件

将上述生成的.so文件复制到Python项目的同一级目录。

4)Python代码

依然是计算一个亿,关键部分由Go生成的.so执行。

from ctypes import *
import timeif __name__ == '__main__':startTime = time.time()s = CDLL("s1.so")  # 加载s1.so文件result = s.run(100000000)  # 调用Go生成的.so文件里面的run函数print("result:", result)endTime = time.time()print("耗时:", endTime - startTime)


可以看到耗时:0.11s左右,如下图所示。


5)为什么计算的耗时时间不一致,难道是计算错了???

    我们可以看到,虽然速度很快,但是Python在调用Go生成的.so文件之后,拿到的返回值竟然是错的,但是在Go中打印的确实对的,这是为什么呢???

    不要慌,问题不大!我们来计算一次稍微小一点的,上个100w的。

额,怎么还是错误。

6)我们再来计算更小一些的数,以10023为例,一个不零不整的数值。

    

    这次可以看到,结果是对的。但是100w+结果为什么会是错的呢???

    我们在上述可以知道,.so文件计算的结果却是正确的,可能是在python接收的时候转换的时候错了,不过别捉急,本章已经有点长了,在下章一定会把这个坑解决的,敬请期待~

/6 小结/

    也许Python+Go提高关键地方性能和Python + C\C++相比不是最好的,但是小编认为该方法却是最省心的,毕竟C\C++的门槛是比较高的。
    不过话说回来,目前这个性能确实可能也够用了,毕竟Python+Go比Pthon+C\C++的效率可能要高上几倍不止。

    用最少的时间撸完最多的代码,加最少的班,人生苦短,我们用Python~~

------------------- End -------------------

往期精彩文章推荐:

  • 手把手用Python教你如何发现隐藏wifi

  • 手把手教你用Python做个可视化的“剪刀石头布”小游戏

  • 一篇文章教会你用Python爬取淘宝评论数据(写在记事本)

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

这篇关于【基础篇】Python+Go——带大家一起另寻途径提高计算性能的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/637197

相关文章

Conda与Python venv虚拟环境的区别与使用方法详解

《Conda与Pythonvenv虚拟环境的区别与使用方法详解》随着Python社区的成长,虚拟环境的概念和技术也在不断发展,:本文主要介绍Conda与Pythonvenv虚拟环境的区别与使用... 目录前言一、Conda 与 python venv 的核心区别1. Conda 的特点2. Python v

Python使用python-can实现合并BLF文件

《Python使用python-can实现合并BLF文件》python-can库是Python生态中专注于CAN总线通信与数据处理的强大工具,本文将使用python-can为BLF文件合并提供高效灵活... 目录一、python-can 库:CAN 数据处理的利器二、BLF 文件合并核心代码解析1. 基础合

Python使用OpenCV实现获取视频时长的小工具

《Python使用OpenCV实现获取视频时长的小工具》在处理视频数据时,获取视频的时长是一项常见且基础的需求,本文将详细介绍如何使用Python和OpenCV获取视频时长,并对每一行代码进行深入解析... 目录一、代码实现二、代码解析1. 导入 OpenCV 库2. 定义获取视频时长的函数3. 打开视频文

go中的时间处理过程

《go中的时间处理过程》:本文主要介绍go中的时间处理过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 获取当前时间2 获取当前时间戳3 获取当前时间的字符串格式4 相互转化4.1 时间戳转时间字符串 (int64 > string)4.2 时间字符串转时间

Go语言中make和new的区别及说明

《Go语言中make和new的区别及说明》:本文主要介绍Go语言中make和new的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 概述2 new 函数2.1 功能2.2 语法2.3 初始化案例3 make 函数3.1 功能3.2 语法3.3 初始化

Python中你不知道的gzip高级用法分享

《Python中你不知道的gzip高级用法分享》在当今大数据时代,数据存储和传输成本已成为每个开发者必须考虑的问题,Python内置的gzip模块提供了一种简单高效的解决方案,下面小编就来和大家详细讲... 目录前言:为什么数据压缩如此重要1. gzip 模块基础介绍2. 基本压缩与解压缩操作2.1 压缩文

Python设置Cookie永不超时的详细指南

《Python设置Cookie永不超时的详细指南》Cookie是一种存储在用户浏览器中的小型数据片段,用于记录用户的登录状态、偏好设置等信息,下面小编就来和大家详细讲讲Python如何设置Cookie... 目录一、Cookie的作用与重要性二、Cookie过期的原因三、实现Cookie永不超时的方法(一)

Python内置函数之classmethod函数使用详解

《Python内置函数之classmethod函数使用详解》:本文主要介绍Python内置函数之classmethod函数使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录1. 类方法定义与基本语法2. 类方法 vs 实例方法 vs 静态方法3. 核心特性与用法(1编程客

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os