Python多进程、多线程、协程典型示例解析(最新推荐)

2025-05-20 02:50

本文主要是介绍Python多进程、多线程、协程典型示例解析(最新推荐),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

《Python多进程、多线程、协程典型示例解析(最新推荐)》:本文主要介绍Python多进程、多线程、协程典型示例解析(最新推荐),本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定...

一、multiprocessing(多进程)

1. 模块简介

  • 作用:创建多个独立运行的进程(每个进程有独立内存空间)
  • 适用场景:数学计算、图像处理等CPU密集型任务
  • 核心原理:绕过python的GIL锁,真正利用多核CPU

2. 案例详解:并行计算平方和

import multiprocessing
import time
# 计算平方的任务函数
def calculate_square(number):
    total = 0
    for n in range(number):
        total += n ** 2
    print(f"计算结果:{total}")
if __name__ == "__main__":  # 必须加这句,否则Windows系统会报错
    # 创建4个进程
    processes = []
    numbers = [10_000_000, 10_000_000, 10_000_000, 10_000_000]  # 四个大数
    # 记录开始时间
    start_time = time.time()
    # 创建并启动进程
    for num in numbers:
        p = multiprocessing.Process(targeChina编程t=calculate_square, args=(num,))
        processes.append(p)
        p.start()  # 启动进程(会立即返回,不会等待完成)
    # 等待所有进程完成
    for p in processes:
        p.join()  # 阻塞主进程,直到子进程结束
 python   # 计算总耗时
    print(f"总耗时:{time.time() - start_time:.2f}秒")

3. 实现逻辑

主进程(老板)
   │
   ├─ 子进程1(员工1)→ 独立计算
   ├─ 子进程2(员工2)→ 独立计算
   ├─ 子进程3(员工3)→ 独立计算
   └─ 子进程4(员工4)→ 独立计算

4. 注意事项

  • 进程间不能直接共享变量,需使用QueuePipe通信
  • 每个进程消耗更多内存(独立内存空间)
  • 适合处理相互独立的任务(如同时处理多个文件)

二、threading(多线程)

1. 模块简介

  • 作用:创建多个线程(共享同一进程内存)
  • 适用场景:文件读写、网络请求等I/O等待型任务
  • 核心特点:受GIL限制,同一时刻只能有一个线程执行Python字节码

2. 案例详解:同时下载文件与显示进度条

import threading
import time
import requests
# 全局变量(线程共享)
download_complete = False
def download_file(url):
    global download_complete
    print("开始下载文件...")
    response = requests.get(url)
    with open("bigfile.iso", "wb") as f:
        f.write(response.content)
    androiddownload_complete = True
    print("\n下载完成!")
def show_progress():
    while not download_complete:
        print(".", end="", flush=True)  # 不换行输出点
        time.sleep(0.5)
if __name__ == "__main__":
    # 创建两个线程
    download_thread = threading.Thread(
        target=download_file, 
        args=("https://example.com/large-file.iso",)
    )
    progress_thread = threading.Thread(target=show_progress)
    # 启动线程
    download_thread.start()
    progress_thread.start()
    # 等待下载线程完成
    download_thread.join()
    progress_thread.join()  # 需要手动停止进度条线程

3. 实现逻辑

主线程
   │
   ├─ 下载线程 → 执行下载(遇到网络等待时,GIL释放)
   └─ 进度条线程 → www.chinasem.cn打印进度点

4. 注意事项

  • 共享变量需使用Lock避免数据竞争
  • 线程适合需要频繁共享数据的场景(如GUI程序)
  • 不要用多线程做数学计算(反而会更慢)

三、asyncio(协程)

1. 模块简介

  • 作用:单线程内通过任务切换实现高并发
  • 适用场景:Web服务器、高频I/O操作(如爬虫)
  • 核心机制:事件循环(Event Loop)驱动协程切换

2. 案例详解:异步批量请求网页

import asyncio
import aiohttp  # 需要安装:pip install aiohttp
async def fetch_page(url):
    async with aiohttp.ClientSession() as session:  # 创建会话
        async with session.get(url) as response:    # 发起请求
            return await response.text()           # 异步等待响应
async def main():
    urls = [
        "https://www.baidu.com",
        "https://www.taobao.com",
        "https://www.jd.com"
    ]
    # 创建任务列表
    tasks = [fetch_page(url) for url in urls]
    # 并行执行所有任务
    pages = await asyncio.gather(*tasks)  # 关键点:聚集任务
    # 输出结果
    for url, content in zip(urls, pages):
        print(f"{url} → 长度:{len(content)}")
# 启动事件循环
asyncio.run(main())  # Python 3.7+

3. 实现逻辑

事件循环(总调度员)
   │
  &npythonbsp;├─ 任务1:请求百度 → 遇到等待 → 挂起
   ├─ 任务2:请求淘宝 → 遇到等待 → 挂起
   └─ 任务3:请求京东 → 遇到等待 → 挂起
   
当某个请求返回时,恢复对应任务执行

4. 注意事项

  • 协程函数必须用async def定义
  • 阻塞操作必须用await(否则会阻塞整个事件循环)
  • 需要配合异步库使用(如aiohttp代替requests

三者的核心区别总结

特性multiprocessingthreadingasyncio
并行能力真正多核并行伪并行(受GIL限制)单线程并发
内存占用高(独立内存空间)低(共享内存)最低
适用场景CPU密集型任务I/O密集型任务超高并发I/O任务
代码复杂度中等(需处理进程通信)低(但需处理锁)高(需理解异步语法)

如何选择?

  • 需要数学计算加速 → 选multiprocessing
  • 简单I/O操作(如文件读写) → 选threading
  • 高性能网络请求(如爬虫) → 选asyncio
  • 混合型任务 → 组合使用(如多进程+协程)

通过这三个案例,可以明显看出:多进程像多个独立工厂,多线程像工厂内多个协作工人,协程则像一个人用超高效的时间管理法。理解这个核心差异后,就能根据实际需求选择合适的工具了。

到此这篇关于Python多进程、多线程、协程典型示例解析的文章就介绍到这了,更多相关Python多进程、多线程、协程典型示例解析内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程China编程(www.chinasem.cn)!

这篇关于Python多进程、多线程、协程典型示例解析(最新推荐)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1154685

相关文章

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

Java进程异常故障定位及排查过程

《Java进程异常故障定位及排查过程》:本文主要介绍Java进程异常故障定位及排查过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、故障发现与初步判断1. 监控系统告警2. 日志初步分析二、核心排查工具与步骤1. 进程状态检查2. CPU 飙升问题3. 内存

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

Qt QCustomPlot库简介(最新推荐)

《QtQCustomPlot库简介(最新推荐)》QCustomPlot是一款基于Qt的高性能C++绘图库,专为二维数据可视化设计,它具有轻量级、实时处理百万级数据和多图层支持等特点,适用于科学计算、... 目录核心特性概览核心组件解析1.绘图核心 (QCustomPlot类)2.数据容器 (QCPDataC

Java内存分配与JVM参数详解(推荐)

《Java内存分配与JVM参数详解(推荐)》本文详解JVM内存结构与参数调整,涵盖堆分代、元空间、GC选择及优化策略,帮助开发者提升性能、避免内存泄漏,本文给大家介绍Java内存分配与JVM参数详解,... 目录引言JVM内存结构JVM参数概述堆内存分配年轻代与老年代调整堆内存大小调整年轻代与老年代比例元空

深度解析Java DTO(最新推荐)

《深度解析JavaDTO(最新推荐)》DTO(DataTransferObject)是一种用于在不同层(如Controller层、Service层)之间传输数据的对象设计模式,其核心目的是封装数据,... 目录一、什么是DTO?DTO的核心特点:二、为什么需要DTO?(对比Entity)三、实际应用场景解析

深度解析Java项目中包和包之间的联系

《深度解析Java项目中包和包之间的联系》文章浏览阅读850次,点赞13次,收藏8次。本文详细介绍了Java分层架构中的几个关键包:DTO、Controller、Service和Mapper。_jav... 目录前言一、各大包1.DTO1.1、DTO的核心用途1.2. DTO与实体类(Entity)的区别1

Java中的雪花算法Snowflake解析与实践技巧

《Java中的雪花算法Snowflake解析与实践技巧》本文解析了雪花算法的原理、Java实现及生产实践,涵盖ID结构、位运算技巧、时钟回拨处理、WorkerId分配等关键点,并探讨了百度UidGen... 目录一、雪花算法核心原理1.1 算法起源1.2 ID结构详解1.3 核心特性二、Java实现解析2.

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互