Python多进程、多线程、协程典型示例解析(最新推荐)

2025-05-20 02:50

本文主要是介绍Python多进程、多线程、协程典型示例解析(最新推荐),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

《Python多进程、多线程、协程典型示例解析(最新推荐)》:本文主要介绍Python多进程、多线程、协程典型示例解析(最新推荐),本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定...

一、multiprocessing(多进程)

1. 模块简介

  • 作用:创建多个独立运行的进程(每个进程有独立内存空间)
  • 适用场景:数学计算、图像处理等CPU密集型任务
  • 核心原理:绕过python的GIL锁,真正利用多核CPU

2. 案例详解:并行计算平方和

import multiprocessing
import time
# 计算平方的任务函数
def calculate_square(number):
    total = 0
    for n in range(number):
        total += n ** 2
    print(f"计算结果:{total}")
if __name__ == "__main__":  # 必须加这句,否则Windows系统会报错
    # 创建4个进程
    processes = []
    numbers = [10_000_000, 10_000_000, 10_000_000, 10_000_000]  # 四个大数
    # 记录开始时间
    start_time = time.time()
    # 创建并启动进程
    for num in numbers:
        p = multiprocessing.Process(targeChina编程t=calculate_square, args=(num,))
        processes.append(p)
        p.start()  # 启动进程(会立即返回,不会等待完成)
    # 等待所有进程完成
    for p in processes:
        p.join()  # 阻塞主进程,直到子进程结束
 python   # 计算总耗时
    print(f"总耗时:{time.time() - start_time:.2f}秒")

3. 实现逻辑

主进程(老板)
   │
   ├─ 子进程1(员工1)→ 独立计算
   ├─ 子进程2(员工2)→ 独立计算
   ├─ 子进程3(员工3)→ 独立计算
   └─ 子进程4(员工4)→ 独立计算

4. 注意事项

  • 进程间不能直接共享变量,需使用QueuePipe通信
  • 每个进程消耗更多内存(独立内存空间)
  • 适合处理相互独立的任务(如同时处理多个文件)

二、threading(多线程)

1. 模块简介

  • 作用:创建多个线程(共享同一进程内存)
  • 适用场景:文件读写、网络请求等I/O等待型任务
  • 核心特点:受GIL限制,同一时刻只能有一个线程执行Python字节码

2. 案例详解:同时下载文件与显示进度条

import threading
import time
import requests
# 全局变量(线程共享)
download_complete = False
def download_file(url):
    global download_complete
    print("开始下载文件...")
    response = requests.get(url)
    with open("bigfile.iso", "wb") as f:
        f.write(response.content)
    androiddownload_complete = True
    print("\n下载完成!")
def show_progress():
    while not download_complete:
        print(".", end="", flush=True)  # 不换行输出点
        time.sleep(0.5)
if __name__ == "__main__":
    # 创建两个线程
    download_thread = threading.Thread(
        target=download_file, 
        args=("https://example.com/large-file.iso",)
    )
    progress_thread = threading.Thread(target=show_progress)
    # 启动线程
    download_thread.start()
    progress_thread.start()
    # 等待下载线程完成
    download_thread.join()
    progress_thread.join()  # 需要手动停止进度条线程

3. 实现逻辑

主线程
   │
   ├─ 下载线程 → 执行下载(遇到网络等待时,GIL释放)
   └─ 进度条线程 → www.chinasem.cn打印进度点

4. 注意事项

  • 共享变量需使用Lock避免数据竞争
  • 线程适合需要频繁共享数据的场景(如GUI程序)
  • 不要用多线程做数学计算(反而会更慢)

三、asyncio(协程)

1. 模块简介

  • 作用:单线程内通过任务切换实现高并发
  • 适用场景:Web服务器、高频I/O操作(如爬虫)
  • 核心机制:事件循环(Event Loop)驱动协程切换

2. 案例详解:异步批量请求网页

import asyncio
import aiohttp  # 需要安装:pip install aiohttp
async def fetch_page(url):
    async with aiohttp.ClientSession() as session:  # 创建会话
        async with session.get(url) as response:    # 发起请求
            return await response.text()           # 异步等待响应
async def main():
    urls = [
        "https://www.baidu.com",
        "https://www.taobao.com",
        "https://www.jd.com"
    ]
    # 创建任务列表
    tasks = [fetch_page(url) for url in urls]
    # 并行执行所有任务
    pages = await asyncio.gather(*tasks)  # 关键点:聚集任务
    # 输出结果
    for url, content in zip(urls, pages):
        print(f"{url} → 长度:{len(content)}")
# 启动事件循环
asyncio.run(main())  # Python 3.7+

3. 实现逻辑

事件循环(总调度员)
   │
  &npythonbsp;├─ 任务1:请求百度 → 遇到等待 → 挂起
   ├─ 任务2:请求淘宝 → 遇到等待 → 挂起
   └─ 任务3:请求京东 → 遇到等待 → 挂起
   
当某个请求返回时,恢复对应任务执行

4. 注意事项

  • 协程函数必须用async def定义
  • 阻塞操作必须用await(否则会阻塞整个事件循环)
  • 需要配合异步库使用(如aiohttp代替requests

三者的核心区别总结

特性multiprocessingthreadingasyncio
并行能力真正多核并行伪并行(受GIL限制)单线程并发
内存占用高(独立内存空间)低(共享内存)最低
适用场景CPU密集型任务I/O密集型任务超高并发I/O任务
代码复杂度中等(需处理进程通信)低(但需处理锁)高(需理解异步语法)

如何选择?

  • 需要数学计算加速 → 选multiprocessing
  • 简单I/O操作(如文件读写) → 选threading
  • 高性能网络请求(如爬虫) → 选asyncio
  • 混合型任务 → 组合使用(如多进程+协程)

通过这三个案例,可以明显看出:多进程像多个独立工厂,多线程像工厂内多个协作工人,协程则像一个人用超高效的时间管理法。理解这个核心差异后,就能根据实际需求选择合适的工具了。

到此这篇关于Python多进程、多线程、协程典型示例解析的文章就介绍到这了,更多相关Python多进程、多线程、协程典型示例解析内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程China编程(www.chinasem.cn)!

这篇关于Python多进程、多线程、协程典型示例解析(最新推荐)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1154685

相关文章

Python进阶之列表推导式的10个核心技巧

《Python进阶之列表推导式的10个核心技巧》在Python编程中,列表推导式(ListComprehension)是提升代码效率的瑞士军刀,本文将通过真实场景案例,揭示列表推导式的进阶用法,希望对... 目录一、基础语法重构:理解推导式的底层逻辑二、嵌套循环:破解多维数据处理难题三、条件表达式:实现分支

Java调用Python脚本实现HelloWorld的示例详解

《Java调用Python脚本实现HelloWorld的示例详解》作为程序员,我们经常会遇到需要在Java项目中调用Python脚本的场景,下面我们来看看如何从基础到进阶,一步步实现Java与Pyth... 目录一、环境准备二、基础调用:使用 Runtime.exec()2.1 实现步骤2.2 代码解析三、

Python中的filter() 函数的工作原理及应用技巧

《Python中的filter()函数的工作原理及应用技巧》Python的filter()函数用于筛选序列元素,返回迭代器,适合函数式编程,相比列表推导式,内存更优,尤其适用于大数据集,结合lamb... 目录前言一、基本概念基本语法二、使用方式1. 使用 lambda 函数2. 使用普通函数3. 使用 N

Python如何实现高效的文件/目录比较

《Python如何实现高效的文件/目录比较》在系统维护、数据同步或版本控制场景中,我们经常需要比较两个目录的差异,本文将分享一下如何用Python实现高效的文件/目录比较,并灵活处理排除规则,希望对大... 目录案例一:基础目录比较与排除实现案例二:高性能大文件比较案例三:跨平台路径处理案例四:可视化差异报

python之uv使用详解

《python之uv使用详解》文章介绍uv在Ubuntu上用于Python项目管理,涵盖安装、初始化、依赖管理、运行调试及Docker应用,强调CI中使用--locked确保依赖一致性... 目录安装与更新standalonepip 安装创建php以及初始化项目依赖管理uv run直接在命令行运行pytho

Python中yield的用法和实际应用示例

《Python中yield的用法和实际应用示例》在Python中,yield关键字主要用于生成器函数(generatorfunctions)中,其目的是使函数能够像迭代器一样工作,即可以被遍历,但不会... 目录python中yield的用法详解一、引言二、yield的基本用法1、yield与生成器2、yi

深度解析Python yfinance的核心功能和高级用法

《深度解析Pythonyfinance的核心功能和高级用法》yfinance是一个功能强大且易于使用的Python库,用于从YahooFinance获取金融数据,本教程将深入探讨yfinance的核... 目录yfinance 深度解析教程 (python)1. 简介与安装1.1 什么是 yfinance?

Python脚本轻松实现检测麦克风功能

《Python脚本轻松实现检测麦克风功能》在进行音频处理或开发需要使用麦克风的应用程序时,确保麦克风功能正常是非常重要的,本文将介绍一个简单的Python脚本,能够帮助我们检测本地麦克风的功能,需要的... 目录轻松检测麦克风功能脚本介绍一、python环境准备二、代码解析三、使用方法四、知识扩展轻松检测麦

Python多线程应用中的卡死问题优化方案指南

《Python多线程应用中的卡死问题优化方案指南》在利用Python语言开发某查询软件时,遇到了点击搜索按钮后软件卡死的问题,本文将简单分析一下出现的原因以及对应的优化方案,希望对大家有所帮助... 目录问题描述优化方案1. 网络请求优化2. 多线程架构优化3. 全局异常处理4. 配置管理优化优化效果1.

MyBatis-Plus 与 Spring Boot 集成原理实战示例

《MyBatis-Plus与SpringBoot集成原理实战示例》MyBatis-Plus通过自动配置与核心组件集成SpringBoot实现零配置,提供分页、逻辑删除等插件化功能,增强MyBa... 目录 一、MyBATis-Plus 简介 二、集成方式(Spring Boot)1. 引入依赖 三、核心机制