生产者消费者模式保姆级教程 (阻塞队列解除耦合性) 一文帮你从C语言版本到C++ 版本, 从理论到实现 (一文足以)

本文主要是介绍生产者消费者模式保姆级教程 (阻塞队列解除耦合性) 一文帮你从C语言版本到C++ 版本, 从理论到实现 (一文足以),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

一. 图解,步步分解理论基础

1.1 使用锁 + 条件变量实现生产者消费者模式理论基础

1.2 使用信号量实现生产者消费者模式的理论基础

二. Linux环境下对于基于阻塞队列的两种实现方式  (C版本)

2.1 条件变量 + 锁实现版本

2.2  信号量实现版本

三. C++11 新特性产生的线程库实现版本

四. 总结本章

一. 图解,步步分解理论基础

1.1 使用锁 + 条件变量实现生产者消费者模式理论基础

队列为空 和 队列满的时候需要阻塞住队列, 需要使用条件变量来实现判断是否需要阻塞队列

思考1 :  生产者生产需要的是空位置存储生产的产品, 消费者消费需要的是队列中存在产品, 于是如下

  • condition1 :  free (空位, 表示队列不是满的, 存在空位)
  • condition2 :  full : (装有产平, 代表队列不是空的, 存在产品)

伪代码逻辑:

  • 当队列为空的时候, 需要等待队列中含有产品, 等待消费 ,  同时通知唤醒一下生产者, 催一下, 你快点生产喔, 队列中绝对满足有空位条件的, 你快点生产吧哥
  • 当队列为满的时候, 需要等待队列中含有空位, 等待生产,   同时通知唤醒一下消费者,  催一下,你快点消费喔, 队列中绝对满足有产品条件的, 你快点消费吧哥
  • 解释while :  防止伪唤醒  :  消费线程在等待生产者线程生产出产品唤醒自己进行消费, 但是生产者可能仅仅只是生产出来一个产品, 但是它广播告诉所有的消费者线程你们醒过来争抢这一个消费名额吧, 其实最终只能有一个消费者得偿所愿, 其他的消费者相当于被骗了, 自己刚醒过来, 但是产品别别人抢走了, 现在还是空的, 那咋办? 继续睡, 所以需要循环的进行判断自己是不是被伪唤醒了, 是的话, 继续等
while (Isempty(bq)) {Wait(full);Notify(free);           
} while (IsFull(bq)) {Wait(free);Notify(full); 
}

思考2: 队列中的产品和空位是什么样的资源??  是可能别多个线程同时争抢的资源, 所以这种多个线程争抢的写入操作的资源是什么资源?? 是 临界资源, 于是乎需要的是加锁进行原子操作. 在多个线程都想对阻塞队列进行写入操作的过程中保护阻塞队列这个临界资源的操

//伪代码
Lock();
...  //临界资源处理的逻辑代码块
Unlock();

1.2 使用信号量实现生产者消费者模式的理论基础

  • 其实大体逻辑和上述是差不多的, 只是此处没有了条件变量和锁, 换之代替的是信号量
  • 信号量:  我的理解就是具有保护特性的临界资源...   啥意思呢,   一个信号量就是一个临界资源, -pthread  链接库中包含了一系列封装好的使用这个信号量临界资源的函数.....
  • 这些函数方法本身就包含了对于多线程同步访问临界资源(共享资源的处理机制)

        int sem_init(sem_t *sem, int pshared, unsigned int value);           //初始化信号量, pshared : 0 用于线程间同步, 1 用于进程间同步, value 初始化值

       int sem_destroy(sem_t *sem);    //销毁信号量

        int sem_wait(sem_t *sem);        //消费一个临界资源信号量, 如果信号量 val 值 > 0 直接 val -= 1;  如果信号量值 == 0 了 阻塞起来等待它 > 0 再行消费

       int sem_post(sem_t *sem);       //生产一个临界资源信号量, 对应临界资源信号量 += 1, 归还资源, 同时如果之前   sem 的 val == 0 阻塞等待消费, 这个时候会相当于唤醒消费者消费

//其实信号量本身就是生产者消费者之间共享的临界资源, 通过对它的操作, 来制约了多线程的同步互斥访问这个临界资源的有条不紊的有序进行

  • 此处竟然说到了同步互斥访问临界资源了, 想必特别多的人对于同步  异步, 互斥 这些是分不清的, 此处图解一下:
  •  上述仅仅个人己见, 对于这种抽象概念的看发, 本就是随着理解层次的深入而深入的
  • 同步事件之间相互是需要等待制约的,  比如线程1 对于临界资源做写入操作的时候, 其他线程需要等待他用完之后放回去才能用....     所以同步 (暗藏相互的一种等待关系)

图解异步解耦合,  使用阻塞队列:

  •  解释异步事件, 还有很多人会从函数阻塞等待还是函数直接返回的角度来解释,  其实我觉得使用的是同样的思想, 函数不需要等待直接返回, 其实就解除了两者之间的耦合关联了, 我不需要等你准备好, 你妹准备好管我屁事, 我直接返回就是了, 你约束不了我
  • 同步事件 :   正好相反, 你没准备好我就不能直接返回,需要阻塞等待你准备好, 比如等待IO事件的发生

二. Linux环境下对于基于阻塞队列的两种实现方式  (C版本)

  • 队列的形式形式其实不重要, 重要的是阻塞, 于是我都直接使用环形队列来实现,简单方便....

2.1 条件变量 + 锁实现版本

  • 函数方法刨析:

 

#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>
#include <stdlib.h>
#include <pthread.h>
#include <signal.h>//定义阻塞队列
typedef  struct BlockQueue {size_t cap;//容量size_t size;//当前产品个数int front;//队头游标int tail;//队尾游标int* data; //数据域pthread_mutex_t lock;pthread_cond_t full;pthread_cond_t free;
} BlockQueue;BlockQueue* bqp;//定义全局方便信号处理时候销毁
void DestroyBlockQueue(BlockQueue* bqp) {free(bqp->data);pthread_mutex_destroy(&bqp->lock);pthread_cond_destroy(&bqp->full);pthread_cond_destroy(&bqp->free);
}
//信号处理, 销毁整个阻塞队列。 做结束处理S
void handler(int signo) {printf("ByeBye\n");DestroyBlockQueue(bqp);exit(EXIT_SUCCESS);
}//初始化阻塞队列
BlockQueue* InitQueue(int n) {BlockQueue* bqp = (BlockQueue*)malloc(sizeof(BlockQueue));bqp->cap = n;bqp->size = 0;bqp->front = bqp->tail = 0;bqp->data = (int*)malloc(sizeof(int) * n);pthread_mutex_init(&bqp->lock, NULL);pthread_cond_init(&bqp->free, NULL);pthread_cond_init(&bqp->full, NULL);return bqp;
}int IsEmpty(BlockQueue* bqp) {return bqp->size == 0;
}int IsFull(BlockQueue* bqp) {return bqp->size == bqp->cap;
}void WaitConsume(BlockQueue* bqp) {//等待消费, 等队列有产品pthread_cond_wait(&bqp->full, &bqp->lock);
}void WaitProduct(BlockQueue* bqp) {//等待生产, 等队列有空位pthread_cond_wait(&bqp->free, &bqp->lock);
}void NotifyConsume(BlockQueue* bqp) {//通知消费, 队列中有产品了pthread_cond_signal(&bqp->full);
}void NotifyProduct(BlockQueue* bqp) {//通知生产, 队列中有空位了pthread_cond_signal(&bqp->free);
}void Lock(BlockQueue* bqp) {pthread_mutex_lock(&bqp->lock);
}void Unlock(BlockQueue* bqp) {pthread_mutex_unlock(&bqp->lock);}void Push(BlockQueue* bqp, int val) {Lock(bqp);while (IsFull(bqp)) {WaitProduct(bqp);//没有空位等待生产NotifyConsume(bqp);//催促消费}bqp->data[bqp->tail++] = val;bqp->tail %= bqp->cap;Unlock(bqp);bqp->size += 1;NotifyConsume(bqp);//有产品了通知消费
}void Pop(BlockQueue* bqp, int* popval) {Lock(bqp);while (IsEmpty(bqp)) {WaitConsume(bqp);//没有产品等待消费NotifyProduct(bqp);//催促生产}*popval = bqp->data[bqp->front++];bqp->front %= bqp->cap;Unlock(bqp);bqp->size -= 1;NotifyProduct(bqp);//有空位了通知生产
}void* ConsumeRoutine(void* args) {//消费者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int popval = 0;for ( ;; ) {Pop(bqp, &popval);//取出消费产品printf("PopVal is %d, and has %d Products\n", popval, bqp->size); sleep(rand() % 3);}return (void*)0;
}void* ProductRoutine(void* args) {//生产者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int pushval = 0;for ( ;;  ) {pushval = rand() % 1024;//随机一个数组当作产品Push(bqp, pushval);//装入产品printf("PushVal is %d, and has %d Products\n", pushval, bqp->size); sleep(rand() % 3);}return (void*)0;
}int main() {signal(SIGINT, handler);//注册信号处理函数srand((unsigned int)time(NULL));bqp = InitQueue(30);pthread_t consume1, consume2, product1, product2; pthread_create(&product1, NULL, ProductRoutine, (void*)bqp);pthread_create(&product2, NULL, ProductRoutine, (void*)bqp);pthread_create(&consume1, NULL, ConsumeRoutine, (void*)bqp);pthread_create(&consume2, NULL, ConsumeRoutine, (void*)bqp);pthread_join(product1, NULL);pthread_join(product2, NULL);pthread_join(consume1, NULL);pthread_join(consume2, NULL);return 0;
}

2.2  信号量实现版本

#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>
#include <stdlib.h>
#include <pthread.h>
#include <signal.h>
#include <semaphore.h>//定义阻塞队列
typedef  struct BlockQueue {size_t cap;//容量size_t size;//当前产品个数int front;//队头游标int tail;//队尾游标int* data; //数据域sem_t data_sem;//产品信号量, 阻塞队列中有多少产品sem_t space_sem;//空位信号量. 阻塞队列中有多少空位
} BlockQueue;BlockQueue* bqp;//定义全局方便信号处理时候销毁
void DestroyBlockQueue(BlockQueue* bqp) {free(bqp->data);sem_destroy(&bqp->data_sem);sem_destroy(&bqp->space_sem);
}
//信号处理, 销毁整个阻塞队列。 做结束处理S
void handler(int signo) {printf("ByeBye\n");DestroyBlockQueue(bqp);exit(EXIT_SUCCESS);
}//初始化阻塞队列
BlockQueue* InitQueue(int n) {BlockQueue* bqp = (BlockQueue*)malloc(sizeof(BlockQueue));bqp->cap = n;bqp->size = 0;bqp->front = bqp->tail = 0;bqp->data = (int*)malloc(sizeof(int) * n);sem_init(&bqp->data_sem, 0, 0);//初始化产品量0sem_init(&bqp->space_sem, 0, n);//初始化空位量为队列容量return bqp;
}void Push(BlockQueue* bqp, int val) {sem_wait(&bqp->space_sem);//P 申请一个空位资源bqp->data[bqp->tail++] = val;bqp->tail %= bqp->cap;bqp->size += 1;sem_post(&bqp->data_sem); //V 制作或者说产生一个产品资源
}void Pop(BlockQueue* bqp, int* popval) {sem_wait(&bqp->data_sem); //P 申请一个产品*popval = bqp->data[bqp->front++];bqp->front %= bqp->cap;bqp->size -= 1;sem_post(&bqp->space_sem);//V 归还一个空位
}void* ConsumeRoutine(void* args) {//消费者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int popval = 0;for ( ;; ) {Pop(bqp, &popval);//取出消费产品printf("PopVal is %d, and has %d Products\n", popval, bqp->size); sleep(rand() % 3);}return (void*)0;
}void* ProductRoutine(void* args) {//生产者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int pushval = 0;for ( ;;  ) {pushval = rand() % 1024;//随机一个数组当作产品Push(bqp, pushval);//装入产品printf("PushVal is %d, and has %d Products\n", pushval, bqp->size); sleep(rand() % 3);}return (void*)0;
}int main() {signal(SIGINT, handler);srand((unsigned int)time(NULL));bqp = InitQueue(30);pthread_t consume1, consume2, product1, product2; pthread_create(&product1, NULL, ProductRoutine, (void*)bqp);pthread_create(&product2, NULL, ProductRoutine, (void*)bqp);pthread_create(&consume1, NULL, ConsumeRoutine, (void*)bqp);pthread_create(&consume2, NULL, ConsumeRoutine, (void*)bqp);pthread_join(product1, NULL);pthread_join(product2, NULL);pthread_join(consume1, NULL);pthread_join(consume2, NULL);return 0;
}

三. C++11 新特性产生的线程库实现版本

  • 首先是基础理论支撑, 函数分析什么的, 如果不清楚的可以去看如下的博客刨析

https://blog.csdn.net/weixin_53695360/article/details/122969157?spm=1001.2014.3001.5502

#include <iostream>
#include <thread>
#include <mutex>
#include <condition_variable>
#include <queue>
#include <windows.h>
using namespace std;
#define NUM 10class BlockQueue {
public:BlockQueue(int cap = NUM): _cap(cap){}void Push(int val) {unique_lock<mutex> _lock(mtx);while (IsFull()) {_free.wait(_lock);//没有空位生产等待NotifyConsume();//催促消费}_q.push(val);//生产产品NotifyConsume();//有产品了通知消费}void Pop(int& popval) {unique_lock<mutex> _lock(mtx);while (IsEmpty()) {_full.wait(_lock);//没有产品消费等待NotifyProduct();//催促生产}popval = _q.front();_q.pop();//消费产品NotifyProduct();//有空位了通知生产}int Size() {return _q.size();}
private:queue<int> _q;//存储队列int _cap;//容量mutex mtx;condition_variable _full;//存在产品condition_variable _free;//存在空位
private:void NotifyConsume() {_full.notify_one();//通知消费}void NotifyProduct() {_free.notify_one();//通知生产}bool IsEmpty() {return _q.size() == 0;}bool IsFull() {return _q.size() == _cap;}
};void ConsumeRoutine(void* args) {//消费者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int popval = 0;for (;;) {bqp->Pop(popval);//取出消费产品printf("PopVal is %d, and has %d Products\n", popval, bqp->Size());Sleep((rand() % 3) * 100);}
}void ProductRoutine(void* args) {//生产者线程执行函数BlockQueue* bqp = (BlockQueue*)args;int pushval = 0;for (;;) {pushval = rand() % 1024;//随机一个数组当作产品bqp->Push(pushval);//装入产品printf("PushVal is %d, and has %d Products\n", pushval, bqp->Size());Sleep((rand() % 3) * 100);}
}int main() {srand((unsigned long)time(NULL));BlockQueue bq(30);thread t1(ProductRoutine, &bq);thread t2(ProductRoutine, &bq);thread t3(ConsumeRoutine, &bq);thread t4(ConsumeRoutine, &bq);t1.join();t2.join();t3.join();t4.join();return 0;
}

四. 总结本章

  • 本章主要介绍了基于阻塞队列的生产者消费者模式, 阻塞队列的作用是解除掉生产者和消费者之间的耦合关系, 消费者从阻塞队列中拿取产品,  生产者向阻塞队列中Push生产产品
  • 生产者消费者模式就是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而 通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者 要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。这个阻塞队 列就是用来给生产者和消费者解耦的。
  • 然后还介绍了一下同步等待事件  和  异步直接返回不等待的事件的区别...
  • 同步阻塞IO : 用户主线程在发起一个IO操作以后, 必须挂起等待IO 操作完成, 才能继续运行下去
  • 同步非阻塞IO :  用户主线程发起一个IO操作之后直接返回, 但是需要不是循环是否IO就绪,轮询操作。。。
  • 异步阻塞IO   :  用户主线程发起 一个 IO 操作之后还是直接返回干自己的事情, 但是不需要进行轮询了,     其他的线程会阻塞起来帮我们监视IO。 满足了就通知主线程  大哥 IO就绪了你可以干事情了
  • 最后就是使用不同的方式完成生产者消费者模式的实现

这篇关于生产者消费者模式保姆级教程 (阻塞队列解除耦合性) 一文帮你从C语言版本到C++ 版本, 从理论到实现 (一文足以)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/734594

相关文章

Spring Boot 实现 IP 限流的原理、实践与利弊解析

《SpringBoot实现IP限流的原理、实践与利弊解析》在SpringBoot中实现IP限流是一种简单而有效的方式来保障系统的稳定性和可用性,本文给大家介绍SpringBoot实现IP限... 目录一、引言二、IP 限流原理2.1 令牌桶算法2.2 漏桶算法三、使用场景3.1 防止恶意攻击3.2 控制资源

springboot下载接口限速功能实现

《springboot下载接口限速功能实现》通过Redis统计并发数动态调整每个用户带宽,核心逻辑为每秒读取并发送限定数据量,防止单用户占用过多资源,确保整体下载均衡且高效,本文给大家介绍spring... 目录 一、整体目标 二、涉及的主要类/方法✅ 三、核心流程图解(简化) 四、关键代码详解1️⃣ 设置

Nginx 配置跨域的实现及常见问题解决

《Nginx配置跨域的实现及常见问题解决》本文主要介绍了Nginx配置跨域的实现及常见问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来... 目录1. 跨域1.1 同源策略1.2 跨域资源共享(CORS)2. Nginx 配置跨域的场景2.1

Python中提取文件名扩展名的多种方法实现

《Python中提取文件名扩展名的多种方法实现》在Python编程中,经常会遇到需要从文件名中提取扩展名的场景,Python提供了多种方法来实现这一功能,不同方法适用于不同的场景和需求,包括os.pa... 目录技术背景实现步骤方法一:使用os.path.splitext方法二:使用pathlib模块方法三

CSS实现元素撑满剩余空间的五种方法

《CSS实现元素撑满剩余空间的五种方法》在日常开发中,我们经常需要让某个元素占据容器的剩余空间,本文将介绍5种不同的方法来实现这个需求,并分析各种方法的优缺点,感兴趣的朋友一起看看吧... css实现元素撑满剩余空间的5种方法 在日常开发中,我们经常需要让某个元素占据容器的剩余空间。这是一个常见的布局需求

HTML5 getUserMedia API网页录音实现指南示例小结

《HTML5getUserMediaAPI网页录音实现指南示例小结》本教程将指导你如何利用这一API,结合WebAudioAPI,实现网页录音功能,从获取音频流到处理和保存录音,整个过程将逐步... 目录1. html5 getUserMedia API简介1.1 API概念与历史1.2 功能与优势1.3

Java实现删除文件中的指定内容

《Java实现删除文件中的指定内容》在日常开发中,经常需要对文本文件进行批量处理,其中,删除文件中指定内容是最常见的需求之一,下面我们就来看看如何使用java实现删除文件中的指定内容吧... 目录1. 项目背景详细介绍2. 项目需求详细介绍2.1 功能需求2.2 非功能需求3. 相关技术详细介绍3.1 Ja

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

Windows下C++使用SQLitede的操作过程

《Windows下C++使用SQLitede的操作过程》本文介绍了Windows下C++使用SQLite的安装配置、CppSQLite库封装优势、核心功能(如数据库连接、事务管理)、跨平台支持及性能优... 目录Windows下C++使用SQLite1、安装2、代码示例CppSQLite:C++轻松操作SQ

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基