用Disruptor框架实现生产者-消费者模式

2023-12-26 01:28

本文主要是介绍用Disruptor框架实现生产者-消费者模式,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ConcurrentLinkedQueue队列的秘诀就在于大量使用了无锁CAS操作。
现成的Disruptor框架实现CAS进行编程。
无锁的缓存框架:Disruptor
它使用无锁的方式实现了一个环形队列,非常适合实现生产者-消费者模式,
比如事件和消息的发布。如果队列是环形的,则只需要对外提供一个当前位置cursor,
利用这个指针即可用进入队操作,也可用进行出队操作。
由于环形队列的缘故,队列的总大小必须事先指定,不能动态扩展。
为了能够快速从一个序列对于到数组的实际位置,每次有元素入队,序列就加1.
Disruptor框架要求我们必须将数组的大小设置为2的整数次方。这样通过sequence&(queueSize-1)
就能立即定位到实际的元素位置index,这比取余%操作快得多。
如果搭建不理解上面的sequence&(queueSize-1),那么我在这里再简单说明一下。
如果queueSize是2的整数次幂。则这个数字的二进制表示必然是10、100、1000、10000等形式。

果一个数字是2的整数次幂,其二进制表示的确是形如10、100、1000、10000等的形式。
这是因为2的整数次幂在二进制中只有一个比特位为1,其余都为0。例如:
2^1 = 2,二进制表示为10
2^2 = 4,二进制表示为100
2^3 = 8,二进制表示为1000
2^4 = 16,二进制表示为10000
这种规律一直持续下去。这样的性质在计算机科学和计算机工程中经常会被利用,
特别是在处理队列(Queue)等数据结构的大小时。
Disruptor框架


生产者需要一个 RingBuffer的引用,也就是环形缓冲区。
它有一个重要的方法pushData()将产生的数据推入缓冲区。
方法pushData()接收一个ByteBuffer对象。在ByteBuffer对象中
可用用来包装任何数据类型。这里用来存储long整数,
pushData()方法的功能就是将传入的ByteBuffer对象中的数据提取出来,
并转载到环形缓冲区中。
只有发布后的数据才会真正被消费者看见。

public class Consumer implements WorkHandler<PCData> {@Overridepublic void onEvent(PCData event) throws Exception{System.out.println(Thread.currentThread().getId()+":Event: --"+ event.get() * event.get() +"--");}}
public class PCData {private long value;public void set(long value){this.value = value;}public long get(){return value;}}
public class PCDataFactory implements EventFactory<PCData> {public PCData newInstance(){return new PCData();}
}
public class Producer {private final RingBuffer<PCData> ringBuffer;public Producer(RingBuffer<PCData> ringBuffer){this.ringBuffer = ringBuffer;}public void pushData(ByteBuffer bb){long sequence = ringBuffer.next();try{PCData event = ringBuffer.get(sequence);event.set(bb.getLong(0));}finally {ringBuffer.publish(sequence);}}}
public static void main(String[] args) {Executor executors =  Executors.newCachedThreadPool();PCDataFactory factory = new PCDataFactory();int bufferSize = 1024;Disruptor<PCData> disruptor = new Disruptor<PCData>((EventFactory<PCData>) factory,bufferSize,(Executor) executors,ProducerType.MULTI,new BlockingWaitStrategy());disruptor.handleEventsWithWorkerPool(new Consumer(),new Consumer(),new Consumer(),new Consumer());disruptor.start();RingBuffer<PCData> ringBuffer = disruptor.getRingBuffer();Producer producer = new Producer(ringBuffer);ByteBuffer bb = ByteBuffer.allocate(8);for(long l = 0;true;l++){bb.putLong(0,l);producer.pushData(bb);try {Thread.sleep(100);} catch (InterruptedException e) {throw new RuntimeException(e);}System.out.println("add data "+ l);}}

main 函数是一个无限循环,因为它包含了一个 for 循环,其中的条件是 true。因此,这个 main 函数会一直执行下去,直到程序被手动中断或出现异常导致程序终止。

在循环中,你不断地向 RingBuffer 中发布数据,由 Producer 类的 pushData 方法完成。同时,RingBuffer 中的数据会被多个消费者(Consumer 类)并发地处理。

你在循环中使用了 Thread.sleep(100),这会导致每次循环执行后线程暂停 100 毫秒。因此,每次数据被发布后,你会看到 "add data" 的输出,并且在消费者的 onEvent 方法中会输出相应的信息。

由于这是一个生产者-消费者模型,生产者生产数据,消费者处理数据,程序在生产和消费之间持续运行。

如果你希望在某个条件下结束程序,你需要在循环中添加相应的退出条件,并在满足条件时使用 break 语句跳出循环。否则,这个程序将一直执行下去。

这篇关于用Disruptor框架实现生产者-消费者模式的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/537655

相关文章

Python实现批量CSV转Excel的高性能处理方案

《Python实现批量CSV转Excel的高性能处理方案》在日常办公中,我们经常需要将CSV格式的数据转换为Excel文件,本文将介绍一个基于Python的高性能解决方案,感兴趣的小伙伴可以跟随小编一... 目录一、场景需求二、技术方案三、核心代码四、批量处理方案五、性能优化六、使用示例完整代码七、小结一、

Java实现将HTML文件与字符串转换为图片

《Java实现将HTML文件与字符串转换为图片》在Java开发中,我们经常会遇到将HTML内容转换为图片的需求,本文小编就来和大家详细讲讲如何使用FreeSpire.DocforJava库来实现这一功... 目录前言核心实现:html 转图片完整代码场景 1:转换本地 HTML 文件为图片场景 2:转换 H

C#使用Spire.Doc for .NET实现HTML转Word的高效方案

《C#使用Spire.Docfor.NET实现HTML转Word的高效方案》在Web开发中,HTML内容的生成与处理是高频需求,然而,当用户需要将HTML页面或动态生成的HTML字符串转换为Wor... 目录引言一、html转Word的典型场景与挑战二、用 Spire.Doc 实现 HTML 转 Word1

C#实现一键批量合并PDF文档

《C#实现一键批量合并PDF文档》这篇文章主要为大家详细介绍了如何使用C#实现一键批量合并PDF文档功能,文中的示例代码简洁易懂,感兴趣的小伙伴可以跟随小编一起学习一下... 目录前言效果展示功能实现1、添加文件2、文件分组(书签)3、定义页码范围4、自定义显示5、定义页面尺寸6、PDF批量合并7、其他方法

SpringBoot实现不同接口指定上传文件大小的具体步骤

《SpringBoot实现不同接口指定上传文件大小的具体步骤》:本文主要介绍在SpringBoot中通过自定义注解、AOP拦截和配置文件实现不同接口上传文件大小限制的方法,强调需设置全局阈值远大于... 目录一  springboot实现不同接口指定文件大小1.1 思路说明1.2 工程启动说明二 具体实施2

Python实现精确小数计算的完全指南

《Python实现精确小数计算的完全指南》在金融计算、科学实验和工程领域,浮点数精度问题一直是开发者面临的重大挑战,本文将深入解析Python精确小数计算技术体系,感兴趣的小伙伴可以了解一下... 目录引言:小数精度问题的核心挑战一、浮点数精度问题分析1.1 浮点数精度陷阱1.2 浮点数误差来源二、基础解决

Java实现在Word文档中添加文本水印和图片水印的操作指南

《Java实现在Word文档中添加文本水印和图片水印的操作指南》在当今数字时代,文档的自动化处理与安全防护变得尤为重要,无论是为了保护版权、推广品牌,还是为了在文档中加入特定的标识,为Word文档添加... 目录引言Spire.Doc for Java:高效Word文档处理的利器代码实战:使用Java为Wo

Java实现远程执行Shell指令

《Java实现远程执行Shell指令》文章介绍使用JSch在SpringBoot项目中实现远程Shell操作,涵盖环境配置、依赖引入及工具类编写,详解分号和双与号执行多指令的区别... 目录软硬件环境说明编写执行Shell指令的工具类总结jsch(Java Secure Channel)是SSH2的一个纯J

使用Python实现Word文档的自动化对比方案

《使用Python实现Word文档的自动化对比方案》我们经常需要比较两个Word文档的版本差异,无论是合同修订、论文修改还是代码文档更新,人工比对不仅效率低下,还容易遗漏关键改动,下面通过一个实际案例... 目录引言一、使用python-docx库解析文档结构二、使用difflib进行差异比对三、高级对比方

深度解析Python中递归下降解析器的原理与实现

《深度解析Python中递归下降解析器的原理与实现》在编译器设计、配置文件处理和数据转换领域,递归下降解析器是最常用且最直观的解析技术,本文将详细介绍递归下降解析器的原理与实现,感兴趣的小伙伴可以跟随... 目录引言:解析器的核心价值一、递归下降解析器基础1.1 核心概念解析1.2 基本架构二、简单算术表达