grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?

本文主要是介绍grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

已发表的技术专栏
0  grpc-go、protobuf、multus-cni 技术专栏 总入口

1  grpc-go 源码剖析与实战  文章目录

2  Protobuf介绍与实战 图文专栏  文章目录

3  multus-cni   文章目录(k8s多网络实现方案)

4  grpc、oauth2、openssl、双向认证、单向认证等专栏文章目录)

假设现在有生产数据一方,消费数据一方,存数据一方

场景一:生产数据一方跟消费数据一方在不同一个进程里,可以使用MQ来实现,如下图所示:

生产数据消费数据
  消费者通过监听的方式来获取数据

场景二:生产数据一方跟消费数据一方在同一个进程里,如何实现?

  比方说,消费者可以采用每隔一定时长的方式去查询存数据的内存是否有数据,有的话,就消费。

  在grpc框架中,会有同样的问题;

  当帧发送器从帧缓存器controlBufer里获取数据的时候,如果采用每隔一定时长的方式去查询的话?这种方案怎么样?

  那么问题来了,时长定多少时间合适,不同的物理服务器性能不一样,或者说,数据帧的量大小也不一样,间隔时长就不好界定。

  在grpc框架中,采用通知方式,结合通道技术来实现。

  当消费者发现数据存储器里没有数据了,就阻塞着;当生产者将新的数据存储到数据存储器时,会给消费者的通道发送消息,告诉它有新的数据了,不需要继续阻塞了;消费者就可以继续获取数据帧了。

1、帧存储器executeAndPut是如何存储的?

其实,在前面的文章中,我们已经分析了最核心的功能,就是帧是如何具体的在单链表里存储的;
接下来,我们要考虑的问题是,在将帧存储到单链表前,要不要做一些操作,如校验操作;或者说在什么情况下,不允许往单链表里存储数据呢?

好,接下来,具体看一下,帧存储器executeAndPut是如何解决的:
进入grpc-go/internal/transport/controlbuf.go文件中的executeAndPut方法里:

1func (c *controlBuffer) executeAndPut(f func(it interface{}) bool, it cbItem) (bool, error) {
2var wakeUp bool
3.	c.mu.Lock()
4if c.err != nil {
5.		c.mu.Unlock()
6return false, c.err
7}8if f != nil {
9if !f(it) { // f wasn't successful
10.			c.mu.Unlock()
11return false, nil
12}
13}14if c.consumerWaiting {
15.		wakeUp = true
16.		c.consumerWaiting = false
17}
18.	c.list.enqueue(it)19if it.isTransportResponseFrame() {
20.		c.transportResponseFrames++
21if c.transportResponseFrames == maxQueuedTransportResponseFrames {
22// We are adding the frame that puts us over the threshold; create
23// a throttling channel.
24.			ch := make(chan struct{})
25.			c.trfChan.Store(&ch)
26}
27}28.	c.mu.Unlock()
29if wakeUp {
30select {
31case c.ch <- struct{}{}:
32default:
33}
34}35return true, nil
36}

主要代码说明:

  • 第2行:声明一个bool类型的变量wakeUp;该变量的目的是,根据wakeUp的值来判断是否将通道ch解除阻塞;若阻塞时不允许从单链表c.list继续读取帧数据;
  • 第4-7行:判断controlBuf是否存在异常,并提供了异常处理逻辑
  • 第8-13行:主要是在将帧存储到单链表c.list前,需要将帧扔进函数f里,做一些处理。
    • 函数f的参考例子,如grpc-go/internal/transport/http2_client.go文件中NewStream方法里,将创建好的头帧存储到controlBuf里场景下时,需要校验streamQuota值以及HeaderListSize大小
  • 第14-17行:若consumerWaiting 为true,就是表示存储帧的单链表c.list为空,而此时,帧加载器get正等待从单链表c.list里获取帧呢;
    • a)第15行:将wakeUp 置为true,表示允许给通道ch发送数据,解除阻塞;但是,具体还没有执行。
    • b)第16行:将c.consumerWaiting 重新置为false,达到的效果是,不必每次往单链表c.list里添加帧数据都给通道ch发送数据,也就是说,只有c.consumerWaiting 为true时,才允许给通道ch发送消息,解除阻塞。
      • c.consumerWaiting 为true时,是说,消费者需要等待,此时单链表c.list里没有数据,为空链表。
  • 第18行:调用单链表c.list的enqueue方法,具体将帧存储到链表c.list里;具体存储原理,前面章节已经介绍过了。
  • 第19-27行:服务器端给客户端发送某些类型的帧,客户端接收到这些帧后,需要给服务器端反馈一个ACK帧,或者RST帧;比方说客户端接收到的Ping帧后,需要给服务器端一个反馈ACK帧;变量transportResponseFrames就是用来统计给服务器端反馈了多少个ACK帧以及RST帧;当变量transportResponseFrames累加到一定的阈值maxQueuedTransportResponseFrames 后,就会创建一个通道ch,这个通道,就是用为阀门使用的;
    • 什么场景下使用?或者说什么地方调用了?
      在grpc-go/internal/transport/http2_client.go文件中reader方法里:“t.controlBuf.throttle()”语句里使用了;达到的效果就是在读取帧前,先判断一下阀门通道ch是阻塞状态,还是非阻塞状态;
      • 如果是非阻塞状态,就可以立马读取帧,
      • 如果是阻塞状态,就暂停读取帧,直到解除阀门通道的阻塞。
  • 第29-34行:当wakeUp为true时,就可以给通道ch发送数据,以解除通道ch的阻塞;从而使得帧加载器可以重新从单链表c.list获取帧。
这个方法的核心目的是:
  • 将各种类型的帧,存储到单链表c.list里;
  • 只不过,在存储前后,做了一定的事情;比方说,存储前的校验工作;对单链表c.list的存储容量判断,要不要暂停接收帧的读取工作;
  • 这其实,实现了一个流控的作用;当读取的帧的速度超过了帧加载器get获取的速度,就暂停读取帧,等待后台处理完成后,再允许重新读取帧。

2、帧加载器get如何从列表里获取帧

接下来,分析一下,帧加载器如何从单链表c.list里获取帧:
进入grpc-go/internal/transport/controlbuf.go文件中的get方法里:

1func (c *controlBuffer) get(block bool) (interface{}, error) {
2for {
3.		c.mu.Lock()
4if c.err != nil {
5.			c.mu.Unlock()
6return nil, c.err
7}8if !c.list.isEmpty() {
9.			h := c.list.dequeue().(cbItem)
10if h.isTransportResponseFrame() {
11if c.transportResponseFrames == maxQueuedTransportResponseFrames {
12// We are removing the frame that put us over the
13// threshold; close and clear the throttling channel.
14.					ch := c.trfChan.Load().(*chan struct{})
15close(*ch)
16.					c.trfChan.Store((*chan struct{})(nil))
17}
18.				c.transportResponseFrames--
19}
20.			c.mu.Unlock()
21return h, nil
22}23if !block {
24.			c.mu.Unlock()
25return nil, nil
26}
27.		c.consumerWaiting = true
28.		c.mu.Unlock()29select {
30case <-c.ch:31case <-c.done:
32.			c.finish()
33return nil, ErrConnClosing
34}
35}
36}

在获取帧的时候,提供了两种模式:

1.阻塞式获取帧:  参数block为true时,即阻塞式获取数据;
  • 假设,存储帧的单链表不为空,那直接从单链表里的头部取出帧数据,返回即可
  • 假设,存储帧的单链表为空,进入阻塞状态,等待阻塞解除后,重新尝试获取帧数据
2.非阻塞式获取帧:  参数block为false时,即非阻塞式获取数据;
  • 假设,存储帧的单链表不为空,那直接从单链表里的头部取出帧数据,返回即可

  • 假设,存储帧的单链表为空,直接返回nil,不会再尝试获取数据的。

可见,不管是阻塞式还是非阻塞式,只要存储帧的单链表有帧数据,直接返回帧数据;只是存储帧的单链表为空时有区别。

主要流程说明:

  • 第4-7行:判断controlBuf是否存在异常,有异常时就直接返回;其实,就是获取帧数据前的校验工作
  • 第8-22行:假设c.list.isEmpty() =false的情况下,即列表里存在帧数据
    • 第9行:从列表里获取帧数据
    • 第10行:判断此帧是否是反馈给服务器端的帧;
    • 第11行:当反馈给服务器端的帧的数量满足阈值时
    • 第14-15行:获取阀门通道,并且关闭阀门通道,相当于给阀门通道发送了一个消息;这样的话,在grpc-go/internal/transport/http2_client.go文件中reader方法里:“t.controlBuf.throttle()” 就解除阻塞了,帧接收器又可以接收帧了。
    • 第18行:将transportResponseFrames递减1;其实,在帧的接收器章节已经分析过了,如果阀门通道阻塞了,肯定transportResponseFrames 是达到了阈值,此现象可能的原因:往帧列表里存储的速度特别快,而获取的速度相对慢,以至于transportResponseFrames 的累加速度远大于递减的速度
    • 第21行:将获取的数据,返还;结束循环
  • 第23-26行:如果block为false时,就退出
  • 第27行:将c.consumerWaiting 置为 true,表示消费者正等待获取数据
  • 第30行:从通道里获取数据,没有的话,就处于阻塞状态;直到有新的数据存储到帧列表里,解除阻塞;重洗获取数据。

3、帧存储器executeAndPut和帧加载器get一起分析

接下来,我们将帧存储器executeAndPut和帧加载器get整合起来分析:

1.场景一:采用非阻塞式获取数据,不管单链表c.list里是否有帧数据
  这种场景,帧存储器和帧加载器是没有交互的,各自独立,互不影响
2.场景二:采用阻塞式获取数据,并且单链表c.list为空
  这种场景,帧存储器和帧加载器是有交互的;通过controlBuf里的consumerWaiting,ch来交互的;

grpc 帧存储器和帧加载器

  • 帧存储器将帧存储到单链表的尾部,帧加载器从单链表里获取帧;
  • 若帧加载器get发现单链表里没有帧数据了,此时为空的单链表时,就会将consumerWaiting置为true,以表明,帧加载器处于等待数据状态;于此同时,帧加载器会创建一个通过ch
  • 帧存储器有数据时,发现consumerWaiting为true时,说明,有消费者(帧加载器)处于阻塞等待数据状态,就给通过ch发送信号,告诉消费者,已经有数据了。消费者不用等待了,可以继续消费数据了。

4、总结

  本篇文章,我们主要分析了在将帧数据存储到单链表时前后都做了哪些事情;以及如何从单链表里获取帧数据的方式;可以阻塞式获取,也支持非阻塞式获取;

  到目前为止,我们已经知道了:

  • 如何将帧数据存储起来,
  • 如何获取帧数据,
  • 以及阻塞式获取帧数据的场景下,帧存储器和帧加载器如何交互的;

  接下来会介绍帧发送器的核心原理,而在帧发送器的核心原理中,同时使用了阻塞式获取帧数据和非阻塞式获取帧数据,有了刚才的铺垫,对理解帧发送器的原理应该会有帮助的。

下一篇文章
  帧发送器执行逻辑介绍

点击下面的图片,返回到专栏大纲

gRPC-go源码剖析与实战之专栏大纲

您的每一次点赞,每一次关注,每一次收藏都是对我工作的最大支持,让我们开始 吧!
gRPC-go源码剖析与实战之点赞之交

gRPC-go源码剖析与实战感谢

这篇关于grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1054354

相关文章

python使用库爬取m3u8文件的示例

《python使用库爬取m3u8文件的示例》本文主要介绍了python使用库爬取m3u8文件的示例,可以使用requests、m3u8、ffmpeg等库,实现获取、解析、下载视频片段并合并等步骤,具有... 目录一、准备工作二、获取m3u8文件内容三、解析m3u8文件四、下载视频片段五、合并视频片段六、错误

gitlab安装及邮箱配置和常用使用方式

《gitlab安装及邮箱配置和常用使用方式》:本文主要介绍gitlab安装及邮箱配置和常用使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装GitLab2.配置GitLab邮件服务3.GitLab的账号注册邮箱验证及其分组4.gitlab分支和标签的

SpringBoot3应用中集成和使用Spring Retry的实践记录

《SpringBoot3应用中集成和使用SpringRetry的实践记录》SpringRetry为SpringBoot3提供重试机制,支持注解和编程式两种方式,可配置重试策略与监听器,适用于临时性故... 目录1. 简介2. 环境准备3. 使用方式3.1 注解方式 基础使用自定义重试策略失败恢复机制注意事项

nginx启动命令和默认配置文件的使用

《nginx启动命令和默认配置文件的使用》:本文主要介绍nginx启动命令和默认配置文件的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录常见命令nginx.conf配置文件location匹配规则图片服务器总结常见命令# 默认配置文件启动./nginx

在Windows上使用qemu安装ubuntu24.04服务器的详细指南

《在Windows上使用qemu安装ubuntu24.04服务器的详细指南》本文介绍了在Windows上使用QEMU安装Ubuntu24.04的全流程:安装QEMU、准备ISO镜像、创建虚拟磁盘、配置... 目录1. 安装QEMU环境2. 准备Ubuntu 24.04镜像3. 启动QEMU安装Ubuntu4

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

Windows下C++使用SQLitede的操作过程

《Windows下C++使用SQLitede的操作过程》本文介绍了Windows下C++使用SQLite的安装配置、CppSQLite库封装优势、核心功能(如数据库连接、事务管理)、跨平台支持及性能优... 目录Windows下C++使用SQLite1、安装2、代码示例CppSQLite:C++轻松操作SQ

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

C++中零拷贝的多种实现方式

《C++中零拷贝的多种实现方式》本文主要介绍了C++中零拷贝的实现示例,旨在在减少数据在内存中的不必要复制,从而提高程序性能、降低内存使用并减少CPU消耗,零拷贝技术通过多种方式实现,下面就来了解一下... 目录一、C++中零拷贝技术的核心概念二、std::string_view 简介三、std::stri

Python常用命令提示符使用方法详解

《Python常用命令提示符使用方法详解》在学习python的过程中,我们需要用到命令提示符(CMD)进行环境的配置,:本文主要介绍Python常用命令提示符使用方法的相关资料,文中通过代码介绍的... 目录一、python环境基础命令【Windows】1、检查Python是否安装2、 查看Python的安