聊聊go语言中的GMP模型

2024-04-24 11:12
文章标签 语言 go 模型 聊聊 gmp

本文主要是介绍聊聊go语言中的GMP模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

写在文章开头

我们都知道go语言通过轻量级线程协程解决并发问题,按照go语言的思想这些协程运行完成后即焚,那么go语言如何保证并发线程有序获取协程呢?

在这里插入图片描述

带着这个问题我们从go语言底层的源码来阐述这个问题:

在这里插入图片描述

Hi,我是 sharkChili ,是个不断在硬核技术上作死的 java coder ,是 CSDN的博客专家 ,也是开源项目 Java Guide 的维护者之一,熟悉 Java 也会一点 Go ,偶尔也会在 C源码 边缘徘徊。写过很多有意思的技术博客,也还在研究并输出技术的路上,希望我的文章对你有帮助,非常欢迎你关注我的公众号: 写代码的SharkChili

因为近期收到很多读者的私信,所以也专门创建了一个交流群,感兴趣的读者可以通过上方的公众号获取笔者的联系方式完成好友添加,点击备注 “加群” 即可和笔者和笔者的朋友们进行深入交流。

在这里插入图片描述

协程GMP模型详解

GMP模型工作原理

本质上go语言采用了GMP模型:

  1. g:即goroutine,也就是我们说的协程。
  2. m:可以直接理解为执行协程的线程。
  3. p:和线程绑定,真正进行逻辑处理的处理器。

基于gmp模型,每个处理器绑定一个线程,而线程都会分配一个协程队列,为了避免多线程运行协程总是要到全局队列上锁导致的并发冲突导致程序性能下降。go语言提出每个处理器获取协程队列时先上锁然后直接从全局队列中获取一批的协程到本地队列再运行:

在这里插入图片描述

基于这个基础go语言对每一个线程的利用都做到的极致的压榨,一旦线程对应协程队列为空时,且全局的协程队列也为空的时候,当前处理器p就会采取stealWork窃取其他处理器的本次队列中窃取任务,尽可能不让这个线程停止功能,以提升线程利用率:

在这里插入图片描述

此后每当新建一个协程,它就会随机找到一个处理器p的队列,若发现其队列已满无法容纳自己,这个协程就会被存放到协程队列中,等待p下次批量获取:

在这里插入图片描述

源码印证

了解gmp的工作流程后,我们就可以通过源码的方式印证这个问题,首先来看看处理器模型的源码,通过runitme2.go可知处理器p的结构:

  1. 通过m指针指向绑定的线程。
  2. 通过runqheadrunqtail标明当前处理器协程队列的地址范围,再通过runq指定队列长度。
  3. 通过 runnext标明下一个要执行的协程的地址。
type p struct {//唯一标识id          int32// m的指针m           muintptr   // back-link to associated m (nil if idle)// 协程队列队首和队尾偏移量runqhead uint32runqtail uint32//本地队列数组runq     [256]guintptr//下一个要执行的协程地址runnext guintptr//......	
}	

每个处理器p都会从主协程g0开始调用schedule方法不断执行队列中的协程,如下源码所示,拿到处理器对应的线程后通过findRunnable中找到可运行的协程并执行:

func schedule() {//获取当前处理器的线程mp := getg().m//......top:pp := mp.p.ptr()//......//获取可运行的协程gp, inheritTime, tryWakeP := findRunnable() // blocks until work is available//......//执行协程execute(gp, inheritTime)
}

步入proc.gofindRunnable方法就可以看到我们上文所说的协程调度过程了,首先从本地队列获取,若没有则上锁从全局队列中批量获取协程,明确确认上述两个队列都没有任务再从其他处理器的本地队列中窃取协程运行:

func findRunnable() (gp *g, inheritTime, tryWakeP bool) {mp := getg().mtop:pp := mp.p.ptr()//......// 先从本地队列获取if gp, inheritTime := runqget(pp); gp != nil {return gp, inheritTime, false}// 本地队列没有则到全局队列获取if sched.runqsize != 0 {lock(&sched.lock)gp := globrunqget(pp, 0)unlock(&sched.lock)if gp != nil {return gp, false, false}}//上述情况都不符合则尝试通过stealWork窃取其他处理器本地队列的协程if mp.spinning || 2*sched.nmspinning.Load() < gomaxprocs-sched.npidle.Load() {if !mp.spinning {mp.becomeSpinning()}gp, inheritTime, tnow, w, newWork := stealWork(now)if gp != nil {// Successfully stole.return gp, inheritTime, false}//......}goto top
}

这里我们不妨看看从全局队列获取协程的源码proc.go,本质上就是通过重量级锁获取一批协程调用runqput存入队列中:

func globrunqget(pp *p, max int32) *g {//上锁assertLockHeld(&sched.lock)//若全局队列为空直接返回if sched.runqsize == 0 {return nil}//获取全局队列的大小和处理器数计算出n,经过各种逻辑处理后这个n就是最后要获取的协程数n := sched.runqsize/gomaxprocs + 1if n > sched.runqsize {n = sched.runqsize}if max > 0 && n > max {n = max}if n > int32(len(pp.runq))/2 {n = int32(len(pp.runq)) / 2}//扣减全局队列大小sched.runqsize -= n//获取协程,并通过runqput存入当前处理器的本地队列中gp := sched.runq.pop()n--for ; n > 0; n-- {gp1 := sched.runq.pop()runqput(pp, gp1, false)}return gp
}

而窃取协程的代码也在proc.go中,它会再三确认当前处理器没有可运行协程后到其他非空闲协程中窃取:

func stealWork(now int64) (gp *g, inheritTime bool, rnow, pollUntil int64, newWork bool) {pp := getg().m.p.ptr()ranTimer := falseconst stealTries = 4for i := 0; i < stealTries; i++ {stealTimersOrRunNextG := i == stealTries-1//获取可以可窃取的处理器p2for enum := stealOrder.start(fastrand()); !enum.done(); enum.next() {if sched.gcwaiting.Load() {// GC work may be available.return nil, false, now, pollUntil, true}p2 := allp[enum.position()]//如果遍历到自己则跳过if pp == p2 {continue}//......//明确确认p2非空闲后窃取其协程存入本地队列中运行if !idlepMask.read(enum.position()) {if gp := runqsteal(pp, p2, stealTimersOrRunNextG); gp != nil {return gp, false, now, pollUntil, ranTimer}}}}return nil, false, now, pollUntil, ranTimer
}

小结

本文通过图解结合源码印证的方式介绍了go语言中gmp如何实现高效并发,希望对你有帮助。

我是 sharkchiliCSDN Java 领域博客专家开源项目—JavaGuide contributor,我想写一些有意思的东西,希望对你有帮助,如果你想实时收到我写的硬核的文章也欢迎你关注我的公众号: 写代码的SharkChili
因为近期收到很多读者的私信,所以也专门创建了一个交流群,感兴趣的读者可以通过上方的公众号获取笔者的联系方式完成好友添加,点击备注 “加群” 即可和笔者和笔者的朋友们进行深入交流。

在这里插入图片描述

这篇关于聊聊go语言中的GMP模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/931595

相关文章

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例:泄漏缓冲区的产生项目场景:Web 服务器中的请求缓冲场景描述代码

Go语言如何判断两张图片的相似度

《Go语言如何判断两张图片的相似度》这篇文章主要为大家详细介绍了Go语言如何中实现判断两张图片的相似度的两种方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 在介绍技术细节前,我们先来看看图片对比在哪些场景下可以用得到:图片去重:自动删除重复图片,为存储空间"瘦身"。想象你是一个

Go语言中Recover机制的使用

《Go语言中Recover机制的使用》Go语言的recover机制通过defer函数捕获panic,实现异常恢复与程序稳定性,具有一定的参考价值,感兴趣的可以了解一下... 目录引言Recover 的基本概念基本代码示例简单的 Recover 示例嵌套函数中的 Recover项目场景中的应用Web 服务器中

详解如何使用Python从零开始构建文本统计模型

《详解如何使用Python从零开始构建文本统计模型》在自然语言处理领域,词汇表构建是文本预处理的关键环节,本文通过Python代码实践,演示如何从原始文本中提取多尺度特征,并通过动态调整机制构建更精确... 目录一、项目背景与核心思想二、核心代码解析1. 数据加载与预处理2. 多尺度字符统计3. 统计结果可

SpringBoot整合Sa-Token实现RBAC权限模型的过程解析

《SpringBoot整合Sa-Token实现RBAC权限模型的过程解析》:本文主要介绍SpringBoot整合Sa-Token实现RBAC权限模型的过程解析,本文给大家介绍的非常详细,对大家的学... 目录前言一、基础概念1.1 RBAC模型核心概念1.2 Sa-Token核心功能1.3 环境准备二、表结

Go语言中使用JWT进行身份验证的几种方式

《Go语言中使用JWT进行身份验证的几种方式》本文主要介绍了Go语言中使用JWT进行身份验证的几种方式,包括dgrijalva/jwt-go、golang-jwt/jwt、lestrrat-go/jw... 目录简介1. github.com/dgrijalva/jwt-go安装:使用示例:解释:2. gi

go rate 原生标准限速库的使用

《gorate原生标准限速库的使用》本文主要介绍了Go标准库golang.org/x/time/rate实现限流,采用令牌桶算法控制请求速率,提供Allow/Reserve/Wait方法,具有一定... 目录介绍安装API介绍rate.NewLimiter:创建限流器limiter.Allow():请求是否

Go 语言中的 Struct Tag 的用法详解

《Go语言中的StructTag的用法详解》在Go语言中,结构体字段标签(StructTag)是一种用于给字段添加元信息(metadata)的机制,常用于序列化(如JSON、XML)、ORM映... 目录一、结构体标签的基本语法二、json:"token"的具体含义三、常见的标签格式变体四、使用示例五、使用

Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题

《Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题》:本文主要介绍Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未... 目录一、前言二、系统架构检测三、卸载旧版 Go四、下载并安装正确版本五、配置环境变量六、验证安装七、常见