这门分布式 KV 存储系统课程教会了我什么? | 我与 Talent Plan

2024-04-08 02:58

本文主要是介绍这门分布式 KV 存储系统课程教会了我什么? | 我与 Talent Plan,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

作者介绍

张艺文,华中科技大学武汉国家光电实验室直博二年级,主要研究方向为基于新型存储设备的 KV 存储。PingCAP Talent Plan 第二期优秀学员。

距离我从 PingCAP Talent Plan 结业已经过了三个月,这也算是我第一次与企业或者说工业界近距离接触。与 PingCAP 结缘是在去年的六月份,我们实验室发表了一篇有关 KV 方向的论文,众所周知,PingCAP 研发了分布式 Key-Value 存储层 TiKV,同时他们也在寻求各种学术界的优化方案,尝试将这些成果实现到产品中以提升性能。所以在 PingCAP 的崔秋老师和唐刘老师来拜访了实验室之后,我们就顺利地开展了关于 TiKV 的合作。

那么问题来了,我们对 TiKV 并不熟悉。首先,TiKV 虽然也是 KV 存储系统,但它是一个分布式的 KV 系统,而我们研究的主要方向是单机 KV 存储引擎,因此我们需要去补习各种分布式方面的知识;第二是语言的门槛,平时的工作中我们都是 C/C++为主,在了解 PingCAP 之后才接触到 Rust 这门语言,进而了解到 Rust 陡峭的学习曲线,这无疑给我们熟悉 TiKV 又设置了一个阻碍;除此之外,关于 TiKV 的基本结构、各种实现上的技术等等,也是我们的知识盲区,要完全熟悉这个庞大的系统实属不易。而这个时候,Talent Plan 悄然而至,为我们深入了解并掌握 TiKV 打开了一扇窗。

Talent Plan 第一期是去年十一月份开始的,不巧的是那段时间我正忙着实验室的论文任务,没能参加。据说第一期 Talent Plan 因为没有区分线上线下课程,所以把基本语言学习以及后续系统学习课程压缩到了一个月的时间内,学员的学习压力比较大(嘿,还好我是第二期)。我真正参与到 Talent Plan 是在今年的三月份。有了第一期的经验,第二期 Talent Plan 在课程内容上做了很大的升级优化,拆分了线上部分和线下部分。首先我在实验室完成了语言以及基本的 Raft 原理等线上课程,然后再前往 PingCAP 总部学习一个月,专注于系统的学习。这个时间安排更加合理,一定程度也减小了我们的学习压力。在四月中旬,完成线上课程的我动身前往北京,与西工大、武大、中科大以及同一实验室的另一名小伙伴,开始了为期一个月的 TiKV 线下课程的学习。

第一周的课程任务主要是论文阅读,导师们挑选了分布式存储领域的论文带领我们阅读,同时穿插了两堂课,分别是 Rust 入门课程以及 TiKV 架构入门。通过论文以及简单的介绍,我们基本熟悉了主流的几个分布式数据库系统以及基本分布式一致性原理,算是正式进入到 TiKV 的世界。

第二三周开始深入学习 TiKV,从基本的 Read/Write Flow 解析到 TiKV 的部署以及性能测试,同时穿插学习 Raft 基本原理、MultiRaft 实现原理以及 Percolator 事务模型。各位导师由浅至深为我们解析了 TiKV 的各个层次的实现原理,我们也通过实际操作巩固相关的知识,了解到他们究竟在系统中是怎么运作的。

最后一周,我们的任务是综合前面的学习内容,自己实现一个基于 TiKV 的 Redis server,算是整个线下学习阶段的一个总结。

总体来说,完成所有课程以及任务让我们对 TiKV 以及 PD 的原理和实现都有了一个详尽的认识,虽然期间也遇到了各种困难,好在最后还是完成了所有任务顺利结业。在学习过程中,每天下午都有老师来为我们答疑(主要是 zhangjinpeng 老师),学习过程中遇到的问题都能够得到及时的解答,还能进行额外的工业界方面知识的拓展,让从未实际接触过工业界的我们学到了难得的经验。而且每周都有工作人员(此处感谢 linlin 姐)来记录生活学习上遇到的问题,能够得到非常及时的反馈,让我们能够专注于当下的学习。

当然,这也只是 Talent Plan 的第二期,也有不完美的地方。就我的感受而言,首先是课程安排上,语言基础以及 Raft 原理在我们完成线上课程之后基本已经很熟悉了,没有必要再次重复,可以省下来安排给别的课程。其次,我个人感觉线上课程从 Rust 入门到完成最后完成 MIT 的 kvserver 课程,一个月的时间有点紧张(建议小伙伴们尽早开始准备),而且 MIT 的两个课程的测试 case 非常的多,导致大量的时间花在了 debug 上,有点喧宾夺主。相比起来后面 Percolator 的课程感觉很合适,难度适中,完成之后在导师的指导下结合实际应用场景还进行了一些优化拓展。还有一个小问题,课程任务有的时候描述太简单,导致我们拿到题目有点一头雾水,当然每次都能通过及时沟通得到更加详细的说明(笑)。

当然 Talent Plan 也在不断的优化,据我所知,第三期课程已经做了许多改进,上面提到的问题已经得到了优化与解决,后续课程应该也会更加完善。

总的来说,参加 Talent Plan 是一次非常珍贵的体验,一方面是学到了许多的没有接触过的分布式领域的知识,另一方面也结识了来自全国各个高校的优秀的小伙伴以及 PingCAP 的各位厉害的导师,也为我之后来 PingCAP 实习埋下了伏笔。

最后,感谢 PingCAP 各位工作人员以及各位导师的付出与工作,为我们带来了 Talent Plan 这样优秀的活动。

 延展阅读 

我们是如何设计 Golang & SQL 引擎课程的? | Talent Plan 背后的故事

我们是如何设计 Rust & 分布式存储教程的?| Talent Plan 背后的故事

640?wx_fmt=jpeg

这篇关于这门分布式 KV 存储系统课程教会了我什么? | 我与 Talent Plan的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/884388

相关文章

Golang实现Redis分布式锁(Lua脚本+可重入+自动续期)

《Golang实现Redis分布式锁(Lua脚本+可重入+自动续期)》本文主要介绍了Golang分布式锁实现,采用Redis+Lua脚本确保原子性,持可重入和自动续期,用于防止超卖及重复下单,具有一定... 目录1 概念应用场景分布式锁必备特性2 思路分析宕机与过期防止误删keyLua保证原子性可重入锁自动

基于MongoDB实现文件的分布式存储

《基于MongoDB实现文件的分布式存储》分布式文件存储的方案有很多,今天分享一个基于mongodb数据库来实现文件的存储,mongodb支持分布式部署,以此来实现文件的分布式存储,需要的朋友可以参考... 目录一、引言二、GridFS 原理剖析三、Spring Boot 集成 GridFS3.1 添加依赖

Redis实现分布式锁全解析之从原理到实践过程

《Redis实现分布式锁全解析之从原理到实践过程》:本文主要介绍Redis实现分布式锁全解析之从原理到实践过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、背景介绍二、解决方案(一)使用 SETNX 命令(二)设置锁的过期时间(三)解决锁的误删问题(四)Re

Gradle下如何搭建SpringCloud分布式环境

《Gradle下如何搭建SpringCloud分布式环境》:本文主要介绍Gradle下如何搭建SpringCloud分布式环境问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录Gradle下搭建SpringCloud分布式环境1.idea配置好gradle2.创建一个空的gr

C#使用StackExchange.Redis实现分布式锁的两种方式介绍

《C#使用StackExchange.Redis实现分布式锁的两种方式介绍》分布式锁在集群的架构中发挥着重要的作用,:本文主要介绍C#使用StackExchange.Redis实现分布式锁的... 目录自定义分布式锁获取锁释放锁自动续期StackExchange.Redis分布式锁获取锁释放锁自动续期分布式

深入理解Apache Kafka(分布式流处理平台)

《深入理解ApacheKafka(分布式流处理平台)》ApacheKafka作为现代分布式系统中的核心中间件,为构建高吞吐量、低延迟的数据管道提供了强大支持,本文将深入探讨Kafka的核心概念、架构... 目录引言一、Apache Kafka概述1.1 什么是Kafka?1.2 Kafka的核心概念二、Ka

Python FastAPI+Celery+RabbitMQ实现分布式图片水印处理系统

《PythonFastAPI+Celery+RabbitMQ实现分布式图片水印处理系统》这篇文章主要为大家详细介绍了PythonFastAPI如何结合Celery以及RabbitMQ实现简单的分布式... 实现思路FastAPI 服务器Celery 任务队列RabbitMQ 作为消息代理定时任务处理完整

redis+lua实现分布式限流的示例

《redis+lua实现分布式限流的示例》本文主要介绍了redis+lua实现分布式限流的示例,可以实现复杂的限流逻辑,如滑动窗口限流,并且避免了多步操作导致的并发问题,具有一定的参考价值,感兴趣的可... 目录为什么使用Redis+Lua实现分布式限流使用ZSET也可以实现限流,为什么选择lua的方式实现

Seata之分布式事务问题及解决方案

《Seata之分布式事务问题及解决方案》:本文主要介绍Seata之分布式事务问题及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Seata–分布式事务解决方案简介同类产品对比环境搭建1.微服务2.SQL3.seata-server4.微服务配置事务模式1

java如何分布式锁实现和选型

《java如何分布式锁实现和选型》文章介绍了分布式锁的重要性以及在分布式系统中常见的问题和需求,它详细阐述了如何使用分布式锁来确保数据的一致性和系统的高可用性,文章还提供了基于数据库、Redis和Zo... 目录引言:分布式锁的重要性与分布式系统中的常见问题和需求分布式锁的重要性分布式系统中常见的问题和需求