华为云企业级redis揭秘第七期:高斯redis与强一致-4008云顶国际网站
清明刚过,五一假期就要来了。大好春光,不如去婺源看油菜花吧!小云迅速打开app刷出余票2张,赶紧下单!唉,怎么又没抢到!转念一想倒也能理解:从勾选乘车人到正式下单,起码要10秒,真若是“见者有份”,恐怕这两个座位大家要挤挤共用了!每逢节假日,全国几百万小伙伴同时查票订票,12306是如何保证余票显示准、车票不超卖的?
于是,按捺不住好奇心,笔者进行了一番深入研究。原来,问题背后隐藏着一个分布式数据库领域极其关键的技术——数据强一致性保障。
在介绍概念之前,我们不妨先来模拟一场球赛直播。
假设笔者做了一款app,后台使用上图的主从数据库。比分写入主节点,从节点分担用户查询。比赛中,alice惊呼比赛结束,bob闻声刷新app,却显示比赛仍在继续!bob体验到了明显的数据不一致,于是默默给app打了个差评……
那么,产生不一致的原因究竟是什么?
异步复制时,主节点不等待从节点写入就直接返回了。由于网络延迟等原因,从节点无法保证更新时间。alice和bob明明在同时同地查询同一系统,得到正确结果却有先有后。其实这就是典型的弱一致性。
实际上,为解决单点故障、增强吞吐性能,分布式数据库内部都会对同一份数据进行复制,把冗余副本分散保存到不同节点上。简单的异步复制只能构建出弱一致系统,很难满足业务要求。
那么,究竟什么样的一致性才靠谱?有哪些类别?下面我们就来认识这个神秘家族!
1.1 强一致性/线性一致性(linearizability)
一致性的最高标准,实现难度最高。核心要求是:一旦写操作完成,随后任意客户端的查询都必须返回这一新值。以下图为例,一旦“写入b”完成,必须保证读到b。而写入过程中,认为值的跳变可能发生在某一瞬间,因此读到a或b都是可能的。
从业务角度来说,强一致性带来的体验简直可以用丝滑来形容!因为它内部的数据“仿佛”只有一份,即使并发访问不同节点,每个操作也都能原子有序。正因如此,强一致数据库在业务架构中往往被用在关键位置。
etcd是强一致俱乐部里的元老。它基于raft共识算法,真正实现了强一致,也因此在leader选举、服务发现等场景起到重要作用。gaussdb(for redis)作为一款分布式云数据库,凭借多年潜心打磨,也是强一致的代言人。
1.2 顺序一致性(sequential consistency)
弱于线性一致,不保证操作的全局时序,但保证每个客户端操作能按顺序被执行。下图中,a先写x=10,后写x=20;b先写x=99,后写x=999。当c读取时,顺序一致性保证了10先于20被读到、99先于999被读到。
zookeeper基于zab协议,所有写操作都经由主节点协调,实现了顺序一致性。
1.3 因果一致性(causal consistency)
进一步放宽要求,只对并发访问中具有因果关系的操作保序。例如:
a写入3,b读到后乘以100再更新它。在这个场景下,由于“a写入3”与“b写入300”有着明确因果关系,因果一致性保证300晚于3被读到。
因果一致性多用于各种博客的评论系统、社交软件等。自然,我们回复某条评论的内容,不应早于评论本身被显示出来。
1.4 最终一致性(eventual consistency)
停止写入并等待一段时间,最终所有客户端都能读到相同的新数据,但具体时限不作保证。许多分布式数据库满足最终一致性,如mysql主从集群等。
然而,这其实是一个非常弱的保证。由于不确定系统内部过多久才能收敛一致,在此之前,用户随时可能体验到数据不一致。因此最终一致性有天然的局限性,经常会给业务逻辑带来混乱。
1.5 弱一致性(weak consistency)
说它最为“厚脸皮”也不为过,因为它连数据写入后将来被读到都不能保证!弱一致性实现技术门槛低,应用场景也不多。严格来说,单纯的开源redis主从集群就属于这一类别。
ok,一致性家族的各位成员已经跟大家打过照面。显然,一致性越强的数据库系统,能够支撑的业务场景越多。有的业务同学小声说,强一致技术再牛,可我业务简单,不用也没关系吧。实际上恰恰相反:
强一致不仅仅是技术问题,它更是一个不可忽视的业务需求、运维需求!
接下来我们就先来聊一聊:业务上那些只有强一致才能搞定的事儿!
2.1 计数器/限流器
计数服务是典型的强一致应用场景。电商在秒杀活动中,往往会搭建redis主从集群给下层mysql做缓存。因为要抗住超大流量,需要redis的计数器功能做限流。简单讲,我们初始化counter=5000。随后每次业务访问都执行decr命令,当counter归零就阻塞后续请求。此外,每隔一个时间段重置counter=5000,通过这样的手段来实现“细水长流”。
然而,完美的假设还不够!
开源redis采用异步复制,如遇网络不畅,经常发生主节点复制buffer堆积。这将导致从节点counter偏大很多。此时,一旦主节点宕机,切换到从节点继续执行decr命令,压力很容易超出阈值,全部落到下层脆弱的mysql,随时可能引起系统雪崩!
因此,在限流场景下,只有真正的强一致才能提供可靠的计数器。
2.2 leader选举
当业务部署的节点较多、可用性要求高时,往往要用到leader选举。etcd作为强一致kv存储,能完美cover这一场景。etcd依赖两大功能实现leader选举:
1)ttl:给key设置有效期,到期后key自动删除。
2)cas:对key的原子操作。(这一功能只有强一致数据库才能实现)
使用etcd搭建leader选举服务的设计如下:
1)约定key,用于选举时抢占。其value用于保存leader节点名称。
2)约定ttl,用于给key设定有效期。
3)启动时:每个参与节点尝试cas create key&设置ttl。在etcd集群强一致cas机制保障下,只有一个节点能执行成功。该节点成为leader并将名称写入value;其余节点成为follower。
4)运行中:每个节点定期ttl/2尝试get key,将value与自身名称对比:
- 如相同,说明已是leader,此后只需每隔ttl/2刷新key的ttl即可。
- 如不同,说明是follower,接下来要每隔ttl/2执行cas create key&设置ttl。
5)当leader节点异常退出,无法刷新ttl,key会很快过期。此时,其余follow之中便会有新的leader产生。
从原理上能看出,强一致能力是leader选举的根基。类似的“刚需”业务场景还有很多,强一致不可或缺。
好了,业务上的事儿就聊到这里,接下来让我们听听运维怎么说。
3.1 辅助组件架构复杂、问题难定位
后台架构中,mysql主从热备也是常见的部署方式。由于数据保存在本地磁盘中,当主库发生严重故障,仅仅依靠mysql自身同步机制,主从切换后无法保证所提供数据与之前状态完全一致。于是出现了“重量级”的辅助组件——mha(master high availability)。我们来看一下它的部署方式:
mha负责在故障转移过程中,帮助从库尽量追平主库最新状态,提供近似一致的数据。但这一能力需要额外的manager节点,同时还要在每一个mysql节点上部署node服务。故障切换时,manager先为从库补充落后的数据,再通过切换vip恢复用户访问,过程可能长达数十秒。
这样的ha系统部署和后期维护都很复杂。如未能顺利执行故障切换或发生数据丢失,运维面临的场面都将很棘手。其实运维同学何尝不希望手中的系统稳定运行呢?要是数据库自身能提供强一致保障,何苦再依赖复杂的辅助组件!
读到这里,对强一致的看法,相信各位读者心里已经有了自己的一杆秤。让我们再一次划重点:
强一致不仅仅是技术问题,它更是一个不可忽视的业务需求、运维需求!
从产品选型角度出发,开源redis提供的一致性保证很弱。而etcd虽有强一致能力,但它单点写入性能不足,也未能提供hash、sorted set、stream等诱人的数据结构……纠结!
此时,有追求的读者会说——我全都要!
gaussdb(for redis)应声而起——我,可以。
自设计之初,gaussdb(for redis)(后文简称高斯redis)给自己的定位就是“强一致kv数据库”,因此彻底摒弃了开源redis的异步复制机制。借助华为云gaussdb系列先进的“存算分离”架构,将全量数据下沉到强一致存储层(dfv pool),从核心技术上超越了传统开源产品的极限。
让我们来一起认识一下高斯redis的强悍:
- 用户购买的实例作为一个整体,提供强一致kv存储。
用户业务统一通过proxy集群接入高斯redis,不用考虑内部复杂逻辑。多点并发访问实例,读写操作满足强一致性,再也不必担心开源redis异步复制的不一致隐患。
- 计算层智能处理数据分片、动态故障转移,将数据全量下沉到共享存储池。
cfgsvr集群统一管理shardserver节点,自动对海量数据进行分片。并能够在故障场景实现秒级接管,严格防止任何中间态下的数据不一致。
- 存储层通过rdma高速网络实现高性能分布式数据持久化,三副本冗余保证强一致、零丢失。
dfv pool是强一致、高性能的分布式存储系统。这是华为内部自研的公司级data lake,它能够稳定支撑各类全栈数据服务。高斯redis突破了开源redis“小格局”的内存架构,将数据全量下沉,基于dfv pool强大的一致性保障能力,给用户业务带来更广阔的拓展空间。
试想,当处在关键位置的数据库“不给力”,业务层就要忙于为系统添加复杂、易出错的一致性保障逻辑。与此同时,运维还要时刻担心故障引发的数据落后问题......这样的系统真的“香”吗?
专业的事情交给专业的团队来做!
华为云nosql航道旗舰——gaussdb(for redis)自研发初期就持续关注数据强一致性设计。借助gaussdb系列先进的强一致存储池dfv pool,gaussdb(for redis)始终如一,为用户提供真正强一致的海量kv存储4008云顶国际网站的解决方案。
本文作者:华为云数据库gaussdb(for redis)团队
杭州/西安/深圳简历投递:yuwenlong4@huawei.com
gaussdb(for redis)产品4008云顶国际网站主页:
更多技术文章,关注gaussdb(for redis)官方博客:
https://bbs.huaweicloud.com/community/usersnew/id_1614151726110813
- 点赞
- 收藏
- 关注作者
评论(0)