【大厂内参】第8期:8大场景系列玩转数仓运维,做个不秃头的dba-4008云顶国际网站

华为云社区精选 发表于 2021/03/31 16:22:19 2021/03/31
【摘要】 为了让dba们通宵加班找故障将成为过去式,减少运维工作量,我们针对华为云gaussdb(dws)的运维整理了八大系列内容,帮您解决数仓和应用技术转型中遇到的实际问题,让dba玩转数仓运维“不秃头”。


  每一个奋斗在前线的dba似乎运气都不太好,他们都经历过的诡异事件大概率是:逢年过节必出故障。眼看着要放假了,又接到故障通知,只好通宵加班找问题。没问题的时候可能大家都不会想到你,一出问题就先拿运维试问,于是每逢佳节便出现拜数据仓库的戏谑图片。
  为了让dba们加班找故障成为过去式,减少运维工作量,我们选取容灾、负载管理、数据上云等典型运维场景,围绕华为云gaussdb(dws)多源数据融合分析、计算/存储资源规划、业务连续性的数仓高可用等核心技术,流式数据入库、集群管理、时区调整、扩容等运维技巧,帮助您解决实际业务运维场景中遇到的问题,让dba玩转数仓运维“不秃头”。

负载管理:让“笨”的数仓“聪明”起来

  从四个核心技术为你解密,gaussdb(dws)负载管理功能如何做好计算/存储资源的划分,让你的数仓“聪明”起来。

  
  
  
  

保障业务连续性,gaussdb(dws)高可用有妙招

  gaussdb(dws)所有内部组件cn、dn、gtm、cm等采用多活或主备设计,通过集群管理进行故障检测和切换。在硬件层面,除了最基本的宕机、断网的直接故障外,gaussdb(dws)还针对夯死、慢节点、亚健康等僵而不死的复杂场景,做了大量的建模和针对性优化,能够实现故障的准确探测和自愈。并且还提供了双集群容灾能力,通过跨az、跨region的物理复制,实现异构集群容灾。

  
  
  
  
  
  

全方位案例解读数仓数据融合

  gaussdb(dws)采用一套sql引擎,支持oracle、mysql、hdfs等多源数据融合分析,并通过算子下推、加速集群等技术对分析性能进行了大幅优化,在数据免搬迁的前提下,实现了跨源数据免搬迁、高效分析。

数据上云是趋势,dba掌握云端运维是关键

  数仓未来是云,越来越多企业面临数仓和应用技术转型,云端运维成数仓运维需要掌握的核心。dws提供了简单易用的web管理控制台,帮助您快速创建数据仓库集群,轻松执行数据仓库管理任务。

手敲代码实践展示gaussdb(dws)流式数据入库的三种方式

  随着金融风控,以及iot场景对数据实时处理分析的诉求,dws实时数仓时序数据单机入库性能达10w/s,流数据达60w/s,并能够线性扩展,并且gaussdb(dws)流式数据可通过python、c和java三种接口,让入库全程无忧。

[数仓性能调优从掌握最基本命令开始,十八般武艺轻松搞定数仓性能调优]

  数仓性能调优是数仓应用开发和迁移过程中的关键步骤,在整个项目实施过程中占据很大的份量。它没有明确的衡量标准和对错之分,考验的是资深一线技术人员的隐式技能。开发者可通过该系列文章了解数仓的基本原理,然后结合调优思路,对各个调优技巧进行深入的学习。

  数仓性能调优必读:从系统级到sql级,带你进阶为性能调优高手

一手掌握gaussdb(dws)集群运维

  gaussdb(dws)现网运行的pb级数据量以上的大集群已经有10 个,最大商用单集群规模达到240节点。在产品能力上,gaussdb(dws)可扩展至2048节点,并且该规模在12月已通过信通院的权威评测。另外,还实现了逻辑集群特性,一套物理集群可针对不同业务划分多个逻辑集群,数据相互隔离,支持跨逻辑集群的计算资源调动。通过逻辑集群,可以进一步扩展集群的规模。该系列从基本概念到核心功能,带你了解集群管理、通信等方面的应用之道。

  
  
  

这份gaussdb(dws)基础运维知识,你要收藏

  从理论到升级案例,带你掌握gaussdb(dws)升级、扩容面临的疑难问题。

  
  
  

  数字化浪潮汹涌而来,在5g、云、ai加持下,数仓不断升级演进,激发千行百业的创新和数字化转型。企业dba更应该从传统的“数据保管人和数仓守护者”角色进行转变。在数仓的易操作、便捷维护等基础上,dba需要更多地理解业务,用数据回答来自业务方面的诉求,而不仅仅是维护数仓的健康稳定运行,这真的是dba们的机遇所在。

本合集为《大厂内参》008期,欢迎大家持续关注。


大厂内参

根据开发者普遍关注的热门技术领域,汇编实践精华内容。从业务场景选型,应用案例分析,到前瞻趋势预测。以专题的形式,深度解读华为云核心技术,分享一线工程师的实战经验。


【第一期】敏捷&devops:80 篇实践干货分享,深度解读敏捷&devops如何革新软件开发

【第二期】数据库:从数据库科普到核心技术解读、上云案例分享,全方位剖析云数据库

【第三期】云服务器:

【第四期】人工智能:海量实战经验教你零门槛进场ai开发,无成本负担玩转ai应用

【第五期】云原生:读懂云原生2.0,看它如何重塑业务开发架构

【第六期】云安全:get防范云安全的必杀技,学会构建云上完整安全体系

【第七期】物联网:“端边云”iot全栈技术大揭秘,开发实战指南带你轻松上手iot

【4008云顶国际集团的版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。