|
|
/ v$ q4 T! x7 s6 W/ Y
; X* n/ q2 i5 T& r/ N
9 ^, W/ ]+ W9 e2 u/ b9 K数据库,成为率先突围的关键技术。
5 F2 W" f! z5 H7 s5 j文 | 华商韬略 熊剑辉+ K2 I# `+ c9 Y( d# ]% y9 B2 n, E
2023年“两会”期间,最新组建的“国家数据局”,引发了人们的特别关注。
- Q; m0 ^" y" D/ V2 `1 i有人认为,它的成立意味着“数字中国”将进入快车道;更有人认定,以数据库技术为核心的数据安全领域,有望迎来“大提速”。2 k# h4 D9 R; B6 y
显然,中国数据库正迈出“关键一步”。8 r- ?) p, p0 c. J! J: h
【从集中式到分布式 数据库革命悄然爆发】
. Y0 u- D7 E3 V作为数字经济的“根技术”,数据库的重要性不亚于芯片。2 r# Q M9 n8 Z- M& c
一切数据,都必须在数据库中奔跑。
7 c) a0 e( ]* \" K人们每天社交、餐饮、游戏、支付、打车等日常活动,离不开各种各样的程序应用。它们的背后,都离不开数据库。
" z) M% d; N ~8 [8 }. i而数据库技术的诞生与发展,即便顺应了时代的召唤,也充满了斗争与艰辛。" `5 i S# y& q1 b) s
上世纪70年代,IBM的天才研究员科德,率先提出关系型数据库的理论、模型,甚至把查询语言SQL也琢磨了出来。2 g# O) I/ S/ ]* N* F
但当时的“蓝色巨人”,沉浸在大型计算机巨大的商业成功里,对数据库软件兴趣寥寥。
7 C& _. W7 x3 H& W结果,“硅谷大忽悠”拉里·埃里森,抓住了逆天改命的机会。1 R y i+ O" J- ^5 ^* P& K
2 @. {+ o( G. o L# ~$ H1 T H7 H" S+ B
( l4 _; j! L( k/ j8 {* F
( i: U( z1 C: H; b他认真研究了科德的论文,觉得极富商业价值,并在1977年创立了数据库公司甲骨文(Oracle)。早期的Oracle相当不靠谱,但在埃里森的巧舌如簧下,美国海军、中情局、国家航天局等一帮“冤大头”,依然为Oracle买了单。$ u/ H5 {! x5 Z! m/ g( H B1 S
( g, L( e$ p1 [' d! N1 C! V8 W: t) Q▲1977年中国第一届数据库年会
6 {; j" H0 f; ?9 t0 v$ z& e# N i8 I+ K \
彼时,神州大地万物复苏,中国计算机学会敏锐把握到了科技的脉搏,在黄山召开了第一届数据库年会。
( E1 v$ y1 z8 D+ u1 N2 d可惜的是,这个时代中国的数据库技术,始终囿于高校和科研机构里。) i& }! ^+ z+ I
但拿到“第一桶金”的甲骨文,很快走上了正轨。) d8 q; Q! R7 D; v
80年代,美国数据库市场迎来井喷,甲骨文的Oracle、IBM的DB2、微软的SQLServer等,如雨后春笋般冒了出来。
" ~- J; Z" g0 H9 z* {$ b, ~产业的风口,让甲骨文迎来了发展的春天。它不但创造了连续12 年销售翻番的奇迹,成长为全球第二大软件公司;连埃里森本人也一度问鼎“硅谷首富”,与比尔·盖茨不相伯仲。 K0 K: \ {$ \9 P# {
不过1996年,诞生在瑞典的免费数据库MySQL,给巨头们带来了一丝挑战。但在霸主甲骨文坚持不懈的猎杀下,2009年MySQL也臣服在甲骨文麾下。7 ]% y5 o! Q! M& }" s& ]
美国的数据库产业在高歌猛进,中国的数据库技术却尘封在象牙塔里。结果90年代,当甲骨文们来到中国,基本是大杀四方的状态。3 V8 }% [* G+ [
1995年,邮电部提出“九七工程”,使得国内第一批数据库企业有了发展的土壤,在少数大学和国家机关得到应用。
2 c8 p% ]3 f' `, f但最终,还是甲骨文乘着工程的东风,接连拿下东北邮电、中国电信等超级大单。' Y6 o8 u1 T& p
至此,中国的金融、电信、航空等领域,逐渐被“IOE”(即IBM的小型机、Oracle的数据库、EMC的存储设备)横扫。6 u! z7 F. {7 z0 @* z, w1 I0 U4 G
据全国人大代表、合肥工业大学应用数学所所长檀结庆调研统计,2020年之前,甲骨文、IBM、微软等巨头把持了87.7%的全球份额,处于绝对垄断地位。
6 L* h- l) T" f关系型数据库统治全球40余年,成就了甲骨文们的黄金时代。# L( }) V! z$ R! V7 U E& g+ m
! E. j/ l2 r; E( g A! ?+ m: ~
" Z+ U7 R g0 b3 }4 n' O5 i3 _0 V. W& N" G+ m! Z
但2008年,时代的洪流突然急转,NoSQL(非关系型数据库)诞生了。
" q" f' C* Z# ?, g3 V3 D驱动这场变革的,是亚马逊、阿里等互联网电商的崛起。0 s: R! X4 o/ N0 |
2009年,淘宝跃升为Oracle全球居前的超级应用集群。但集群的CPU跑得冒了烟,依然抵挡不住“双十一”的超级洪流。
' y! D9 N8 s+ Q0 u与此同时,通信技术不断向3G、4G、5G演进,让图片、语音、视频等非结构化数据,呈现指数级规模的暴涨。
; m: t, S' Q1 V6 l. f- r0 G战无不胜的Oracle,怎么就扛不住了?这来自于关系型数据库和非关系型数据库的区别。5 |* d* L& r3 }3 d! {* K+ n& r
我们可以把关系型数据库,看成一家“火锅店”。在Oracle支持下,它每天能招待1000位客人,很不错了。! q. t; r5 \: _
但现在,店里突然涌进了1000万客人。他们不但要吃火锅,还要泡温泉、做美甲、放烟花、坐过山车……
5 W, Z$ F5 \& p5 y) z6 l& `在天量的、爆发式增长的非结构化数据面前,传统的关系型数据库的天花板被冲破了。. N3 M$ v c8 M
“火锅店”,必须升级成云端的超级“游乐场”。" f) E& [- A N" @5 y$ J- J
于是,一场由关系型向非关系型、由集中式向分布式转型的数据库革命,爆发了!
8 O8 r" e% E# T; Z+ w$ u在分布式数据库的世界里,数据库不会再集中于单机或一地,而会将查询、存储、事务管理等核心功能,扩展到多机或多地。
: O; `8 H3 w0 X8 r" Q于是,200万人在A区吃火锅,300万人在B区泡温泉,400万人在C区做美甲……6 R% F, x# E$ b( l8 h. V+ g
另外,云计算还能通过存算分离、弹性分配等手段,打破资源瓶颈,让分布式数据库自由伸缩、无限扩展。
% I3 l( v9 z) o$ P& {也就是说,哪怕“游乐场”突然闯进1亿人,分布式数据库“遇强更强”,照样能铺开。
4 d: z3 F3 l7 B$ d. ~这是传统的关系型数据库,根本无法比拟的。
% p7 t: r% }9 B/ g. S3 A) s因此在Gartner看来,云化、分布式数据库将主导未来,引领数据库技术的新趋势。预计2023年,75%的数据库会运行在云端;2024 年,全球数据库市场规模突破千亿美元,分布式数据库将成为最主要的市场增量。* @. ~5 x3 {6 s9 k" A. \" V
如今,再造一个Oracle,做不到也没必要。云化、分布式数据库,成为中国数据库“换道超车”的唯一机会。
& |& \# V! G6 }3 Z: i. q& d【率先破局的关键技术 造就数据库断代史】5 G& J" s8 v1 r
机会永远属于敢于破局的人。& x- F o# B) A
2022年4月,中国邮政储蓄银行(以下简称“邮储银行”)的新一代个人业务分布式核心系统成功上线。9 V0 V" W0 |2 G( E. e, f2 P
这一出手,就建成了全球最大的银行分布式新核心系统。其中,华为云GaussDB功不可没。4 g8 v* E( P+ X5 N% l
众所周知,核心系统是银行的“大脑”和“心脏”,不但承担至关重要的任务,而且在亿万次存储、计算中不容丝毫闪失。
; y, V. m' @9 \" j8 _以往,这是只有Oracle才能染指的“禁区”。
, F$ d- L3 y/ t& q邮储银行的老核心系统,使用的正是关系型、集中式Oracle数据库。但伴随金融服务在线化,交易频次越来越高,容量瓶颈、性能支撑、业务负载的挑战越来越大。一旦碰到交易高峰,系统资源缺乏弹性,拥堵成了家常便饭,严重影响用户体验。
3 O. ?; T3 y4 H- w如今,以华为云GaussDB等为代表的中国分布式数据库打破了这个“铁律”。
7 [. g [8 C- a3 n' E新系统上线后,邮储银行一举实现日均20亿笔、峰值6.7万笔/秒的超强交易处理能力。即便面对6.5亿客户、4万多个网点的数据冲击,依然游刃有余。, r$ K) p; }+ i% _6 l- T. O: N3 r
全天联机平均耗时从93毫秒减少到65毫秒,批处理时间从4.5小时缩短到3小时,较老核心系统提升30%以上性能。
- B" Z, E0 X3 [. J2022年三季度,邮储银行迎来结息大考。过去耗时140分钟的任务,新核心系统仅用25分钟完成,性能、效率大幅提升,充分验证了中国数据库在安全可控上的承载能力。5 S1 B( w/ k% w# w- K
实际上,在海量数据、任务并发的情况下,要实现数据处理“不出错”,是一件非常非常困难的事情。
0 P- h- a8 Q8 N! r: r# l这就像在1000万人涌动的“游乐场”里,要求游客不踩掉鞋、不走丢人、不传错菜。
6 }! l' A4 D4 F听起来,这是一个几乎不可能完成的任务。! N8 X, G1 a$ z6 Y$ y" ]
但在银行、电信、电力、航空等系统中,就是苛求“不出错”、“稳定压倒一切”。
9 ]8 ]) q( g6 g9 e; ?& ?$ E/ v% z华为云GaussDB做到了。0 W& l0 N& o; m7 b! Y, N9 S
% N( H+ Q& S( {; b% Z
, r+ o4 u3 W j# U
+ q7 F6 S! H3 Y2 n7 J' u% D
2022年,中国首个数据库行业最高安全认证-国际CC EAL4+,花落GaussDB;同年,高分通过北京国家金融科技认证中心的“分布式数据库金融标准验证”测试。
( d* G; d# l A- Z6 S与此同时,GaussDB再次通过中国信通院防篡改、智能化、分布式事务基础能力三大专项严苛评测。+ `6 ?7 _* V4 k8 y! x! D
所谓防篡改,就是在极端情况下,数据库依然要具备识别风险、防止篡改、备份还原的能力。
& ?2 {- u. ?7 V所谓智能化,就是数据库不但要提供智能运维,而且通过趋势预测算法,帮管理者智能决策、推理预警,让系统更加安全可靠。
+ y4 r! v8 U7 q) M; ^所谓分布式事务型数据库基础能力,就是一旦出现大规模数据需求,数据库要能迅速反应,就近调集分布式的CPU、内存、存储等系统资源,高效处理海量数据的能力。
5 O1 _0 ]' r" i+ ]5 N6 m, S8 w- o如此强悍实力的背后,则是华为云GaussDB在全球范围内累计获得的700多件专利,在提供有力的支撑。, P% c) D7 M& R% L- O7 G, X' j' b
即便在数据库综合要求最严苛的金融业,GaussDB在包括工商银行、邮储银行、建设银行、华夏银行等规模落地,以及拥有永安保险、甘肃医保、一汽集团等重点行业客户。- t6 S( p0 S1 P
华为云GaussDB的崛起,同步带动了中国自研数据库影响力的提升。
: f* J) v' J B, ?# ^4 \# b# ?# f. uIDC发布的《2021年上半年中国关系型数据库软件市场跟踪报告》显示,在传统部署模式市场中,华为、阿里、达梦、人大金仓的市占率,分别为14.7%、5.7%、5.7%、5.0%。
8 F$ D; U9 N1 ?; n$ i
1 e/ M+ z) p% ^% f1 E/ z0 S
% z! x7 g& p. W; O( X4 v, `! a! N- d6 D C/ b$ z3 H
在IDC最新发布的《2022年上半年中国关系型数据库软件市场跟踪报告》中,在本地部署模式市场中,华为云数据库凭借GaussDB以16.59%的份额排名国内第一。自2020H1以来,GaussDB已经连续五次蝉联第一,在国内关系型数据库市场持续领跑。7 p9 M) G& `7 @' s
今天,中国的分布式数据库正趋于成熟,获得市场认可。只要假以时日,就有望在时代的大潮中崛起。' o8 z, F' j% d
【积于跬步,方能行至千里】
5 D9 J* b8 V6 E. T6 ^$ _数字时代的蓬勃发展,也将中国的分布式数据库不断推向前台。8 Y* U5 K, y% J9 a3 v$ s4 E
IDC数据显示,全球每年的数据量呈现爆发式增长,预计从2018年的33ZB增至2025年的175ZB。* z5 n, K! [$ b( k* \ I
中国的数据量增速更领跑全球,预计从2018 年的7.6ZB猛增至2025年的48.6ZB。
/ l* A. s2 r# s/ S5 U' n数据的计算载体,早就从大型机、小型机、PC,演变成云、边、端的联网计算,高并发、低时延的交互计算。
8 k& d4 T0 z" |% G/ H面对这样的未来,华为云GaussDB早有准备。
- a) v9 e3 }* {! u比如,大部分云数据库,只能在数据的传输态、存储态中进行加密。
( M: _' ]7 r0 Q' P3 ?, X, n而华为云GaussDB却实现在内存中的运算态加密,从而成为业界第一款纯软全密态的数据库,实现了对数据全生命周期的完整保护。4 d8 u- \. G, D$ ?$ ~9 t5 ~
, e2 o- c$ c! C) {# ~7 w
6 N$ [" h; [4 i Z+ F; @1 a4 C
: K1 q9 C" g3 g' N- h另外,在原生分布式数据库领域,中国数据库也更顺应企业的诉求和发展的趋势。- l O) |7 x: p% @: a% M: u
比如有的互联网企业,坐拥海量数据,极易患上数据库性能不足“恐惧症”。7 \" |4 Z4 Y8 H
但华为云GaussDB,直接打通了软硬件“任督二脉”,将数据库性能发挥到极致。
g0 Y. b5 Q9 ^8 G7 h硬件上,GaussDB拥有鲲鹏处理器的多线程、原子指令、SCM的字节寻址持久化等能力;软件上,又实现了动态编译、SQL By Pass等。0 A" q4 u" n, |: E* }: A J9 P
于是,基于鲲鹏两路服务器,GaussDB 32节点处理能力达到了惊人的1500万tpmC(即每分钟系统处理新订单个数),百亿数据量查询“秒级响应”。5 D; h. ^1 E& n. o) h u
有的企业,依然对数据迁移心存顾虑,担心到最后才发现数据库不合适。' T4 y( K" {3 i2 @ |
对此,GaussDB开发出一系列强悍的迁移工具。如数据库迁移工具UGO,实现了异构数据库对象和应用迁移,语法转化率达90%以上;数据在线迁移工具DRS,可实现数据的在线迁移、数据校验。
( z- z, _: V# z; v6 P8 C/ T; ?# l此外,由于是“自己人”,GaussDB完全能够为企业量身打造“数据库架构+应用+数据”一体化的迁移方案。
4 J9 B/ \ `! \) L1 P4 M2 u这才是以华为云GaussDB为代表的中国数据库真正的机遇所在。) U, t0 ?% R) ?* \3 l: X8 N
而伴随大国崛起,国人对中国数据库更应该抱有一种开阔、包容、自信的气度。6 C" ~6 i0 ^- {) ]( e9 N: ], O) p: L
因为历史证明,好数据库是用出来的。: d! @9 j x6 W; Q7 n
1978年,Oracle在美国第二次石油危机引发的“滞胀”下诞生,草创之初Bug频出、骂声一片。美国海军、CIA、NASA硬是顶着“被骗”的压力,让Oracle闯过了生死关。+ n% a; t% E0 ~3 ~1 B
此后,又经过全球用户40多年不断的实践、反馈、打磨、培训,Oracle才拥有了成熟、稳定的口碑。
" y @( U2 k' r* `2 j$ d5 \显然,中国数据库不可能一夜成熟,也必然要经历漫长打磨的过程。但只要今天播下宽容、创新的种,对襁褓中的中国数据库多采购、多使用、多呵护,明天才能收获卓越、成熟的果。
% b" k5 T: s0 e& i# Y" A积于跬步,方能行至千里。
8 R; Z. Z' s' ?6 q- W1 C在新一轮科技革命的大潮中,这条漫漫长路显然才刚刚开始。: }$ Q5 i8 I$ s) G
欢迎关注【华商韬略】,识风云人物,读韬略传奇。
, h% a# W9 A1 I4 V版权所有,禁止私自转载
, s2 ~9 r/ v# {; c( x- e- f; Z, F$ o部分图片来源于网络
1 J# C% w: V5 X( a; y5 b9 I# ]7 ~如涉及侵权,请联系删除
! ]" t1 N }2 ?! ^ |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|