|
|
8 }# \* |) Q4 F$ f5 E+ T6 j
8 M& q; s+ x e$ d' e. c
8 n$ y: O! O3 v0 J$ z: D数据库,成为率先突围的关键技术。0 T! b2 G7 @. z# h0 r! ?- k$ M
文 | 华商韬略 熊剑辉
$ }# Q: ^8 c1 c- h$ [2 u- x0 \+ g2023年“两会”期间,最新组建的“国家数据局”,引发了人们的特别关注。
0 u7 V0 s4 K" R有人认为,它的成立意味着“数字中国”将进入快车道;更有人认定,以数据库技术为核心的数据安全领域,有望迎来“大提速”。
5 P2 n a3 a& B) c% x9 K$ h显然,中国数据库正迈出“关键一步”。
2 s# w3 P9 O5 ^% O6 a【从集中式到分布式 数据库革命悄然爆发】# C% S9 J% i% P3 ]; Q5 X
作为数字经济的“根技术”,数据库的重要性不亚于芯片。
1 s5 O' y: ]$ \* A. H" n7 d' Z一切数据,都必须在数据库中奔跑。' S' d8 N. ?9 v& M1 H0 ~& P. F3 M
人们每天社交、餐饮、游戏、支付、打车等日常活动,离不开各种各样的程序应用。它们的背后,都离不开数据库。0 L: \# j5 l" t8 t1 d
而数据库技术的诞生与发展,即便顺应了时代的召唤,也充满了斗争与艰辛。
) Y5 g$ `; i7 d7 |1 ]- K5 P上世纪70年代,IBM的天才研究员科德,率先提出关系型数据库的理论、模型,甚至把查询语言SQL也琢磨了出来。1 L7 P8 w, r+ L' [" I/ M
但当时的“蓝色巨人”,沉浸在大型计算机巨大的商业成功里,对数据库软件兴趣寥寥。2 p$ F* Y5 z7 c
结果,“硅谷大忽悠”拉里·埃里森,抓住了逆天改命的机会。
7 D* c' @' h: }
; k- W, u3 C' M' [# H% f1 N/ v* M2 S- Q" |8 f' o! N! ?" z4 ]# ?
Q+ J* P3 J3 S0 m1 e
他认真研究了科德的论文,觉得极富商业价值,并在1977年创立了数据库公司甲骨文(Oracle)。早期的Oracle相当不靠谱,但在埃里森的巧舌如簧下,美国海军、中情局、国家航天局等一帮“冤大头”,依然为Oracle买了单。. {' ]) i- l8 U
* s- _, q' M8 b0 ]. q▲1977年中国第一届数据库年会
) D, y" n; i; f0 T# }* H0 M L) R5 c9 R: Y7 e8 H m% L) C
彼时,神州大地万物复苏,中国计算机学会敏锐把握到了科技的脉搏,在黄山召开了第一届数据库年会。
+ ]* _1 d4 u( K4 ?/ ?, k! ~可惜的是,这个时代中国的数据库技术,始终囿于高校和科研机构里。
$ E6 R- ?1 P3 Q& W5 }但拿到“第一桶金”的甲骨文,很快走上了正轨。
7 [$ n% D) _, Q: Q1 r, T2 u80年代,美国数据库市场迎来井喷,甲骨文的Oracle、IBM的DB2、微软的SQLServer等,如雨后春笋般冒了出来。
$ C4 g3 Y$ w3 _/ d! S& i产业的风口,让甲骨文迎来了发展的春天。它不但创造了连续12 年销售翻番的奇迹,成长为全球第二大软件公司;连埃里森本人也一度问鼎“硅谷首富”,与比尔·盖茨不相伯仲。3 l: d: C" A. x: t; W2 G) I
不过1996年,诞生在瑞典的免费数据库MySQL,给巨头们带来了一丝挑战。但在霸主甲骨文坚持不懈的猎杀下,2009年MySQL也臣服在甲骨文麾下。. g# _! P6 @/ c S, ^
美国的数据库产业在高歌猛进,中国的数据库技术却尘封在象牙塔里。结果90年代,当甲骨文们来到中国,基本是大杀四方的状态。; A5 k8 X K+ L' L- q0 s# M
1995年,邮电部提出“九七工程”,使得国内第一批数据库企业有了发展的土壤,在少数大学和国家机关得到应用。
( X3 ]9 t7 Y4 X% I0 T% a但最终,还是甲骨文乘着工程的东风,接连拿下东北邮电、中国电信等超级大单。
: V0 H1 x! S$ }% I% s至此,中国的金融、电信、航空等领域,逐渐被“IOE”(即IBM的小型机、Oracle的数据库、EMC的存储设备)横扫。2 e* s& _8 K( D# `2 e" ~0 Z* V
据全国人大代表、合肥工业大学应用数学所所长檀结庆调研统计,2020年之前,甲骨文、IBM、微软等巨头把持了87.7%的全球份额,处于绝对垄断地位。
% ?# N0 X0 [) E% y. h关系型数据库统治全球40余年,成就了甲骨文们的黄金时代。) H4 K5 h+ t% X
6 \! P/ i4 ^" P0 \$ c
$ r c3 g' P4 @% T# f# U
9 j7 t: g7 e0 r6 B1 C1 z/ `$ T1 n但2008年,时代的洪流突然急转,NoSQL(非关系型数据库)诞生了。) B, c T* M! N, b
驱动这场变革的,是亚马逊、阿里等互联网电商的崛起。8 h. M x3 }8 @
2009年,淘宝跃升为Oracle全球居前的超级应用集群。但集群的CPU跑得冒了烟,依然抵挡不住“双十一”的超级洪流。% W: t- p+ S6 {+ d5 S: w1 l
与此同时,通信技术不断向3G、4G、5G演进,让图片、语音、视频等非结构化数据,呈现指数级规模的暴涨。1 y3 m U! v9 }( z4 h
战无不胜的Oracle,怎么就扛不住了?这来自于关系型数据库和非关系型数据库的区别。
# d" {. f6 B8 H/ X4 K. O1 W& D我们可以把关系型数据库,看成一家“火锅店”。在Oracle支持下,它每天能招待1000位客人,很不错了。) d) p/ J) ^2 r! L# |1 g p
但现在,店里突然涌进了1000万客人。他们不但要吃火锅,还要泡温泉、做美甲、放烟花、坐过山车…… z: |8 h: c0 r9 d/ _. C0 t# G- s8 A4 d
在天量的、爆发式增长的非结构化数据面前,传统的关系型数据库的天花板被冲破了。. @, \0 S$ c5 P) S
“火锅店”,必须升级成云端的超级“游乐场”。
0 e* Y) m- j! E0 u于是,一场由关系型向非关系型、由集中式向分布式转型的数据库革命,爆发了!3 W( `( [4 F/ }5 g( a" t* C7 b
在分布式数据库的世界里,数据库不会再集中于单机或一地,而会将查询、存储、事务管理等核心功能,扩展到多机或多地。7 y* e5 T% {, ]% a% P; Y# h# s4 \
于是,200万人在A区吃火锅,300万人在B区泡温泉,400万人在C区做美甲……& I |( M6 s V) `
另外,云计算还能通过存算分离、弹性分配等手段,打破资源瓶颈,让分布式数据库自由伸缩、无限扩展。! I Q1 A8 F* }5 ]6 b( H
也就是说,哪怕“游乐场”突然闯进1亿人,分布式数据库“遇强更强”,照样能铺开。: ~3 d/ X+ Y+ L
这是传统的关系型数据库,根本无法比拟的。! i N" z: r' _7 j) f
因此在Gartner看来,云化、分布式数据库将主导未来,引领数据库技术的新趋势。预计2023年,75%的数据库会运行在云端;2024 年,全球数据库市场规模突破千亿美元,分布式数据库将成为最主要的市场增量。
2 d( L& X& d! }如今,再造一个Oracle,做不到也没必要。云化、分布式数据库,成为中国数据库“换道超车”的唯一机会。
- e4 {- e' ~: C1 ?( R【率先破局的关键技术 造就数据库断代史】$ Z6 C1 Q5 n0 F% ^: J( w% Q' y! O' V1 f& D% X
机会永远属于敢于破局的人。
, J f( I/ r8 l! a1 d2022年4月,中国邮政储蓄银行(以下简称“邮储银行”)的新一代个人业务分布式核心系统成功上线。
! g5 m4 p j( x9 p! Q这一出手,就建成了全球最大的银行分布式新核心系统。其中,华为云GaussDB功不可没。
. n$ ]4 e3 W# p" H. A. q6 L众所周知,核心系统是银行的“大脑”和“心脏”,不但承担至关重要的任务,而且在亿万次存储、计算中不容丝毫闪失。" K" {/ Z; u0 G1 f) E5 \, b
以往,这是只有Oracle才能染指的“禁区”。" ]/ p! h- Z- ^' Y
邮储银行的老核心系统,使用的正是关系型、集中式Oracle数据库。但伴随金融服务在线化,交易频次越来越高,容量瓶颈、性能支撑、业务负载的挑战越来越大。一旦碰到交易高峰,系统资源缺乏弹性,拥堵成了家常便饭,严重影响用户体验。
* t5 V$ j0 U% i2 t- b: L如今,以华为云GaussDB等为代表的中国分布式数据库打破了这个“铁律”。
3 ~! ~3 [5 q2 o& x1 I新系统上线后,邮储银行一举实现日均20亿笔、峰值6.7万笔/秒的超强交易处理能力。即便面对6.5亿客户、4万多个网点的数据冲击,依然游刃有余。
) U4 Y9 F5 m- \! \. G$ S- w3 e全天联机平均耗时从93毫秒减少到65毫秒,批处理时间从4.5小时缩短到3小时,较老核心系统提升30%以上性能。
d# q9 `6 R. b) K2022年三季度,邮储银行迎来结息大考。过去耗时140分钟的任务,新核心系统仅用25分钟完成,性能、效率大幅提升,充分验证了中国数据库在安全可控上的承载能力。! }6 B- o1 f0 c7 M6 c& l
实际上,在海量数据、任务并发的情况下,要实现数据处理“不出错”,是一件非常非常困难的事情。
/ b( \4 |4 B) X+ d% r5 M这就像在1000万人涌动的“游乐场”里,要求游客不踩掉鞋、不走丢人、不传错菜。
0 C( S9 r4 q7 H6 t" _* C, q听起来,这是一个几乎不可能完成的任务。7 g( o- M/ L6 T+ z" W) z
但在银行、电信、电力、航空等系统中,就是苛求“不出错”、“稳定压倒一切”。+ \! H" K$ v2 d: w: _+ g2 z4 F# l
华为云GaussDB做到了。
3 c3 I1 C z! _5 p8 q6 o7 ]
* @8 G n+ O. G# Q( N( j. O1 q/ |) w- m1 M0 d
$ S" h- V1 O" t: J' Z% I/ S6 \* q% w( S
2022年,中国首个数据库行业最高安全认证-国际CC EAL4+,花落GaussDB;同年,高分通过北京国家金融科技认证中心的“分布式数据库金融标准验证”测试。
4 ~' }8 X; a' s4 `2 o与此同时,GaussDB再次通过中国信通院防篡改、智能化、分布式事务基础能力三大专项严苛评测。 I9 m" P8 O6 H9 x7 [2 W4 Z
所谓防篡改,就是在极端情况下,数据库依然要具备识别风险、防止篡改、备份还原的能力。
! n0 D% M" _ F! @! W; H所谓智能化,就是数据库不但要提供智能运维,而且通过趋势预测算法,帮管理者智能决策、推理预警,让系统更加安全可靠。
9 @: X' p& n/ Z+ C( J所谓分布式事务型数据库基础能力,就是一旦出现大规模数据需求,数据库要能迅速反应,就近调集分布式的CPU、内存、存储等系统资源,高效处理海量数据的能力。
9 ^+ C( ]; ?! Q9 |. ?. @如此强悍实力的背后,则是华为云GaussDB在全球范围内累计获得的700多件专利,在提供有力的支撑。9 N# `- a; y0 O! y& D" l
即便在数据库综合要求最严苛的金融业,GaussDB在包括工商银行、邮储银行、建设银行、华夏银行等规模落地,以及拥有永安保险、甘肃医保、一汽集团等重点行业客户。6 ]$ w. ?( G1 D3 F8 V0 h
华为云GaussDB的崛起,同步带动了中国自研数据库影响力的提升。- d! w. X, }7 P& I$ J5 z# H' n8 S
IDC发布的《2021年上半年中国关系型数据库软件市场跟踪报告》显示,在传统部署模式市场中,华为、阿里、达梦、人大金仓的市占率,分别为14.7%、5.7%、5.7%、5.0%。- d( l( }9 ]+ c) @7 @
4 w8 ^) _6 X% x9 A9 F4 b# t* A2 e; k& Q) T6 O, ?
+ P5 P4 J( \- g. ]# Q, A0 L! \0 R
在IDC最新发布的《2022年上半年中国关系型数据库软件市场跟踪报告》中,在本地部署模式市场中,华为云数据库凭借GaussDB以16.59%的份额排名国内第一。自2020H1以来,GaussDB已经连续五次蝉联第一,在国内关系型数据库市场持续领跑。+ m* e4 H; ]. y3 n, v4 c
今天,中国的分布式数据库正趋于成熟,获得市场认可。只要假以时日,就有望在时代的大潮中崛起。) z# i" m$ W- {& K9 ^0 G
【积于跬步,方能行至千里】
9 W8 e- {) `6 O' ~( U' |4 F数字时代的蓬勃发展,也将中国的分布式数据库不断推向前台。
. J" N( S z# SIDC数据显示,全球每年的数据量呈现爆发式增长,预计从2018年的33ZB增至2025年的175ZB。/ @, g( Z+ ]2 Y- o
中国的数据量增速更领跑全球,预计从2018 年的7.6ZB猛增至2025年的48.6ZB。* Z' ^9 p7 W5 \: }2 v8 v
数据的计算载体,早就从大型机、小型机、PC,演变成云、边、端的联网计算,高并发、低时延的交互计算。: d% c5 k3 C7 j6 P, y/ n0 I, u% U
面对这样的未来,华为云GaussDB早有准备。+ S0 j+ t# E2 f: Q v
比如,大部分云数据库,只能在数据的传输态、存储态中进行加密。5 [' J B* D* L- Y
而华为云GaussDB却实现在内存中的运算态加密,从而成为业界第一款纯软全密态的数据库,实现了对数据全生命周期的完整保护。
8 r+ [" E! J" N# X7 B
8 c* Q9 O& n+ ~7 |/ y7 m" f0 Z! ~2 a% s3 N+ L! y& m
2 l6 z4 F9 e7 K7 s! [另外,在原生分布式数据库领域,中国数据库也更顺应企业的诉求和发展的趋势。& @; P, |' Q7 X
比如有的互联网企业,坐拥海量数据,极易患上数据库性能不足“恐惧症”。
2 W6 a# b$ {9 ` r( a, Z4 f1 N- a但华为云GaussDB,直接打通了软硬件“任督二脉”,将数据库性能发挥到极致。
+ i6 \ R% i1 v" }4 C硬件上,GaussDB拥有鲲鹏处理器的多线程、原子指令、SCM的字节寻址持久化等能力;软件上,又实现了动态编译、SQL By Pass等。
- x/ l9 }0 [7 N于是,基于鲲鹏两路服务器,GaussDB 32节点处理能力达到了惊人的1500万tpmC(即每分钟系统处理新订单个数),百亿数据量查询“秒级响应”。) D5 d5 b- @/ Y% ~2 i& h9 T
有的企业,依然对数据迁移心存顾虑,担心到最后才发现数据库不合适。7 ~; P2 o0 l. y: v& j2 n8 G% d
对此,GaussDB开发出一系列强悍的迁移工具。如数据库迁移工具UGO,实现了异构数据库对象和应用迁移,语法转化率达90%以上;数据在线迁移工具DRS,可实现数据的在线迁移、数据校验。
; T( L$ K3 w3 r, p, G/ G8 A此外,由于是“自己人”,GaussDB完全能够为企业量身打造“数据库架构+应用+数据”一体化的迁移方案。
3 u8 Y8 O9 M* t" k/ n这才是以华为云GaussDB为代表的中国数据库真正的机遇所在。, i6 J) A3 H; u. |' f
而伴随大国崛起,国人对中国数据库更应该抱有一种开阔、包容、自信的气度。
5 _1 w- j, _. Y: V因为历史证明,好数据库是用出来的。+ i, T) Y$ r) ~( E
1978年,Oracle在美国第二次石油危机引发的“滞胀”下诞生,草创之初Bug频出、骂声一片。美国海军、CIA、NASA硬是顶着“被骗”的压力,让Oracle闯过了生死关。
+ A. S0 U: ]4 G, N$ E此后,又经过全球用户40多年不断的实践、反馈、打磨、培训,Oracle才拥有了成熟、稳定的口碑。/ ?& e7 {: p6 r/ D' U# p
显然,中国数据库不可能一夜成熟,也必然要经历漫长打磨的过程。但只要今天播下宽容、创新的种,对襁褓中的中国数据库多采购、多使用、多呵护,明天才能收获卓越、成熟的果。6 b# ]) b; w& `2 Q* D
积于跬步,方能行至千里。
3 v) v3 A# k; w在新一轮科技革命的大潮中,这条漫漫长路显然才刚刚开始。$ g! V6 X% V* Q2 N3 t' e
欢迎关注【华商韬略】,识风云人物,读韬略传奇。/ T9 u- O% y# H- w6 a, ^6 F& j
版权所有,禁止私自转载8 _5 |( g- l/ H! q7 @7 K/ g$ F
部分图片来源于网络4 ]- _: q V, p5 y: f3 f/ p% Y
如涉及侵权,请联系删除
8 a, V/ k& s s6 z; k% K ]/ ? |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|