應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

面向未來,分布式數(shù)據(jù)庫能有哪些新的突破

2022-01-24 16:31 媒體合作

導(dǎo)讀:2022 年 1 月 6 日,備受關(guān)注的 DC2021 分布式數(shù)據(jù)庫開發(fā)者大會于線上正式召開。

  2022 年 1 月 6 日,備受關(guān)注的 DC2021 分布式數(shù)據(jù)庫開發(fā)者大會于線上正式召開,由中國電子技術(shù)標準化研究院指導(dǎo),CSDN 主辦、OceanBase 承辦,多個知名社區(qū)協(xié)辦。幾年前,分布式數(shù)據(jù)庫技術(shù)還是大家津津樂道的明日新星,隨著 2021 這一數(shù)據(jù)庫技術(shù)的變革之年,回首望去,未來已來,分布式數(shù)據(jù)庫的時代大幕已然悄然拉開。

  本次大會以“數(shù)聚未來”為主題,邀請了一眾業(yè)內(nèi)知名人士,包括 MySQL 之父、MariaDB創(chuàng)始人以及PostgreSQL全球開發(fā)組聯(lián)合創(chuàng)始人,同時還有 OceanBase、TDSQL、GuassDB、PingCAP、巨杉等國內(nèi)頂級分布式數(shù)據(jù)庫行業(yè)先行者,技術(shù)專家?guī)砭实难葜v分享,為開發(fā)者們貢獻了一場分布式數(shù)據(jù)庫領(lǐng)域的盛宴。

  分布式數(shù)據(jù)庫產(chǎn)業(yè)現(xiàn)狀

  分布式數(shù)據(jù)庫發(fā)展的如火如荼,在面對各種海量數(shù)據(jù)的場景化需求時,分布式數(shù)據(jù)庫更能為企業(yè)業(yè)務(wù)提供良好支持,而優(yōu)秀的數(shù)據(jù)庫產(chǎn)品可以為企業(yè)發(fā)展插上翅膀,推動行業(yè)騰飛。

  通過大會上專家們的分享可以發(fā)現(xiàn),目前分布式數(shù)據(jù)庫的現(xiàn)狀主要是從單一化向多樣化去發(fā)展。隨著應(yīng)用場景和數(shù)據(jù)量的增加,并發(fā)和吞吐量的要求也越來越高,用一款數(shù)據(jù)庫去適用所有場景逐漸變得不可能。這也就帶來了一個數(shù)據(jù)庫的趨勢,即一種數(shù)據(jù)庫適應(yīng)一種或者多種場景,數(shù)據(jù)庫的種類會越來越多,呈碎片化趨勢。除此之外,數(shù)據(jù)庫也從單機轉(zhuǎn)向分布式.目前的分布式數(shù)據(jù)庫已經(jīng)相當普及了,從原來的關(guān)系型數(shù)據(jù)庫到面向分布式的數(shù)據(jù)庫,這種趨勢和浪潮下,面臨的是數(shù)據(jù)庫的碎片化。

  中國電子技術(shù)標準化研究院研究室主任楊麗蘊表示,隨著分布式數(shù)據(jù)庫的發(fā)展變革,技術(shù)進步和數(shù)字化的深入,數(shù)據(jù)正在以指數(shù)計數(shù)速度增長。在去年,國家明確表示數(shù)據(jù)已成為第五大生產(chǎn)要素,這代表數(shù)據(jù)越來越重要了。這一趨勢對于數(shù)據(jù)管理、分析的數(shù)據(jù)庫軟件,既是重大的發(fā)展機遇,也是重要挑戰(zhàn)。國內(nèi)不乏以 OceanBase、TDSQL、巨杉為主的國內(nèi)優(yōu)秀分布式數(shù)據(jù)庫產(chǎn)品正在去承擔(dān)創(chuàng)新的數(shù)據(jù)庫業(yè)務(wù),并在逐步進入核心系統(tǒng)領(lǐng)域。

  在全球范圍內(nèi),伴隨著互聯(lián)網(wǎng)的快速發(fā)展,中國分布式數(shù)據(jù)庫發(fā)展突飛猛進,并快速拓展應(yīng)用到各行各業(yè)。2010 年,OceanBase 正式成立,從淘寶到支付寶 ,從支付寶走向更廣闊的世界,逐漸成為全球知名的自研數(shù)據(jù)庫。

  OceanBase 創(chuàng)始人陽振坤詳細的介紹了數(shù)據(jù)庫的誕生、發(fā)展以及目前面臨的挑戰(zhàn),風(fēng)趣幽默的用“小馬拉大車”的形象比喻,讓與會者對分布式數(shù)據(jù)庫的了解更加清晰。通過對 HTAP 和 OLTP 的簡單介紹,一方面說明了兩者的根本差異,一方面說明 HTAP 目前面臨一些挑戰(zhàn)。在陽振坤眼里,一個好的分布式數(shù)據(jù)庫,是“一個”可水平擴展且一份數(shù)據(jù)存儲既進行交易處理又進行分析處理的數(shù)據(jù)庫。它具備“一個數(shù)據(jù)庫”、可水平擴展和 HTAP 的三個重要特性。

  陽振坤引用了 Google Spanner 論文的一句話:盡管有人說 one-fits-all,但包含交易處理、分析處理和全文搜索的單個系統(tǒng)是客戶最高優(yōu)先級的需求,人類的智慧是無窮的,HTAP 的這些挑戰(zhàn)部分已經(jīng)在克服,在不久的將來所有的這些挑戰(zhàn)都將會被克服。

  騰訊分布式數(shù)據(jù)庫 TDSQL 首席架構(gòu)師李海翔介紹了 TDSQL 的關(guān)鍵技術(shù)《數(shù)據(jù)異常體系化技術(shù)研究》,其主要講解了為什么要定義數(shù)據(jù)異常,為什么要成體系化的定義數(shù)據(jù)異常;是怎么成體系化的去定義數(shù)據(jù)異常;怎么用數(shù)據(jù)異常來講清楚數(shù)據(jù)異常和隔離級別的關(guān)系;講清楚數(shù)據(jù)異常與一致性之間的關(guān)系。把整個數(shù)據(jù)庫事務(wù)處理領(lǐng)域里面幾個重要的概念都講的比較清楚,用數(shù)據(jù)異常這個角度講清楚什么叫做一致性,什么叫做隔離級別。

  近幾年,隨著云計算的不斷發(fā)展,分布式數(shù)據(jù)庫與云計算也可謂是形影不離,華為數(shù)據(jù)庫首席架構(gòu)師馮柯現(xiàn)場分享解讀了《華為云 GaussDB 深耕創(chuàng)新,打造根技術(shù)競爭力》,幫助與會者了解華為在數(shù)據(jù)庫的戰(zhàn)略,以及基于這個戰(zhàn)略確定的六大基礎(chǔ)研究方向:高可用、軟硬協(xié)同、混合負載、云原生、安全可信、智能化。

  在確定六大基礎(chǔ)研究方向之外,同時華為對于數(shù)據(jù)庫戰(zhàn)略有三點優(yōu)勢:研發(fā)能力、全站能力、生態(tài)建設(shè),基于以上三點優(yōu)勢,最終確定了華為在數(shù)據(jù)庫的戰(zhàn)略,通過應(yīng)用軟硬件協(xié)同,打造開放生態(tài),打造 GaussDB 全場景的云服務(wù)。

  最后,OceanBaseCEO 楊冰分享了《最好的時代,共建分布式數(shù)據(jù)庫未來》,通過回顧過去一年行業(yè)及 OceanBase 的發(fā)展,再次印證了分布式數(shù)據(jù)庫發(fā)展勢不可擋。

  主論壇專家們的對話環(huán)節(jié),主題是傳統(tǒng)數(shù)據(jù)庫向分布式數(shù)據(jù)庫轉(zhuǎn)型的價值及趨勢。在各位國內(nèi)分布式數(shù)據(jù)庫的頂尖行業(yè)代表的精彩分享下,可以窺見分布式數(shù)據(jù)庫的發(fā)展以及產(chǎn)業(yè)的現(xiàn)狀更加清晰,時代的大潮不會無風(fēng)而起,無數(shù)優(yōu)秀的開發(fā)者、創(chuàng)新者就是這場大潮的推動人。

  OceanBase 在行業(yè)中的實踐與方法

  在上午的活動中,值得關(guān)注的當屬 OceanBase CTO 楊傳輝對于分布式數(shù)據(jù)庫整體的技術(shù)發(fā)展進行的解讀。從 2010 年開始螞蟻集團便致力于 OceanBase 的研發(fā),如今不論在性能、可擴展性、兼容性還是開源方面都取得了不錯的成果。

  一體化架構(gòu)

  作為原生分布式數(shù)據(jù)庫的佼佼者,OceanBase 背后的主要核心技術(shù)就是一體化架構(gòu)。通過一體化架構(gòu),OB 能夠發(fā)揮出雙重技術(shù)優(yōu)勢:

  分布式:底層是原生分布式架構(gòu),依然擁有分布式技術(shù)無限擴展,動態(tài)增減服務(wù)器的技術(shù)紅利。

  集中式:完全兼容集中式數(shù)據(jù)庫功能和單機性能,同時支持 OLTP 和 OLAP,簡稱 HTAP。

  OceanBase 一體化架構(gòu)的核心技術(shù)理念那就是既要分布式,又不能犧牲性能,用一個通俗的話來講就是兩手抓,兩手都要硬!每一個數(shù)據(jù)庫都離不開 SQL、事務(wù)和存儲三個技術(shù)模塊,如果將事務(wù)層和存儲層分離,再抽取一個單獨的分布式KV系統(tǒng),可以簡單直接的實現(xiàn)一個分布式數(shù)據(jù)庫,但是會犧牲單機性能,造成系統(tǒng)高延遲,不適合在核心業(yè)務(wù)系統(tǒng)使用;然而,OceanBase 通過一體化架構(gòu)將事務(wù)層和存儲層有機結(jié)合,不犧牲單機性能的同時又能做到與集中數(shù)據(jù)庫相當?shù)乃?,完全可以適用于核心業(yè)務(wù)場景。

  OceanBase 的一體化架構(gòu)包括了三個核心技術(shù)模塊:

  原生分布式:底層是基于 Paxos 的靈活容災(zāi)架構(gòu),其上一層是一個一體化架構(gòu),兼具單機性能優(yōu)勢,易用性以及擴展性,并且保證全機的強一致性。

  HTAP:OceanBase 在一套 HTAP 引擎中同時支持 OLAP 和 OLTP 混合負載,并且做到了良好的資源隔離。

  兩種兼容模式:同時兼容兩種 SQL 使用接口,商業(yè)數(shù)據(jù)庫 Oracle 和開源數(shù)據(jù)庫 MySQL,保證集中式數(shù)據(jù)庫到分布式數(shù)據(jù)庫的平滑遷移。

  OceanBase 的核心理念是把簡單留給客戶,把復(fù)雜留給數(shù)據(jù)庫,因此選擇了對客戶更加友好,更加簡單的一體化架構(gòu)。

  開源版本

  在 2021 年 6 月份,OceanBase 正式面向全球開源開放,每一個用戶都可以通過下載 OceanBase 社區(qū)版快速學(xué)習(xí)和使用。OceanBase 在開源上與其他項目可能不同,十年內(nèi)核能力的積累,大量的代碼開源,必然花費了很多心思和努力。開源是為了更好的發(fā)展,相信點點滴滴將匯聚成滿天星河,開源會越做越好。

  同時,OceanBase 在社區(qū)建設(shè)上也是大力發(fā)展,一個好的社區(qū)必然離不開開源的支撐,能夠加速生態(tài)建設(shè)。通過開源,能夠更快速讓更多的數(shù)據(jù)庫管理者,使用者或者說學(xué)習(xí)者,都能夠參與到這個分布式數(shù)據(jù)庫生態(tài)里面,這樣能夠比以前 Oracle 建設(shè)生態(tài)要更快,通過開源能夠更快的完成生態(tài)建設(shè)。

  技術(shù)路徑

  OceanBase 自 2010 年立項以來,已經(jīng)過了 11 年,一直保持著不斷的突破和創(chuàng)新。同樣的,分布式數(shù)據(jù)庫也經(jīng)歷了三次技術(shù)迭代,從最早的 NoSQL 系統(tǒng)走向今天的原生分布式數(shù)據(jù)庫。

  第一代分布式數(shù)據(jù)庫是一個分布式的存儲系統(tǒng),也被稱為 NoSQL。

  第二代分布式數(shù)據(jù)庫采用搭積木的方式,在 NoSQL 的基礎(chǔ)之上引入了 SQL 的支持,支持基本的 SQL 功能,但是往往都犧牲了單機的性能和成本。

  第三代原生分布式數(shù)據(jù)庫,追求極致,支持完整的企業(yè)級 SQL 功能,并且做到單機性能與集中數(shù)據(jù)庫基本相當。

  OceanBase 十一年以來一直堅持自主研發(fā),秉持只有自主研發(fā)才能完全掌控內(nèi)核,只有完全掌控內(nèi)核才能夠持續(xù)在原生分布式數(shù)據(jù)庫領(lǐng)域開拓創(chuàng)新。所以,OceanBase 的原生分布式數(shù)據(jù)庫也經(jīng)歷了三次迭代:

  第一代分布式存儲系統(tǒng):將 LSM 首次引入到關(guān)鍵數(shù)據(jù)庫領(lǐng)域里面,大幅降低關(guān)鍵數(shù)據(jù)庫的存儲成本。

  第二代分布式數(shù)據(jù)庫:OceanBase 再次將 paxos 協(xié)議引入到關(guān)鍵數(shù)據(jù)庫領(lǐng)域里面,首次做到 IPO 等于零。

  第三代原生分布式數(shù)據(jù)庫:OceanBase 做到在一套引擎同時支持 OLTP 與 OLAP 混合負載,并且參與 TPC-C 和 TPC-H 打榜都取得世界第一的成績。

  2021 年 OceanBase 又取得五大核心產(chǎn)品技術(shù)突破:

  從 OLTP 到 HTAP,TPC-H 整體性能提升 620%,30TB 打榜排名世界第一。

  單核性價比大幅提升,Sysbanch 整體性能提升 68%,支持小規(guī)格部署,性價比在全球分布式數(shù)據(jù)庫領(lǐng)域遙遙領(lǐng)先。

  更強的跑批能力,支持超大事務(wù),能夠在一套引擎同時梳理交易和跑批兩類工作負載,并且確保跑批負載不會影響正在進行的交易業(yè)務(wù),并行 DML 和大數(shù)據(jù)導(dǎo)入性能分別提升 270% 和 58%。

  Oracle 平滑遷移,OceanBase 是業(yè)內(nèi)首個支持平滑遷移 Oracle 的原生分布式數(shù)據(jù)庫,并且得到銀行、保險、證券、運營商、公共事業(yè)等多個行業(yè)核心業(yè)務(wù)場景的應(yīng)用證明。

  易用性提升,實現(xiàn)了不依賴單點的分布式檢測,也能夠通過全鏈路監(jiān)控來大幅降低問題排查成本。

  OceanBase 也是全球唯一一個在事務(wù)處理和數(shù)據(jù)分析兩個領(lǐng)域都獲得過世界第一的原生分布式數(shù)據(jù)庫。

  產(chǎn)業(yè)進步與開源發(fā)展

  長期以來,數(shù)據(jù)庫領(lǐng)域并沒有太大的突破或進展,由于它本身是一個門檻比較高的行業(yè),長期就是由幾家公司來占據(jù)市場份額,所以導(dǎo)致很長一段時間內(nèi)的開源分布式數(shù)據(jù)庫發(fā)展升量很足,但是在整個市場份額上未必有優(yōu)勢,這是很長一段時間里整個開源分布式數(shù)據(jù)庫發(fā)展的整體情況。

  但是從 2021 年 1 月開始出現(xiàn)了一個很大的變化,在市場產(chǎn)品占有率層面,開源的產(chǎn)品第一次超過了閉源的商業(yè)產(chǎn)品,這是一個好的現(xiàn)象,同樣的,分布式數(shù)據(jù)庫在市場上的競爭也是日漸增長,說明分布式數(shù)據(jù)庫的價值以及它的架構(gòu)上的優(yōu)勢正在越來越被大家所認可。

  OceanBase 在社區(qū)開源發(fā)展方面做的可圈可點。從數(shù)據(jù)層面來看,社區(qū)總用戶 23000 名,百名外部開發(fā)者,超百企業(yè)用戶在社區(qū)進行深度的探索。在社區(qū)建設(shè)上,在 Gitee 和 GitHup上Star 數(shù)已經(jīng)超過 4000 次,社區(qū) Fork 數(shù) 860,Commit數(shù)超過 640。在最為關(guān)鍵的社區(qū)活躍度上,每日和用戶的溝通數(shù)次數(shù)超過了 300 次,并且社區(qū)問答數(shù)迄今為止已經(jīng)超過 4600 次。在技術(shù)布道方向連接了超過 3500 名開發(fā)者。這些數(shù)據(jù)表明:OceanBase 社區(qū)正在蓬勃發(fā)展,在未來將會更上一個臺階。

  國外和國內(nèi)對開源社區(qū)的組織形式有什么區(qū)別呢?主要有幾下幾點:

  開源生態(tài):社區(qū)與代碼的重要性

  研發(fā)門檻:專利和論文數(shù)量

  起跑線:起步時間

  持久性:研發(fā)是長期的持久戰(zhàn)

  總體來說,現(xiàn)在是一個后來者可以居上,技術(shù)價值可以無限接近于商業(yè)價值的美好時代。而未來,分布式數(shù)據(jù)庫的發(fā)展基于開源和技術(shù)的發(fā)展,無疑將會有更加廣闊的發(fā)展前景。