導語
隨著區塊鏈技術的逐步發展,區塊鏈與分布式數據庫的聯系愈加緊密和微妙。2021年發表在SIGMOD會議上的這篇論文,從底層設計上對區塊鏈與分布式數據庫的分類方法以及兩者的混合系統進行了分析。
研究首先詳細介紹了用于描述區塊鏈、分布式數據庫以及它們的混合系統的分類方法:從復制、并發、存儲和分片四個方面考慮;然后使用許可鏈Quorum、Fabric以及數據庫TiDB、etcd,設計性能實驗并細致地分析了實驗結果;最后,給出了一個可以用于解釋和估計混合系統性能的框架。
論文題目:Blockchainsvs.DistributedDatabases:DichotomyandFusion
作者:PingchengRuan,TienTuanAnhDinh,DumitrelLoghin,MeihuiZhang,GangChen,?QianLin,?BengChinOoi
論文鏈接:Blockchainsvs.DistributedDatabases|Proceedingsofthe2021InternationalConferenceonManagementofData(acm.org)
區塊鏈與分布式數據庫的介紹
從數據結構的角度來看,區塊鏈是一條由哈希指針串聯起來的區塊鏈表,每個區塊中包含了一系列交易;從系統的角度來看,區塊鏈是一個由多個互不信任的節點共同維護一個全網一致的賬本的分布式系統。
區塊鏈可以分為許可鏈和非許可鏈。其中非許可鏈是完全開放的,每一個人都有資格記帳、讀取數據,例如比特幣、以太坊。而許可鏈則有一定的準入機制和權限控制,例如HyperledgerFabric。盡管早期區塊鏈的底層設計與數據庫完全不同,但是智能合約應用到了區塊鏈以后,用戶能夠自由地部署和運行圖靈完備的代碼,使得區塊鏈與數據庫之間產生了可比性。因此,論文將具有合約能力的區塊鏈與數據庫進行對比研究。
分布式數據庫是一種數據存儲在不同物理位置的數據庫。多年來,傳統的關系型數據庫一直是主流。由于大數據處理和硬件發展等等的現實原因,為了實現系統的高可用性和可擴展性,分布式系統開始進化,在這個新的設計趨勢下,出現了NoSQL和NewSQL。
智度股份:目前公司已完成較為領先的區塊鏈底層技術平臺的搭建:7月31日消息,智度股份(000676.SZ)7月29日在投資者互動平臺表示,公司區塊鏈業務包括區塊鏈底層技術創新研發及基于區塊鏈技術的行業升級解決方案的創新性研究與落地,從技術層面看暫時不能運用于人工智能、人腦工程項目。目前公司已完成較為領先的區塊鏈底層技術平臺的搭建,并在供應鏈金融、溯源防偽、智慧政務、元宇宙等領域完成了區塊鏈解決方案設計與應用建設;在區塊鏈應用層已開展業務并取得一定的實質進展,積累了豐富的資源和經驗。未來,公司在區塊鏈等核心技術領域將持續探索與投入,加快推動區塊鏈技術和產業創新發展。[2022/7/31 2:49:53]
NoSQL為了增強系統的可擴展性,拋棄了傳統數據庫的關系模型以及強ACID語義,NoSQL有著更加靈活的數據存儲結構,例如Key-Value存儲、列存儲、文檔存儲等等。NoSQL的一致性較弱,可實現最終一致性、順序一致性或因果一致性等等。NoSQL的設計更加靈活,但加大了上層應用的復雜性。
NewSQL是介于關系數據庫與NoSQL之間的設計,它保留了關系數據庫的數據模型以及對ACID語義的支持,同時具有NoSQL對海量數據的存儲管理能力以及可擴展性。
下圖顯示了分布式數據庫與許可鏈、非許可鏈在安全與性能上的權衡。
分類法
論文提出的分類方法如圖所示。下面,從四個方面逐個進行介紹:
復制是將數據的副本存放在系統中多個節點上的一種技術。
從復制模型的角度來看,區塊鏈復制了有序的事務日志,復制的單位是事務,事務中包含交易上下文、簽名、時間戳等應用級別的信息,且便于驗證。“事務”一詞無論在區塊鏈還是數據庫中都表達為對于底層數據執行的邏輯計算,是一個操作序列。在區塊鏈中,事務表現為合約部署、調用這樣的形式,可以看作我們通常所稱的交易,例如,調用合約時將引起對數據的一個操作序列,這一序列操作具有原子性,要么執行完成,要么不執行,完成以后會使得系統的狀態發生改變。
河北眾誠集團董事長:實體企業探索區塊鏈賦能實體經濟發展的關鍵時刻:9月17日消息,“數字化轉型 區塊鏈賦能”河北眾誠企業集團數字化轉型項目啟動會正式拉開帷幕,河北眾誠企業集團董事長韓杏軍表示,中國的數字經濟已經上升為國家發展戰略,連續多年穩居世界前列。今年7月30日北京市發布《北京市關于加快建設全球數字經濟標桿城市的實施方案》,標志著中國在數字經濟領域由追隨者向領跑者的加快邁進。區塊鏈技術作為數字經濟的重要組成部分和核心關鍵技術,黨中央、國務院給予高度重視。眾誠集團緊跟時代趨勢步伐,探索一條區塊鏈賦能實體經濟的創新發展之路。[2021/9/17 23:32:17]
分布式數據庫則復制了讀寫操作的有序日志,每次復制一個操作。如圖所示,需要一個可信的事務管理器進行協調,復制的單位是更細粒度的操作時,系統更便于實現并發。
從復制方式的角度來看,區塊鏈和分布式數據庫可以選擇不同的方式進行數據復制。論文將復制方式總結為主備份復制和狀態機復制,其中狀態機復制又分為共識協議和共享日志兩種。
主備份復制是指,副本中確定的某個主副本運行確定性狀態機,而備份僅存儲狀態。主數據庫通過處理操作計算一系列新的應用程序狀態,并將這些狀態按生成順序轉發給每個備份。也就是把主副本的整個狀態實時地傳輸到備用服務器;而狀態機復制則是讓每個副本都實現一個確定性狀態機。本質上是維護每個副本上操作或事務的有序日志。每個復制副本從相同的初始狀態開始,然后以相同的順序應用日志中的操作或事務。
基于共識協議的復制和基于共享日志的復制區別在于,后者依賴于可信的外部服務提供一個共享日志,從而在每個副本上執行這個日志以改變狀態。
從故障模型來看,區塊鏈和分布式數據庫需要解決的故障問題不同,這決定了兩者的共識層以及上層應用的不同特點。
在分布式數據庫當中,節點屬于值得信任的內部系統,因而只需要容忍節點宕機,數據庫通常使用CFT協議,例如Paxos、Raft;而在區塊鏈中,各個節點需要在互不信任的情況下達成共識,因此需要容忍節點的惡意行為,因此區塊鏈常常會使用代價更大的BFT協議,例如PBFT、PoW等。
中國移動董事長:加快區塊鏈技術在數據交易流通中的應用:全國人大代表、中國移動董事長楊杰在今年全國“兩會”上,就如何建立健全數據要素市場體系以提升資源配置效率,從而更好地推動經濟高質量發展提出建議。他提出,應加快量子加密技術的開發應用,解決數據交易流通中的安全保密問題,確保數據安全;加快區塊鏈技術在數據交易流通中的應用,確保數據流通可溯源,解決數據交易流通中數據非授權復制和使用等問題。(澎湃新聞)[2020/5/24]
如圖是CFT與BFT協議在不同的網絡模型當中所需要達到的網絡規模,同步網絡是延遲有界且已知的網絡,而異步網絡中的延遲可能是無限的。其中,f是故障節點的數目。
并發指的是讓交易或事務在同一時間執行。數據庫領域中的并發控制技術一直是研究熱點,好的并發優化能夠使得數據庫系統的性能大大提升。而區塊鏈中的交易常常是串行執行的,并發技術用得不多,主要原因在于,交易執行在很多區塊鏈系統中并非性能瓶頸,其次,由于交易常常會共用合約的狀態數據,因而串行執行交易更加簡單、保險。
存儲決定了系統中的數據存儲的機制。
在存儲模型方面,大部分的數據庫只存儲最新的可供修改的數據信息,即便有歷史信息,也只是作為節點故障恢復的日志;而區塊鏈則存儲了所有的歷史數據,并且以只增的方式維護。
在索引方面,區塊鏈為了支持數據的正確性驗證,會采用類似MerkleTree這樣的數據結構存儲數據;而分布式數據庫則更關注性能,在建立索引時根據硬件的性質進行特殊優化,例如,硬盤中的數據以B+樹的數據結構存儲,而內存中的數據則使用對于多核并行和緩存更加友好的FAST或PSL等結構進行存儲。
分片在數據庫領域也是一種常用的技術,它將數據分布到不同的分片當中,由分片中的節點進行處理,從而達到擴展系統或提升處理性能的目的。
分片形成協議決定了節點和數據應該分配到哪個分片。數據庫中可以根據數據的哈希計算結果、數據的范圍等進行分片,而區塊鏈更關注安全性,分片必須足夠大,從而避免惡意節點在分片中的數目超過安全假設,此外,分片的分配機制也不應該受到節點行為的影響。
動態 | 科技日報:德國發布《聯邦政府區塊鏈戰略》:金色財經報道,科技日報駐德國記者近日發表署名《制定高科技戰略的后續政策 推進人工智能與區塊鏈戰略》的文章,其表示,2019年德國科技政策呈現四大亮點:三,發布《聯邦政府區塊鏈戰略》,采取44項措施在德推廣區塊鏈技術;出臺首個《國家繼續教育戰略》,加強數字化時代的人才培養;更新此前的《數字化戰略》,首次明確加強政府數據管理、建設安全高效的政務網絡基礎設施等9項任務;加強構建高校和研究機構數字化設施和網絡。德國教研部啟動“量子網絡”資助倡議,計劃到2022年投入6.5億歐元,在德建設一個量子通訊示范網。[2020/1/2]
分片的原子性要求跨分片的事務在它涉及到的所有分片中要么都提交,要么都中止,表現出行為上的一致性。在分布式數據庫中,原子性一般由兩階段提交協議保證,這需要依賴某個可信的協調者,而區塊鏈中缺少這樣的協調者,因此會引入BFT協議來協調跨分片交易。
最后,根據所述的分類方法,論文還給出了一些系統設計的分析和對比。
性能實驗
性能實驗主要選擇了兩個許可鏈系統Quorum、Fabric,兩個分布式數據庫TiDB、etcd。
Quorum是以太坊的Go語言實現的一個分支,它在以太坊的基礎上添加了交易與合約的隱私性、許可管理以及基于Raft的共識機制,它以order-execute形式的架構打包區塊;Fabric是一個由Linux基金會主辦的一個全球協作項目超級賬本中的一個子項目,它的架構模型則是execute-order-validate;TiDB是NewSQL數據庫,它繼承了大部分MySQL的特性,并由三個獨立的模塊組成:PD用于協調集群管理,TiKV用于KV存儲,server解析和調度SQL查詢;etcd是NoSQL數據庫,它使用kv數據模型,具有寬松的事務限制,側重于可用性和一致性之間的權衡。
為了公平比較,實驗讓所有系統中每個節點都有狀態數據的完整副本。對于Fabric,交易由所有peer節點執行和背書,排序節點固定為三個。Quorum和Fabric使用Raft協議。
動態 | 《區塊鏈智能合約安全審計白皮書(2018年)》發布:據中證網報道,中國信息通信研究院泰爾終端實驗室、上海交通大學網絡空間安全學院、上海掌御信息科技有限公司共建的區塊鏈安全研究中心、中國區塊鏈應用研究中心、上海淳粹文化傳媒有限公司、杭州加密谷區塊鏈科技有限公司等機構近日聯合發布《區塊鏈智能合約審計安全白皮書(2018年)》。白皮書歸納的智能合約安全漏洞目前有9大類,從數量上來看,權限控制占比最重,達到了46.97%,遠高于其他類型,其他占比較高的安全漏洞有錯誤使用隨機數、邏輯設計缺陷等類型。[2018/12/17]
實驗從五個角度進行分析,分別是峰值性能,以及上述分類法的四個方面,即復制、并發、存儲和分片。
在峰值性能方面,區塊鏈和分布式數據庫之間的性能差距相當大。
這里用100K記錄填充每個系統,每條記錄大小為1KB。記錄僅更新和僅查詢的工作負載下的吞吐量和延遲。TiKV作為TiDB底層的分布式數據庫模塊,也參與了比較。
可以看出,NoSQL性能優于NewSQL,這是因為它們不會產生支持ACID事務的開銷。此外,TiDB的吞吐量比性能較好的的區塊鏈Fabric仍然高4倍。
在復制方面,基于事務的復制模型影響了系統的并發能力,這對系統性能的影響是主要的。
圖7根據Fabric和TiDB的性能表現,比較了基于事務和基于操作的復制模型的影響。除了與TiDB相比具有更高的延遲之外,當系統飽和時,Fabric的延遲也會顯著增加。而當請求速率超過系統容量時,驗證階段就會成為瓶頸。論文認為延遲增加歸因于Fabric中的串行驗證,區塊和區塊內的事務在提交以前是順序驗證的。
圖8給出了四個系統隨節點數目增多而變化的吞吐量。其中Fabric的復制方法是基于共享日志的,其他則是基于共識協議的。Fabric的吞吐量隨著節點數目增加而下降,在實驗中觀察到區塊驗證的延遲增加了,這是因為背書策略設置為所有peer節點都要對一筆交易進行背書。Quorum使用raft協議,但是性能對節點個數不敏感,這是因為Quorum的order-execute架構,打包區塊的過程順序進行。
圖8表示在Quorum中比較了Raft和IBFT共識協議的吞吐量,以分析不同故障模型的性能影響。在規模更大的網絡中,IBFT的吞吐量方差更大,這是因為IBFT比起Raft,需要與更多的節點通訊以避免主節點切換,而惡意節點越多,重新選舉主節點的概率越大,事務中斷的概率就會變大。
在并發方面,execute-order-validate架構的區塊鏈在高競爭和高約束的工作負載下性能較低。
圖9給出了偏度對性能的影響。每個事務修改一項記錄,記錄的鍵值服從Zipfian分布,分布根據偏度系數θ變化,θ越大,表示修改沖突的可能性越大,競爭越大。可以看出,當競爭發生時,TiDB的吞吐量劇烈下降;etcd和Quorum串行執行事務,沒有并發控制;而Fabric性能下降了31%,這是由于Fabric對讀寫沖突的樂觀并發控制機制導致事務中止。此外,TiDB的吞吐量下降與事務中止率的增加不成比例,原因在于它的鎖存機制耗費了更多的時間。
圖10增加每個事務中的操作數目以觀察事務原子性對性能的影響。從左圖可以看出,當每個事務的操作數增加時,Fabric、TiDB和etcd的性能有所下降。說明更多的操作導致了沖突,而且TiDB的事務還可能跨越多個分片;右圖顯示了TiDB和Fabric的隨操作數變化的事務中止率。TiDB的事務中止主要是由于寫寫沖突,而Fabric中則來源于不一致的讀以及讀寫沖突,而不一致的讀可能是因為需要預執行和背書交易的peer節點提交區塊的速率不同。
圖11顯示了記錄,即需要處理的數據的大小對于性能的影響,從左圖可以看出,隨著記錄增大,所有系統的性能幾乎都降低了。且Quorum的吞吐量顯著下降。右圖分析了Fabric和Quorum的事務延遲的細節。Quorum在Commit階段由于重建MPT數據結構而引入了哈希函數的成本,且Proposal階段與Commit階段的延遲同速增長。因為Quorum的order-execute架構使交易在打包區塊的節點和共識后的其他節點處都要進行串行驗證,相比之下,Fabric的串行處理只有一次。
在存儲方面,區塊鏈中的賬本抽象模型會帶來很大的存儲開銷,此外,避免狀態數據受到篡改所需的安全開銷則很小。
圖中顯示了記錄大小對于存儲開銷的影響。Fabric的存儲開銷比TiDB高得多,這是因為Fabric中的區塊鏈的賬本鏈條抽象模型。右圖比較了Fabric中的MBT和Quorum的MPT,MBT的開銷更小,因為它的樹結構規模是固定的。
在分片方面,由于分片的形成和周期性重新配置的安全要求,分片區塊鏈的性能遠遠落后于分布式數據庫。
這里使用了TiDB,AHL,以及Spanner。AHL是基于Fabric的分片區塊鏈,Spanner則是基于云的NewSQL數據庫。如圖14所示,當節點數目增加時,TiDB的吞吐量比Spanner更高,這是因為一旦檢測到沖突,TiDB會立即中止事務,而Spanner使用了悲觀并發控制機制,在事務沖突的情況下將爭奪鎖;與分片固定的AHL相比,定期重新配置分片的AHL為了實現更高的安全性,在性能上降低了30%。然而由于PBFT協議的高成本和其他安全開銷,AHL和數據庫之間的性能差距仍然很大。
分析框架
根據上述的研究分析,論文在最后提出了一個可以用于分析和預測混合系統的框架,不過,僅以吞吐量作為評價指標。
可以看到,復制模型和故障模型很大程度地影響了系統性能。基于事務的復制不像基于操作的復制那樣有較好的并發性,因此吞吐量低。而比起BFT協議,CFT協議的網絡開銷更低。
總結
這篇論文系統地探討和總結了區塊鏈和分布式數據庫之間在設計上的差異,給出了由復制、并發、存儲和分片四個維度構成的分類方法,利用這種方法,給出了現有一些系統的設計取向的分析,并進行了對應的性能測試,用實驗結果說明了底層設計選擇對性能的影響,最后,還提供了一個用于評價和估計系統吞吐量的框架。整篇文章的工作完整詳實,有利于理解區塊鏈和數據庫之間的設計聯系和區別,從更細致和有條理的角度認識目前的區塊鏈與數據庫相融合的研究工作。
Tags:區塊鏈BRIFABRICFAB有人靠區塊鏈4天就掙了30萬PolkaBridgeFABRIC幣fab幣今日價格
Facebook在更名Meta后,一方面通過研發智能可穿戴設備探索元宇宙,另一方面則借助區塊鏈技術和NFT構建虛擬世界.
1900/1/1 0:00:004月9日消息,隨著加密貨幣在全球的興起并且越來越多地被采用,納米比亞央行最近發布其金融科技監管框架,并宣布有意推出其中央銀行數字貨幣。納米比亞銀行表示,“我們不能忽視CBDC,這是一個現實.
1900/1/1 0:00:00Meme指通過描繪出特定觀眾的想法和感受而引起共鳴的圖像或視頻。在過去的幾年里,模因經常被用來開玩笑或喚起共鳴。作為一種社會現象,模因也隨著使用它們的人而發展.
1900/1/1 0:00:00DeFi仍然是加密貨幣的狂野西部,它令人困惑和以及復雜。甚至損失資金也被看作是交易者的一種儀式感,他們面臨著詐騙、拉鋸戰以及丟失或打錯私鑰的風險.
1900/1/1 0:00:00摘要 在近期的產業交流中,我們發現元宇宙的概念已初步普及,更多的企業在思考:我們如何依托自身資源參與這場全新的變革?虛實之間,如何布局?本文我們提出“九宮格”框架,探索如何落地元宇宙.
1900/1/1 0:00:00近日,一條與NFT有關的熱點新聞引起討論。加密貨幣創業家SinaEstavi于2021年3月以290萬美元的價格買下了以推特創始人JackDorsey的第一條推文鑄造的NFT.
1900/1/1 0:00:00