共識算法,可以理解為是為了實現分布式一致性協議而產生的一系列流程與規則。當分布在不同地域的節點都按照這套規則進行協商交互之后,最終總能就某個/某些問題得到一致的決策,從而實現分布式系統中不同節點的一致性。
起源
早期的計算機應用大都是單體架構,即單個處理器就能夠承接所有的計算任務、讀寫任務等,那時候的計算機只需要負責將自己收到的任務按序執行、提交并返回即可,因此在那個時期,研究人員的主要研究內容是如何將單核處理器的性能優化到極致。然而,隨著互聯網的出現與發展,數據量呈現爆發式增長,單靠一個處理器已經無法滿足常規的業務需求,分布式系統架構橫空出世。
分布式系統簡單來說就是一系列處理器/節點通過消息交互的形式協同處理一系列的事務,從而達到橫向擴展性能、提升災備屬性的效果。為了能夠達到橫向擴展,需要所有節點共享相同的數據副本,自然而然地也就解決了單點故障的問題。分布式系統極大提升了單體架構的性能上限,但也不可避免地引入了分布式一致性問題。分布式一致性問題指的是:
在分布式系統中,當某些節點出現異常時,如何保證整個系統對外的表現仍然一致。
這里需要關注3個詞語,即“某些”、“異常”以及“一致”。
一致:分布式一致性大致分為強一致性、弱一致性、最終一致性,由于各個分類涉及的細節較多,本文不做過多贅述。異常:在分布式系統中,不同節點通常分布在不同的地域,因此同一時間不同節點的狀態可能不受控。節點可能出現一些良性錯誤,例如宕機、網絡延遲/斷開等;也可能出現一些惡意錯誤,例如偽造消息、向不同節點發送不同的投票等。良性錯誤通常是由于機器/網絡故障導致的節點暫時不在線,通過人為介入是可以恢復到宕機之前的狀態的,因此不會對整個系統的安全性造成威脅;而惡意錯誤也就是我們通常所說的拜占庭錯誤,則可能由于某些節點的惡意攻擊導致整個集群出現不可預估的崩潰。某些:為了應對上述兩種不同類型的錯誤,我們需要設計不同的協議來解決/容忍有限量的錯誤。通常來說,非拜占庭容錯的共識算法能夠容忍不超過1/2的節點出現良性錯誤;拜占庭容錯的共識算法能夠容忍不超過1/3的節點出現良性/惡意錯誤。分布式系統的一致性問題早在上世紀七八十年代就開始了研究,奠定了非常扎實的理論基礎,不過在后來相當長的一段時間內理論研究幾乎停滯。直到近年來,區塊鏈系統的出現又促進了分布式一致性問題研究的蓬勃發展。本文將分別介紹分布式領域內一些非常重要的模型假設/定理/理論等。隨后,將從傳統分布式一致性算法與典型區塊鏈共識算法的角度剖析共識算法的發展歷程。
國務院:推進科普與區塊鏈技術深度融合:為貫徹落實黨中央、國務院關于科普和科學素質建設的重要部署,依據《中華人民共和國科學技術進步法》、《中華人民共和國科學技術普及法》制定《全民科學素質行動規劃綱要(2021-2035年)》,其中要求實施智慧科普建設工程。推進科普與區塊鏈等技術深度融合,強化需求感知、用戶分層、情景應用理念,推動傳播方式、組織動員、運營服務等創新升級,加強“科普中國”建設,強化科普信息落地應用,與智慧教育、智慧城市、智慧社區等深度融合。(新華社)[2021/7/10 0:40:52]
網絡模型
分布式系統建立在許多通過網絡連接或者其他方式進行消息通信的節點之上,而網絡通信的不確定性會限制共識算法的設計。通信模型定義了不同消息延遲對于分布式系統的限制能力。總的來說,一共存在三種類型的通信模型,分別是同步模型、異步模型與部分同步模型。
同步模型
在同步模型中,所有節點之間的消息通信都存在一個已知的延遲上界,并且不同節點處理事務的相對速度差值有一個已知上界。同步模型是一個非常理想的通信模型,在現實生活中幾乎不可見,但是在分布式系統的理論研究中卻發揮著及其重要的作用,許多早期的分布式一致性算法都是在同步網絡假設下設計的。
異步模型
在異步模型中,上述的假設上界都不存在,因此異步模型比較符合現實的互聯網環境。異步與同步相比,是一種更通用的情況。一個適用于異步系統的算法,也能被用于同步系統,但是反過來并不成立。在異步模型中設計一個正確的共識算法已經被證明是不可能的。
火幣推出《一分鐘讀懂DeFi》系列科普視頻:據官方消息,8月24日,火幣推出《一分鐘讀懂DeFi》系列科普視頻,并與微博財經合作冠名播出,布道DeFi認知,助力行業發展《一分鐘讀懂DeFi》是由火幣成長學院打造的業內首個系統全面講解DeFi的系列科普動畫,繼推出《區塊鏈100問》后的再續佳作。《一分鐘讀懂DeFi》系列動畫對DeFi的發展進行系統梳理,適合想要由淺入深、全面系統了解區塊鏈DeFi的人們輕松了解DeFi。目前視頻已由火幣網官方微博發布。[2020/8/24]
部分同步模型
部分同步模型是界于同步模型與異步模型之間的一種通信模型,于1988年由Dwork,Lynch等人在論文中提出。該模型中假設存在一個全局穩定時鐘GST,在GST之前整個系統可能處于異步狀態,但是在GST之后,整個系統可以恢復到同步狀態。部分同步模型的時序假設比較貼合現實世界中對共識算法的需求,即共識總是可以在同步狀態下完成,然而一旦網絡出現問題,共識可能會進入一段時間的阻塞,直至網絡恢復正常。
拜占庭將軍問題
1982年,LeslieLamport、RobertShostak和MarshallPease三位科學家發表了一篇論文,提出了著名的拜占庭將軍問題。拜占庭將軍問題首次假設了分布式系統中存在惡意節點的情況,并給出了在同步網絡模型下的解法。在拜占庭將軍問題中,節點不止會出現宕機或者斷網等良性錯誤,還有可能出現任意情況的拜占庭錯誤,例如硬件或者軟件故障導致的節點不按程序邏輯運行,甚至于節點程序被人惡意操縱等等。總之,拜占庭錯誤更加貼近于實際生活中面臨的故障模型,同時它也是分布式系統中最難解決的故障模型。
動態 | 鏈客社區聯合北京交通廣播推出區塊鏈技術科普節目:12月11日15:15—16:00,區塊鏈技術社區——鏈客區塊鏈技術社區將聯合北京交通廣播FM103.9從零開始為大眾科普解碼區塊鏈技術,蜻蜓FM及北京廣播網同期進行全球直播。首期做客嘉賓為鏈客區塊鏈技術社區創始人郄建軍和百度區塊鏈產品負責人于雅楠。[2019/12/11]
根據是否容忍拜占庭錯誤,我們可以將共識算法分為兩類:
CFT類共識算法:僅能夠容忍宕機、網絡延遲/斷開等良性錯誤的共識算法BFT類共識算法:除了能夠容忍上述錯誤,還能夠容忍任意類型的惡意攻擊的共識算法
FLP不可能定理
1985年,Fischer、Lynch和Patterson三位科學家發表了論文,提出了著名的FLP不可能定理。作為分布式系統領域內最重要的定理之一,它給出了一個非常重要結論:在一個異步通信網絡中,只要存在一個故障節點,那么就不存在一種完美的共識算法可以正確的終止。
FLP的出現,從理論的角度告訴人們可以不用再想方設法地去設計一個異步網絡中始終能夠達成一致的共識算法。因此,后續的共識算法設計中通常會在某些方面做出妥協,例如網絡假設不再是異步模型而是選擇部分同步模型,即允許存在一定時間的異步網絡狀態,該期間無法達成共識,但是只要網絡恢復到同步狀態,就可以立即完成共識,這樣雖然對于系統的活性有一定的影響,但是只要能夠保證系統的安全性,依然是一個可接受的共識算法。
現場 | 火幣中國推出數字經濟及區塊鏈產業科普新書:金色財經現場報道,12月6日,由海南省工業和信息化廳主辦,南南合作金融中心協辦,海南生態軟件園、火幣中國承辦的“海南自貿港數字經濟和區塊鏈國際合作論壇”在海口舉行,這是全球首次區塊鏈部長級論壇。
在本次論壇上,火幣中國舉行了“數字經濟及區塊鏈產業科普系列新書發布”儀式,希望通過教材、專業教育、培訓等多種方式,幫助從業者、高校、研究機構深入了解區塊鏈,從而建立起區塊鏈全局性知識模型,真正推動區塊鏈應用落地。火幣中國CEO袁煜明介紹,將聯合機械工業出版社面向普通高等教育推出《區塊鏈導論》、《區塊鏈系統設計與應用》和《區塊鏈新商業模式分析》系列教材,這是國內最早推動的區塊鏈教材之一;火幣中國還積極參與數字經濟的研究,由中信出版社出版的新書《讀懂Libra》已經上市;由火幣中國負責編寫的區塊鏈技術科普讀物《區塊鏈技術進階指南》將于12月面世;首本行業內最全的區塊鏈應用案例集《區塊鏈產業應用100例》在本次論壇進行了首次刊印。[2019/12/6]
CAP理論
2000年,加州大學伯克利分校的EricBrewer教授在ACMPODC會議上提出CAP猜想。2年后,麻省理工學院的SethGilbert和NancyLynch從理論上證明了CAP。此后,CAP理論正式成為分布式領域的公認定理:一個分布式系統最多只能同時滿足如下三種特性中的兩種:
聲音 | ETC Labs主管:科普教育是未來幾年公鏈面臨的巨大挑戰:ETCLabs主管Darin Kotalik認為,科普教育是未來幾年公鏈面臨的巨大挑戰,人們必須要對區塊鏈有基本的認識,分清楚公鏈和私鏈的區別。[2019/8/25]
一致性可用性分區容錯性在分布式系統尤其是區塊鏈系統中,營造一個高可用甚至永遠不會出錯的網絡環境需要付出高昂的代價。因此一般來說,區塊鏈系統必須滿足分區容錯性這一特質。那么對于區塊鏈系統來說,就只能在一致性與可用性之間做出權衡與讓步。例如大型公鏈系統中有成千上萬的節點運行在世界的各個角落中,因此幾乎不可能設計出一個強一致的共識算法保證所有節點同時對外提供一致的讀寫服務。PoW算法是通過犧牲強一致性,退而求其次地滿足最終一致性、可用性與分區容錯性。盡管PoW網絡隨時有分叉的可能性,即已經上鏈的區塊有可能被回退掉,但是隨著時間的推移,靠前的區塊得到越來越多的確認,那么其被回退的可能性就越來越低,以至于達到一種幾乎不可能被回退的最終一致性。在此期間,每一個節點都可以正常的對外提供讀寫服務。
總結
通過前人的研究,我們已經能夠大致理解了一個共識算法能夠正確運轉的條件:即在一個傳統的分布式系統中,一個實用的共識算法需要能夠安全地運行在部分同步網絡模型中。其實,早期分布式一致性算法的研究大都集中在非拜占庭的部分同步網絡模型環境下,例如經典的Paxos、ViewStampedReplication、ZAB等。直到PBFT算法的提出,才出現了第一個可實用的拜占庭容錯共識算法原型。上述這些算法本身已經能夠非常好地解決一致性的問題,因此在相當長的一段時間內,都沒有新型共識算法被提出。但是近年來,隨著人們對于共識算法可理解性、易實現性、吞吐量等要求的不斷提高,涌現出了非常多優秀的共識算法,例如CFT類的RAFT、BFT類的HotStuff等。
在區塊鏈系統或者說比特幣出現之前,已經有非常多的應用從單數據中心單數據庫模式轉變成了多地多中心的分布式數據庫模式,然而此類的應用通常還是部署在同一個機構/公司內部服務器上。與此不同的是,在區塊鏈這樣一個承載著價值傳輸的分布式系統上,節點可能分布在全球各地,并且不受任何單一的機構/組織控制,因此區塊鏈共識算法必須要考慮到惡意節點的存在,保證區塊鏈上的價值不會被惡意節點操縱,即區塊鏈共識算法是需要容忍拜占庭錯誤的。而為了能夠應對拜占庭攻擊,不同的區塊鏈系統走上了不同的道路。
在公有鏈中,常見的選擇是通過工作量證明算法來防止拜占庭攻擊,由于每次競爭出塊權都需要解決一個非常復雜的數學難題,因此在這第一步就已經阻擋了絕大多數的攻擊者;其次,每一個新構造出來的區塊都必須經過其他礦工節點的驗證,因此不可能在區塊中包含非法/重復的交易;而如果想要偽造一條包含非法交易的鏈,除非攻擊者掌握全世界范圍內超過50%的算力,這顯然是不可能的,即便存在這樣一條鏈,一旦被發現有非法交易存在必然會導致該鏈信譽的下降從而導致巨量的損失,這對于攻擊者來說顯然也是不合算的。最終,上述的規則會引導所有嘗試出塊的節點都到一條“正確的最長鏈”上競爭,因為這樣做才是利益最大化的選擇。
在聯盟鏈中,常見的選擇是通過理論完備的BFT共識算法來防止拜占庭攻擊。由于聯盟鏈的共識節點通常由參與方機構管理,因此準入門檻本身就比較高;其次,聯盟鏈中的共識缺乏經濟激勵,因此需要通過更強的理論來進行約束。然而完全按照一個共識算法的原型來實現的話,依舊會存在一些問題。例如,傳統PBFT算法中主節點是固定的,如果能夠控制主節點,即便不讓它打包非法交易,也可以控制它偏向性地打包某些賬戶的交易,從而導致其他賬戶的交易被阻塞而無法上鏈。因此,在應用BFT共識算法的過程中,還需要為區塊鏈特性加上一些特殊的功能,例如選擇不可預測的主節點,為節點加上信譽值從而通過信譽值來選擇主節點等。
敬請期待下篇《什么是共識》
作者簡介
端豪
趣鏈科技基礎平臺部共識算法研究小組
參考文獻
DworkC,LynchN,StockmeyerL.Consensusinthepresenceofpartialsynchrony.JournaloftheACM(JACM),1988,35(2):288-323.
LamportL,ShostakR,PeaseM.TheByzantinegeneralsproblem//Concurrency:theWorksofLeslieLamport.2019:203-226.
FischerM?J,LynchNA,PatersonMS.Impossibilityofdistributedconsensuswithonefaultyprocess.JournaloftheACM(JACM),1985,32(2):374-382.
Tags:區塊鏈DEFIEFIDEF女生報區塊鏈專業怎么樣啊DeFi WizarddeFIREdefi community
據《北京日報》報道,7月28日,北京市政協常委會圍繞“全力推動‘兩區’建設,助力首都經濟高質量發展”主題開展協商議政.
1900/1/1 0:00:00據Coindesk8月4日消息,面臨欺詐指控的前Monero首席開發者RiccardoSpagni于7月20日聘請了加密貨幣行業的頂級律師BrianKlein,以避免自己被引渡至南非.
1900/1/1 0:00:00巴比特訊,7月28日,針對IDO只有32個地址成功搶購一事,YieldGuildGames創始人GabbyDizon今日撰文回應,稱原本可以選擇進行無上限的批量拍賣,或有上限的荷蘭式拍賣.
1900/1/1 0:00:00據Cointelegraph7月29日消息,加拿大區塊鏈初創公司BlockCrushr已同意撤銷針對專注于以太坊的軟件工程公司ConsenSys的知識產權(IP)訴訟.
1900/1/1 0:00:00據Decrypt8月5日消息,前美國職業棒球大聯盟球員及藝術家MicahJohnson2月份首次推出黑人宇航員"Aku"NFT.
1900/1/1 0:00:00據Coindesk7月31日消息,MicroStrategy首席執行官MichaelSaylor周五表示,現在借錢購買更多比特幣就像在早期投資當今占主導地位的科技公司一樣.
1900/1/1 0:00:00