回顧
IPFS-InterPlanetaryFileSystem星際文件系統,是一個點對點的分布式文件存儲系統,IPFS的愿景是構建一個全世界的分布式網絡,用來替代傳統中心化的服務器模式,所有的IPFS節點組成一個分布式網絡,每個節點都可以存儲文件,用戶可以從IPFS構建的網絡中以DHT(DistributedHashTable,分布式哈希表)?的方式獲取文件,從而實現了新一代的完全去中心化的網絡,旨在取代現有的萬維網。IPFS功能很豐富,如DHT組網,文件存儲,Bitswap文件交換等功能。
文件存儲和文件交換的技術詳解可以通過之前的推文內容進行了解,今天我們來了解這個文件系統的“地基”——網絡模塊。
IPFS網絡初識
IPFS是一個開源項目,要達到它聲稱的構建一個全世界的分布式網絡的目標,那么他必然要先解決不同國家、不同地區節點的連接問題。
現場 | 劉航:區塊鏈是可信的數據技術 必將與大數據融合發展:金色財經現場報道,由中關村科技園區管理委員會、中國信息協會指導,中國信息化發展研究院、中國通信工業協會區塊鏈專委會主辦的“區塊鏈&數字經濟高峰論壇暨2019第八屆中關村大數據日”于12月12日在北京中關村舉行。中關村科技園區管理委員會副巡視員劉航發表致辭,他表示本次大會是加強合作,共謀發展的好時機。當今隨著人工智能、大數據、物聯網、5G,特別是區塊鏈應用的創新,區塊鏈技術快速邁向萬物互聯,萬物上鏈的規模化階段,催生了一批新產業新業態新模式。區塊鏈實際上是可信的數據技術,必將與大數據融合發展。中關村率先布局大數據展業,2016年成立中關村區塊產業聯盟,成立了25家大數據領域的協同創新平臺,支持基金超過累計2億元,大數據企業達到1600余家,產業規模增長達到20%以上,領先全國。[2019/12/12]
首先,看一下IPFS網絡部分配置,如下圖所示,紅框內部的Swarm是IPFS監聽的網絡地址,其中支持ipv4和ipv6協議,且默認支持QUIC協議。
動態 | 禪城將借力區塊鏈等信息技術 對人才服務再升級:據廣州日報大洋網報道,禪城將借力區塊鏈等信息技術,對人才服務再升級。區人社部門相關負責人介紹,禪城將重構人才服務辦理流程,力爭人才公寓、技能人才子女入學、畢業生就業報到、人才資格認定等37項業務實現“零跑腿”辦理。[2019/1/18]
*QUIC協議是由google最先提出的,目前已經提交給互聯網工程任務小組,成為了正式的網絡規范,相對于TCP來說QUIC網絡傳輸協議的傳輸速度更快。
IPFS節點啟動之后日志如下圖所示,可以看到IPFS節點監聽了以下網絡地址,其中包括本地的、局域網、廣域網的地址,最后還有/p2p-circuit地址。
聲音 | 貴陽市高新區黨工委書記:大力發展區塊鏈等技術 加快形成全國首個完善應用5G技術的城市:據貴陽日報消息,近日,貴陽市政協副主席、高新區黨工委書記、白云區委書記楊明晉說,高新區將突出大數據引領、大數據創新、大數據融合,完善數據從匯聚到清洗、加工、開放、共享、應用的全生態鏈、全產業鏈、全服務鏈;大力發展人工智能、物聯網、區塊鏈、量子信息和5G移動通信產業,加快打造“一室一網一平臺N中心”“一個產業聯盟、一個產業基地”的5G產業體系,加快形成全國首個完善應用5G技術的城市。[2019/1/2]
問題來了,為什么需要監聽這么多地址?
那是因為IPFS是一個開源項目,為了讓全世界各地的節點連接起來則必須要解決各種網絡情況下節點連接的問題。
監聽本地地址,這樣本地啟動多個IPFS節點,它們之間可以以該地址進行連接,監聽局域網地址,這樣內網內啟動多個IPFS節點,它們之間可以以該局域網地址相互連接,監聽廣域網地址,這樣公網中啟動多個IPFS節點,它們之間可以以該廣域網地址進行連接。
聲音 | 劉強東:借助區塊鏈等技術 再造整個零售行業:京東董事局主席劉強東的說法,就是要借助人工智能、大數據、區塊鏈等各種“黑科技”,再造整個零售行業。同時,京東也在積極推進區塊鏈技術,加強商品溯源。7月26日,京東全球購針對品質管控和售后服務方面發布了35項提質舉措。其中包括搭建了“京東區塊鏈防偽追溯平臺”。截至目前,該平臺已實現超過10億件商品的可追溯。[2018/8/13]
通過上述方式就解決了大部分網絡情況下的IPFS節點的網絡連接問題:
2個節點都在同一主機:通過127.0.0.1地址連接
2個節點在同一個內網內:通過局域網地址連接
2個節點都有公網地址:通過公網地址連接
1個節點在內網,1個節點在公網:內網的節點通過在公網節點的公網地址連接
這里有一個問題,如果2個節點處于兩個不同內網環境,由于存在NAT設備,NAT設備可能是對稱型,對稱型的NAT設備是沒有辦法穿透的,所以IPFS提供了relay的方式解決不同內網環境下節點的連接問題,上面提到的監聽/p2p-circuit地址則是為了解決該問題,對于2個處于不同內網環境不能直接連接的節點,通過配置relay節點中轉從而建立連接。
Chanticleer部署區塊鏈技術 盤前上漲109%: 2018年1月2日,Mobient控股公司(MFON)是智能和個性化營銷屢獲殊榮的平臺制造商,以及Chanticleer控股公司(BURG)幾家快速休閑餐廳品牌的運營商今天宣布,計劃使用MobivityMind這一區塊鏈架構的跨品牌商業和客戶溝通平臺,為客戶忠誠度和獎勵計劃提供動力,此舉讓Chanticleer的股票盤前上漲109%。[2018/1/3]
至此,IPFS解決了不同網絡環境下的節點之間建立連接的問題,下面我們來看一下IPFS是如何構建大規模的分布式節點網絡,將處于全世界的不同地區的各個節點連接起來的。
IPFS網絡構建
IPFS網絡構建的過程可以看作是兩個階段:
▲?Bootstrap階段
IPFS節點在啟動之前需要配置它的Bootstrap節點,配置文件中相關配置如下圖所示,Bootstrap配置中配置了IPFS節點啟動時需要連接的所有種子節點列表,這些節點地址列表信息是默認的,如果需要搭建IPFS私有網絡可以修改成自己的種子節點列表。默認提供的種子節點都是具有公網地址的節點,IPFS節點啟動的時候首先連接該種子節點,后續通過該種子節點去發現IPFS網絡中更多的節點,從而進行連接,也就是DHT組網階段。
▲?DHT組網階段
IPFS節點連接種子節點成功以后則去通過DHT去發現其他節點,關于DHT的詳解可以看這篇文章《Libp2p中DHT和Bitswap詳解》。
發現其他節點之后則嘗試進行連接,連接成功的節點會加入到該節點的節點列表,以便后續可以直接與該節點通信,考慮到全世界的IPFS節點規模很大,不可能每個節點和其他節點保持長連接,所以對每個節點的連接數量做了限制,一般節點連接數量都在1千以下,對于沒有連接的節點需要通信的話,可以通過DHT找到該節點地址,然后連接該節點進行通信,這樣就構成了大規模的分布式節點網絡。
我們可以通過一個示例展示上述過程。下圖是一個常見的網絡拓撲架構,有三個網絡分別連接了Internet,IPFSnode1部署在具有公網ip的服務器上,外部可以直接訪問該節點,IPFSnode2和IPFSnode3都部署在對稱型NAT設備后面,外部不能訪問該節點。
在上面的網絡架構下,處于公網的IPFSnode1作為種子節點,種子節點最先啟動,然后IPFSnode2,node3,node4,node5的種子節點配置成IPFSnode1,分別啟動后首先連接IPFSnode1,連接成功后通過DHT發現其他節點最后分別連接,對于IPFSnode1,它連接的節點地址列表如下圖所示,由于IPFSnode2,node3,node4,node5均處于NAT設備后面,所以IPFSnode1節點列表中這些節點的端口都是NAT設備映射后的端口。
對于IPFSnode3來說,它的節點地址列表中,IPFSnode1的地址是公網地址,由于IPFSnode3和IPFSnode2都處于NAT設備后面,不能直接連接,所以IPFSnode2的地址是relay地址,IPFSnode1節點作為relay節點,IPFSnode3給IPFSnode2發消息時通過IPFSnode1轉發,relay地址格式為:
Relay節點的地址/p2p-circuit/p2p/目標節點id
而IPFSnode3的節點地址列表中,IPFSnode4和IPFSnode5的地址均為局域網地址,這樣就完成了公網節點、處于NAT設備后的局域網節點的組網過程。
總結
以上就是IPFS網絡的組建過程,為了方便描述只是以幾個IPFS節點為例。
實際上IPFS的這種網絡組建方式也能很好地支持超大規模節點的組網,當節點規模很大的時候,設置數十個節點作為種子節點,通過DHT組網就能完成數萬甚至更多節點的組網,此時每個節點的長連接數量保持在數百個,后續節點間通信時,如果還沒有建立連接,可以通過DHT根據節點id查詢該節點的地址信息,然后通過該地址連接該節點最后完成通信過程。
IPFS網絡的這種組建方式也非常值得分布式系統學習和借鑒。
作者簡介
姚文豪來自數據網格實驗室BitXMesh團隊數據平臺架構師
文章系金色財經專欄作者幣圈北冥供稿,發表言論僅代表其個人觀點,僅供學習交流!金色盤面不會主動提供任何交易指導,亦不會收取任何費用指導交易,請讀者仔細甄別防上當.
1900/1/1 0:00:00在特斯拉首席執行官埃隆·馬斯克更新推特個人簡介引發比特幣意外上漲后,專業交易圈對比特幣的需求似乎特別強勁.
1900/1/1 0:00:00金色財經近期推出金色硬核欄目,為讀者提供熱門項目介紹或者深度解讀。經常有人說“2%的賬戶控制了95%的比特幣”,比特幣真是這樣高度集中分布嗎?近日鏈上數據分析機構Glassnode詳細考察了BT.
1900/1/1 0:00:00世界首富動動手指比特幣一小時暴漲18%爆倉98億元 中國證券報·中證網 剛剛 8“鋼鐵俠”的神來一筆,又讓比特幣上演瘋狂行情.
1900/1/1 0:00:00撇開圍繞比特幣幣價的熱烈炒作,區塊鏈本身也是科技行業中一個朝氣蓬勃的領域。市場對區塊鏈技能的需求一如既往地高.
1900/1/1 0:00:00你也許了解過比特幣,但聽到數字證券這個詞可能還是會感到有些陌生。IDHub基金會主席、MagicCircle創始人曲明曾于專訪中介紹道,以區塊鏈底層技術為基礎,數字證券可通過寫入智能合約快速實現.
1900/1/1 0:00:00