這篇文章描述了一個簡單的策略,可將大量涌入的索引負荷分散到由索引器節點組成的索引池中。同時,它讓這個索引池具備可擴展性。索引器擴容的最終目標是10^{15}個索引。這并非存儲數據的字節大小,而是存儲索引的數量。一個索引實際上就是一張描述了CID標識與內容提供者數據之間關系的映射圖。實際的數據規模將會遠大于此。目前,我們可處理約10^{12}個索引,隨著時間的推移,我們會通過一列步驟向最終的擴容目標前進。目前,大部分的索引負荷是由涌入的索引數據構成的。新增的數據可能超過單一的索引器能夠承受的范圍,它還在極速增加。因此,目前擴容路上最迫切的目標,就是處理增加中的涌入負荷。方案:處理索引涌入的簡單策略
Poly Network黑客已出售SHIB、COOK、RFuel等代幣換取ETH:金色財經報道,據Lookonchain監測,Poly Network黑客已經出售940億枚SHIB換取360枚ETH,出售4.95億枚COOK換取16枚ETH,出售1500萬枚RFuel換取27枚ETH。黑客正在將資產和1枚ETH轉移到多個新錢包中,很可能用于出售。
據今日報道,據派盾監測,Poly Network遭遇攻擊。黑客通過Poly在數條鏈上增發資產,其中在Metis網絡上增發近1億枚BNB和近100億枚BUSD。[2023/7/2 22:12:57]
數據涌入
一個索引器接收到某個發布者傳來的“announce”消息,宣布已經有新的索引數據廣告時,就會發生數據涌入。作為回應,該索引器會從發布者那里檢索所有尚未檢索過的索引數據。隨著發布者數量增加,在某個時候,單一的索引器節點將無法跟上新增索引數據發布的速率,也可能沒有足夠的存儲空間來全部存儲這些數據。分散涌入負荷
Reddit和Stack Overflow將向AI開發者收取網站內容訪問費用:4月22日消息,Reddit和Stack Overflow將向AI開發者收取網站內容訪問費用,前者是全球最大的社群站點之一,后者則作為以技術為中心的社區問答論壇而聞名,目前尚不清楚具體收費標準。
Stack Overflow首席執行官Prashanth Chandrasekar表示,收取的費用將會重新投資回我們的社區,為社區做貢獻的用戶提供激勵。(Cryptoslate)[2023/4/22 14:20:22]
索引器擴容處理擁堵負載,是基于一個簡單策略——將涌入的索引負荷分散到由索引器節點組成的索引池中,這樣就能根據容量需求來增加節點,而不需要將數據到處移動來重新達到均衡。它先是分配不同的內容_發布者_給不同的索引節點,這樣每個節點可以處理涌入負荷的一部分。這是通過使用單獨的輕量服務AssignerService來實現的,后者不屬于關鍵的索引涌入路徑的一部分。當一個索引器達到了配置的存儲限制后,它就會停止吸納新增的索引數據,而索引池里的其他索引器會從分配給完整索引器的發布者那里恢復吸納數據。如果存儲容量和涌入負荷分配需求增加,池子里就會增加更多的索引器節點。這個擴容策略的三個主要組件是:分配服務:它將發布者分配給索引器。索引器凍結模式:這種索引器運作模式里,新內容不會被索引。移交發布者任務:將凍結中的索引器的發布者任務重新分配給活躍的索引器,以在凍結索引器停止運行后恢復索引。這篇文章會概括描述這些組件。可以在設計文檔和設計展示中獲取更多信息。擴容策略的優缺點
Meta正探索去中心化社交網絡應用程序:金色財經報道,Meta Platforms Inc發言人周五表示,公司正在探索一個獨立的去中心化社交網絡,用于共享文本更新,這可能是馬斯克的Twitter的直接競爭對手。Meta發言人表示,“我們正在探索一個獨立的去中心化社交網絡來分享文本更新。我們相信有機會創造一個獨立的空間,讓創作者和公眾人物可以及時分享他們的興趣。”
當天早些時候,印度商業新聞網站Moneycontrol.com首先援引消息人士的話報道了這一消息。該報道稱,Meta的新內容應用程序將支持ActivityPub,這是一種去中心化的社交網絡協議,為Twitter的競爭對手Mastodon和其他聯合應用程序提供支持。Meta的新應用程序將采用Instagram品牌,并允許用戶通過Instagram賬號注冊或登錄。(路透社)[2023/3/10 12:53:57]
優點:更少的同步工作:不需要讓每一個索引者與每一個發布者同步。元數據不會重復發送給多個索引器:元數據只會在處理提供者的索引器上存在。索引器之間不會分享數據。它們各自管理自己的發布者鏈。不需要只為了檢查提供者而去閱讀廣告,這與提供者分片一樣。索引器可有不同的存儲容量。不需要共識機制。涌入負荷可重新分配,而無需在索引器之間移動數據。缺點:不平均的分配:一些發布者可能會比其他發布者索引更多的數據。查詢請求需要分散和合并:查詢請求會重復發送給所有索引器,而響應會合并成一個發送給客戶。提供者更改發布者可導致重復索引。增加索引者不會馬上起效,除非一個現有的索引器達到了存儲容量限制。這方案的整體好處是它的實施方案相對簡單,也能去除擁堵擴容的限制。分配服務
SBF曾領投的人工智能公司Anthropic將獲3億美元新融資:1月31日消息,兩位知情人士表示,人工智能初創公司Anthropic即將籌集大約3億美元的新資金,完成后Anthropic的估值約為50億美元,但最終估值并未確定。
據悉,Anthropic成立于2021年,2021年獲1.24億A輪融資,2022 年獲得由 FTX 前首席執行官 SBF 領投的 5.8 億美元融資,根據彭博社的一篇文章,FTX/Alameda或已經向Anthropic投資了5億美元,其此前披露的資產負債表上的一個5億美元條目是“Anthropic”。隨著ChatGPT的大熱,人工智能賽道成為融資熱點,但目前尚不清楚SBF與Anthropic的具體關聯。[2023/1/31 11:38:03]
分配服務負責將發布者分配給在其配置索引器池中的索引者。對一個索引器池來說,它作為單一實例運行在其管理的索引器所在的同一網絡上。一個索引器只能作為一個分配服務的索引器池里的成員。除了將新的發布者分配給索引器外,分配服務還檢測檢索器節點是否進入了凍結模式,并負責將發布者從凍結索引器重新分配給非凍結的索引器。索引服務還通過gossippubsub渠道重新發布直接的HTTP公告,這樣池中的所有索引器都能接收到這些信息。基于幾個假設,分配服務是用于單個私有部署中使用:任務可以發給任何索引器,所有索引器的管理API是在私有網絡上運行,而且也沒有建立任何方式或協議讓不同的參與方管理池子中要添加或移除的節點。
以太坊域名服務ENS推出官方商店“ENS Merch Store”:12月16日,以太坊域名服務ENS宣布推出官方商店“ENS Merch Store”,旨在為ENS和Web3社區提供各類新款服飾和配飾。(nftevening)[2022/12/16 21:48:33]
將一個發布者分配給一個索引器
一個索引器接收到某個發布者傳來的“announce”消息,宣布已經有新的索引數據廣告時分配服務會監聽gossip-sub和直接的HTTP消息——這些消息主要是宣布新廣告可被獲取了。它從每一條消息中讀取發布者信息,并判斷發布者是否已經分配給需要的索引器。如果答案是否定的,該分配服務就會選擇任務量最少的索引器,并將該發布者分配給這個索引器。在分配任務后,索引器會收到來自發布者的公告,并自行處理涌入數據。索引服務會處理離線的索引器,它所用的方式能避免在索引器池里過度分配任務。索引服務還支持將特定發布者分配給特定索引器的配置選項。進一步閱讀材料:非持久化任務狀態意味著索引器能在任何時候停止或重啟。索引器池在某個單一部署中的索引器節點的集合。任務復制將發布者分配給多個索引器。索引器凍結模式
索引器存儲使用觸及到配置`FreezeAtPercent(<``https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer`(https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer"https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer")`>)`的限制后,索引器自動進入“凍結”模式。這個運作模式里,索引器不再存儲新增的索引數據,但還是會處理索引數據的更新或刪除。一個凍結的索引器不會接受新的發布者任務。在其內部,該索引器追蹤它已讀的每一個廣告鏈,目的是納入廣告。索引器會持續響應對索引數據的查詢。索引器也可以通過其管理(admin)API來手動進行凍結。這可以是為了暫時凍結納入數據,直到索引器的存儲容量提升為止。這樣,持續的索引工作可以被其他索引器節點代替。進一步閱讀材料:磁盤使用監控由每一個索引器負責。凍結的能力不依賴于分配服務。解除凍結的能力可讓索引器恢復索引工作。發布者移交
分配服務定期統計索引器,要是它發現某個索引器被凍結,它就會將該被凍結的索引器分配的發布者重新移交給其他索引器——活躍的索引器會繼續之前凍結索引器上所做的工作。在移交過程中,活躍的索引器也會從凍結的索引器那取得提供者及其相關的進一步信息。分配服務決定哪一個索引器將接收發布者的移交工作——這與分配新發布者的邏輯一樣。每一個發布者的移交過程都會單獨進行這一步驟,這樣凍結索引器的任務就會分配給池子里的可用索引器。進一步閱讀材料:分配服務可以恢復不完整的移交任務發布者數據在凍結和活躍索引器之間分發設立帶有分配服務的索引器池
這里描述了設立帶有分配服務的索引器池的過程。可概括為以下步驟:部署索引器部署分配服務按需部署額外的索引器這里還提供了分配服務配置模板文件。
1.前言 近期,隨著BUSD停止發行和USDC脫錨事件,以及Binance上線LQTY,去中心化穩定幣以及Liquity又一次成為了市場熱點.
1900/1/1 0:00:004月3日,徐工集團「ForReal」NFT舉辦首場中文AMA。主持人星球日報聯合創始人彬萌與主講人徐工海外創新創意部負責人孫思、Conflux聯合創始人張元杰、ZensparkCEOCollin.
1900/1/1 0:00:00最近隨著UniswapV3許可證的到期,焦點已經轉向新的CLAMM以及簡化LP體驗的項目。今天,讓我們談談OrangeFinance,以及它為何它最適合當下的情景.
1900/1/1 0:00:004月28日,Web3社交協議CyberConnect宣布推出原生TokenCYBER,并于5月18日于CoinList啟動公開發行.
1900/1/1 0:00:00據碳鏈價值報道,青島高新區針對區塊鏈高新技術企業進行補貼,三年可拿60萬,為更好助力區塊鏈企業創新發展,青島高新區相繼出臺配套政策,搭建專業孵化平臺,并通過龍頭企業的帶動作用.
1900/1/1 0:00:00原文作者:Young,Scroll研究員;Babywhale,ForesightNews 今年2月底.
1900/1/1 0:00:00