假設您是 web3 新手,開始建立 web3 分析團隊,或者剛剛對 web3 數據感興趣。無論哪種方式,您都應該已經大致熟悉了 API、數據庫、轉換和模型在 web2 中的工作方式。
對于這本就職指南,我將盡量保持簡潔,并突出我對以下三個重要的想法:
1. 思考:為什么開放數據管道會重塑數據工作的完成方式
2. 工具:web3 數據堆棧中工具的概述,以及如何利用它們
3. 團隊:在 web3 數據團隊中應具備的基本注意事項和技能
關于數據思維
讓我們首先總結一下在 web2 中如何構建、查詢和訪問數據(即訪問 Twitter 的 API)。
對于簡化的數據管道,我們有四個步驟:
事件 API 觸發(發送了一些推文)
攝取到數據庫(連接到現有用戶模型/狀態更改)
特定產品/分析用例的數據轉換(隨時間增加回復/參與度指標)
模型訓練和部署(用于管理您的 Twitter 提要)
數據有時是開源的唯一步驟是在轉換完成之后。Kaggle(1000 個數據科學/特征工程競賽)和Hugging Face(26,000 個一流 NLP 模型)等社區使用暴露數據的一部分來幫助企業構建更好的模型。有一些特定領域的案例,例如在前三個步驟中打開數據的開放街道地圖,但這些仍然有寫權限的限制。
Web3初創公司Keyp推出“Game Wallet”項目擬將任天堂Game Boy掌機變成加密冷錢包:金色財經報道,Web3初創公司Keyp開發人員Joseph Schiarizzi透露,該公司推出了一項名為“Game Wallet”的項目,旨在將任天堂經典Game Boy掌機轉換成存儲加密資產的冷錢包。Joseph Schiarizzi解釋說,該項目引入了一個實體Game Boy卡帶(cartridge)的概念,可用于生成助記詞并允許用戶利用任天堂Game Boy設備功能進行離線加密貨幣存儲。(news.bitcoin)[2023/5/21 15:16:45]
并不是說 web2 根本沒有任何開源。與大多數其他工程角色一樣,web2 數據擁有大量用于構建其管道的開源工具( dbt、apache、TensorFlow)。我們仍然在 web3 中使用所有這些工具。總之,他們的工具是開放的,但他們的數據是封閉的。
Web3 也將數據開源——這意味著它不再只是數據科學家在開源中工作,分析工程師和數據工程師也是如此!每個人都參與到一個更連續的工作流程中,而不是一個黑盒數據循環。
數字資產挖礦與質押公司 Foundry Digital 收購 Web3 軟件開發和咨詢公司 Upstate Interactive:4月28日消息,數字資產挖礦與質押公司 Foundry Digital 表示其正在收購 Web3 軟件開發和咨詢公司 Upstate Interactive,旨在更大規模地擴展其去中心化基礎設施。Upstate Interactive 在以太坊上構建去中心化應用程序和智能合約,支持 DeFi、NFT、DAO 等應用。Foundry 將整合 Upstate Interactive 多條業務線,并為機構提供與數字資產基礎設施層相關的各種產品和服務。(CoinDesk)[2022/4/28 2:36:13]
工作的形式已經從 web2 數據大壩轉變為 web3 數據的河流、三角洲和海洋。同樣重要的是要注意,這個新周期會同時影響生態系統中的所有產品/協議。
讓我們看一個 web3 分析師如何協同工作的示例。有幾十個DEX使用不同的交換機制和費用,允許你將通證A換成通證B。如果這些是典型的交易所,比如納斯達克,每個交易所都會以 10k 或一些 API 報告自己的數據,并且然后像 capIQ 之類的其他服務會將所有交換數據放在一起,并收取費用讓您訪問他們的 API。也許偶爾,他們會舉辦一場創新比賽,這樣他們就可以在未來擁有額外的數據/圖表功能來收費。
Web 3平臺Strider完成300萬美元融資,1kx領投:2月10日消息,初創公司Strider完成300萬美元融資, 1kx領投,DDecasonic、Scalar Capital、Sfermion、Metaorient、Yield Guild Games(YGG)、 Axie Infinity聯合創始人Jeffrey “Jihoz” Zirlin、Polygon聯合創始人Jaynti “JD” Kanani參投。
Strider正在創建一個Web 3平臺,讓創作者可以使用DAO管理其項目。DAO將項目的成員資格和所有權分給創作者和用戶(或者游戲玩家)。Strider稱其是一種眾籌模式的去中心化演變。此輪融資資金將用于進一步擴展和開發 Strider平臺。(VentureBeat)[2022/2/11 9:43:58]
使用 web3 交換,我們有這個數據流:
dex.trades是Dune 上的一張表(由許多社區分析工程師隨時間整理而成),其中匯總了所有 DEX 交換數據 - 因此您可以非常輕松地搜索所有交易所中單個代幣的交換量之類的東西。
一位數據分析師出現并使用一堆社區開源查詢創建了一個儀表板,現在我們對整個 DEX 行業有了一個公開的了解。即使所有的查詢看起來都是一個人寫的,你可以打賭,在某個不和諧的地方有大量的討論可以準確地拼湊起來。
Coinbase發布2022年Web和加密經濟的10個預測:12月31日消息,Coinbase發布2022年Web和加密經濟的10個預測,包括:
1. 以太坊的可擴展性將會提高,但新的Layer1鏈將出現大幅增長;
2. L1-L2 跨鏈橋的可用性將有顯著改進;
3. 零知識證明技術將獲得更多關注;
4. 受監管的DeFi和鏈上kyc證明將會出現;
5. 機構將在DeFi參與中發揮更大的作用;
6. DeFi保險將出現;
7. 基于NFT的社區將給Web 2.0社交網絡帶來實質性的競爭;
8. 品牌將開始積極參與Metaverse和NFT;
9. Web2公司將覺醒并嘗試進入Web3;
10. DAO 2.0時代即將來臨。[2021/12/31 8:16:03]
一位 DAO 科學家查看儀表板并開始在他們自己的查詢中分割數據,查看特定的配對,例如穩定通證。他們研究用戶行為和商業模式,并開始建立假設。
由于科學家可以看到哪個 DEX 占據了更大的交易量份額,因此他們將提出一個新模型并提出對治理參數的更改,以在鏈上進行投票和執行(s/o Alex Kroeger的提案這里的例子)。
Energy Web推出新區塊鏈身份注冊和可再生信用跟蹤項目:Energy Web將為德國能源市場建立一個原型區塊鏈身份登記冊,并在美國試點可再生能源信用追蹤。該項目與德國聯邦能源署DENA和其他行業參與者合作,旨在設計和構建一個全國分布式能源資源的數字注冊系統。其目的在于使恒溫器、太陽能光伏系統、電池和電動汽車充電站等能源資產能夠通過去中心化的身份分類賬進行自動登記,從而能夠將其用于電網服務,如虛擬發電廠和頻率調節。(Renewable Energy World)[2020/11/10 12:13:06]
之后,我們可以隨時查看儀表板,了解該提案如何創造出更具競爭力的產品。
未來,如果有另一個 DEX 出來(或升級到新版本),這個過程會提升產品的功能。有人會創建插入查詢來更新此表。這將反過來反映在所有儀表板和模型中(無需任何人返回并手動修復/更改任何內容)。任何其他分析師/科學家都可以在 Alex 已經完成的工作的基礎上再接再厲。
由于共享生態系統,討論、協作和學習發生在更緊密的反饋循環中。這有時會變得非常壓倒性,而且我認識的分析師基本上都在輪換數據時表現得倦怠。然而,只要我們中的一個人不斷推動數據前進(即有人創建了插入 DEX 查詢),那么其他所有人都會受益。
它也不一定總是復雜的抽象視圖,有時它只是實用功能,例如可以輕松搜索 ENS 反向解析器或改進工具,例如使用單個 CLI 命令自動生成大部分 graphQL 映射!所有這些都可以被每個人重用,并且可以適應某些產品前端或您自己的個人交易模型中的 API 使用。
雖然這里解鎖的可能性是驚人的,但是程序還沒有那么順利地運行。與數據工程相比,數據分析師/科學方面的生態系統仍然非常不成熟。我認為這有幾個原因:
數據工程多年來一直是 web3 的核心焦點,從客戶端 RPC API 改進到基本的 SQL/graphQL 聚合。在 theGraph 和 Dune 等產品上的工作確實體現了他們為此付出的努力。
對于分析師來說,理解 web3 獨特的跨協議關系表是一個艱難的過程。例如,分析師可以理解如何僅分析 Uniswap,但隨后難以將聚合器、其他 DEX 和不同的代幣類型添加到組合中。最重要的是,完成所有這些工作的工具直到去年才真正意義上出現。
數據科學家基本上習慣于進入原始數據轉儲并獨自完成所有工作(建立自己的工作風格)。我認為他們不習慣在項目早期與分析師和工程師如此密切和公開地合作。這需要一段時間才能適應這樣的環境。
除了學習合作之外,web3 數據社區還在學習如何在這個新的數據堆棧中工作。您不再需要控制基礎架構或從 excel 中慢慢構建到數據湖或數據倉庫 - 只要您的產品上線,那么您的數據就會無處不在。您的團隊基本上進入了數據基礎架構的精華部分。
關于數據工具
這就是你們大多數人來這里的目的:?
這些工具并不全面——它們只是我發現自己或其他人在以太坊生態系統中一直使用和引用的工具(其中一些還涵蓋了其他鏈)。
“去中心化”標簽意味著有一個基礎設施網絡或指導框架來阻止單方面發生的變化。我喜歡將其視為解耦基礎設施與云基礎設施,但這需要有自己的文章。
讓我們來看看您何時需要使用每個圖層/類別:
交互+數據源:這主要用于前端、錢包和數據攝取到較低層。客戶端:雖然以太坊的底層實現是相同的(使用 Geth 作為規范的 repo),但每個客戶端都有不同的額外功能。例如,Erigon 針對數據存儲/同步進行了大量優化,Quorum 支持啟動隱私鏈。
節點即服務:您無法選擇它們運行的客戶端,但使用這些服務將為您省去自己維護節點和 API 正常運行時間的麻煩。節點有很多復雜性,具體取決于您要捕獲多少數據(輕→完整→存檔)。
查詢 + 數據映射:該層中的數據要么在合約中作為 URI 引用,要么來自使用合約 ABI將交易數據從字節映射到表模式。合約 ABI 告訴我們合約中包含哪些功能和事件,否則我們只能看到已部署的字節碼(如果沒有此 ABI,您將無法對合約交易進行逆向工程/解碼)。交易數據:這些是最常用的,主要用于儀表板和報告。theGraph 和 Flipside API 也用于前端。有些表是合約的 1:1 映射,有些表允許在模式中進行額外的轉換。
元數據“協議”:這些不是真正的數據產品,但存在用于存儲 DID 或文件存儲。大多數 NFT 將使用其中的一個或多個,我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢功能。
專業提供商:其中一些是非常強大的數據流產品,用于內存池數據的Blocknative和用于鏈上交易數據的 Parsec。其他人聚合鏈上和鏈下數據,例如 DAO 治理或財務數據。
高頻數據提供者:您無法查詢/轉換他們的數據,但他們已經為您完成了所有繁重的工作。“企業”服務:如果您是 VC、調查員或記者,您會經常使用這些服務。您可以使用Nansen 的錢包分析器或Chainanalysis 的 KYT深入了解錢包和錢包關系。或者使用 Tolken 終端在大量項目/鏈上獲得漂亮的開箱即用圖表。
增強的那些API:這些產品將許多查詢捆綁到一個中,例如 ERC20 代幣的所有代幣余額或為給定地址提取合約 ABI。
數據團隊
不言而喻,您希望在這些社區中尋找可以雇用到您團隊的人。讓我們進一步分解重要的 web3 數據技能和經驗,以便您真正知道自己在搜索什么。如果您想被錄用,請將其視為您追求的技能和經驗!
分析師至少應該是使用Etherscan的高手,并且知道如何閱讀 Dune 儀表板。這可能需要 1 個月的時間才能慢慢升級,如果您真的預訂并狂歡學習,則需要 2 周。
您還應該考慮更多背景信息,特別是關于時間分配和技能可轉移性的內容。
在 web3 中,數據分析師大約 30-40% 的時間將用于跟上整個生態系統中的其他分析師和協議。請確保您沒有窒息他們,否則,它將成為對每個人的長期損害。與更大的數據社區一起學習、貢獻和構建是絕對必要的。
關于可轉移性:技能和領域在這個領域都是高度可轉移的。如果我使用不同的協議,那么加速時間可能會很短,因為鏈上數據的表模式都是相同的。如果有的話,我可能在加入之前就已經使用過該協議的數據了!
了解如何使用這些工具并不重要——每個分析師都應該或多或少地能夠編寫 SQL 或創建儀表板。這一切都是關于知道如何為社區做出貢獻和與社區合作。
日前,Google I/O 2022大會上流出的一段英國倫敦塔的地圖視頻,贏得了全球數億次的點擊.
1900/1/1 0:00:00繼4月1日Vitalik公開贊揚比特幣后,2022年5月17日Vitalik再次對比特幣表示羨慕.
1900/1/1 0:00:00在不同的時期,Web3.0會有不同的含義,而近期Web3.0最大的特點是允許用戶“擁有”網絡的一部分,真正成為自己數字資產的主人.
1900/1/1 0:00:00據《華爾街日報》報道,幫助公司管理員工交易的Argus公司的一項分析顯示,一些加密貨幣投資者從有關交易所何時會上市代幣的內幕信息中受益.
1900/1/1 0:00:002022年5月25日,Immutable宣布和StarkNet合作推出鏈接多個L2/L3 zk-rollup的跨Rollup流動性解決方案, 為web3游戲帶來未來的十億玩家.
1900/1/1 0:00:00NFT 當前最主要的價值在于,授權藝術家、創作者和收藏家行使他們分發、轉售和收藏的權利。 NFT 藝術品《第一頓晚餐》以 103.4 ETH 的價格成功拍賣NFT 是數字資產嗎?是的.
1900/1/1 0:00:00