在信息時代裸奔,我們總會被數據挾持、出賣。因為你的數據不屬于你。
時下,是應該聊聊數據和隱私的時候了。
2019年末,我曾把零知識證明、多方計算、可信執行環境等隱私計算技術的代表項目匯聚到一起做了一期極為深度的討論。
那時,在區塊鏈產業分布里已經有了隱私賽道,有少數項目在研究、拓展、嘗試,只是對于隱私、隱私計算以及數據等維度并沒有那么清晰的判斷。
把時間線放的更長一些,從2018年至今,我們其實看到了隱私項目向隱私計算的迭代,這一現象代表了一些技術的發展和應用的趨向性。
在對這些項目分析解構,對市場需求進行考證后,筆者認為此時該提出一個有效的觀點。
即:當今的區塊鏈隱私計算項目里,誰想拿下隱私計算第一槍,要率先建立隱私計算的“分布式數據湖”。
原因很簡單:數據存儲在數據庫里并不能直接產生價值,只有經過數據訓練才有價值,也就是數據要有為深度學習、聯邦學習服務的能力,而數據湖是這個路徑里的必然選項,基于去中心化模型里,會出現新的“分布式數據湖”。
本文里,我會為這個名詞開個腦洞,在符合邏輯推演的范圍內為大家闡述一個框架。但這種模型目前并未有非常成熟的案例,如有偏頗,歡迎各位指證。
先談一談什么叫數據湖
金色晚報 | 12月19日晚間重要動態一覽:12:00-21:00關鍵詞:越南、范一飛、灰度、Web3.0生態大會
1.灰度資產管理總規模三天增加25億美元;
2.越南總理將加密貨幣和區塊鏈列為該國五大優先技術之一;
3.范一飛:以開放和包容方式穩妥推進法定數字貨幣標準研制;
4.印比特創始人朱砝:未來五年加密貨幣礦業的三大趨勢;
5.財新報道:目前穩定幣USDT被大量使用在洗錢、賭博等違法活動中;
6.CandaqCEO林子昊:每一次區塊鏈“投機泡沫”背后都有技術的突破;
7.美國FBI警告稱勒索軟件團伙通過電話騷擾受害者要求支付比特幣贖金;
8.Compound總法律顧問:FinCEN加密交易新規定不會給政府執法部門帶來任何好處。[2020/12/19 15:48:39]
數據湖的概念,來自大數據和機器學習業務。
我們日常一定聽過數據庫,數據庫的形式可大可小,是非常獨立的數據存儲單位,每個數據存儲位置都是一個數據庫,當數據庫之間被打通,形成一個大數據交互結構,就可以理解為數據湖的形象。
筆者在亞馬遜的AWSLakeFormation服務定義里查到了數據湖的名詞定義:
數據湖是一個安全的集中式輔助存儲庫,它以數據原始形式和可用于分析的形式存儲所有數據。利用數據湖,可以分解數據孤島并組合不同類型進行分析,獲得分析結果指導更好的業務決策。
金色財經聯合多家企業發起“企業戰疫扶持計劃”:新冠肺炎疫情牽動人心,區塊鏈企業眾志成城,防控疫情。在防控疫情的同時,金色財經已聯合20家企業發起“企業戰疫扶持計劃”,為全國區塊鏈創新企業快速復工與成長,以行業聯合力量,幫助創新企業打贏“疫情攻堅戰”。
同舟共濟,共迎牛市。金色財經希望聯合號召更多的發起企業參與到互幫互助的行列中,共同為區塊鏈創新企業提供幫助,本次活動征集愛心企業截止到3月15日,報名企業需要滿足有1.“戰疫扶持禮包”企業產品優惠政策;2.與發起單位共同傳播條件。詳情見原文鏈接。[2020/3/3]
所以我們可以理解為,當若干個原始存儲的數據庫連接起來,就是數據湖。但這個數據湖怎么工作呢?
這一段描述可以粗略看到一些工作需求。
“設置和管理數據湖包括加載來自不同來源的數據、監控這些數據流、設置分區、打開加密和管理密鑰、定義轉換作業并監控其操作、將數據重新組織成列格式、配置訪問控制設置、刪除冗余數據重復數據、匹配鏈接記錄、授予對數據集的訪問權限以及隨時間推移審核訪問權限。”
所以數據湖的主要功能是數據的交互,而處理其關鍵問題是加密和數據集的訪問權限。在我們所期待的去中心化數據湖里,似乎也是如此。
再談一談我們期待的去中心化數據結構
去中心化的數據結構,是去中心化的隱私計算的基礎,很簡單,就是數據是分散在生產者處,存在于我們的手機、電腦其他終端設備里。
金色晨訊 | 1月13日隔夜重要動態一覽:21:00-7:00關鍵詞:井賢棟、萊特幣、BEOS鏈、Ripple
1. 湖南省政協委員劉丹軍:建議將區塊鏈技術應用于農產品流通領域。
2. 螞蟻金服董事長井賢棟:用AI、區塊鏈推動浙江數字政務升級。
3. 萊特幣基金會董事:超一半以上LTC一年多沒有移動。
4. 由BM父親Stan Larimer發布的BEOS鏈已在太空處理第一筆區塊鏈交易。
5. Ripple首席執行官:XRP獨立于Ripple公司而存在,XRP持有者對公司沒有所有權。
6. BTC現報8120美元,近24小時上漲1%,市值為1471.87億美元。[2020/1/13]
當然,手機數據大多是有緩存的,有些數據是短時存儲,我們所看到的那些互聯網App收取用戶的數據,都是其所需要的數據,而這些數據有些實時產生,在緩存里,有些存儲在本地存儲里。我們雖然在本地可以操作查看,但平臺也可以隨時拿走數據,因為所有權并非在用戶這里。
在去中心化的數據結構里,數據在本地存儲,還需要把所有數據加密,并且你所使用的App無法獲取你的數據,除非你主動向App提供交互,或者允許授權。
這個場景里,我們期待的是:平臺在沒有授權時是拿不走我們的數據的。但這僅代表的是成型的存儲數據。而我們有很多的數據,是需要經過中心化服務器處理的。
分析 | 金色盤面:BTC 15分鐘跌破下軌:金色盤面綜合分析:BTC在昨天夜里攻擊6400美元未果,再次退守6200美元附近,這里跌破了上升通道下軌,有超賣跡象,而前低有一定支撐作用,短線不宜做空。[2018/8/17]
例如加入一個社交媒體,我們的用戶名,手機號,郵箱等等數據都是容易暴露的,理想狀態下,他人對我們選擇不公開的數據不可見,而關鍵的是,平臺也要對數據不可見,或者不可用。
這需要平臺具備一些基本的功能,而平臺的功能,一定是其背后開發功能中的體現,這就有關于我們知道的區塊鏈項目了,例如賬戶ID具備隱私功能,信息訪問權限的設定。
我們看到保護隱私的區塊鏈項目,都會在這方面努力。
不過區塊鏈和加密貨幣有一些天然隱私特性,例如區塊鏈的歸屬權、加密貨幣的無需許可以及地址的匿名性。
只是當數據真的形成一定的體量之后,大部分的業務都與生活息息相關,所以匿名性之后會有kyc,kyc后,數據的隱私和隱私計算,無可厚非的成為最重要組成部分。
區塊鏈世界里,誰能建立數據湖?
互聯網大數據技術早已和云計算融合多年,在傳統云計算里,AI需求的數據湖對數據的控制已經變得很簡單,進展到了SaaS級別。
例如上文的AWSLakeFormation其創建過程很簡單,只需定義數據源,制定要應用的數據訪問和安全策略就行。LakeFormation模塊會幫助使用方從數據庫和對象存儲中收集并按目錄分類數據,將數據移動到新的數據湖里,使用機器學習算法清理和分類數據,并保護對敏感數據的訪問權限。
金色相對論 | 高慶忠:區塊鏈+AI應用前景廣闊:在本期金色相對論中,在談到區塊鏈結合AI能帶來怎樣的獨特優勢這一問題,智能矩陣Atmatrix創始人高慶忠表示:區塊鏈+AI, 落地是否難上加難,關鍵要看其項目要解決的問題是什么以及其解決方法是否有效,對于能揚長避短,不僅發揮AI優勢,而且發揮區塊鏈優勢的AI區塊鏈項目只會更容易些。對于能解決實體產業實際問題的AI區塊鏈項目未來將更容易被市場認可。ATN和Atmatrix連接人工智能與區塊鏈,為區塊鏈世界帶來人工智能,用區塊鏈技術來重構人工智能產業生態,這個項目未來應用前景將相當廣闊。區塊鏈有短板,AI有困境,只要避開短板和困境,發揮各自優勢和特長,兩者結合,還是很有前景的。[2018/7/17]
而對外表象是,使用方建立應用的用戶可以訪問那些描述了可用數據集及其適當用法的集中數據目錄。然后,用戶可以通過所選的分析和機器學習服務,利用這些數據集。
簡而言之,這個邏輯把分布在各處的數據,最終在數據服務上體現了價值,這是去中心化世界里,很多項目想要實現的,如果只是簡單的把數據控制在用戶手里,那用戶仍只是體驗了平臺的服務,而并非將數據可以變現,雖然說數據token化就可能有交易價值,但這種交易價值暴力程度遠不及在人工智能里實現的產業價值。
例如,如果微信去中心化了,我們在微信的行為數據就再也不會直接拿走被利用到廣點通里,你的朋友圈里不會出現“你剛剛和其他人說過的”你想買的物品,也不會被粗暴的推薦某些產品。
區塊鏈項目想實現這樣的愿景,但發展之路可能略有曲折。因為這樣的應用很難實現。
我們看到的區塊鏈項目,除了Defi、Nft這些應用層項目,其他都是基礎設施,而以區塊鏈的基礎設施,性能很難完成互聯網平臺的業務需求。
當隨著區塊鏈以及加密貨幣不斷擴展,網絡中的用戶增加,每個地址的關聯數據也開始增加,所有用戶的數據集中呈現了龐大的規模。這些存在本地的數據,就也組成了龐大的數據集群。
在這基礎之上,能實現數據湖的,并不多。因為實現數據湖,需要單獨的算力、存儲、算法等等。在區塊鏈項目的設計里,這個部分可能需要單獨的一層網絡,或某一個參與網絡建設的角色。
大部分區塊鏈項目并不能建立這樣的功能,因為大部分區塊鏈項目的網絡只有能力維持Defi項目的運行,而缺乏足夠的存儲和計算能力。
除存儲和算力外,在這基礎設施里,需要有去中心化的數據結構,例如以DID為單位的用戶數據,需要有算力和存儲的經濟模型,還需要有安全的代碼和便于開發應用的中間件。
這些都讓隱私計算的項目屈指可數。
當然我們這樣判定的前提,是我們所指的隱私計算,是關于數據的隱私處理。而并非簡單通過合約執行的匿名、混幣、交易隱私等等。
在交易處理分層的概念已經在加密貨幣項目設計里得到共識后,我們期待的是區塊鏈負責數據的權益證明,而其他層控制的算力和存儲,完成隱私計算。
定義一個可實時的框架
在文章的最后,我們用數據湖的最終命題,去推論出一個加密貨幣隱私項目的設計框架。通過這個框架,可以部分對比如今市面上的隱私計算項目。
首先,區塊鏈為加密貨幣項目提供共識層的總帳本。在這個總帳本里,是所有公開留存的數據證明。
接下來,是如何將項目設計為具備隱私計算能力。
從初代的隱私項目看,主要是增加了匿名性和交易隱私,例如具備混幣合約的隱私幣,其可以將合約當作一種dapp服務,讓代幣進入合約之后的操作無法查詢。這樣的設計,主要是在鏈上部署合約,可能會使用密碼學算法或者零知識證明等標志性技術,以保證交易過程在不可見的情況下正確執行。
而如果是有硬件要求的隱私計算設計,那在前文我們所提到的區塊鏈網絡,其網絡節點搭建,就需要特殊的設備,或者在區塊鏈共識層外,再次搭建一個由特殊設備組成的計算網絡。
例如通過集合具備TEE計算區的硬件設備連接成網,就可以利用TEE保護區塊鏈上的交易執行、合約執行等,TEE是對計算進行的物理保護,有一些獨特的通信方式,讓可信計算區和其他需求點交互。
而如果區塊鏈網絡具備MPC等對計算要求較高的技術部署,就需要搭建區塊鏈網絡的節點設備經過特殊定制,或者在區塊鏈共識層外,建立一個layer2計算、存儲層,將算力和存儲都共享出去,提供數據隱私計算需要的資源。
有趣的是,因為MPC很多情況下還是依靠加密算法,為了更周密的隱私部署,MPC和TEE會在非區塊鏈的可信案例里組合應用比較多,而MPC在區塊鏈項目里,與零知識證明、加密算法融合應用比較多。
當我們確認了有足夠的算力和存儲資源。
一旦需要數據湖,如AWS數據湖模塊一樣,需要建立數據湖,并且定向收集需求點位的數據,匯集后,對數據所有權進行分類,在數據湖里,除了數據所有權外,進行機器學習訓練的訓練方,數據執行方等都需要明確對數據湖的權限,例如訓練方可能具備管理訓練算法的權限,而其對部分數據是可用不可見。
數據最終的價值表現,與數據在訓練等過程中的作用也需要在數據湖的作用中進行評估。而這些輔助的計算都是基本功能,數據在數據湖的進進出出都會在區塊鏈上留下公開的痕跡,以保證所有權的公平。
最后,當技術上完善之后,就是數據變現后的權益分配,需要對數據貢獻進行定義,可能需要通證化的量化工作來實現公平的分配。
以上的參與者,理想狀態下,是很多方。而將這個模型放小,可能只會關于如今具備數據交叉訓練需求的幾方。
因為大部分數據的處理難度也是顯而易見的,例如數據的清洗、篩選、脫敏等等。
但如果這種模型已經成為標配,必然會有一個標配的經濟模型支持,例如這些資源的消耗需要需求者買單。而數據的訓練結果,可能將塑造下一個驚艷的產品。
如果我們只是因為自由選擇區塊鏈網絡,那你也許會因為產品體驗的不自由而離開,但如果你希望可以通過數據塑造價值,那必然要等待你的數據可以因為隱私計算變得有價值,并且這個價值可以回歸于你自己。
那個時候用戶才不會因為數據成為待宰羔羊,因為你可以對不認可的授權者say?no,拿好你的個人數據庫。
PS:文章篇幅有限,接下來筆者會繼續完成一些補充文章,例如數據湖中的數據倉,例如權益分配的詳細方案。敬請關注《金色深核》欄目的后續文章。
近年來,在涉及虛擬貨幣相關的犯罪中,詐騙類已經逐漸步入“發展期”,成為了增長最快的違法犯罪類型.
1900/1/1 0:00:00頭條 ▌V神將參與以太坊相關新紀錄片金色財經報道,電影制作公司Optimist正在制作第一部關于以太坊的長篇紀錄片,名為《以太坊:無限花園》.
1900/1/1 0:00:00(圖片來源于網絡) 最近DeFi和NFT板塊忽然熱了起來,頗有點先聲奪人的意味。遙想當年,2020年三季度,亦是DeFi領銜,熱了一波之后,至10月BTC開啟牛市征程.
1900/1/1 0:00:00據開發人員AlessandroPaluzzi在推特上爆料稱,Instagram似乎正致力于在其應用程序上部署NFT功能,以及端對端的加密聊天功能.
1900/1/1 0:00:00比特幣資金費率代表市場情緒。當資金費率比較高的時候,意味著市場較為瘋狂,多方需支付資金費用給空方,那么這個時候愿意買入永續合約的人相對在下降,因為持有永續合約需支付高昂的資金費用,同時愿意做空的.
1900/1/1 0:00:00最近幾個月,公眾對“數字美元”的興趣達到了高潮,許多專家建議美聯儲應該盡快發行CBDC,但是聯邦儲備系統理事會監督副主席RandalKQuarles先生提出了不同意見,2021年6月28日.
1900/1/1 0:00:00