以太幣交易所 以太幣交易所
Ctrl+D 以太幣交易所
ads

OPML:采用Optimistic Rollup系統的機器學習_PML

Author:

Time:1900/1/1 0:00:00

來源:github;編譯:MarsBit

我們提出OPML(Optimistic機器學習),它可以使用Optimistic方法對區塊鏈系統進行AI模型推理和訓練/微調。

與ZKML相比,OPML可以提供低成本、高效率的ML服務。OPML的參與要求很低:我們現在能夠在沒有GPU的普通PC上運行帶有大型語言模型的OPML,例如7B-LLaMA(模型大小約為26GB)。

OPML采用驗證游戲(類似于Truebit和Optimistic Rollup系統)來保證ML服務的去中心化和可驗證共識。

請求者首先啟動一個ML服務任務。

然后,服務器完成ML服務任務并將結果提交到鏈上。

驗證者將驗證結果。假設存在一個驗證者聲明結果是錯誤的。它通過與服務器的驗證游戲(二分協議)啟動驗證游戲,并試圖通過精確指出一個具體的錯誤步驟來反駁該聲明。

最后,在智能合約上進行單個步驟的仲裁。

單階段精確定位協議的工作原理與計算委托 (RDoC) 類似,其中假設兩個或多個參與方(至少有一個誠實的參與方)執行相同的程序。然后,雙方可以用精確的方式相互質疑,以找出有爭議的步驟。將步驟發送給計算能力較弱的法官(區塊鏈上的智能合約)進行仲裁。

數字藝術家Beeple以113.69 ETH價格購買CryptoPunk 4593:8月2日消息,鏈上信息顯示,數字藝術家 Beeple 于 11 小時前以 113.69 ETH 的價格購買了 CryptoPunk 4593。[2023/8/2 16:13:05]

在單階段OPML中:

我們構建了一個虛擬機(VM)用于鏈下執行和鏈上仲裁。我們保證了在智能合約上實現的鏈下VM和鏈上VM的等效性。

為了確保虛擬機中AI模型推理的效率,我們實現了一個專門為此目的設計的輕量級DNN庫,而不是依賴于流行的ML框架,如Tensorflow或PyTorch。此外,還提供了一個腳本,可以將Tensorflow和PyTorch模型轉換為這個輕量級庫。

采用交叉編譯技術將人工智能模型推理代碼編譯成虛擬機程序指令。

虛擬機鏡像是用默克爾樹管理的,只有默克爾根會被上傳到鏈上智能合約。(默克爾根代表虛擬機狀態)

Open Campus:今日向Binance轉入的416萬枚EDU將用于提供流動性:5月30日消息,Web3 教育協議 Open Campus 針對今日早些時候將解鎖的約 416 萬枚 EDU 轉入 Binance 一事發文表示,根據公布的歸屬時間表,目前已解鎖 2100 萬枚 EDU,錢包中仍有 1700 萬枚 EDU 尚未移動或出售,400 萬枚已于今天早間轉移至 Binance 用于提供流動性。[2023/5/30 11:48:46]

二分協議將幫助定位爭議步驟,該步驟將發送到區塊鏈上的仲裁合約

性能:我們在PC上測試了一個基本的AI模型(用于MNIST分類的DNN模型)。我們能夠在VM中2秒內完成DNN推理,在本地以太坊測試環境中,整個挑戰過程可以在2分鐘內完成。

單階段驗證游戲有一個嚴重的缺點:所有的計算必須在虛擬機(VM)內執行,這使我們無法充分利用 GPU/TPU 加速或并行處理的潛力。因此,這一限制嚴重阻礙了大模型推理的效率,這也與當前RDoC協議的限制相一致。

Celestia創始人:Celestia與Optimism并不是競爭關系,二者是互補的:2月24日消息,模塊化區塊鏈網絡Celestia創始人Nick White在社交媒體上就Celestia與Optimism(啟動OP stack之后)之間的定位差異表示,Celestia與Optimism并不是競爭關系,二者是互補的,Celestia是一個可生產區塊空間的Layer1,而Optimism則會基于Layer1的區塊空間構建rollups。

Nick補充表示,二者的營銷話術上可能會有些相似,但這都是為了介紹模塊化區塊鏈的好處。[2023/2/24 12:27:53]

為了解決單階段協議所帶來的限制,并確保OPML能夠達到與本機環境相當的性能水平,我們提出了對多階段協議的擴展。使用這種方法,我們只需要在最后階段在VM中進行計算,類似于單階段協議。對于其他階段,我們可以靈活地執行計算,從而在本機環境中實現狀態轉換,利用CPU、GPU、TPU甚至并行處理的能力。通過減少對VM的依賴,我們顯著地減少了開銷,從而顯著提高了OPML的執行性能,幾乎與本機環境類似。

OpenOcean正式聚合去中心化跨鏈交易協議MDEX:據官方消息,全聚合協議OpenOcean.Finance已于2021年4月20日 16:30(UTC+8) 正式聚合去中心化跨鏈交易協議MDEX交易,為用戶提供一站式交易入口,用戶可以在OpenOcean上進行Swap交易時,鏈接MDEX生態橋梁。詳情點擊原文鏈接。[2021/4/20 20:40:47]

下圖演示了一個驗證游戲由兩個階段(k = 2)組成。在階段1中,該過程類似于一個單階段驗證游戲,其中每個狀態轉換對應于一個改變虛擬機狀態的單個VM微指令。在階段2中,狀態轉換對應于包含改變計算上下文的多個微指令的“大指令”。

提交者和驗證者將首先使用二分協議啟動第二階段的驗證游戲, 以定位“大指令”上的爭議步驟。此步驟將發送到下一階段,即phase -1。第一階段的工作原理類似于單階段驗證游戲。第一階段的二分協議將有助于定位 VM 微指令上的爭議步驟。該步驟將發送至區塊鏈上的仲裁合約。

為了確保過渡到下一階段的完整性和安全性,我們依賴于默克爾樹。該操作包括從更高級別的階段提取Merkle子樹,從而保證驗證過程的無縫延續。

動態 | 灰度在推特上發布名為DropGold的全國性比特幣推廣商業廣告:灰度(Grayscale)在推特上發布名為DropGold的全國性商業廣告,用于推廣比特幣。Grayscale為機構投資者提供了許多基于加密的信托,并表示比特幣4月份的激增將其管理資產提升至超過10億美元。[2019/5/2]

在本演示中,我們提出了 LLaMA 模型中使用的兩階段 OPML 方法:

機器學習(ML),特別是深度神經網絡(DNN)的計算過程可以表示為計算圖,表示為G。該圖由各種計算節點組成,能夠存儲中間計算結果。

DNN模型推理本質上是在上述計算圖上的計算過程。整個圖可以看作是推理狀態(Phase-2中的計算上下文)。在計算每個節點時,結果存儲在該節點中,從而將計算圖推進到下一個狀態。

因此,我們可以先在計算圖上進行驗證博弈(在phase-2)。在第二階段驗證游戲中,圖形節點的計算可以在本地環境中使用多線程CPU或GPU進行。二分協議將幫助定位爭議節點,該節點的計算將發送到下一階段(phase-1) 二分協議。

在第一階段二分中,我們將單個節點的計算轉換為虛擬機(VM)指令,類似于在單階段協議中所做的操作。

值得注意的是,當計算圖中單個節點的計算仍然計算復雜時,我們預計會引入多階段OPML方法(包括兩個以上階段)。這一延長將進一步提高驗證過程的整體效率和有效性。

在這里,我們對我們提出的多階段驗證框架進行了簡要的討論和分析。

假設有n DNN計算圖中的節點,每個節點需要取m VM微指令,在VM中完成計算。假設使用GPU或并行計算對每個節點的計算加速比為α 。該比率表示通過GPU或并行計算實現的加速,并且可以達到顯著值,通常比VM執行速度快幾十倍甚至數百倍。

基于這些考慮,我們得出以下結論:

1.兩階段OPML優于單階段OPML,實現了計算加速α次。多階段驗證的使用使我們能夠利用GPU或并行處理提供的加速計算能力,從而顯著提高整體性能。

2.當比較Merkle樹的大小時,我們發現在兩階段OPML中,大小為O(m+n),而在單階段OPML中,尺寸明顯大于 O(mn)。Merkle樹大小的減小進一步突出了多階段設計的效率和可擴展性。

總之,多階段驗證框架提供了顯著的性能改進,確保更高效和更快的計算,特別是在利用GPU或并行處理的加速能力時。此外,減小的Merkle樹大小增加了系統的有效性和可擴展性,使多階段OPML成為各種應用的選擇。

在OPML中,確保ML結果的一致性是至關重要的。

在DNN計算的本機執行過程中,特別是在不同的硬件平臺上,由于浮點數的特性,可能會產生執行結果的差異。例如,涉及浮點數的并行計算,例如(a+b)+c與a+(b+c), 由于舍入誤差,通常會產生不相同的結果。此外,編程語言、編譯器版本和操作系統等因素都可能影響浮點數的計算結果,從而導致ML結果進一步不一致。

為了應對這些挑戰并保證OPML的一致性,我們采用了兩種關鍵方法:

1.采用定點算法,又稱量化技術。這種技術使我們能夠使用固定精度而不是浮點數來表示和執行計算。通過這樣做,我們減輕了浮點舍入誤差的影響,從而獲得更可靠和一致的結果。

2.我們利用基于軟件的浮點庫,這些庫旨在跨不同平臺保持一致的功能。這些庫確保了ML結果的跨平臺一致性和確定性,而無論底層硬件或軟件配置如何。

通過結合定點算法和基于軟件的浮點庫,我們為在OPML框架內實現一致和可靠的ML結果奠定了堅實的基礎。這種技術的協調使我們能夠克服浮點變量和平臺差異帶來的固有挑戰,最終增強OPML計算的完整性和可靠性。

*:在當前的OPML框架中,我們的主要重點在于ML模型的推理,從而實現高效且安全的模型計算。然而,必須強調的是,我們的框架也支持訓練過程,使其成為各種機器學習任務的通用解決方案。

請注意,OPML仍在開發中。如果您有興趣成為這一激動人心的計劃的一部分,并為OPML項目做出貢獻,請隨時與我們聯系。

MarsBit

媒體專欄

閱讀更多

Foresight News

金色財經 Jason.

白話區塊鏈

金色早8點

LD Capital

-R3PO

深潮TechFlow

Tags:PMLOPMSTITIMIPML幣Web 3 DevelopmentINSTINCTOptimism Doge

歐易交易所
金色Web3.0日報 | 法國隱私監管機構啟動對WorldCoin的調查_NFT

DeFi數據 1、DeFi代幣總市值:494.54億美元 DeFi總市值及前十代幣 數據來源:coingecko2、過去24小時去中心化交易所的交易量37.

1900/1/1 0:00:00
SharkTeam:UniswapX 源碼分析_SWAP

UniswapX 旨在通過將路由復雜性外包給第三方填充者的開放網絡來解決,然后第三方填充者競爭使用 AMM 礦池或自己的私人庫存等鏈上流動性來填充掉期.

1900/1/1 0:00:00
觀點:零知識證明并非DeFi的正確解決方案_EFI

作者:DARREN KLEINE,blockworks 編譯:善歐巴,金色財經許多團隊正在努力實現零知識 DeFi,但他們都在處理同樣的基本邏輯問題.

1900/1/1 0:00:00
Worldcoin具體是如何處理隱私的_WOR

作者:sydney,加密KOL;翻譯:金色財經xiaozouWorldcoin上線了。它在隱私保護方面是如怎么做的?讓我們具體看下Semaphore協議和ZK-SNARKs.

1900/1/1 0:00:00
社交賽道再起風潮 明星項目CyberConnect有何特別?_NBS

作者:Climber,金色財經隨著馬斯克將Twitter改名X,社交平臺金融屬性的開發被寄予了更多期望。與此同時,新舊勢力也開始再次試水社交賽道.

1900/1/1 0:00:00
金色圖覽 | NFT行業周報(07.16 - 07.22)_BTC

【07.16 - 07.22】周報概要:1、上周NFT總交易額:130,645,170(美元)2、上周NFT總交易筆數:345.

1900/1/1 0:00:00
ads