區塊鏈通過允許分散式訪問模型,並創建具有加密激勵的更便宜模型市場,為訪問較低計算成本的 GPU 提供一座橋樑。
原文:The Rise of AI and GPU Shortages: How Blockchain Alleviates Machine Learning Bottlenecks(Foundry)
作者:Tommy Eastman
編譯:Frank,Foresight News
封面:Photo by Martin Martz on Unsplash
隨著人工智慧的發展和對 GPU 需求的增加,機器學習行業面臨著 GPU 成本和可訪問性的問題,讓我們看看區塊鏈技術是如何提供解決方案的。
GPU 產業
在過去的一年裡,基於人工智慧的應用程式和集成有了巨大的增長。 OpenAI 的 ChatGPT 成為有史以來增長最快的應用程式,在發佈僅僅兩個月後就達到了 1 億月活躍使用者。 相比之下,TikTok 花了 9 個月,Instagram 花了 18 個月才達到同樣的里程碑。
對人工智慧的需求極大地影響了圖形處理器(GPU)的價值和可用性。 GPU 是為執行並行計算而優化的處理單元,同時處理許多數據,這使得它們對機器學習、視頻編輯和遊戲應用程式很有用。 由於 GPU 在人工智慧賽道具有多用途,因此市場對 GPU 的需求有所增加。
GPU 是由少數幾家公司開發和分售的,這在製造業供應鏈的延遲中很明顯。 自 2017 年牛市以來,它們一直與區塊鏈行業密切相關,2018 年乙太坊工作量證明礦工購買了幾乎所有可用的 GPU。 乙太坊區塊鏈已經轉向了權益證明,但隨著人工智慧的爆炸式增長,區塊鏈技術仍然為獲得 GPU、訓練成本、分散式推理等常見問題提供了有用的解決方案。
機器學習過程和瓶頸
機器學習是一個龐大而迅速發展的行業。 模型的訓練通常分為幾個步驟,每個步驟都有一定的瓶頸。
1. 基礎模型訓練
基礎模型訓練包括獲取大型數據集(例如維琪百科)並訓練初始基礎模型,以用作通用智慧模型或最終進行微調,它使用學習到的模式和關係來預測序列中的下一個專案。
例如,圖像生成模型被訓練將圖像模式與相應的文本關聯起來,因此當給定文本輸入時,它們根據這些學習到的模式生成圖像。 類似地,對於文本,模型根據前面的單詞和上下文預測文本字串中的下一個單詞。
基礎模型的訓練在工作力、基礎設施、時間和精力方面是昂貴的,目前的供應鏈很難獲得最先進的 NVIDIA GPU,即使對擁有充裕資金的公司來說也是如此。
例如 OpenAI 的 GPT-3 的反覆運算訓練持續了幾個月,僅能源成本就消耗了數百萬美元。 因此基礎模型的訓練仍然是一項昂貴得令人望而卻步的努力,只有少數私人企業才能做到。
2. 微調
值得注意的是,與基礎模型訓練相比,更少的資源密集,微調優化了特定任務的模型(例如學習新方言的語言模型)。 基礎模型在特定任務上的性能可以通過微調大幅提高。
雖然 GPU 稀缺會影響這三個領域,但微調受到的影響最小。 然而,微調完全依賴於開源的基礎模型。 如果私人公司決定停止開源他們的模型,社區模型將以驚人的速度落後於最先進的(SOTA)模型。
3. 推理
訪問模型代表了該步驟的最後一步——例如從 ChatGPT 接收問題的答案,這是基於穩定擴散的使用者提示生成的圖像——需要 GPU 資源用於模型查詢。 推理在計算需求方面正在迅速升級,特別是在 GPU 支出方面。
推理既包括最終使用者,也包括將模型合併到其應用程式中的開發人員,這是確保該模式經濟可行性的途徑。 這一概念對於將人工智慧系統整合到社會中至關重要,其重要性體現在終端用戶積極使用 ChatGPT 等工具的快速採用率上。
GPU 的稀缺性使得推理成本迅速上升。 雖然與基礎模型訓練相比,推理的基準線要求較低,但公司部署應用程序的規模要求查詢模型的 GPU 負載驚人。 隨著 GPU 模型多樣性的增加(通過微調和新的基礎模型開發),應用程式的多樣性將會增加,而來自推理的 GPU 需求將急劇增加。
區鏈為機器學習瓶頸提供解決方案
在過去,GPU 被用於挖掘乙太坊和其他 PoW 代幣。 現在,區塊鏈被視為一個獨特的機會,可以提供訪問和增加 GPU 空間瓶頸之間的協調——特別是在機器學習方面。
加密激勵
大規模 GPU 部署需要大量的前期資金,這阻礙了除了大型公司之外的所有公司在這一領域的發展進程。 區塊鏈激勵為 GPU 擁有者創造了從備用計算中獲利的潛力,為用戶創造了一個更便宜、更容易進入的市場。
分散式訪問
任何人都可以提供 / 使用計算、託管模型和查詢模型——這與需要處於測試版或在傳統空間中具有有限的訪問許可權有明顯的不同。
區塊鏈可以為機器學習空間提供的一個重要特性是分散式訪問。 傳統上機器學習需要大型數據中心,因為 FMT 還沒有在非集群 GPU 上大規模完成,而分散式協定正試圖解決這個問題,如果成功,將打開 FMT 的閘門。
市場協調
區塊鏈市場幫助協調 GPU 採購,允許擁有 GPU 的個人和公司找到想要租用它們的人,而不是讓它們閑置,在 GPU 閑置的時候產生收入可以説明抵消購買 GPU 的前期成本,允許更多的實體參與 GPU 託管。
Foundry 對負責任 AI 的承諾
區塊鏈機器學習領域是一個剛剛起步的行業,在主網上只有很少的專案。 目前 Foundry 正在支援 Bittensor AI 專案以及 Akash,這被證明是推進分散式 AI 的一種有意義的方式。
Bittensor
Bittensor 是一個去中心化的、無需許可的計算網路,可以更容易地訪問模型,並通過加密激勵創建一個更便宜的模型市場,任何人都可以託管模型,並且使用者提示與給定模態的排名最高的模型相匹配。
Bittensor 已經發展成為加密領域最大的人工智慧專案之一,利用區塊鏈創建了一個大規模的計算推理網路,該網路最近發佈了激勵不同模式的子網,包括圖像生成、預測市場等。
Foundry 在網路上進行驗證和挖掘,並運行權威證明節點以確保共識。
Akash
Akash 是一個通用的計算市場,它允許更容易地大規模訪問 GPU,訓練更多的基礎模型,並降低 GPU 的成本。
Akash 最近推出了他們的 GPU 市場,其目標與減少入門資金門檻、降低 GPU 計算成本和增加可訪問性類似,基礎模型培訓計劃在 Akash 發展。 Foundry 正在為網路提供 GPU 計算,並與團隊合作開發功能。
接下來是什麼?
隨著機器學習繼續融入企業,對 GPU 的需求將繼續飆升,這在機器學習領域引發了持續的供應鏈問題,區塊鏈技術通過允許分散式訪問模型並創建具有加密激勵的更便宜的模型市場,為訪問較低計算成本的 GPU 提供了一座橋樑。
免責聲明:作為區塊鏈資訊平臺,本站所發佈文章僅代表作者及嘉賓個人觀點,與 Web3Caff 立場無關。 文章內的資訊僅供參考,均不構成任何投資建議及要約,並請您遵守所在國家或地區的相關法律法規。