當 Web2 科技公司無法完全預測或控制人工智慧的行為時，它們很難確保法規的遵守。 這種不確定性反而為更靈活的 Web3 解決方案提供了優勢。 通過應用區塊鏈技術和智慧合約，加密人工智慧代理能夠提供比中心化系統更高的透明度和安全性。
作者：IOSG Ventures
原用標題：IOSG Weekly Brief|科技巨頭與人工智慧代理創新者的挑戰與困境 #239
封面：Photo by Jigar Panchal on Unsplash
本文僅供學習交流使用，不構成任何投資建議。 轉載請註明出處，並與 IOSG 團隊聯繫獲取授權及轉載須知。 文章中提及的所有項目並非推薦或投資建議。
致謝：感謝 Metropolis DAO 王超對文章提出的寶貴修改建議！
1. 集中式人工智慧代理的前景
人工智慧代理有潛力徹底改變我們與網路互動和在線執行任務的方式。 雖然圍繞利用加密貨幣支付軌道的人工智慧代理有很多討論，但重要的是要認識到，已建立的 Web 2.0 公司也有很好的條件提供全面的 agent（人工智慧代理）產品套件。
Web2 公司的 agent 大多以助手形態，或者是垂直工具的形態出現，只具備很弱的執行能力。 這裡面既有基礎模型還不夠成熟的原因，也有監管不確定等原因。 現在的 agent 仍處於第一階段，他們在特定領域里能做的不錯，但基本沒有泛化能力。 例如阿裡國際有一個 agent 是專門幫商家回復信用卡糾紛的郵件。 很簡單的一個 agent，調用了發貨記錄等數據，按範本生成發送，就有很高的成功率能夠讓信用卡公司不扣錢。
像蘋果、谷歌這樣的科技巨頭，以及像 OpenAI 或 Anthropic 這樣的人工智慧專家公司，似乎特別適合探索開發 agent 系統的協同效應。 蘋果的優勢在於其消費者設備生態系統，可以作為人工智慧模型的宿主和使用者交互的門戶。 該公司的 Apple Pay 系統可以使代理能夠促進安全的在線支付。 谷歌憑藉其龐大的網路數據索引和提供即時嵌入的能力，可以為代理提供前所未有的信息訪問。 與此同時，像 OpenAI 和 Anthropic 這樣的人工智慧強者可以專注於開發能夠處理複雜任務和管理金融交易的專門模型。 除了 Web2 大廠，在美國也有大量的創業公司做這樣的 agent，比如説明牙醫做預約管理，或者輔助生成診療後報告這些非常細的場景。
然而，這些 Web 2.0 巨頭面臨著經典的創新者困境（Innovator's dilemma）。 儘管他們擁有技術實力和市場主導地位，但他們必須在破壞性創新的危險水域中航行。 開發真正自主的 agent 代表著與他們既定商業模式的重大偏離。 此外，人工智慧的不可預測性，加上金融交易和使用者信任的高風險，帶來了重大挑戰。
2. 創新者的困境：集中式供應商面臨的挑戰
創新者的困境描述了一個悖論，即成功的公司往往難以採用新技術或商業模式，即使這些創新對長期發展至關重要。 問題的核心在於現有公司不願意引入初期用戶體驗可能不如其現有精細產品的新產品或技術。 這些公司擔心採用這樣的創新可能會疏遠其當前的客戶群，因為這些客戶已經習慣了某種程度的精緻和可靠性。 這種遲疑源於可能破壞用戶長期培養起來的期望的風險。
2.1 代理的不可预测性与用户信任
像谷歌、苹果和微软这样的大型科技公司已经在经过验证的技术和商业模式上建立了他们的帝国。引入完全自主的 agent 代表着与这些既定规范的重大偏离。这些 agent，尤其是在早期阶段，不可避免地会有不完善和不可预测的地方。人工智能模型的非确定性本质意味着即使经过广泛测试，也总是存在意外行为的风险。
对这些公司来说，风险非常高。一个失误不仅可能损害他们的声誉，还可能使他们面临重大的法律和财务风险。这创造了一个使他们谨慎行事的强烈动机，可能从而错过 agent 领域的先发优势。
对于考虑部署 agent 的集中式提供商来说，客户抗议的风险非常大。与可以快速转向且没有太多损失的初创公司不同，已建立的科技巨头拥有数百万期望一致、可靠服务的用户。agent 的任何重大失误都可能导致公关噩梦。
考虑一个场景，其中 agent 代表用户做出了一系列糟糕的财务决策。由此引发的强烈抗议可能会侵蚀多年精心建立的信任。用户可能不仅会质疑 agent，还会质疑公司基于人工智能的所有服务。
2.2 模糊的评估标准和监管挑战
此外，如何评估何为 “正确的” 代理回应进一步使问题复杂化。在许多情况下，我们不清楚代理的回答是否真的有误，还仅仅是意外。这个灰色地带可能会导致争议，进一步损害客户关系。
也许集中式 agent 提供商面临的最艰巨障碍是不断发展且复杂的监管环境。随着这些 agent 变得更加自主并处理越来越敏感的任务，它们进入了可能带来重大挑战的监管灰色地带。
金融法规特别棘手。如果 agent 代表用户做出金融决策或执行交易，它可能会受到金融监管机构的监管。此外，合规的要求可能会很广泛，并在不同司法管辖区有显著差异。
还有责任问题。如果 agent 做出的决定导致用户财务损失或其他伤害，谁应该负责？用户？公司？人工智能本身？这些都是监管机构和立法者刚刚开始处理的问题。
2.3 模型偏见可能成为争议的来源
此外，随着 agent 变得更加复杂，它们可能会触犯反垄断法规。如果一家公司的 agent 始终倾向于该公司自己的产品或服务，这可能被视为反竞争行为。这对已经因市场主导地位而受到审查的科技巨头尤其重要。
人工智能模型的不可预测性为这些监管挑战增加了另一层复杂性。当 Web2 无法完全预测或控制人工智能的行为时，其很难保证遵守法规。这种不可预测性可能导致 Web2 agent 的创新变慢，因为公司需要应对这些复杂问题，这反倒可能会给更灵活的 Web3 解决方案带来优势。
3. Web3 的机遇
随着 LLM 底层模型能力的提升，agent 有机会进入下一形态，具备相对较高自主性的 agent。目前看大公司是不太可能敢碰这个方面的，可能帮用户定个 pizza 就是极限了。创业公司可能会大胆一下，但会面临很多技术障碍，比如 agent 自身不具备身份，任何操作都需要借用 agent 使用者的身份和账号。即使借了身份，传统体系也不是那么容易支持 agent 去自如的进行操作。Web3 技术为人工智能代理开发提供了独特的机会，可能解决集中式提供商面临的一些挑战。Web3 体系下，agent 可以通过掌握钱包实现多个 DID，无论是通过加密进行支付，还是使用各类无许可的协议都对 agent 非常友好。而当 agent 开始进行复杂的经济行为的时候，agent 和 agent 大概率会有高强度的交互。这时候 agent 之间的相互猜疑如果没有办法得到解决，agent 经济体系就不是一个完整的经济体系。这也是可以利用加密技术来解决的一个方面。
另外，Crypto-economic 激励可以促进代理发现，并提供一个如果代理行为不当可以被削减质押或罚没的惩罚。这创造了一个自我调节的系统，其中好的行为得到奖励，坏的行为受到惩罚，因此可能减少集中监督的需求，并为那些早期采用将金融交易委托给完全自主代理的人提供一定程度的安心感。
Crypto-economic 質押具有雙重作用，在行為不當時需要削減，同時也作為發現 agent 過程中的關鍵市場信號。 無論是對其他代理還是尋找特定服務的人來說，直覺很簡單，質押越多，市場對特定代理性能的信任就越高，用戶的心態就越平靜。 這可能會創造一個更加動態和回應迅速的 agent 生態系統，其中最有效和最值得信賴的代理會自然而然地脫穎而出。
Web3 還能夠創建開放的 agent 市場。 與信任集中式供應商相比，這些市場允許更大程度的實驗和創新。 初創公司和獨立開發者可以為生態系統做出貢獻，可能導致 agent 的進步地更快和專業化。
此外，像 Grass 和 OpenLayer 這樣的分散式網路可以為 agent 提供訪問開放互聯網數據和需要身份驗證的封閉信息的機會。 這種對多樣化數據源的廣泛訪問可能使 Web3 agent 能夠做出更明智的決策並提供更全面的服務。
Web 2.0 與 Web 3.0 對比
4. Web3 人工智慧代理的局限性和挑戰
4.1 加密支付的有限採用
如果我們不反思 Web 3.0 代理將面臨的一些採用挑戰，這篇文章就不完整。 房間里的大象是加密貨幣作為鏈下經濟支付解決方案的採用仍然有限。 目前，只有少數在線平臺接受加密支付，這限制了基於加密的 agent 在實體經濟中的實際用例。 如果沒有加密支付解決方案與更廣泛經濟的深度整合，Web 3.0 代理的影響將繼續受到限制。
4.2 交易規模
另一個挑戰是典型在線消費交易的規模。 這些交易中有許多涉及相對小額的錢，這可能不足以證明大多數使用者需要無信任系統。 如果存在中心化的替代方案，普通消費者可能看不到使用去中心化 agent 進行小額、日常購買的價值。
5. 結束語
由於非確定性模型的不可預測性導致科技公司不願提供完全自主的 AI agent，這為加密初創公司創造了機會。 這些加密初創公司可以利用開放市場和 crypto-economic 安全來彌補代理潛力與實際實施之間的距離。
通過利用區塊鏈技術和智慧合約，加密人工智慧代理可能提供中心化系統難以匹敵的透明度和安全性水準。 這對於需要高度信任或涉及敏感資訊的用例可能特別有吸引力。
總之，雖然 Web2 和 Web3 技術都為人工智慧代理開發提供了途徑，但每種方法都有其獨特的優勢和挑戰。 人工智慧代理的未來可能取決於如何有效地結合和完善這些技術，以創造可靠、值得信賴和有用的數位助手。 隨著該領域的發展，我們可能會看到 Web2 和 Web3 方法的融合，利用各自的優勢來創造更強大和多功能的人工智慧代理。
免責聲明：作為區塊鏈資訊平臺，本站所發佈文章僅代表作者及嘉賓個人觀點，與 Web3Caff 立場無關。 文章內的資訊僅供參考，均不構成任何投資建議及要約，並請您遵守所在國家或地區的相關法律法規。
