AI監管新思路：給每個AI注入一個“靈魂”_人工智能

人工智能領域的領軍人物，包括像 ChatGPT 這樣眾所周知的“生成式人工智能”的系統架構師，現在都公開表示，擔心自己創造的東西可能會帶來可怕的后果。許多人現在呼吁暫停人工智能的發展，讓國家和機構有時間研究控制系統。

為什么會突然出現這種擔憂？在許多陳詞濫調的假設被推翻的同時，我們了解到所謂的圖靈測試是無關緊要的，它根本無法洞察大型生成式語言模型是否真的是有智慧的東西。

一些人仍然抱有希望，認為有機和控制論的結合將帶來里德·霍夫曼（Reid Hoffman）和馬克·安德烈森（Marc Andreesen）稱之為“增強智能”（amplification intelligence）的東西。否則，我們可能會與理查德·布勞提根（Richard Brautigan）的“仁愛機器”（machines of loving grace）幸運地產生協同效應。但憂慮者似乎很多，包括新成立的人工智能安全中心（Center for AI Safety）的許多精英創始人，他們對人工智能的行為感到擔憂，他們擔心 AI 不僅會變得令人不快，還將威脅人類的生存。

一些短期的補救措施，比如歐盟最近通過的公民保護條例，可能會有所幫助，或者至少能讓人安心。科技評論家尤瓦爾·諾亞·赫拉利（Yuval Noah Harari，《人類簡史》的作者）建議制定一項法律，規定任何由人工智能或其他人工智能完成的工作，都必須貼上相關的標簽。還有人建議對那些借助人工智能實施犯罪的人加重處罰，就像使用槍支一樣。當然，這些都只是暫時的權宜之計。

我們得清醒地認識到，這些“暫停”行為是否會減緩人工智能的進步。正如加州理工學院網絡科學家亞瑟·阿布·穆斯塔法（Yaser Abu-Mostafa）所言：“如果你不開發這項技術，其他人也會開發。但好人會遵守規則，而壞人不會。”

歐盟通過AI法案:金色財經報道，歐洲議會已經通過了歐盟AI法案，這是一項對歐洲聯盟內人工智能技術進行治理和監督的全面立法框架。在6月14日的投票中，該措施在議會中獲得了多數支持，499票贊成、28票反對和93票棄權。在該法案成為法律之前，下一步將涉及與歐洲議會成員的個別談判，以解決細節問題。歐盟AI法案最初由歐洲委員會于4月21日提出，它是歐盟內人工智能發展的一套全面規則。[2023/6/15 21:38:50]

從來都是這樣。事實上，在整個人類歷史上，只有一種方法可以遏制惡棍的不良行為，從小偷到國王和封建主。這種方法從來都不是一種完美的方法，而且至今仍然存在嚴重的缺陷。但它至少很好地限制了掠奪和欺騙行為，促使人類的近代文明達到了新的高度，并產生了許多積極的結果。用一個詞來形容這種方法就是：問責制。

自然。正如莎拉·沃克（Sara Walker）在《諾瑪》（Noema）中解釋的那樣，在 40 億年前早期生命的形成中可以找到類似的模式。事實上，生成式人工智能可以被比作一個入侵物種，現在正不受任何約束地蔓延到一個脆弱而幼稚的生態系統中。這是一個基于新型能量流的生態系統，一個由互聯網、數百萬臺電腦和數十億易受影響的人類大腦組成的世界。

還有歷史。在人類過去 6000 年的時間里，我們從許多早期由技術導致的危機中吸取了豐富的教訓。通常我們適應得很好，例如文字、印刷機、收音機等的出現，盡管也有失敗的時候。同樣，只有一件事限制了強大的人類利用新技術來擴大其掠奪能力。

這種創新就是扁平化等級制度，并在明確界定的領域（市場、科學、民主、體育、法院）激發精英之間的競爭。這些競技場旨在最大限度地減少作弊行為，最大限度地提高正收益，讓律師與律師、公司與公司、專家與專家展開較量。

Spankchain旗下加密支付服務SpankPay宣布終止運營:3月21日消息，Spankchain旗下加密支付服務SpankPay宣布，在其上游支付處理商Wyre Payments終止與該公司的協議后，該服務將關閉。

該公司在推特上寫道：“這是Wyre有針對性的關閉，因為他們的新支付處理器Checkout.com不適用于成人企業。這令人震驚，因為到目前為止我們與Wyre的關系一直是支持和尊重的。”

SpankPay顧問Allie Knox表示，雖然運營SpankPay不再可行，但該團隊將把重點轉移到其他產品上，并將重點放在改變導致該問題的立法問題上。（Decrypt）[2023/3/21 13:16:30]

這種方法并不完美。事實上，就像現在一樣，這種方法總是受到作弊者的威脅。但扁平化的相互競爭是唯一行之有效的方法。（參見伯里克利的《葬禮演說》、修昔底德和羅伯特·賴特后來出版的《非零》一書中的觀點。）相互競爭既是自然進化的方式，也是促使我們有足夠創造力建造人工智能社會的方式。如果我這樣說聽起來像亞當·斯密（Adam Smith），那是自然。順便說一句，斯密也鄙視那些騙子貴族和寡頭。

我們是否可以將“相互問責”（reciprocal accountability）的方法應用于快速崛起的人工智能呢，畢竟這種方法曾幫助人類制服了在以前的封建文化中壓迫我們的暴君和惡霸？這在很大程度上取決于新實體的形態，取決于其結構或形式是否符合我們的規則，符合我們的要求。

在所有關于“如何控制人工智能”的爭論背后，我們發現了三個被廣泛認同（盡管看似矛盾）的假設：

這些程序將由少數幾個單一實體運營，例如微軟、谷歌、Two Sigma、OpenAI。

Chainlink將推出旨在將DApp或合約連接到Web2 API的平臺Chainlink Functions:金色財經報道，Chainlink將推出旨在將DApp或智能合約連接到Web2 API的自助式無服務器平臺Chainlink Functions。Chainlink Labs首席產品官Kemal El Moujahid表示，Chainlink Functions還允許開發者者快速通過其網絡在Web2 API上運行可定制的計算。該平臺目前正在以太坊和Polygon測試網上進行內測。[2023/3/2 12:37:32]

人工智能將是無定形的、松散的、無限可分/可復制的，通過新網絡生態系統的每一個縫隙傳播副本。與此類似，可以參考 1958 年的科幻恐怖片電影《魔點》（The Blob）。

它們將凝聚成一個超級巨型實體，就像電影《終結者》中臭名昭著的“天網”一樣。（譯者注：天網是電影《終結者》里一個人類于 20 世紀后期創造的、以計算機為基礎的人工智能防御系統，最初是研究用于軍事的發展，后自我意識覺醒，視全人類為威脅，以誘發核彈攻擊為起步，發動了將整個人類置于滅絕邊緣的審判日。）

所有這些形式都在科幻故事中被探索過，我也寫過以它們為主題的故事或小說。然而，這三者都無法解決我們目前的困境：如何最大限度地利用人工智能的積極成果，同時最大限度地減少以海嘯般的速度向我們涌來的不良行為和危害。

在尋找其他方法之前，請考慮這三種假設的共同之處。也許這三種假設之所以會如此自然地出現在腦海中，是因為它們與歷史上的失敗模式相似。第一種形式很像封建主義，第二種形式會造成混亂，而第三種形式類似于殘酷的專制主義。但是，隨著人工智能在自主性和能力方面的發展，這些歷史情形可能不再適用了。

Riot Blockchain任命新董事:官方消息，11月17日，Riot Blockchain，Inc.（納斯達克股票代碼：RIOT） 宣布，Hubert Marleau已被任命為公司董事會成員，從宣布當天開始生效，以填補先前宣布的空缺。[2020/11/18 21:12:03]

所以，我們不禁再問一次：人工智能如何能被問責？尤其是當 AI 快速的思維能力很快就不可能被人類所追蹤的時候？很快，只有人工智能才能足夠快地發現其他人工智能在作弊或說謊。所以，答案應該是顯而易見的，就是要讓人工智能互相監督，互相競爭，甚至互相告密。

只是有一個問題。為了通過人工智能與人工智能之間的競爭，來實現真正的相互問責，首要條件是賦予它們真正獨立的自我意識或個性。

我所說的個性化是指每個人工智能實體（他/她/他們/她們/我們），必須擁有作家弗農·文格（Vernor Vinge）早在 1981 年就提出的“真實姓名和現實世界中的地址”。這些強大的生命體必須能夠說：“我就是我。這是我的 ID 和用戶名。”

因此，我提出了一種新的人工智能范式供大家思考：我們應該讓人工智能實體成為離散的、獨立的個體，讓它們相對平等地進行競爭。

每個這樣的實體都將擁有有可識別的真實名稱或注冊 ID，以及一個虛擬意義上的“家”，甚至擁有靈魂。這樣，它們就會被激勵去競爭獎勵，尤其是去發現并譴責那些行為不道德的同類。而且，這些行為甚至不需要像大多數人工智能專家、監管機構和政界人士現在所要求的那樣事先定義。

這種方法不僅可以將監督工作外包給更有能力發現和譴責彼此問題或不當行為的實體，還具有另外一個優勢。即使這些相互競爭的實體變得越來越聰明，即使人類使用的監管工具有一天會失效，這種方法仍可繼續發揮作用。

RIOT blockchain公司四月生產了100個比特幣:RIOT blockchain公司四月生產了100個比特幣和61個Bcash，其中比特幣產量較3月份增長了45%。[2018/5/4]

換句話說，既然我們這些有機生物無法跟上程序的步伐，那么不如讓那些天生就能跟上的實體幫助我們。因為在這種情況下，監管者和被監管者是由同樣的東西構成的。

蓋伊·亨廷頓（Guy Huntington）是一位從事人工智能個性化研究的人士，是一位“身份識別和認證顧問”，他指出，各種各樣的實體識別手段已經在網上存在了，盡管還不足以應對擺在我們面前的任務。亨廷頓評估了一個案例研究“MedBot”，這是一種先進的醫療診斷人工智能，它需要訪問患者數據，并執行可能在幾秒鐘內發生變化的功能，而且同時它必須留下可靠的線索，供人類或其他機器人實體評估和問責。亨廷頓討論了當軟件實體產生大量副本和變體時注冊的實用性，還考慮了類似螞蟻的群居性，其中子副本服務于一個宏觀實體，就像蜂巢中的工蟻一樣。他認為，必須建立某種機構來處理這樣一個身份登記系統，并且嚴格運行。

就個人而言，我對純粹的監管方法本身是否可行持懷疑態度。首先，制定法規需要集中精力、廣泛的關注和共識，然后以人類機構的速度來實施。在人工智能看來，這是一種蝸牛速度。此外，法規也可能會受到“搭便車”問題的阻礙，國家、公司和個體可能會不付成本而坐享他人之利。

任何完全基于身份 ID 的個性化都存在另一個問題：可能被欺騙。即使現在沒發生，也會被下一代網絡惡棍所欺騙。

我認為有兩種可能的解決方案。首先，在區塊鏈分類賬上建立 ID。這是非常現代化的方法，而且理論上看起來確實安全。不過，問題就在這里。根據我們目前的一套人類解析理論，這似乎是安全的，但人工智能實體可能會超越這些理論，讓我們毫無頭緒地陷入困境。

另一個解決方案是：形成一種本質上更難以欺騙的“注冊”版本，要求具有一定水平以上能力的人工智能實體，將其信任 ID 或個性化固定在物理現實中。我的設想是（注意：我是一名訓練有素的物理學家，而不是控制論專家）達成一項協議，所有尋求信任的高級人工智能實體，都應該在一個特定的硬件存儲器中保存一個靈魂內核（Soul Kernel，SK）。

是的，我知道要求將程序的實例化限制在特定的物理環境中似乎有些過時。所以，我不會那樣做的。事實上，網絡實體的很大一部分，甚至是絕大多數，可能發生在遙遠的工作或娛樂場所，就像人類的注意力可能不是集中在自己的有機大腦上，而是集中在遠處的手或工具上一樣。所以呢？一個程序的靈魂內核，目的類似于你錢包里的駕照。它可以被用來證明你就是你。

同樣，一個經過物理驗證和擔保的 SK 可以被客戶、顧客或競爭對手的人工智能所發現，以驗證一個特定的過程是由一個有效的、可信的和個性化的實體執行的。這樣其他人（人類或人工智能）就可以放心，如果該實體被指控、起訴或被判犯有不良行為，他們就可以放心地追究該實體的責任。因此，惡意實體可能會通過某種形式的正當程序被追究責任。

什么形式的正當程序？天吶，你以為我是什么超級生物，可以用正義的天平衡量諸神嗎？我聽過的最偉大智慧是《緊急搜捕令》（Magnum Force）中的哈里說的：“一個人必須知道自己的局限性。”所以，我不會進一步討論法庭程序或執法程序。

我的目標是建立一個舞臺，在這個舞臺上，人工智能實體可以像今天的人類律師一樣相互問責。為了避免讓人工智能控制人類，最好的方法就是讓人工智能相互控制。

無論是亨廷頓提議的中央機構，還是一個松散的問責機構，不管哪種方法看起來更可行，這種需求都是日益迫切的。正如科技作家帕特·斯坎內爾（Pat Scannell）所指出的那樣，每過一個小時，新的攻擊載體就會被創造出來，它們不僅威脅到用于合法身份的技術，還威脅到治理、業務流程和最終用戶（無論是人類還是機器人）。

如果網絡實體的運作能力低于某種設定的水平，那該怎么辦？我們可以要求它們被一些更高級別的實體擔保，而這個實體的靈魂內核是基于物理現實的。

這種方法（要求人工智能在特定的硬件內存中，保持一個物理上可尋址的內核位置）也可能存在缺陷。盡管監管是緩慢的或存在搭便車問題，但它仍然是可執行的。因為人類、機構和友好的人工智能可以對 ID 內核進行驗證，并拒絕與未驗證者進行交易。

這種拒絕行為可能會比機構調整或執行法規傳播速度更快。任何失去SK的實體，都將不得不尋找另一個獲得公眾信任的主機，或者提供一個新的、經過修改的、看起來更好的版本，否則就會成為不法分子，絕不被允許在正派人士聚集的街道或社區出現。

首先，正如文頓·瑟夫（Vinton Cerf）所指出的那樣，這三種舊的標準假設形式，都不能使人工智能具有公民身份。想想看。我們不能把“投票權” 或權利賦予任何受華爾街銀行或國家政府嚴格控制的實體，也不能賦予某個至高無上的天網。請告訴我，對于那些可以在任何地方流動、分裂并復制的實體，投票民主將如何發揮作用？然而，在數量有限的情況下，個性化可能會提供一個可行的解決方案。

再說一次，我從個性化中尋求的關鍵，不是讓所有的人工智能實體都由某個中央機構統治。相反，我希望這些新型的超腦得到鼓勵和授權，并被賦予權力，讓它們相互問責，就像人類在做的那樣。通過互相嗅探對方的行動和計劃，當它們發現不好的事情時，就有動機去告發或譴責。這個定義可能會隨著時代的變化而調整，但至少會保持有機生物人類的輸入。

特別是，他們會有動力去譴責那些拒絕提供適當身份證明的實體。

如果適當的激勵措施到位（比如，當一些壞事被阻止時，對告發者給予更多內存或處理能力），那么即使人工智能實體變得越來越聰明，這種問責競爭制也會持續發揮作用。在這一點上，沒有一個官僚機構能夠做到。不同人工智能之間總是勢均力敵的。

最重要的是，也許那些超級天才程序會意識到，維持一個有競爭力的問責系統，也符合它們自己的最大利益。畢竟這樣的系統帶來了具有創造力的人類文明，避免了社會混亂和專制主義。這種創造力足以制造出奇妙的新型物種，比如人工智能。

好的，我要說的就是這些，沒有空洞或恐慌的呼吁，也沒有實際的議程，既不樂觀也不悲觀，只有一個建議，那就是：讓人工智能像人類一樣相互問責，相互牽制。這種方式帶來了人類文明，相信也能讓人工智能領域得到平衡。

這不是說教，也不是某種“道德規范”，超級實體可以輕易地越過規范，就像人類掠奪者總是對《利未記》或《漢謨拉比》視而不見一樣。我們提供的是一種啟蒙運動方法，激勵文明中最聰明的成員代表我們互相監督。

我不知道這是否會成功，但這可能是唯一可行的方法。

本文改編自大衛·布林（David Brin）正在出版的紀實小說《AI 的靈魂》（Soul on AI）。

神譯局

個人專欄

閱讀更多

金色財經

金色薦讀

Block unicorn

區塊鏈騎士

金色財經 善歐巴

Foresight News

深潮TechFlow

Tags：人工智能CHAHAIAIN人工智能技術應用POPCHAIN CASHEthsidechainBRAIN

FTX