d/acc:一年後的回顧與展望

去年,我撰寫了一篇關於技術樂觀主義的文章,闡述了我對技術的總體熱忱,以及技術帶來的巨大效益,同時也表達了對一些特定問題的審慎態度,主要聚焦於超級智能人工智能可能引發的風險。

文章的核心觀點是秉持去中心化、民主且差異化的防御性加速理念。既要加速技術發展,又要聚焦於那些能夠提升我們防御能力而非造成傷害能力的技術,並致力於推動權力分散,而非讓權力集中在少數精英手中。

自那時起的一年間,這些理念和想法經歷了顯著的發展與成熟。我在多個平台上分享了這些想法,收獲了諸多回應,其中大部分是積極的,當然也存在一些批評的聲音。

這項工作本身持續推進並取得了切實成果:在可驗證開源疫苗領域,我們目睹了進展;人們對健康室內空氣價值的認知不斷深化;社區筆記持續發揮着積極效用;預測市場作爲信息工具迎來了突破之年;零知識證明在政府身分識別和社交媒體領域得以應用;開源成像工具在醫學和腦機接口領域獲得應用,等等。

去年秋季,我們迎來了首個重要的 d/acc 活動:於 Devcon 舉辦的"d/acc 發現日"。活動匯聚了來自 d/acc 各個支柱領域的演講者,活動持續了整整一天。多年來致力於這些技術的人們愈發了解彼此的工作,而外部人士也越發意識到這一更爲宏大的願景:推動以太坊和加密貨幣發展的相同價值觀能夠拓展至更廣闊的世界。

d/acc 的內涵與外延

d/acc 的核心思想簡潔明了:去中心化、民主且差異化的防御性加速。構建能夠促使攻防平衡向防御傾斜的技術,並且在實施過程中不依賴於將更多權力交予中央權威機構。這兩個方面之間存在着內在的緊密聯繫:任何一種去中心化、民主或自由的政治結構,在防御易於實施時往往能夠蓬勃發展,而在防御面臨重重困難時則會遭遇嚴峻挑戰。

理解嘗試同時實現去中心化、防御性和加速性的重要意義的一種方式,是將其與放棄這三個方面中的任意一個所產生的理念進行對比。

去中心化加速,但忽視"差異化防御"部分

這類似於成爲一名有效加速主義者,但同時追求去中心化。有許多人採取這種方式,其中一些人自稱 d/acc,但他們有益地將自身重點描述爲"進攻"。此外,還有許多其他人對"去中心化人工智能"及類似話題表現出更爲溫和的熱情,但在我看來,他們對"防御"層面的關注明顯不足。

這種方式或許能夠避免特定羣體對全球人類實施獨裁統治的風險,但它卻未能解決潛在的結構性問題:在一個有利於進攻的環境中,始終存在着災難降臨的持續風險,或者有人會將自己定位爲保護者,並永久性地佔據統治地位。就人工智能而言,它也無法妥善解決人類整體相對於人工智能被削弱權力的風險。

差異化防御加速,但忽略"去中心化和民主"

爲了實現安全目標而接受集中控制,這對一部分人始終具有一定的吸引力。近期,一些人擔憂極端集中控制可能是應對未來極端技術的唯一途徑。然而,集中控制存在一個程度的問題。一種通常被忽視但仍然有害的相對溫和的集中控制形式,體現在生物技術領域對公衆監督的抵制,以及允許這種抵制行爲不受挑戰的閉源規範。

這種方式的風險顯而易見,那就是中心本身往往會成爲風險的源頭。我們在新冠疫情期間便已見證了這一點,由多個主要世界政府資助的功能獲得性研究可能是疫情的根源所在,集中的認識論導致世界衛生組織多年來拒絕承認新冠病毒是通過空氣傳播的,而強制性的社交距離和疫苗強制令則引發了可能持續數十年的政治反彈。相比之下,去中心化的方式將更有效地應對來自中心自身的風險。

去中心化防御,但排斥加速

從本質上來說,這是試圖減緩技術進步或推動經濟衰退。

這種策略面臨着雙重挑戰。首先,總體而言,技術和經濟增長對人類而言是極爲有益的,任何對其的延遲都會帶來難以估量的代價。其次,在一個非極權主義的世界中,停滯不前是不穩定的:那些"作弊"最多,能夠找到看似合理的方式繼續推進發展的人或羣體將會佔據優勢。減速主義策略在某些特定情境下能夠在一定程度上發揮作用,但這些策略不可能永遠奏效。

通過 d/acc,我們致力於實現以下目標:

• 在當今世界日益部落化的趨勢下堅守原則,而不僅僅是盲目地構建各種事物--相反,我們期望構建特定的事物,從而使世界變得更加安全、美好。
• 認識到指數級的技術進步意味着世界將變得極爲奇特,並且人類在宇宙中的總體"足跡"必然會不斷增加。我們保護脆弱的動物、植物和人羣免受傷害的能力必須持續提升,而唯一的出路便是勇往直前。
• 構建能夠切實保護我們的技術,而不是基於"好人(或好的人工智能)掌控一切"的假設。我們通過構建在用於構建和保護時自然比用於破壞時更爲有效的工具來達成這一目標。

思考 d/acc 的另一種視角是回歸到 21 世紀 00 年代末歐洲海盜黨運動的一個框架:賦權。

我們的目標是構建一個能夠保留人類能動性的世界,實現消極自由,即避免他人(無論是普通公民、政府,還是超級智能機器人)對我們塑造自身命運的能力進行積極幹預,同時實現積極自由,即確保我們擁有知識和資源去踐行這一能力。這呼應了一個延續數世紀的古典自由主義傳統,其中涵蓋了對"工具獲取"的關注,以及對教育與自由並列作爲人類進步關鍵要素的強調。鑑於 21 世紀的技術格局,我們可以將 d/acc 視爲實現這些相同目標的一種途徑。

第三維度:生存與繁榮的協同發展

在我去年的文章中,d/acc 特別聚焦於防御性技術:物理防御、生物防御、網路防御和信息防御。然而,單純的去中心化防御並不足以構建一個偉大的世界:我們還需要一個具有前瞻性的積極願景,明確人類在獲得新的去中心化和安全性之後能夠實現何種目標。

去年的文章在兩個方面確實包含了一個積極的願景:

1. 在關注超級智能的挑戰時,我提出了一條路徑,即我們如何在不喪失權力的情況下實現超級智能:

   • 當下,構建人工智能作爲工具,而非高度自主的智能體。
   • 未來,運用虛擬現實、肌電技術和腦機接口等工具,在人工智能與人類之間建立更爲緊密的反饋機制。
   • 隨着時間的推移,逐步邁向最終的結局,即超級智能是機器與人類緊密融合的產物。

2. 在談及信息防御時,我也曾順便提及,除了那些旨在幫助社區在面對攻擊者時保持凝聚力並進行高質量討論的防御性社會技術之外,還存在進步性社會技術,能夠助力社區更輕鬆地做出高質量判斷。

在各個領域中存在着一個一致的模式,即那些能夠幫助我們在某一領域"生存"的科學、思想和工具,與能夠助力我們"繁榮"的科學、思想和工具密切相關。以下是一些具體例子:

• 衆多近期的抗新冠研究聚焦於病毒在體內的持續存在,這被視爲長新冠問題的一個關鍵機制。近來,也有跡象表明病毒持續存在可能是阿爾茨海默病的致病因素--倘若這一觀點成立,那麼解決所有組織類型中的病毒持續存在問題,或許將成爲攻克衰老難題的關鍵所在。
• 低成本和微型成像工具在治療微血栓、病毒持續存在、癌症等方面具有強大的潛力,同時也可應用於腦機接口領域。
• 推動構建適用於高度對抗性環境的社會工具和合理合作環境的社會工具的理念極爲相似。
• 預測市場在高合作和高對抗環境中均具有重要價值。
• 零知識證明及類似技術在保護隱私的同時對數據進行計算,既增加了可用於科學研究等有益工作的數據量,又增強了隱私保護。
• 太陽能和電池對於推動下一波清潔經濟增長意義非凡,同時在去中心化和物理彈性方面也表現出色。

除此之外,不同學科領域之間還存在着重要的相互依存關係:

• 腦機接口作爲一種信息防御和協作技術至關重要,因爲它能夠實現我們思想和意圖的更精細交流。腦機接口不僅僅是機器人與意識之間的連接:它還可以是意識-機器人-意識之間的交互。這與多元性理念中腦機接口的價值相呼應。
• 許多生物技術依賴於信息共享,而在諸多情況下,人們只有在確信信息僅會用於特定應用時才願意共享。這依賴於隱私技術。
• 協作技術能夠用於協調對其他任何技術領域的資助。

難題:人工智能安全、緊迫時間線與監管困境

去年我的文章所收到的最具說服力的反對觀點來自人工智能安全社區。其論點爲:"當然,如果我們有半個世紀的時間來發展強人工智能,我們可以集中精力構建所有這些有益的事物。但實際上,看起來我們可能僅有三年時間發展到通用人工智能,再過三年發展到超級智能。因此,如果我們不想讓世界陷入毀滅或以其他方式陷入不可逆轉的困境,我們不能僅僅加速有益技術的發展,還必須減緩有害技術的發展,這意味着需要通過可能會觸怒權勢階層的強有力監管措施。"

如果我確信我們需要比責任規則更"強有力"的措施,我會選擇工業規模硬件上的全球"軟暫停"按鈕這一策略。目標是在關鍵時期具備將全球可用計算能力降低約 90%-99% 的能力,持續 1-2 年,爲人類爭取更多準備時間。實現"暫停"的方法已經在探索中,包括一些具體的提案,如要求硬件註冊和驗證位置。

一種更先進的方法是使用巧妙的加密技術手段:例如,生產出來的工業規模(但非消費級)人工智能硬件可以配備一個可信硬件芯片,只有在每週獲得來自主要國際機構(包括至少