撰文:Vitalik Buterin整理&編譯: Janna,ChainCatcherChainCatcher 對內容進行了整理和編譯(有刪減)。核心觀點:激進技術可能因富人和權貴更易獲取,加劇社會不平等,導致富人與窮人在壽命、優勢上的差距,甚至形成全球底層階級。技術濫用存在另一形式,是制造商通過數據收集、隱藏信息等對用戶投射權力,這與技術訪問不平等本質不同。開源是被低估的第三條路徑,可改善技術的訪問平等與生產者平等,增強可驗證性,消除供應商鎖定。反對開源的觀點認爲其存在濫用風險,但集中守門人控制不可信,易被軍事等用途濫用且難保證國家間平等。若技術存在高濫用風險,更優解可能是不做;若因權力動態風險令人不適,可採用開源方式使其更公平。開源不意味着自由放任,可結合法律等規範,核心是確保技術民主化和信息可及性。我們經常聽到的一種擔憂是,某些激進技術可能加劇權力不平等,因爲這些技術不可避免地僅限於富人和權貴階層使用。以下是一位對壽命延長後果表示擔憂的人士的引述:「有些人會不會被甩在身後?我們會不會讓社會變得比現在更加不平等?」他問道。Tuljapurkar 預測,壽命激增將局限於富裕國家,這些國家的公民負擔得起抗衰老技術,而政府也能資助科學研究。這種差距進一步復雜化了當前關於醫療保健可及性的辯論,因爲富人與窮人不僅在生活質量上拉開距離,還在壽命長度上日益疏遠。「大制藥公司有一貫的記錄,在向無法支付的人提供產品時表現得非常苛刻,」Tuljapurkar 表示。如果抗衰老技術在不受管制的自由市場中分發,「在我看來,完全有可能我們最終會形成永久的全球底層階級,那些國家將被鎖定在當今的死亡率條件下,」Tuljapurkar 說「如果發生這種情況,就會形成負反饋,形成惡性循環。那些被排除在外的國家將永遠被排除在外。」以下是一篇擔憂人類基因增強後果的文章中的同樣強烈的表述:本月早些時候,科學家宣布他們在人類胚胎中編輯基因,移除了一種致病突變。這一工作令人驚嘆,是許多父母祈禱的答案。誰不想有機會防止子女遭受如今本可避免的痛苦?但這不會是終點。許多父母希望通過基因改良確保子女獲得最佳優勢。有能力的人可以獲取這些技術。隨着能力的到來,倫理問題超越了此類技術的最終安全性。程序的高昂費用將產生稀缺性,並加劇已經持續增長的收入不平等。其他技術領域的類似觀點:數字技術總體:太空旅行:太陽地球工程:在許多對新技術批評中,都能找到這一主題。一個與之相關但本質上不同的主題是,技術產品被用作數據收集、供應商鎖定、故意隱藏副作用(如現代疫苗曾以此方式被批評)以及其他形式的濫用工具。新興技術往往創造更多機會,讓人獲得某物卻不賦予其對該物的權利或完整信息,因此從這一視角來看,舊技術往往顯得更安全。這也是技術強化權貴階層以犧牲他人爲代價的形式,但問題是制造商通過技術對用戶的權力投射,而不是前述例子中的訪問不平等。我個人非常支持技術,如果是「進一步推進」還是「維持現狀」的二元選擇,盡管存在風險,我會樂於推進除極少數項目(如功能獲得研究、武器和超級智能 AI )之外的一切。這是因爲總體而言,好處是更長壽、更健康的生活、更繁榮的社會、在 AI 快速進步時代保留更多人類相關性、通過老年一代作爲活生生的人而非歷史書籍中的回憶來維持文化連續。但如果我設身處地,站在那些對積極影響不太樂觀、或更擔心權貴利用新技術主導經濟統治和施加控制、或兩者兼有的人的立場呢?例如,我已經對智能家居產品持有這種感受,能夠與燈泡對話的好處,被我不願將個人生活流向 Google 或 Apple 的擔憂所抵消。如果我有更悲觀的假設,我也能想象自己對某些媒體技術持有類似感受:如果它們讓權貴比其他人更有效地廣播信息,那麼它們可被用於施加控制並淹沒他人,對於許多此類技術,我們從更好信息或更好娛樂中獲得的收益,不足以補償它們重新分配權力的方式。開源作爲第三條路徑我認爲在這些情況下被嚴重低估的一種觀點是:僅支持開源方式開發的技術。開源加速進步的論點非常可信:它讓人們更容易在彼此創新基礎上構建。同時,要求開源會減緩進步的論點也非常可信:它阻止人們使用大量潛在盈利策略。但開源最有趣的後果是那些與進步快慢無關的方向:開源改善訪問平等。如果某物是開源的,它自然可供任何國家任何人訪問。對於實體商品和服務,人們仍需支付邊際成本,但許多情況下,專有產品的價格高企是因爲發明該物的固定成本太高,無法吸引更多競爭,因此邊際成本往往相當低廉,制藥業就是如此。開源改善成爲生產者的訪問平等。一種批評是,向人們免費提供終端產品並不能幫助這些人獲得技能和經驗,從而攀升全球經濟進入繁榮,這是持久獲得高質量生活的真正可靠保障。開源並非如此,它本質上是爲了讓世界任何地方的人能夠在供應鏈的所有環節成爲生產者,而非僅是消費者。開源改善可驗證性。如果某物是開源的,在理想情況下,不僅包括輸出,還包括發明它的過程、參數選擇等,那麼更容易驗證你獲得的是提供者聲稱的那個,並讓第三方研究識別隱藏缺點。開源消除供應商鎖定的機會。如果某物是開源的,制造商無法通過遠程移除功能或單純破產使它無用,如高度計算機化 / 聯網汽車在制造商關閉後無法工作。你始終有權自己修復或請求其他提供者。我們可以從文章開頭列舉的一些更激進技術的視角分析這一點:如果我們有專有壽命延長技術,那麼它可能僅限於億萬富翁和政治領袖。雖然我個人預期這項技術價格會快速下降。但如果是開源的,那麼任何人可以去使用它並廉價提供給他人。如果我們有專有人類基因增強技術,那麼它可能僅限於億萬富翁和政治領袖,創造一個上層階級。同樣,我個人認爲此類技術會擴散,但富人與普通人獲得的內容之間肯定存在差距。但如果是開源的,連接良好和權貴獲得的內容與其他人獲得的內容之間的差距將小得多。對於任何生物技術總體,開源科學安全測試生態系統可能比公司爲其自身產品背書並由順從監管者蓋章更有效和誠實。如果只有少數人能去太空,根據政治走向,他們中有人可能有機會獨佔整個行星或月球。如果技術更廣泛分布,他們這樣做機會將更小。如果智能汽車是開源的,那麼你可以驗證制造商沒有監視你,並且不依賴制造商來繼續使用汽車。我們可以將論點總結爲一張圖表:注意,「僅在開源情況下構建它」的氣泡更寬,反映了對開源將帶來多少進步以及它將防止多少權力集中風險的更大不確定性。但即便如此,在許多情況下,平均而言它仍是一筆好交易。開源與濫用風險反對開源強大技術的一個主要論點有時被提出,即零和行爲和非層級濫用形式的風險。給每個人核武器肯定會結束核不平等。這是一個真實問題,我們看到多個強大國家利用核訪問不對稱來欺凌他人,但它也幾乎肯定會導致數十億死亡。作爲無故意傷害的負面社會後果例子,給每個人整形手術機會可能導致零和競爭遊戲,每個人花費大量資源甚至冒健康風險來比他人更美麗,但最終我們都習慣更高水平的美麗,社會並沒有真正變得更好。有些形式的生物技術可能在大規模上產生此類效果。許多技術,包括許多生物技術都介於這兩個極端之間。「我僅支持如果由可信守門人仔細控制」。這是一個有效論點,支持走向相反方向。守門人可以允許技術的積極用例,同時排除負面用例。守門人甚至可以被賦予公共使命,確保對不違反某些規則的每個人非歧視訪問。然而,我對這一方法有強烈的默認懷疑。主要原因是,我懷疑在現代世界,可信守門人是否真正存在。許多最零和和風險最高的用例是軍事用例,而軍隊在約束自身方面歷史欠佳。一個好例子是蘇聯生物武器計劃:鑑於戈爾巴喬夫對 SDI 和核武器的克制,他與蘇聯非法細菌武器計劃相關的行動令人困惑,Hoffman 指出。戈爾巴喬夫 1985 年上臺時,盡管是《生物武器公約》簽署國,蘇聯已有由勃列日涅夫啓動的廣泛生物武器計劃。除了炭疽,蘇聯還在研究天花、鼠疫和兔熱病,但此類武器的意圖和目標不明。「 Kateyev 的文件顯示,80 年代中後期有多個中央委員會關於生物戰計劃的決議。很難相信這些都是在戈爾巴喬夫不知情的情況下籤署和發布的,」Hoffman 說。「甚至有一份 1990 年 5 月給戈爾巴喬夫的關於生物武器計劃的備忘錄——這份備忘錄仍未講述全部故事。蘇聯誤導了世界,也誤導了他們自己的領導人。」The Russian Biological Weapons Program: Vanished or Disappeared? 論證了在蘇聯解體後,該生物武器計劃可能已被提供給其他國家。其他國家也有重大錯誤需要他們自己解釋。我無需提及所有國家參與功能獲得研究及其隱含風險的揭露。在數字軟件領域,如金融,武器化相互依存的歷史表明,本意爲防止濫用的東西容易滑向運營商的單方面權力投射。這是守門人的另一個弱點:默認情況下,它們將由國家政府控制,這些國家的政治體系可能有動機確保國內訪問平等,但沒有強大實體有使命確保國家間訪問平等。澄清一下,我不是說守門人也壞,所以讓我們自由放任,至少對於功能獲得研究不是。相反,我在說兩件事:如果某物有足夠的「人人對人人濫用」風險,以至於你僅在鎖定方式下由集中守門人進行才感到舒適,考慮正確解決方案可能是根本不做它,並投資於風險更佳的替代技術。如果某物有足夠的「權力動態」風險,以至於你目前根本不感到舒適看到它進行,考慮正確解決方案是做它,並且使用開源的方式做它,以便每個人有公平機會理解和參與。還要注意,開源並不意味着自由放任。例如,我贊成以開源和開放科學方式進行地球工程。但這不同於「任何人可以去改道河流並向大氣中灑他們想要的東西」,實踐中也不會導致那樣:法律和國際外交存在,此類行動易於檢測,使任何協議相當可執行。開放的價值是確保技術的民主化,可供許多國家使用而非僅一個;以及增加信息可及性,以便人們更有效地形成自己對所做之事是否有效和安全的判斷。最根本上,我視開源爲,如何以更少財富、權力集中及信息不對稱風險實現技術的最強謝林點。也許我們可以嘗試構建更巧妙的機構來分離技術的正面與負面作用,但在混亂的現實世界中,最可能堅持的方法是對公衆知情權的保證,即事情公開發生,任何人可以去理解發生了什麼並參與其中。在許多情況下,技術加快發展的巨大價值遠超這些擔憂。在少數情況下,盡可能減緩技術發展至關重要,直到對策或實現相同目標的替代方式可用爲止。然而,在技術發展的現有框架下,選擇開源作爲技術進步的方式所帶來的增量改進是一個第三選項:較少關注進步速率,而更多關注進步風格,並使用期待開源作爲更便於接受的槓杆來推動事情向更好方向發展,這是一種被低估的方法。
Vitalik 最新發文:開源作爲緩解技術集權的第三路徑,正在被低估
撰文:Vitalik Buterin
整理&編譯: Janna,ChainCatcher
ChainCatcher 對內容進行了整理和編譯(有刪減)。
核心觀點:
激進技術可能因富人和權貴更易獲取,加劇社會不平等,導致富人與窮人在壽命、優勢上的差距,甚至形成全球底層階級。
技術濫用存在另一形式,是制造商通過數據收集、隱藏信息等對用戶投射權力,這與技術訪問不平等本質不同。
開源是被低估的第三條路徑,可改善技術的訪問平等與生產者平等,增強可驗證性,消除供應商鎖定。
反對開源的觀點認爲其存在濫用風險,但集中守門人控制不可信,易被軍事等用途濫用且難保證國家間平等。
若技術存在高濫用風險,更優解可能是不做;若因權力動態風險令人不適,可採用開源方式使其更公平。
開源不意味着自由放任,可結合法律等規範,核心是確保技術民主化和信息可及性。
我們經常聽到的一種擔憂是,某些激進技術可能加劇權力不平等,因爲這些技術不可避免地僅限於富人和權貴階層使用。
以下是一位對壽命延長後果表示擔憂的人士的引述:
「有些人會不會被甩在身後?我們會不會讓社會變得比現在更加不平等?」他問道。Tuljapurkar 預測,壽命激增將局限於富裕國家,這些國家的公民負擔得起抗衰老技術,而政府也能資助科學研究。這種差距進一步復雜化了當前關於醫療保健可及性的辯論,因爲富人與窮人不僅在生活質量上拉開距離,還在壽命長度上日益疏遠。
「大制藥公司有一貫的記錄,在向無法支付的人提供產品時表現得非常苛刻,」Tuljapurkar 表示。
如果抗衰老技術在不受管制的自由市場中分發,「在我看來,完全有可能我們最終會形成永久的全球底層階級,那些國家將被鎖定在當今的死亡率條件下,」Tuljapurkar 說「如果發生這種情況,就會形成負反饋,形成惡性循環。那些被排除在外的國家將永遠被排除在外。」
以下是一篇擔憂人類基因增強後果的文章中的同樣強烈的表述:
本月早些時候,科學家宣布他們在人類胚胎中編輯基因,移除了一種致病突變。這一工作令人驚嘆,是許多父母祈禱的答案。誰不想有機會防止子女遭受如今本可避免的痛苦?
但這不會是終點。許多父母希望通過基因改良確保子女獲得最佳優勢。有能力的人可以獲取這些技術。隨着能力的到來,倫理問題超越了此類技術的最終安全性。程序的高昂費用將產生稀缺性,並加劇已經持續增長的收入不平等。
其他技術領域的類似觀點:
數字技術總體:
太空旅行:
太陽地球工程:
在許多對新技術批評中,都能找到這一主題。一個與之相關但本質上不同的主題是,技術產品被用作數據收集、供應商鎖定、故意隱藏副作用(如現代疫苗曾以此方式被批評)以及其他形式的濫用工具。
新興技術往往創造更多機會,讓人獲得某物卻不賦予其對該物的權利或完整信息,因此從這一視角來看,舊技術往往顯得更安全。這也是技術強化權貴階層以犧牲他人爲代價的形式,但問題是制造商通過技術對用戶的權力投射,而不是前述例子中的訪問不平等。
我個人非常支持技術,如果是「進一步推進」還是「維持現狀」的二元選擇,盡管存在風險,我會樂於推進除極少數項目(如功能獲得研究、武器和超級智能 AI )之外的一切。
這是因爲總體而言,好處是更長壽、更健康的生活、更繁榮的社會、在 AI 快速進步時代保留更多人類相關性、通過老年一代作爲活生生的人而非歷史書籍中的回憶來維持文化連續。
但如果我設身處地,站在那些對積極影響不太樂觀、或更擔心權貴利用新技術主導經濟統治和施加控制、或兩者兼有的人的立場呢?例如,我已經對智能家居產品持有這種感受,能夠與燈泡對話的好處,被我不願將個人生活流向 Google 或 Apple 的擔憂所抵消。
如果我有更悲觀的假設,我也能想象自己對某些媒體技術持有類似感受:如果它們讓權貴比其他人更有效地廣播信息,那麼它們可被用於施加控制並淹沒他人,對於許多此類技術,我們從更好信息或更好娛樂中獲得的收益,不足以補償它們重新分配權力的方式。
開源作爲第三條路徑
我認爲在這些情況下被嚴重低估的一種觀點是:僅支持開源方式開發的技術。
開源加速進步的論點非常可信:它讓人們更容易在彼此創新基礎上構建。同時,要求開源會減緩進步的論點也非常可信:它阻止人們使用大量潛在盈利策略。
但開源最有趣的後果是那些與進步快慢無關的方向:
開源改善訪問平等。如果某物是開源的,它自然可供任何國家任何人訪問。對於實體商品和服務,人們仍需支付邊際成本,但許多情況下,專有產品的價格高企是因爲發明該物的固定成本太高,無法吸引更多競爭,因此邊際成本往往相當低廉,制藥業就是如此。
開源改善成爲生產者的訪問平等。一種批評是,向人們免費提供終端產品並不能幫助這些人獲得技能和經驗,從而攀升全球經濟進入繁榮,這是持久獲得高質量生活的真正可靠保障。開源並非如此,它本質上是爲了讓世界任何地方的人能夠在供應鏈的所有環節成爲生產者,而非僅是消費者。
開源改善可驗證性。如果某物是開源的,在理想情況下,不僅包括輸出,還包括發明它的過程、參數選擇等,那麼更容易驗證你獲得的是提供者聲稱的那個,並讓第三方研究識別隱藏缺點。
開源消除供應商鎖定的機會。如果某物是開源的,制造商無法通過遠程移除功能或單純破產使它無用,如高度計算機化 / 聯網汽車在制造商關閉後無法工作。你始終有權自己修復或請求其他提供者。
我們可以從文章開頭列舉的一些更激進技術的視角分析這一點:
如果我們有專有壽命延長技術,那麼它可能僅限於億萬富翁和政治領袖。雖然我個人預期這項技術價格會快速下降。但如果是開源的,那麼任何人可以去使用它並廉價提供給他人。
如果我們有專有人類基因增強技術,那麼它可能僅限於億萬富翁和政治領袖,創造一個上層階級。同樣,我個人認爲此類技術會擴散,但富人與普通人獲得的內容之間肯定存在差距。但如果是開源的,連接良好和權貴獲得的內容與其他人獲得的內容之間的差距將小得多。
對於任何生物技術總體,開源科學安全測試生態系統可能比公司爲其自身產品背書並由順從監管者蓋章更有效和誠實。
如果只有少數人能去太空,根據政治走向,他們中有人可能有機會獨佔整個行星或月球。如果技術更廣泛分布,他們這樣做機會將更小。
如果智能汽車是開源的,那麼你可以驗證制造商沒有監視你,並且不依賴制造商來繼續使用汽車。
我們可以將論點總結爲一張圖表:
注意,「僅在開源情況下構建它」的氣泡更寬,反映了對開源將帶來多少進步以及它將防止多少權力集中風險的更大不確定性。但即便如此,在許多情況下,平均而言它仍是一筆好交易。
開源與濫用風險
反對開源強大技術的一個主要論點有時被提出,即零和行爲和非層級濫用形式的風險。給每個人核武器肯定會結束核不平等。這是一個真實問題,我們看到多個強大國家利用核訪問不對稱來欺凌他人,但它也幾乎肯定會導致數十億死亡。
作爲無故意傷害的負面社會後果例子,給每個人整形手術機會可能導致零和競爭遊戲,每個人花費大量資源甚至冒健康風險來比他人更美麗,但最終我們都習慣更高水平的美麗,社會並沒有真正變得更好。有些形式的生物技術可能在大規模上產生此類效果。許多技術,包括許多生物技術都介於這兩個極端之間。
「我僅支持如果由可信守門人仔細控制」。這是一個有效論點,支持走向相反方向。守門人可以允許技術的積極用例,同時排除負面用例。守門人甚至可以被賦予公共使命,確保對不違反某些規則的每個人非歧視訪問。
然而,我對這一方法有強烈的默認懷疑。主要原因是,我懷疑在現代世界,可信守門人是否真正存在。許多最零和和風險最高的用例是軍事用例,而軍隊在約束自身方面歷史欠佳。
一個好例子是蘇聯生物武器計劃:
鑑於戈爾巴喬夫對 SDI 和核武器的克制,他與蘇聯非法細菌武器計劃相關的行動令人困惑,Hoffman 指出。戈爾巴喬夫 1985 年上臺時,盡管是《生物武器公約》簽署國,蘇聯已有由勃列日涅夫啓動的廣泛生物武器計劃。除了炭疽,蘇聯還在研究天花、鼠疫和兔熱病,但此類武器的意圖和目標不明。
「 Kateyev 的文件顯示,80 年代中後期有多個中央委員會關於生物戰計劃的決議。很難相信這些都是在戈爾巴喬夫不知情的情況下籤署和發布的,」Hoffman 說。
「甚至有一份 1990 年 5 月給戈爾巴喬夫的關於生物武器計劃的備忘錄——這份備忘錄仍未講述全部故事。蘇聯誤導了世界,也誤導了他們自己的領導人。」
The Russian Biological Weapons Program: Vanished or Disappeared? 論證了在蘇聯解體後,該生物武器計劃可能已被提供給其他國家。
其他國家也有重大錯誤需要他們自己解釋。我無需提及所有國家參與功能獲得研究及其隱含風險的揭露。在數字軟件領域,如金融,武器化相互依存的歷史表明,本意爲防止濫用的東西容易滑向運營商的單方面權力投射。
這是守門人的另一個弱點:默認情況下,它們將由國家政府控制,這些國家的政治體系可能有動機確保國內訪問平等,但沒有強大實體有使命確保國家間訪問平等。
澄清一下,我不是說守門人也壞,所以讓我們自由放任,至少對於功能獲得研究不是。相反,我在說兩件事:
如果某物有足夠的「人人對人人濫用」風險,以至於你僅在鎖定方式下由集中守門人進行才感到舒適,考慮正確解決方案可能是根本不做它,並投資於風險更佳的替代技術。
如果某物有足夠的「權力動態」風險,以至於你目前根本不感到舒適看到它進行,考慮正確解決方案是做它,並且使用開源的方式做它,以便每個人有公平機會理解和參與。
還要注意,開源並不意味着自由放任。例如,我贊成以開源和開放科學方式進行地球工程。但這不同於「任何人可以去改道河流並向大氣中灑他們想要的東西」,實踐中也不會導致那樣:法律和國際外交存在,此類行動易於檢測,使任何協議相當可執行。
開放的價值是確保技術的民主化,可供許多國家使用而非僅一個;以及增加信息可及性,以便人們更有效地形成自己對所做之事是否有效和安全的判斷。
最根本上,我視開源爲,如何以更少財富、權力集中及信息不對稱風險實現技術的最強謝林點。也許我們可以嘗試構建更巧妙的機構來分離技術的正面與負面作用,但在混亂的現實世界中,最可能堅持的方法是對公衆知情權的保證,即事情公開發生,任何人可以去理解發生了什麼並參與其中。
在許多情況下,技術加快發展的巨大價值遠超這些擔憂。在少數情況下,盡可能減緩技術發展至關重要,直到對策或實現相同目標的替代方式可用爲止。
然而,在技術發展的現有框架下,選擇開源作爲技術進步的方式所帶來的增量改進是一個第三選項:較少關注進步速率,而更多關注進步風格,並使用期待開源作爲更便於接受的槓杆來推動事情向更好方向發展,這是一種被低估的方法。