1. 報復效應

1.1. 艾倫·圖靈和戈登·摩爾不可能預見、更不可能左右社交媒體、表情包、維基百科或網絡攻擊這些新生事物

1.2. 在原子彈問世幾十年後，原子彈的製造者已無法再阻止核戰爭爆發，就像亨利·福特無法阻止車禍發生一樣

1.3. 技術所面臨的必然的挑戰在於，一旦某項發明問世並融入世界，其創造者就會迅速失去對其發展走向的控制

1.4. 技術存在於一個複雜且動態的系統（現實世界）中，其二階、三階乃至更高階的影響會以不可預測的方式擴散

1.5. 我們不僅要預測技術帶來的積極溢出效應，還要預測其“報復效應”​

• 1.5.1. 任何技術都有可能出錯，而且往往是以一種與初衷背道而馳的方式出錯

• 1.5.2. 處方阿片類藥物如何導致依賴成癮

• 1.5.3. 抗生素的過度使用如何削弱了其藥效

• 1.5.4. 衞星和所謂的“太空垃圾”碎片的激增如何給太空飛行帶來極大風險

1.6. 當技術不斷擴散，越來越多的人能夠使用、修改，並按自己的喜好來塑造它時，這會觸及一連串錯綜複雜、難以預料的因果鏈條

• 1.6.1. 隨着我們的工具的力量呈指數級增長，普及程度急劇攀升，它們的潛在危害也在同步激增，其後果彷彿一個複雜難料的迷宮，無人能預測或防範

• 1.6.2. 技術的這一問題是一個遏制問題

  • 1.6.2.1. 徹底消除這個問題可能難以實現，但我們可以減少它的影響

  • 1.6.2.2. 遏制是一種至關重要的能力，涵蓋了控制、限制以及必要時在技術的任何發展或部署階段關閉技術的能力

  • 1.6.2.3. 意味着我們一開始就應具備阻止技術擴散的能力，從而遏制潛在意外結果的蔓延，無論這些結果是好是壞

1.7. 技術的力量越強大，它就越是深入生活和社會的方方面面

• 1.7.1. 技術的問題往往會隨着技術能力的提升而加劇，所以隨着時間的推移，遏制的需求也變得更加迫切

1.8. 在大多數情況下，遏制代表着一種富有意義的控制，表示我們有能力阻止特定的使用案例、改變某個研究方向或拒絕有害行為者的使用權限

• 1.8.1. 意味着我們要保持我們引導浪潮的能力，以確保技術的影響與我們的價值觀相契合，能助力我們這個物種的繁榮發展，並且不會帶來大於其益處的重大危害

2. 遏制是基礎

2.1. 技術並非敵人，而是人類社會的一種基本屬性

2.2. 要實現對技術的遏制，我們需要一個更深層次的方案，這一方案無關競爭方之間的力量平衡，而在於人類與工具之間的力量平衡

2.3. 遏制涵蓋了監管、技術安全提升、治理和所有權模式的創新，以及問責制和透明度的新機制，這些都是實現更安全的技術的必要（但非充分）條件

2.4. 遏制如同一把統領性的鎖，將尖端工程、倫理價值觀和政府監管緊密聯繫在一起

2.5. 不應將遏制視為解決所有技術問題的終極方案，而應將其視為第一步和關鍵的一步，它是人類未來所依存的基礎

2.6. 遏制應被視為一套相互關聯、相互增強的技術、文化、法律和政治機制，其目標是在技術呈指數級增長的時代裏，保持社會對技術的駕馭力

2.7. 技術遏制是指在實驗室或研發設施中進行的一些操作

• 2.7.1. 技術遏制還包括國家和國際層面的法律機制

• 2.7.2. 在任何特定社會中，技術總是與其法律、習俗、規範、習慣以及權力和知識結構緊密相連，所有這些方面都必須得到妥善處理

3. 説不​？

3.1. 當印刷機在15世紀風靡歐洲時，奧斯曼帝國卻採取了截然不同的態度，它試圖禁止印刷

• 3.1.1. 直到1727年，也就是印刷機發明近3個世紀後，這座城市才終於擁有了第一台經官方許可的印刷機

• 3.1.2. 長期以來，歷史學家將奧斯曼帝國的這種技術抵制視為早期技術民族主義的經典案例，它展現了一種有意識地對現代性持否定態度的保守立場

3.2. 國家一開始可能會拒絕技術，但隨着技術成本的降低和普及程度的提高，它們不可能永遠説“不”​

• 3.2.1. 不應認為技術傳播是輕而易舉的

• 3.2.2. 技術傳播必須與既得利益、既定知識以及那些同時牢牢掌握兩者的羣體進行鬥爭

3.3. 浪潮一旦站穩腳跟，其勢頭便幾乎無法阻擋

• 3.3.1. 大量新的技術不斷涌現，而舊的則不斷被淘汰

3.4. 在一次次的技術浪潮中，我們見證了火的使用被蠟燭和油燈替代，隨後煤氣燈和電燈泡又取代了它們，如今LED燈則成為主流

• 3.4.1. 正如電力替代了蠟燭和蒸汽機一樣，智能手機也取代了衞星導航儀、照相機、個人數字助理、電腦和電話，並開創了全新的應用程序體驗

3.5. 技術猶如一根誘人的胡蘿蔔，始終在我們眼前晃動，不斷承諾着更多、更好、更便捷、更實惠的前景

4. 核技術

4.1. 與更廣泛的技術傳播的歷史模式相比，核武器並未無休止地擴散

4.2. 核武器在戰爭期間僅被引爆過兩次

4.3. 人類歷史上記錄的最大爆炸就是氫彈爆炸試驗，那是一枚被稱為“沙皇炸彈”的氫彈，1961年，它在巴倫支海的一個偏遠羣島上空被引爆，爆炸形成了一個直徑3英里的火球和一個59英里寬的蘑菇雲

• 4.3.1. 這次爆炸的威力是二戰中使用的所有常規zha藥總和的10倍，其規模令所有人為之戰慄

• 4.3.2. 從遏制技術的角度看，氫彈試驗可能實際上幫助了人類

4.4. 核技術的遏制並非偶然，而是由核大國有意實施的防擴散政策所致

• 4.4.1. 核武器製造過程的極端複雜性和高昂成本也起到了輔助作用

4.5. 直到2019年，美國的指揮控制系統才擺脱了20世紀70年代的硬件和8英寸軟盤，完成了升級

• 4.5.1. 世界上最先進、最具破壞力的武器庫所依賴的技術竟然如此老舊，對今天的大多數人來説，它們恐怕是極其陌生（且無法使用）的

4.6. 核武器是歷史上受到最嚴格遏制的技術之一，但是即便從最單純的字面意義來看，核武器的遏制問題也遠未得到解決

• 4.6.1. 大量核材料下落不明，它們原本屬於醫院、企業、軍隊，甚至可能不久前來自切爾諾貝利

• 4.6.2. 微小的硬件故障也可能引發巨大的風險

5. 技術動物

5.1. 人類總是有充足的理由來抵制或限制技術

5.2. 技術的歷史雖然是讓人們取得更多成就、提升能力、改善福祉的歷程，但它並非只有積極的一面

• 5.2.1. 技術不僅帶來了更精良的工具，也製造了更致命、更具破壞力的武器

• 5.2.2. 新技術能夠引發人們的不安，威脅社會穩定，還會帶來陌生和侵犯感

6. 智能技術

6.1. 通用人工智能中的“通用”指的是這項技術預期覆蓋的範圍廣闊

6.2. 圍棋

• 6.2.1. 圍棋是一項起源於中國的古老棋類遊戲，兩位對弈者在19×19的棋盤上分別執黑、白棋子進行對局，目標是用自己的棋子包圍對方的棋子，當對方的棋子被完全包圍時，這些棋子就會被拿走

• 6.2.2. AlphaGo最初是通過觀摩人類專家對弈的15萬場比賽進行學習的

  • 6.2.2.1. 人工智能發現了數千年來最傑出的棋手都未曾想到的策略

• 6.2.3. AlphaZero，完全摒棄了對現有人類知識的參考，系統只是簡單地自我訓練，與自己進行數百萬次對弈

  • 6.2.3.1. AlphaZero僅通過一天的訓練，就能夠掌握比整個人類經驗所能傳授給它的更多的圍棋知識

7. 從原子到比特再到基因

7.1. 直至最近，技術的漫長曆史都可以被一句話概括：人類對操控原子的不懈探求

• 7.1.1. 從火到電，從石器到機牀，從碳氫化合物到藥物，無不體現這一點

• 7.1.2. 隨着這種掌控的精確度日益提升，技術也呈現出越發強大和複雜的態勢，從而催生了諸如機牀、電氣工藝、熱力發動機、塑料等合成材料，以及能夠抗擊重大疾病的複雜分子

• 7.1.3. 所有這些新技術的核心驅動力都是物質，源於人類對原子元素操控需求的不斷增長

7.2. 信息能以二進制形式編碼，還能以DNA的形態成為生命運轉的核心

• 7.2.1. 那些由1和0組成的序列，或是DNA的鹼基對，遠不只是數學上的奇觀

• 7.2.2. 起初是比特，而後基因的潛力越發顯現，這兩者已逐漸取代原子，成為技術發明的新基石

7.3. 比特革命和基因革命，這兩場革命都建立在信息的基礎之上，並在前所未有的抽象和複雜維度上運作

7.4. 即將到來的技術浪潮主要建立在兩大通用技術之上：人工智能和合成生物學

• 7.4.1. 既能在最宏大的層面上運作，也能深入最微觀的層面

• 7.4.2. 是人類技術生態系統的核心組件首次直接觸及人類世界的兩個基本屬性：智能和生命

7.5. 曾經對技術封閉的領域正在打開

• 7.5.1. 人工智能讓我們能夠複製語音和語言、視覺和推理

• 7.5.2. 合成生物學的基礎性突破使我們能夠對DNA進行測序、修改，現在甚至能打印

• 7.5.3. 人工智能和合成生物學是即將到來的浪潮中的核心通用技術，但同時圍繞它們的還有一系列具有異常強大影響力的技術，包括量子計算、機器人技術、納米技術以及潛在的豐富能源等

7.6. 精確操控原子的能力促成了硅晶片的發明，硅晶片則帶來了每秒萬億次計算的實現，而這一成就又使我們得以破譯生命的密碼

7.7. 這一浪潮將比歷史上任何一次都更難以遏制，它觸及了人類世界的根本，影響更加深遠