1. 非對稱性失控

1.1. 勒索軟件WannaCry

• 1.1.1. 黑客利用老版微軟系統中的漏洞，成功讓數字世界陷入混亂，包括德國鐵路公司、西班牙電信公司、聯邦快遞、日立

• 1.1.2. 此病毒其實是以美國國家安全局研發的技術為基礎構建的

• 1.1.2.1. 美國國家安全局內部有一個“特定入侵行動辦公室”​，其開發了一個名為“永恆之藍”的網絡攻擊工具

• 1.1.2.2. 專門用於“瓦解國內外重要政府及企業的網絡安全防線”​

• 1.1.2.3. 美國國家安全局的數字武器可以悄無聲息地侵入U盤（一種移動存儲設備）​

1.2. NotPetya網絡攻擊令烏克蘭幾近癱瘓，切爾諾貝利的輻射監測系統失去電力，自動取款機停止服務，手機通信陷入沉寂

1.3. 世界上最先進的國家安全機構開發的軟件的信息，竟然被泄露或盜取，然後落入了數字恐怖分子之手

• 1.3.1. 軟件隨後被轉化為武器，直接瞄準了當代國家的核心支柱：衞生服務、交通和電力基礎設施，以及全球通信和物流領域的重要企業

• 1.3.2. 由於基本的防護措施失效，一個全球超級大國成了自己強大且本應安全的技術的受害者

1.4. 與WannaCry和NotPetya相比，下一代網絡武器將採用更為通用的學習代理，它們有可能觸發國家緊急狀態的升級

1.5. 脆弱性放大器、系統衝擊和緊急狀態升級等現象，將極大地加劇現有的挑戰，動搖國家的根基，破壞我們本已不穩定的社會平衡

2. 大幅下降的權力成本

2.1. 權力是“以特定方式行事的能力……影響他人行為或事件進程的能力”

2.2. 是文明社會運轉的動力，是國家的基石和核心原則

2.3. 權力以各種形式塑造着世界萬物，而如今它也將迎來變革

2.4. 技術，歸根結底，也屬於政治範疇，因為技術本身就是一種權力形式

• 2.4.1. 正如消費互聯網時代大幅降低了信息處理和傳播的成本，即將到來的技術浪潮也會極大地降低實際行動和行使權力的成本

• 2.4.2. 擁有知識固然重要，但採取行動才能產生更深遠的影響

2.5. 人們不再只是內容的消費者，現在每個人都能製作出堪比專業人士的高質量視頻、圖片和文本

• 2.5.1. 人工智能不僅能協助你找到伴郎致辭的素材，還能幫你撰寫完整的講稿

• 2.5.2. 所有這些變化都在前所未見的規模上發生

• 2.5.3. 機器人不僅能製造汽車、管理倉庫，對任何有創意和時間的車庫裏的發明家來説，也是好幫手

2.6. 數十億人將同等地享受頂尖律師、醫生、戰略顧問、設計師、教練、行政助理、談判專家等專業人士的服務

• 2.6.1. 將是人類歷史上最強勁、最迅猛的財富和繁榮的加速器

3. 武裝機器人

3.1. 僅僅發射了15發子彈，便讓伊朗最有聲望、安保最嚴密的其中一個人物不到一分鐘喪命

• 3.1.1. 隨後的爆炸，僅僅是企圖銷燬證據的一次失敗嘗試

• 3.1.2. 高科技、計算機化狙擊手的首次實戰測試

• 3.1.2.1. 狙擊手配備了人工智能和多個攝像頭，通過衞星遠程操控，每分鐘可發射高達600發子彈

3.2. 隨着武裝機器人的技術日益先進，暴力行為的門檻正在不斷降低

3.3. 機器人不僅裝備了面部識別、DNA測序技術，還配備了自動武器

3.4. 未來的機器人或許不會以活蹦亂跳的狗的形態出現，而是會進一步縮小，變得像鳥或蜜蜂一般大小，配備小型槍支或裝有炭疽病毒的試管

3.5. 軍用無人機的成本在過去10年中下降了3個數量級

• 3.5.1. 到2028年，軍事無人機每年的開支將達到260億美元，屆時許多無人機將很可能實現全自主操作

• 3.5.2. 自主無人機的實戰部署正逐漸變得可行

3.6. 3D打印和先進移動通信等輔助技術將使戰術無人機的成本降至數千美元

• 3.6.1. 意味着從業餘愛好者到準軍事組織，甚至孤獨的精神病患者，都可以輕易獲得這些無人機

3.7. 人工智能驅動的網絡攻擊工具會不斷地探測網絡，自動適應環境，識別並利用新的漏洞

3.8. 無論是汽車、飛機還是冰箱、數據中心，無一不依賴於龐大的代碼庫

• 3.8.1. 即將崛起的人工智能技術，讓識別和利用這些漏洞變得更容易

• 3.8.2. 甚至能發現並利用損害企業或其他機構的法律或財務漏洞，以及銀行監管或技術安全協議中的薄弱環節

3.9. 擅長利用金融、法律、通信系統，甚至人類心理、弱點和偏見的人工智能即將問世

• 3.9.1. 不僅展現了人工智能如何助力我們規劃和協作，也預示着它們可能通過掌握心理技巧來贏得信任和影響力，甚至以驚人的深度解讀和操控我們的情緒與行為

3.10. 人工智能之所以強大和令人振奮，是因為它具備學習和適應的能力

• 3.10.1. 不法分子有了可乘之機，進而使針對國家關鍵職能的潛在攻擊的空間不斷擴大

3.11. 幾個世紀以來，像集中火炮、海軍炮擊、坦克、航空母艦或洲際彈道導彈等尖端攻擊手段，最初由於造價高昂，僅限於國家層面所掌握

• 3.11.1. 當非國家行為體和不法分子通過這種方式獲得力量時，國家的核心主張，即為公民提供安全保障的承諾便會遭到嚴重破壞

• 3.11.2. 安全保障是民族國家體系的基石，絕非可有可無的附屬品

• 3.11.3. 對於法律和秩序問題，或來自敵對國家的直接攻擊，國家通常知道如何應對

3.12. 這種新動態（不法分子變得更敢於發起進攻）​，正是利用了現代系統高度互聯且脆弱性增強的特點，為攻擊者提供了更多可乘之機

• 3.12.1. 受影響的不僅僅是單個醫院，而是整個衞生系統

• 3.12.2. 遭殃的也不僅僅是單個倉庫，而是整條供應鏈

3.13. 歷史上，技術進步總是在攻防之間進行着一種精妙的博弈

• 3.13.1. 一台普通的筆記本電腦就足以存儲能夠改變世界的算法

• 3.13.2. 區別於箭矢乃至高超聲速導彈，人工智能和生物製劑將以前所未有的低成本、高效率、自主性迅猛發展

• 3.13.3. 除非採取重大幹預措施重塑當前局勢，否則在未來數年，掌握這些技術的人數將達到數百萬

3.14. 在如此廣泛的通用技術領域，保持長久且有決定性的戰略優勢幾乎是不可能的

• 3.14.1. 威脅的本質遠遠超越了物理攻擊的簡單範疇

• 3.14.2. 信息與通信本身就是不斷增長的風險來源，是新出現的脆弱性放大器，值得我們高度關注

3.15. 在近乎完美的深度偽造作品（無論是文本、圖像、視頻還是音頻）​，變得與谷歌搜索一樣便捷之前

• 3.15.1. 一個深度偽造與真實媒體難辨真偽的時代已經到來

• 3.15.2. 這些偽造內容如此逼真，以致我們很難相信它們不是真實的

3.16. 如今，任何企圖製造社會動盪的勢力都更容易達成目的

• 3.16.1. 真正的威脅通常並非來自極端事件本身，而是那些微妙且看似真實的場景被過度渲染和歪曲

3.17. 安瓦爾·阿爾-奧拉基

• 3.17.1. 早在2011年就已離世，他是首位被美國無人機擊斃的美國公民

• 3.17.2. 激進傳教士

• 3.17.3. 佈道曾深深影響了波士頓馬拉松爆炸案兇手、巴黎《查理週刊》襲擊者以及奧蘭多夜店槍擊案的槍手

3.18. 無論是針對政客或商人的網絡釣魚攻擊，還是擾亂、操控金融市場的虛假信息，抑或是利用宗派、種族矛盾煽動分裂的媒體宣傳，甚至是那些低級的騙局，它們都在侵蝕着人們的信任，讓社會脆弱性進一步加劇

• 3.18.1. 人們可以輕易地創造出內容豐富、完整且看似真實的歷史

• 3.18.2. 普通人根本沒有時間或工具去核實這些信息洪流中的冰山一角

• 3.18.3. 假消息甚至能夠輕鬆通過複雜的審核程序，更不用説通過普通人短短的兩秒的鑑別了

4. 國家支持的信息攻擊

4.1. 如今，搭載人工智能的數字工具正在加劇這類信息操縱，它們干預選舉、利用社會分歧，甚至製造複雜的虛假草根運動來引發混亂

4.2. 深度偽造技術的發展使得信息攻擊的自動化程度大大提高

4.3. 高質量的合成媒體徹底打破了這一局面

• 4.3.1. 未來的混亂不再是偶然事件，而是隨着現有虛假信息宣傳活動的加速擴散、規模增大，以及越來越多動機強烈的參與者的加入，成了一種不可避免的趨勢

4.4. 合成媒體以大規模、低成本的方式興起，加劇了虛假信息（惡意和故意誤導的信息）和錯誤信息（更廣泛、更無意的對信息空間的污染）的傳播

4.5. “信息末日”的警鐘

• 4.5.1. 當社會再也無法應對鋪天蓋地的可疑信息時，維繫着知識、信任和社會凝聚力的信息生態系統（即社會團結的黏合劑）將會徹底崩潰

4.6. 並非所有的壓力和危害都源自不法之徒

• 4.6.1. 有些壓力和危害其實是出於好意

• 4.6.2. 脆弱性的放大既可能是故意的，也可能是無意的

5. 意外不穩定性

5.1. 1977年暴發的那場被稱為“俄羅斯流感”的疫情

• 5.1.1. 導致了多達70萬人喪生

• 5.1.2. 這種H1N1流感病毒株的特別之處在於，它與20世紀50年代流行的病毒株非常相似

• 5.1.3. 最合理的解釋似乎是實驗室泄漏

• 5.1.3.1. 一種早期病毒的變種可能在實驗室疫苗實驗中意外逃脱

• 5.1.3.2. 這場流行病的起因，恰恰是為了預防疫情而進行的善意研究

5.2. 防護級別最高的是BSL-4（生物安全四級）實驗室

• 5.2.1. 在處理最危險的病原體材料時，有着最高的防護標準

• 5.2.2. 所有物品在進出時都會受到嚴格的檢查

• 5.2.3. 實驗室人員必須穿上加壓防護服，離開時還要進行淋浴

• 5.2.4. 所有材料都必須按照最嚴格的協議進行處理，任何可能刺穿手套或防護服的尖鋭物品都禁止使用

• 5.2.5. BSL-4實驗室的研究人員接受了嚴格的培訓，以確保他們打造出人類歷史上最安全的生物環境

5.3. 2021年，費城附近一家制藥公司的研究人員竟然將天花病毒樣本隨意存放在未標記且缺乏安全保障的冷凍櫃中

5.4. 必須防止任何泄漏的發生

5.5. 在生物學領域，幾乎沒有哪個研究方向比功能獲得性研究更具爭議了

• 5.5.1. 在自然條件下，病毒通常需要在致命性和傳染性之間做出權衡，傳染性強的病毒往往致命性就相對較弱

• 5.5.2. 生物研究可能已導致數百萬人喪生，讓全球社會停滯不前，並造成數萬億美元的巨大損失，這種説法極有可能是事實

• 5.5.2.1. 這並不是不法分子利用技術故意製造的麻煩，而是那些希望改善健康結果的研究者意外造成的後果

• 5.5.3. 功能獲得性研究的初衷自然是保障人類的安全

• 5.5.3.1. 現實往往不盡如人意，實驗室泄漏、疫情暴發等不幸事件時有發生

• 5.5.3.2. 歷史上實驗室泄漏的案例不容我們忽視

5.6. 在任何技術的影響力和覆蓋範圍不斷擴大後，其失敗模式也隨之演變升級

• 5.6.1. 實驗室泄漏正是無意後果的一個明顯例證，凸顯了控制問題的嚴重性

5.7. 壓力或許並非僅來自孤立的事件，如機器人攻擊、實驗室泄漏或深度偽造視頻，而是更多地源於一個悄然無聲、逐漸侵蝕我們社會基礎的過程

• 5.7.1. 回顧歷史，工具和技術的設計初衷是幫助我們用更少的資源完成更多的事情

6. 自動化

6.1. 工具能夠以更高效、更低成本的方式完成諸如行政、數據錄入、客户服務（包括電話溝通）​、電子郵件撰寫、摘要起草、文件翻譯、內容創作和文案編寫等認知工作

6.2. 如今，算法已經接管了大部分股票交易，並在越來越多的金融機構中發揮着重要作用

6.3. 技術讓公司運營更高效，產生更多資金，這些資金最終會流入整個經濟體系

• 6.3.1. 需求是永無止境的，技術創造的財富將激發新的需求，進而催生需要人類參與的新工作

• 6.3.2. 未來更有可能出現的情況是，數十億人將從事目前還難以想象的高端工作

6.4. 提示詞工程師是指擅長引導大語言模型給出特定響應的非技術性程序員

6.5. 勞動力市場在技能、地域和身份等方面存在着巨大的摩擦

6.6. 在配送中心做零工，並不能帶來20世紀60年代在底特律汽車製造工廠工作時的那種自豪感和團結感

6.7. 勞動力市場的動盪，就像社交媒體一樣，是脆弱性的放大器

• 6.7.1. 正在侵蝕和削弱民族國家的根基

6.8. 通用目的的革命並非侷限於特定領域、指定問題或劃分明確的部門，而是無孔不入，無處不在

• 6.8.1. 權力在整個社會中被重新分配和強化

• 6.8.2. 在這場大規模的權力再分配中，原本就不穩固的國家秩序越發岌岌可危，其穩定性所依賴的社會契約也變得支離破碎