Metropolis接受準則（Metropolis acceptance criterion）由Nicholas Metropolis等人於1953年提出，是馬爾可夫鏈蒙特卡洛（MCMC） 和模擬退火算法的核心組成部分。該準則通過以概率方式接受新狀態，使得算法能夠漸進地收斂到目標分佈，特別是在處理高維、多峯等複雜分佈時表現出色。
1. 基本概念與歷史背景
Metropolis接受準則，也稱為Metropolis準則，由Nicholas Metropolis等人在1953年發表的一篇關於複雜框架能量分佈計算的論文中首次提出。該準則最初用於蒙特卡洛模擬中計算多分子框架的能量分佈，其核心思想是：以概率接受新狀態，而非完全確定的規則。
在傳統的蒙特卡洛方法中，對大量原子在給定温度下平衡態的隨機模擬計算量非常大。Metropolis提出重要性採樣，即以概率接受新狀態通過，能夠顯著減小計算量，這被稱為Metropolis準則。
✨ 核心價值：Metropolis準則允許算法在一定概率下接受"更差"的解，從而有可能跳出局部最優，繼續搜索全局最優解，這為其在優化和採樣中的應用奠定了堅實基礎。
2. 數學原理與核心思想
2.1 基本數學表達
Metropolis接受準則可以形式化表述如下：
設在温度T下，系統從當前狀態i轉移到新狀態j，對應的能量分別為Eᵢ和Eⱼ：
- 如果Eⱼ ≤ Eᵢ（能量降低），則接受狀態j為當前狀態
- 如果Eⱼ > Eᵢ（能量升高），則以概率p接受狀態j：
p = exp[-(Eⱼ - Eᵢ)/kT]如果接受概率p大於[0,1)區間內的隨機數，則接受狀態j；否則保留狀態i。
2.2 準則的直觀理解
物理意義：在高温下，架構具有較高的熱能，允許接受與當前狀態能量差較大的新狀態；而在低温下，框架只能接受與當前狀態能量差較小的新狀態。當温度趨近於零時，系統幾乎不能接受任何能量升高的新狀態。
從優化角度看，這類似於"醉漢下山"策略：不僅允許向更低點移動，還以一定概率接受向上移動，從而有機會逃離局部極小點，尋找全局最優解。
2.3 與Metropolis-Hastings算法的關係
原始Metropolis算法的推廣，由Hastings在1970年提出。主要區別在於：就是Metropolis-Hastings算法
- Metropolis算法：要求提議分佈是對稱的
- Metropolis-Hastings算法：允許使用非對稱提議分佈，通過Hastings比率進行校正
3. ⚙️ 算法流程與搭建
3.1 通用Metropolis算法框架
以下是Metropolis接受準則的基本算法步驟：
- 初始化：選擇初始狀態x₀，設置初始温度T和迭代次數n
- 迭代過程：對於每次迭代t=1,2,…,n：
- 從提議分佈中生成候選狀態x*
- 計算接受概率α = min(1, exp(-(E(x*)-E(xₜ₋₁))/T))
- 從均勻分佈U(0,1)中生成隨機數u
- 如果u ≤ α，接受新狀態：xₜ = x*；否則xₜ = xₜ₋₁
- 輸出：返回狀態序列{x₁, x₂, …, xₙ}
4. 應用場景
4.1 貝葉斯統計
在後驗分佈難以直接抽樣時。通過MCMC方法，我們允許：就是在貝葉斯分析中，Metropolis-Hastings算法用於從後驗分佈中抽樣，特別
- 估計參數的後驗分佈
- 構建參數的可信區間
- 進行模型比較和假設檢驗
4.2 模擬退火算法
Metropolis準則是模擬退火算法的基礎。模擬退火將優化疑問類比於物理退火過程：
- 目標函數對應系統的能量
- 控制參數T對應物理系統的温度
- 通過緩慢降低温度（退火計劃），環境最終收斂到全局最優解
模擬退火已成功應用於旅行商問題、調度問題和VLSI設計等組合優化問題。
4.3 統計物理
在統計物理中，Metropolis算法用於模擬多粒子系統在給定温度下的平衡態，計算系統的熱力學性質。
5. 優勢與侷限性
5.1 優勢 ✅
- 全局收斂性：能夠逃離局部最優，在適當條件下保證找到全局最優解
- 廣泛適用性：不要求目標函數具有光滑性、凸性等性質
- 實現簡單：算法結構簡單，易於實現和調試
- 處理高維困難：對維數的敏感性相對較低，適合高維困難
5.2 侷限性與挑戰 ⚠️
- 參數調優：提議分佈的方差和退火計劃需要仔細調整
- 收斂速度：在高維或多峯問題中可能收斂較慢
- 收斂診斷：難以準確判斷算法是否已收斂到目標分佈
- 計算成本：可能需要大量迭代才能獲得高質量解
6. 改進與擴展
6.1 自適應Metropolis算法
依據根據鏈的歷史自動調整提議分佈，提高採樣效率。
6.2 並行退火
運行多個並行的馬爾可夫鏈，在不同温度下交換信息，加速全局搜索。
6.3 哈密爾頓蒙特卡洛
結合梯度信息，提出更有用的狀態轉移，特別適用於高維問題。
7. 總結
Metropolis接受準則作為MCMC方法和隨機優化算法的核心，在過去幾十年中極大地推動了計算統計、機器學習和科學計算的發展。其簡潔而強大的思想——以概率接受劣化解——為處理複雜採樣和優化問題獻出了有效途徑。