①假設函數(hypothesis function) 在給定一些樣本數據(training set)後,採用某種學習算法(learning algorithm)對樣本數據進行訓練,得到了一個模型或者説是假設函數。 當需要預測新數據的結果時,將新數據作為假設函數的輸入,假設函數計算後得到結果,這個結果就作為預測值。 假設函數的表示形式一般如下:θ 稱為模型
一、梯度下降(Gradient Descent) 1. 基本概念 梯度下降(Gradient Descent) 是一種用於 最小化代價函數 J(w,b)J(w,b)J(w,b)的優化算法。 它的思想相當直觀: 環顧四周,選擇讓代價函數下降最快的方向,然後沿着該方向走一步。然後在新的位置重複這個過程,直到到達最低點。這種“下山”的過程,就是梯度下降