模型怎麼學習：損失函數、梯度下降與正則化

說模型學會了，指的是參數（parameter）被調整過。參數一變，預測就變；預測和正確答案的差距被收成損失；訓練要讓這個損失在訓練資料上變小。

模型是帶參數的函數 ŷ = f(x; θ)。θ 是全部參數。最簡單的例子是線性模型 ŷ = w·x + b，參數是權重（weight）w 與偏差（bias）b。訓練前這些參數是隨機值或 0，預測很差。

差距要收成一個能比較的數字，靠的是損失函數（loss function）。迴歸常用均方誤差（MSE）：MSE = (1/n) Σ (yᵢ − ŷᵢ)²。每一筆先算答案和預測的差，平方之後再對 n 筆平均。平方使差得更遠的筆，在平均裡佔得更重。

分類常用交叉熵（cross-entropy）。模型給正確類別的機率若是 p，這一筆的損失是 −ln p。p 越接近 1，損失越接近 0。p = 0.5 時，−ln 0.5 ≈ 0.693；p = 0.1 時，−ln 0.1 ≈ 2.303。對正確答案越沒把握，罰得越重。

找出讓訓練資料平均損失最小的參數，就是最佳化（optimization）。

資料學出來的是參數，例如 w 與 b。人在訓練前決定的是超參數（hyperparameter），例如學習率、正則化強度、訓練輪數、樹的深度，用驗證集（validation set）挑選（第 12 篇）。

訓練損失變小，表示這批訓練資料上的平均損失變低。泛化（generalization）問的是沒看過的資料上也表現好。過擬合（overfitting）的定義見第 12 篇。

損失對每個參數的偏導數（partial derivative）排成一個向量，就是梯度（gradient）。它指向損失上升最快的方向。梯度下降（gradient descent）沿反方向走一小步：

θ ← θ − η · ∂L/∂θ

η 是學習率（learning rate），決定這一步的長度。

只用一個參數就能把手算走完。令 L(w) = (w − 3)²，最小值在 w = 3，導數 dL/dw = 2(w − 3)。從 w = 0、η = 0.1 出發。

1. 梯度 = 2(0 − 3) = −6。w = 0 − 0.1 × (−6) = 0.6。
2. 梯度 = 2(0.6 − 3) = −4.8。w = 0.6 − 0.1 × (−4.8) = 0.6 + 0.48 = 1.08。
3. 梯度 = 2(1.08 − 3) = −3.84。w = 1.08 − 0.1 × (−3.84) = 1.08 + 0.384 = 1.464。

梯度在起點是負的，上升最快的方向朝向更小的 w；減去「學習率乘上這個負數」，w 就往 3 的方向移動。一步的長度是 η 乘梯度，所以這三步停在 0.6、1.08、1.464，最小值 3 仍在前面。

下面這段程式印出同樣的三步。

w, lr = 0.0, 0.1
for step in range(3):
    grad = 2 * (w - 3)
    w = w - lr * grad
    print(step + 1, round(w, 3))
# 1 0.6
# 2 1.08
# 3 1.464

這三步有固定的縮法。更新後離 3 的距離，等於原距離乘上 (1 − 2η)：

w_new − 3 = (w − 3) − η × 2(w − 3) = (1 − 2η)(w − 3)

η = 0.1 時，1 − 2 × 0.1 = 0.8。距離是 3 × 0.8 = 2.4，2.4 × 0.8 = 1.92，1.92 × 0.8 = 1.536。第 3 步的 w = 1.464，而 3 − 1.464 = 1.536。

同一個損失、仍從 w = 0 出發，只改學習率，會出現三種走法。

• η = 0.01：1 − 2 × 0.01 = 0.98。第 1 步 w = 0 − 0.01 × (−6) = 0.06，離 3 為 2.94，也就是 3 × 0.98。方向對，會靠近 3，但每步只消掉 2% 的距離，很慢。
• η = 1：1 − 2 × 1 = −1。距離不縮短，只換到另一側。w = 0 − 1 × (−6) = 6；下一步梯度 = 2(6 − 3) = 6，w = 6 − 1 × 6 = 0。參數在 0 與 6 之間來回，到不了 3。
• η = 1.1：1 − 2 × 1.1 = −1.2。距離越乘越大。w = 0 − 1.1 × (−6) = 6.6，離 3 為 3.6；下一步梯度 = 2(6.6 − 3) = 7.2，w = 6.6 − 1.1 × 7.2 = 6.6 − 7.92 = −1.32，離 3 為 3 − (−1.32) = 4.32。這叫發散（divergence）。實務上會看到損失暴增，或變成 NaN。

每一步用多少筆資料算梯度，有三種設定。全批次梯度下降（full-batch gradient descent）用上全部訓練資料。隨機梯度下降（SGD）每步只用一筆。小批次（mini-batch）每步用一小批，例如 32 筆或 256 筆，實務上最常用。

全部訓練資料都用過一次，叫做一個 epoch。每一次參數更新是一個更新步數（iteration）。更新次數要分開算：10,000 筆、批次大小 100 時，一個 epoch 更新 10,000 ÷ 100 = 100 次。全批次時，一個 epoch 只更新 1 次。

損失曲面是單純碗形時，沿反梯度走會靠近碗底。曲面不是單純碗形時，梯度下降可能停在局部最小值（local minimum），或停在梯度接近 0 的平坦區。動量（momentum）與 Adam 這類最佳化器（optimizer）會參考過去的梯度來調整步伐。

特徵的尺度差很多時，損失曲面會被拉成細長形，梯度下降容易走之字形，收斂變慢。先做標準化（standardization）比較快（第 5 篇）。

訓練損失還能再降時，參數也可能變得很大，只為了貼緊訓練資料。正則化（regularization）在損失上加一項，懲罰參數的大小，讓「訓練損失最小」不再是唯一目標。

L2（ridge，也叫權重衰減 weight decay）寫成 L + λ Σ w²。權重整體變小，但通常不會剛好變成 0。L1（lasso）寫成 L + λ Σ |w|。一部分權重會被壓到剛好 0，那些特徵就不再進入預測，等於自動挑特徵。

λ 是超參數。越大，懲罰越重；太大會欠擬合（underfitting）。

在 scikit-learn 裡，Ridge(alpha=1.0) 是 L2，Lasso(alpha=0.1) 是 L1。這裡的 alpha 就是 λ。

提早停止（early stopping）不改損失的公式，而改停的位置。每個 epoch 結束時看驗證損失。連續若干輪（patience）都沒有再下降，就停止，並採用驗證損失最低那一輪的參數。驗證損失從最低點再往上升的那一段，就是過擬合開始的位置；留下最低點的參數，就不會把這一段一起採用。

把每個 epoch 的訓練損失和驗證損失畫在一起，可以看出該停、該繼續，或該回頭查學習率。

• 訓練損失持續下降，驗證損失先降後升：最低點之後開始過擬合。
• 兩條都高，而且走平：這是欠擬合，模型太簡單，或特徵不夠。
• 兩條都還在下降：訓練還可以繼續。
• 損失劇烈震盪，或出現 NaN：多半是學習率太大。

損失要能對參數微分，才算得出梯度。準確率（accuracy）、F1、召回率（recall）這類評估指標（evaluation metric）是給人看的，也用來在模型之間做選擇。準確率對參數的微小變化是一階一階跳的：猜對的筆數沒有增減時，數值停在原地，梯度幾乎處處為 0。梯度下降用不上這種訊號。

分類在訓練時用交叉熵，寫報告時看準確率或 F1（第 14 篇）。