鑑別式 AI：混淆矩陣、ROC 曲線與決策樹

鑑別式模型（discriminative model）要回答的是：這筆輸入 x 已經在手上，類別或數值 y 是什麼。它直接學條件機率 P(y∣x)。詐欺或正常、會流失或不會流失、信用分數落在哪一段，都是在學一條把類別切開的決策邊界。

生成式模型（generative model）學的是資料本身的分佈，寫成 P(x)，或連類別一起寫成 P(x, y)。分佈在手上，就可以依這個分佈產生新樣本。鑑別式模型把力氣放在邊界上，目標是把類別分開。

這類邊界常見於詐欺偵測、客戶流失預測、信用評分、製程瑕疵的影像辨識、醫療影像輔助判讀、垃圾郵件過濾。這些任務通常有大量且帶標籤的資料。標籤寫明每一筆的正確答案，模型才學得到較細的決策邊界。

下面這些都是鑑別式任務裡常用的模型。選的時候看輸入長什麼樣、要不要被人讀懂、以及推論能不能扛大量線上請求。

• 邏輯斯迴歸（logistic regression）是線性模型，係數可以解釋，計算快，適合大規模線上推論。類別大致能用線性邊界分開、又要立刻回傳判別時，它對得上。
• 決策樹（decision tree）把切分寫成可讀的規則，但也容易過擬合。樹若一直切到節點幾乎只剩單一類，訓練時看到的巧合也會被寫進規則。
• 隨機森林（random forest）屬於 bagging。每棵樹使用自助抽樣的資料，以及隨機抽到的一部分特徵，再對各樹投票或平均。自助抽樣是從原資料抽出樣本，抽過的仍可再被抽到。多棵樹平均之後，單棵樹的不穩定被壓低，變異下降。
• 梯度提升（gradient boosting）屬於 boosting。樹不是同時投票，而是一棵接一棵長，下一棵修正前一輪的錯誤。XGBoost、LightGBM 是這個家族裡，表格資料上常見的強模型。
• 支援向量機（SVM）把兩類之間的邊界拉到最寬，也就是最大化邊界。
• 最近鄰法（KNN）用最近的鄰居決定這一筆屬於哪一類。特徵尺度要先對齊，否則數字大的欄位會主導距離。每預測一筆都要重新找鄰居，預測時計算量大。
• 單純貝氏（naive Bayes）假設特徵在給定類別之下條件獨立，計算因此快，文字分類常用它。
• 神經網路（neural network）依資料型態分工：卷積神經網路（CNN）擅長影像，循環神經網路（RNN）與 Transformer 擅長序列。製程瑕疵與醫療影像這類圖像輸入，對得上 CNN；一筆筆依序發生的事件，才對得上 RNN 或 Transformer。

表格上的欄位（金額、次數、天數）先想邏輯斯迴歸、決策樹、隨機森林與梯度提升。不要把一列欄位誤當成影像送進 CNN。

樹的每一刀都在問：切完之後，子節點比原本更純嗎。純度用兩種不純度來量，演算法選讓不純度下降最多的切分。

吉尼不純度（Gini）的定義是

Gini = 1 − Σ pᵢ²

pᵢ 是節點裡第 i 類的比例。只有一類時，p = 1，Gini = 1 − 1² = 0。

70 筆 A、30 筆 B：p 為 0.7 與 0.3。

0.7² = 0.49，0.3² = 0.09，兩者相加 0.58。

Gini = 1 − 0.58 = 0.42。

60 筆與 40 筆：0.6² = 0.36，0.4² = 0.16，相加 0.52。

Gini = 1 − 0.52 = 0.48。

0.48 比 0.42 高，因為 60／40 比 70／30 更接近對半，節點更雜。兩類恰好各半時，Gini = 1 − (0.5² + 0.5²) = 1 − 0.5 = 0.5，這是二元節點的最高雜度。

熵（entropy）的定義是

Entropy = −Σ pᵢ log₂ pᵢ

只有一類時，p = 1，log₂ 1 = 0，該項為 0；另一類機率為 0 的那一項在這個定義裡取 0，所以熵也是 0。兩類各半時，log₂ 0.5 = −1，

Entropy = −(0.5 × −1 + 0.5 × −1) = 1。

同一個 50／50 節點，吉尼不純度是 0.5、熵是 1。兩把尺的數字不能直接比較高低。

資訊增益（information gain）定義為

資訊增益 = 切分前的熵 − 切分後的加權熵

加權的作法：每個子節點的熵，乘上該子節點筆數佔父節點的比例，再加總。增益越大，這一刀讓熵下降越多。改用吉尼不純度時，同樣是挑下降最多的那一刀。一棵樹選定一種不純度來比切分。

二元分類把結果放進混淆矩陣（confusion matrix）。四格是 TP（真陽性, true positive）、FP（偽陽性, false positive）、FN（偽陰性, false negative）、TN（真陰性, true negative）。

用一批共 1,000 筆的結果當例子：TP 40、FN 10、FP 20、TN 930。

準確率（accuracy） = (TP + TN) / 全部。分子是判對的筆數，分母是全部筆數。

(40 + 930) / 1000 = 970/1000 = 0.97。

精確率（precision） = TP / (TP + FP)。分母是「模型說是陽性」的筆數，答案是其中真的為陽性的比例。

40 / (40 + 20) = 40/60 ≈ 0.667。

召回率（recall）又稱敏感度、TPR，定義是 TP / (TP + FN)。分母是實際上的陽性，答案是其中被抓到的比例。

40 / (40 + 10) = 40/50 = 0.8。

特異度（specificity） = TN / (TN + FP)。分母是實際上的陰性，答案是其中被正確放行的比例。

930 / (930 + 20) = 930/950。

F1 = 2 × P × R / (P + R)。用上面的分數精確算：P = 40/60 = 2/3，R = 4/5。

2 × (2/3) × (4/5) = 16/15

P + R = 2/3 + 4/5 = 10/15 + 12/15 = 22/15

F1 = (16/15) / (22/15) = 16/22 = 8/11 ≈ 0.727。

若先四捨五入成小數：2 × 0.667 × 0.8 = 1.0672，0.667 + 0.8 = 1.467，1.0672 / 1.467 ≈ 0.727。兩條算式對到同一個約數。

0.97 的準確率裡，970 筆判對的有 930 筆是真陰性。50 筆實際陽性只抓到 40 筆這件事，準確率幾乎看不出來。類別很不平衡時，這個落差會更大。詐欺若只佔 0.5%，模型全部猜「正常」，準確率 = 1 − 0.005 = 0.995，也就是 99.5%，但 TP = 0，召回率 = 0。

指標要跟著代價走。漏掉陽性的代價高時，看召回率。癌症篩檢漏掉病人、詐欺偵測放行走詐，都屬於這一側。誤報的代價高時，看精確率。垃圾郵件過濾若把重要信刪掉，或風控把正常帳戶凍結，都是 FP 太貴，精確率的分母 TP + FP 正好在管這件事。

二元模型通常先給出陽性機率，再拿門檻切成類別。門檻降低，更多人被判成陽性，召回率上升，精確率通常下降。

ROC 曲線（receiver operating characteristic）的橫軸是 FPR（false positive rate） = FP / (FP + TN)，縱軸是 TPR。上面那批數字的 FPR = 20/950。特異度與 FPR 共用分母 FP + TN：

20/950 + 930/950 = 950/950 = 1

所以 FPR + 特異度 = 1。

畫 ROC 時，把門檻從高調到低。判成陽性的人只會變多或不變，TPR 與 FPR 都只會增加或停住。曲線從 (0, 0) 走到 (1, 1)，不會往回走。某一段若只多抓到真陽性、沒有新增偽陽性，FPR 不變而 TPR 上升，曲線與縱軸平行，這仍是往 (1, 1) 的方向。

AUC（area under the curve）是 ROC 下方的面積。AUC = 0.5 等於隨機猜，越接近 1 越好。

類別極度不平衡時，TN 非常多，FPR 的分母很大，FPR 不容易升高，ROC 會把少數類的誤報看得比較輕。此時改看 PR 曲線（precision-recall curve），軸是精確率對召回率，較能反映少數類的表現。PR 曲線下方的面積稱 PR-AUC，和召回率、精確率一起用，才能避開「全猜多數類就有很高準確率」的模型。

門檻與這三個指標的對照，可以用下面的程式表示。model、X、y_true 分別是已訓練的模型、特徵矩陣與真實標籤；0.3 是這個例子自訂的門檻。

from sklearn.metrics import confusion_matrix, classification_report, roc_auc_score

# model: trained classifier; X: feature matrix; y_true: ground-truth labels
positive_proba = model.predict_proba(X)[:, 1]
y_pred = [1 if p >= 0.3 else 0 for p in positive_proba]

print(confusion_matrix(y_true, y_pred))
print(classification_report(y_true, y_pred))
print(roc_auc_score(y_true, positive_proba))

confusion_matrix 對上四格計數，classification_report 對上精確率、召回率與 F1，roc_auc_score 用的是陽性機率，不是切過門檻的 0／1。同一組機率，換一個門檻就換一組 TP、FP、FN、TN。

標籤是連續數值時，改看誤差，不再用準確率。

MAE（mean absolute error，平均絕對誤差）把每個誤差取絕對值再平均，單位與原資料相同，對離群值較不敏感。

MSE（mean squared error）是平方誤差的平均。

RMSE（root mean squared error）是 MSE 開根號，√MSE。誤差先平方，大誤差被放得更大，所以 RMSE 對大誤差的懲罰比 MAE 更重。

MAPE（mean absolute percentage error，平均絕對百分比誤差）把誤差換成相對實際值的百分比再平均。實際值接近 0 時，分母太小，少數幾筆就會把指標放大，數值不穩定。

R² 是迴歸的擬合指標。它不取代上面的誤差，也不能拿去評詐欺、流失這類分類題。

房價裡少數極端豪宅造成很大的誤差，而且希望大誤差被罰得更重時，對得上的是 RMSE。MAE 會把那些豪宅的拉力看得比較輕。

模型挑完之後，有些場景還得說出理由。特徵重要度（feature importance）看的是整個模型裡，哪些特徵影響比較大。SHAP 值看的是單獨一筆預測，每個特徵對這一筆貢獻了多少。信用評分需要向當事人說明為什麼是這個結果時，就用得到這種單筆的拆解。