統計學中的插補方法
在統計和資料分析實踐中，資料缺失問題幾乎總是會出現。資料缺失可能是由於受訪者未回答某些問題、記錄錯誤、感測器幹擾、資料擷取過程中損壞，或因合併多個不完全匹配的資料來源所致。如果處理不當，資料缺失會降低分析質量，削弱檢定效力，甚至導致結論出現偏差。處理缺失資料最常用的方法之一是插補，即根據現有資訊以估計值填入缺失值。
為什麼歸因推論很重要？
之所以通常選擇插補而非直接刪除缺失數據，原因有以下幾點。首先，刪除包含缺失值的行/觀測值（例如，清單刪除法）會大幅減少樣本量，尤其是在缺失資料比例較高的情況下。其次，如果資料並非隨機缺失，刪除操作可能會引入偏差。第三，許多統計或機器學習演算法需要完整的數據，因此插補是一種便捷的預處理步驟。
然而，插補並非僅僅是「填補空白」。所選的方法必須考慮缺失資料的機制、變數的結構以及分析目標。糟糕的插補會「欺騙」模型，降低方差，並使結果看起來比實際情況更確定。
遺失資料機制
在統計學文獻中，資料缺失通常分為三種主要機制：
1. MCAR（完全隨機缺失）：資料缺失的機率與任何變數（無論是否可觀測）無關。例如，因事故損壞的問卷。
2. 隨機缺失 (MAR)：資料缺失的機率取決於觀測變量，但在控制其他變數後，缺失值本身與資料缺失的機率無關。例如，年輕受訪者更有可能漏答收入問題，但年齡資訊是已知的。
3. 非隨機缺失 (MNAR)：資料缺失的機率取決於缺失值本身。例如，高收入者往往不願透露其收入。
在完全隨機缺失（MCAR）/隨機缺失（MAR）的情況下，插補通常更安全。而隨機缺失（MNAR）通常需要使用能夠明確處理缺失資料的模型或進行敏感性分析。
簡單插補法
1. 平均數/中位數/眾數插補
最簡單的方法是用平均數或中位數（數值變數）或眾數（分類變數）來取代缺失值。其優點是：簡單快捷，且通常可作為基準值。缺點是：可能會降低變異數並扭曲資料分佈，尤其是在資料不對稱或包含異常值的情況下。中位數通常比平均數更能抵抗異常值的影響。
2. 恆定插補
缺失值會以特定的常數填充，例如 0、-1 或標籤「未知」。當該值具有特定含義（例如“無交易”），或者模型需要添加額外指示符來突出顯示缺失值時，這種方法非常有用。但是，選擇任意常數可能會引入虛假模式。
3. 熱卡插補法
在熱卡填充法中，缺失值會根據幾個關鍵變量，使用其他「相似」觀測值（捐贈者）的值進行填充。這種方法在調查中很常見。熱卡填充法能夠保持資料的真實性，因為它捕捉了資料的實際值，但結果對「相似性」的定義非常敏感，並且可能導致樣本間差異。
基於模型的插補方法
4. 回歸插補
缺失值可以透過基於其他變數建構的迴歸模型進行預測。對於數值型變量，可以使用線性迴歸；對於分類變量，可以使用邏輯迴歸或多項式迴歸。其優點在於能夠利用變數之間的關係。缺點是，僅使用確定性預測值往往會降低方差，因為所有插補值都恰好落在預測線上。為了解決這個問題，通常會添加隨機成分（例如殘差）以提高模型的真實性。
5. k近鄰（kNN）插補
kNN 方法是基於 k 個最近鄰的平均值（或投票）來填入缺失值。接近程度通常使用歐氏距離或其他指標來衡量，前提是資料已進行歸一化處理。其優點包括彈性以及假設不存在線性關係。缺點包括：對於大型資料集而言計算成本高昂、對變數尺度敏感、在高維度資料上效能下降（維度災難）。
6. 期望最大化（EM）
EM演算法透過將缺失值視為潛在變數來估計模型參數（例如，多元常態資料的平均值和協方差）。步驟E基於目前參數迭代計算缺失值的期望值，然後步驟M基於預期的「完整」資料更新參數。 EM演算法對某些分佈假設具有穩健性，但可能較為複雜，並且依賴模型假設的正確性。
多重插補：在許多情況下都是黃金標準
7. 多重插補（MI）
多重插補被認為是處理模型不確定性修正（MAR）最嚴謹的方法之一。多重插補並非產生單一的完整資料集，而是產生多個（例如 5-20 個）具有不同插補值的資料集，以反映不確定性。每個資料集分別進行分析，然後使用 Rubin 規則合併結果，以獲得更有效的估計值和標準誤差。
MI優勢：
– 能夠應對估算不確定性。
– 較適用於統計推論（信賴區間、假設檢定）。
– 可靈活適應各種類型的變數。
其局限性：
– 實現起來更複雜。
– 需要合理的假設和插補模型規格。
– 如果 MNAR 中存在缺失值，則標準 MI 仍可能有偏差。
時間序列和空間資料的插補
在時間序列資料中，缺失值通常與其前後值高度相關。常用的方法包括線性內插法、樣條插值、卡爾曼濾波或ARIMA/狀態空間模型。對於空間數據，克里金法和空間模型等方法可以利用地理鄰近性。當時空結構占主導地位時，這些方法非常有效，但必須謹慎對待突變（例如經濟衝擊），因為突變可能導致簡單的插值誤導。
選擇插補方法的良好實踐
1. 進行缺失資料探索：檢查缺失值的百分比、缺失模式、缺失是否與特定變數相關。
2. 分離訓練數據和測試數據：僅透過從訓練數據中「學習」來進行插補，然後將其應用於測試數據，以避免資料外洩。
3. 考慮變數類型：數值型、分類型、有序型或混合型；對應的處理方法有所不同。
4. 使用缺失值指示符：有時，缺失值的資訊本身就具有預測性；增加指示變數可以提高預測模型的效能。
5. 評估插補的影響：比較插補前後的分佈，檢查變異數是否減少，並驗證模型。
6. 優先考慮多重插補進行推論：當分析的目標是參數估計和統計檢定時，多重插補通常比單次插補更合適。
結論
插補是現代統計工作流程中處理缺失資料的關鍵組成部分。諸如平均值/中位數之類的簡單方法可以作為基準或用於處理少量缺失值，但通常會損害資料結構並影響不確定性。基於模型的方法，例如迴歸、k近鄰（kNN）和期望最大化（EM）演算法，利用了變數之間的關係，而多重插補則透過考慮不確定性，為推論提供了一個穩健的框架。最佳方法的選擇取決於缺失資料的機制（完全隨機缺失/隨機缺失/非隨機缺失）、分析目標（預測或推論）以及資料的特徵（時間序列、空間、混合）。採用正確的方法，插補有助於保持分析的完整性，並得出更可靠的結論。
