Meta-Learning
目的從多種 source domain (相似種類任務)
學習如何 ‘調整參數’ 的策略
最終運用在 target domain 中
Inner-Loop
Inner-Loop 部份顯示
使用多組 source domains 訓練模型 $f$ 參數 $\theta$ (共參)
分別學習模型參數對各自任務優化參數,並可確保各domain訓練數量相當
Domains 同時訓練可能模糊學習目標(平均掉損失函數)
Outer-Loop
第11行:與遷移學習所不同之處為,meta-training 藉由同時考慮 target domain 和 source domains 的損失函數優化參數。
$uΣ^{K-1}_{i} L_s$
相較於 multi-task learing
根據不同種類任務,對目標損失優化參數
相較於 遷移學習
遷移學習則是將訓練完成的模型在target domain中進行微調以最佳化。
References
- MetaPred: Meta-Learning for Clinical Risk Prediction with Limited Patient Electronic Health Records, KDD’19