logo
Loading...

訓練神經網路的細節與技巧 - Regularization - 機器學習百日 - Cupoy

今天的內容會帶大家了解 1. regularization 的原理 2. 如何在 keras 中加入 regularization 背景:模型訓練過程中,若樣本數少、模型過於複雜或訓練次數過...

今天的內容會帶大家了解 1. regularization 的原理 2. 如何在 keras 中加入 regularization 背景:模型訓練過程中,若樣本數少、模型過於複雜或訓練次數過多 容易有 overfitting 或是模型測試效果不佳,表示模型本身對訓練集資料以外的資料沒有預測能力 而導致無法「泛化」,為了讓模型效能不會過於受到訓練資料影響 勢必要刻意將模型的出錯率增加,因而有 regularization 的概念。 目的:刻意增加 Loss 值讓模型的泛化程度增加 Regularizer 的效果:讓模型參數的數值較小 使得 Inputs 的改變不會讓 Outputs 有大幅的改變 有了大概的理解之後,我們開始今天的學習吧!!!