overfit vs 欠拟合

欠拟合

欠拟合是指模型不能在训练集上获得足够低的误差,即,模型在训练集上表现很差,没有学习到数据背后的规律。

解决欠拟合的方法

overfit

model

  1. 减少参数量,降低复杂度
  2. 加入BN和Dropout等网络层

optimal

加入正则项,如针对问题设计的正则化算子、常见的L1正则等

data

加大数据量、数据增广等