overfit vs 欠拟合
欠拟合
欠拟合是指模型不能在训练集上获得足够低的误差,即,模型在训练集上表现很差,没有学习到数据背后的规律。
解决欠拟合的方法
- 添加新特征,挖掘“上下文特征”、“组合特征”
- 增加模型复杂度
- 减少正则化系数
overfit
model
- 减少参数量,降低复杂度
- 加入BN和Dropout等网络层
optimal
加入正则项,如针对问题设计的正则化算子、常见的L1正则等
data
加大数据量、数据增广等
欠拟合是指模型不能在训练集上获得足够低的误差,即,模型在训练集上表现很差,没有学习到数据背后的规律。
加入正则项,如针对问题设计的正则化算子、常见的L1正则等
加大数据量、数据增广等