首页 > 试题广场 >

如何判定训练出的模型过拟合?

[问答题]
如何判定训练出的模型过拟合?
推荐
可通过使用学习曲线Learning Curves来判断是否出现bias问题或者variance问题,借用Ng的机器学习课程ppt,
假设有high bias,学习曲线如下:
You can see both the training and test sets have poor performance, which suggests a high bias problem. 

假设有high variance学习曲线如下,
You can see a large gap, indicating that cross validation error is much larger than training error and Algorithm is suffering from high variance.

上述可知,可通过绘制学习曲线Learning Curves来判断模型是否是欠拟合或者过拟合
编辑于 2015-02-06 14:24:43 回复(0)
楼上的回复很专业,在实际应用中我们也可以通过观察训练误差很小,而预测误差很大的模型通常过拟合
发表于 2015-08-21 08:29:47 回复(0)
可以通过验证数据集的误差来判断。当训练误差在持续降低的同时,判断验证误差的走势,如果训练误差在降低,而验证误差却开始回升,则判断在验证误差回升的点处发生了过拟合,就需要执行早停,即是提前停止训练过程。
发表于 2017-09-25 15:28:55 回复(0)
看你训练的模型的泛化能力,泛化能力差很有可能是因为overfitting
发表于 2017-03-14 21:59:16 回复(0)
可以通过观察泛化误差,泛化误差比较大的一般是过拟合
发表于 2016-03-09 16:43:33 回复(0)
cross-validation, 如果testing set 的accuracy 远低于 training set 就要考虑是不是over fitting了 
发表于 2016-02-10 16:14:49 回复(0)