询问一个关于集成学习的问题

假设有3个2分类模型作为基模型,最后预测结果想取三个模型的综合预测结果,除了像rf一样的投票表决外,有没有什么其他方法可以从理论上推出各个模型的权重,就像adaboost一样,求推荐相关的论文或者代码实战案例#技术栈#
全部评论
感觉这个问题问得有点。。。
点赞 回复 分享
发布于 2019-10-13 10:26
Stack模型集成方法就可以
点赞 回复 分享
发布于 2019-10-13 10:27
blending集成可以了解一下,不过一般并没有什么用,容易过拟合
点赞 回复 分享
发布于 2019-10-13 10:30
如果用stack的方法的话,是可以建立second-layer model的,就是把base model的output作为second-layer model的input, 最后选择second-layer model得到second-layer 的output. 我做过一个kaggle competition就是用这种方法提高了准确度。楼主可以参考一下,不过这个是regression问题,原理应该是一样的。 https://www.kaggle.com/c/house-prices-advanced-regression-techniques
点赞 回复 分享
发布于 2019-10-20 06:00

相关推荐

点赞 评论 收藏
分享
点赞 2 评论
分享
牛客网
牛客企业服务