boosting算法族之GBDT

GBDT 是通过采用加法模型(即基函数的线性组合),以及不断减小训练过程产生的残差来达到将数据分类或者回归的算法。
图片说明

训练过程:
图片说明

GBDT是通过多次迭代,每轮迭代产生一个弱分类器(一般选择CART树),每个分类器在上一轮分类器残差的基础上进行训练。
如果我们选用平方损失函数,那这个差值就是残差。我们关注的是希望损失函数不断减小且尽可能快的减小,从而尽快的收敛到局部最优解或全局最优解,所以让损失函数沿着梯度方向减小,这就是GBDT的GB的核心。

全部评论

相关推荐

评论
点赞
收藏
分享

创作者周榜

更多
正在热议
更多
# 春招至今,你的战绩如何? #
10315次浏览 92人参与
# 你的实习产出是真实的还是包装的? #
1832次浏览 42人参与
# 巨人网络春招 #
11320次浏览 223人参与
# 军工所铁饭碗 vs 互联网高薪资,你会选谁 #
7537次浏览 43人参与
# 简历第一个项目做什么 #
31643次浏览 333人参与
# 重来一次,我还会选择这个专业吗 #
433423次浏览 3926人参与
# MiniMax求职进展汇总 #
23966次浏览 308人参与
# 当下环境,你会继续卷互联网,还是看其他行业机会 #
187071次浏览 1122人参与
# 牛客AI文生图 #
21418次浏览 238人参与
# 不考虑薪资和职业,你最想做什么工作呢? #
152338次浏览 887人参与
# 研究所笔面经互助 #
118892次浏览 577人参与
# 简历中的项目经历要怎么写? #
310182次浏览 4202人参与
# AI时代,哪些岗位最容易被淘汰 #
63576次浏览 813人参与
# 面试紧张时你会有什么表现? #
30502次浏览 188人参与
# 你今年的平均薪资是多少? #
213063次浏览 1039人参与
# 你怎么看待AI面试 #
179990次浏览 1245人参与
# 高学历就一定能找到好工作吗? #
64323次浏览 620人参与
# 你最满意的offer薪资是哪家公司? #
76474次浏览 374人参与
# 我的求职精神状态 #
448028次浏览 3129人参与
# 正在春招的你,也参与了去年秋招吗? #
363346次浏览 2638人参与
# 腾讯音乐求职进展汇总 #
160627次浏览 1111人参与
# 校招笔试 #
470762次浏览 2964人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务