大佬们面试的时候怎么介绍gbdt,xgboost

我介绍gbdt的时候说在函数空间中做梯度下降，xgboost是对目标函数关于当前模型做二阶泰勒展开，但是貌似效果不好？面试官期待 "每一步是拟合上一步的残差”的答案，我说拟合残差是一般的boosting方法，拟合残差可以看作是gbdt的特例，面试官：…  大家来讨论一下，面试的时候怎么说比较好？
全部评论
不能说拟合残差是一般的boosting方法，boosting的思想是每一个基分类器纠正前一个基分类器的错误，至于纠正的方式不同所以有不同的boosting算法，比如通过调整样本权值分布训练基分类器对应的AdaBoost，通过拟合前一个基分类器与目标值的误差的负梯度(也不能说是残差，只有在损失函数是平方损失时才能叫残差，一般的损失函数是近似残差)来学习下一个基分类器的方法是gradient boosting
25 回复 分享
发布于 2017-08-30 19:38
我是这么理解的，adaboost是前向分布算法+指数损失函数，gbdt是前向分布算法在较难优化的损失函数情况时的一种近似的优化，用损失函数的负梯度作为残差的近似值，用到泰勒一阶展开，xgb支持任意损失函数，只要一阶二阶可导即可，用到泰勒二阶展开。
6 回复 分享
发布于 2017-08-30 19:52
...
点赞 回复 分享
发布于 2017-08-30 16:29
拟合残差是对应于平方loss
点赞 回复 分享
发布于 2017-08-30 17:05
拟合上一步的残差
点赞 回复 分享
发布于 2017-08-30 16:13

相关推荐

头像
今天 12:29
山东大学 嵌入式软件工程师
一次偷懒，让我看到了AI对岗位的真正冲击
去年入职后，每个新员工都有一个导师，导师们对我们的工作也确实很上心，组织了关于产品研发的一系列课程给我们，其中就涉及如何写市场调研报告、产品功能描述以及如何Axure做原型图。和大学上课一样，“导师们”也给我们布置了任务，让我们在工作之余自己动手做一个demo出来。当时我为了偷懒，直接去找了Claude，把我的需求讲给它，它直接完成了一整套网页的html代码，然后再把html导入墨刀，形成了原型图，再自己做修改。当时我把这个操作归类为投机取巧，觉得并不能从这个路径上学到核心技能。直到前段时间刷公众号，发现有个帖子写的就是《用 Claude写PRD，产品经理从此告别手画原型图》，通读了一遍，发现...
SAGIMA牛马咖啡
点赞 评论 收藏
分享
02-07 16:51
滴滴_运维开发工程师(准入职员工)
OPPO内推，OPPO内推码
关于工作环境：base深圳前海 内部配置绝了。一整栋50层都是oppo哒，我的工位可以看到欢乐港湾和大海，零食柜自给，很感动的是每层都提供独立的隔音室，3层饭堂里，23楼是最好吃的 周边很繁华。楼下三层是大商场，午饭后我一般会和其他实习生姐妹去citywalk，好多奶茶店，茶救，奈雪 喜茶，瑞幸，奶白，煲珠公每天换着喝，好幸福 关于工作氛围 感受到相当年轻，相当扁平的氛围，我们组（销售运营部）有三个哥哥姐姐直接对接我，她们人真的很nice，笨笨的我不会时，问她们都会耐心解答~~ 关于工作内容 感觉出入还是有的，问了哥哥姐姐，他们收到五六十份简历，面了6个，最后选了我，好感动好幸运。偏大客户运营...
OPPO公司福利 1147人发布
点赞 评论 收藏
分享
01-14 14:11
北京航空航天大学 游戏测试
点赞 评论 收藏
分享
01-31 21:01
河南科技大学 Java
点赞 评论 收藏
分享
昨天 17:43
百度_感知算法工程师(准入职员工)
OPPO内推，OPPO内推码
关于工作环境：base深圳前海 内部配置绝了。一整栋50层都是oppo哒，我的工位可以看到欢乐港湾和大海，零食柜自给，很感动的是每层都提供独立的隔音室，3层饭堂里，23楼是最好吃的 周边很繁华。楼下三层是大商场，午饭后我一般会和其他实习生姐妹去citywalk，好多奶茶店，茶救，奈雪 喜茶，瑞幸，奶白，煲珠公每天换着喝，好幸福 关于工作氛围 感受到相当年轻，相当扁平的氛围，我们组（销售运营部）有三个哥哥姐姐直接对接我，她们人真的很nice，笨笨的我不会时，问她们都会耐心解答~~ 关于工作内容 感觉出入还是有的，问了哥哥姐姐，他们收到五六十份简历，面了6个，最后选了我，好感动好幸运。偏大客户运营...
OPPO公司福利 1147人发布
点赞 评论 收藏
分享
评论
2
27
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 牛客吐槽大会 #
27866次浏览 331人参与
# 一份好的简历长什么样？ #
23515次浏览 433人参与
# 春节前，你还在投简历吗？ #
264次浏览 9人参与
# 材料专业就业可以去哪些企业岗位 #
55103次浏览 379人参与
# 春招什么时候投？ #
75次浏览 4人参与
# 设计人秋招体验最好的公司 #
80992次浏览 735人参与
# 招聘要求与实际实习内容不符怎么办 #
166379次浏览 922人参与
# 一上班就想____，这正常吗？ #
17396次浏览 146人参与
# 机械人选offer，最看重什么？ #
158549次浏览 798人参与
# 你觉得机械有必要实习吗 #
73508次浏览 487人参与
# 刚入职就____，这样正常吗？ #
127462次浏览 669人参与
# 设计人的面试记录 #
187523次浏览 1607人参与
# 我的秋招总结 #
280501次浏览 4334人参与
# 校招入职后的感受 #
478847次浏览 3662人参与
# 为了减少AI幻觉，你注入过哪些设定？ #
8642次浏览 224人参与
# 在大厂上班是一种什么样的体验 #
16734次浏览 228人参与
# 机械人避雷的岗位/公司 #
45357次浏览 321人参与
# 正在实习的你，有转正机会吗？ #
480604次浏览 3071人参与
# 你的mentor是什么样的人？ #
51836次浏览 743人参与
# 论秋招对个人心气的改变 #
17655次浏览 259人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务