《机器学习高频面试题详解》1.7:坐标轴下降法

点击最下面卡片链接就可以进入专栏,右上角有订阅选项,欢迎大家订阅~

前言

大家好,我是鬼仔,今天带来《机器学习高频面试题详解》专栏的第1.7节:坐标轴下降法坐标轴下降法主要是解决L1范式不可导的问题,常常会在面试中出现,属于高频面试题。目前这篇是试读,后续的文章需要订阅才能查看哦,专栏预计更新30+篇文章(只增不减),具体内容可以看专栏介绍,大家的支持是鬼仔更新的动力!

PS:上周鬼仔事情比较多(又到了绩效考核的季节Orz...),所以停更了一周,这周会补上的~

一、Ridge回归和Lasso回归

线性回归是最简单的机器学习形式,但直接应用线性回归往往会有过拟合的问题,所以需要加入正则化项。根据正则化项的不同,线性回归可以转化为Ridge回归和Lasso回归:

  1. 如果加的是L2正则化项,则为Ridge回归,也叫岭回归。因为L2正则化会产生平滑的权值,所以Ridge回归不会舍弃任何一个权值变量,只会缩小其值,使得模型相对而言比较的稳定,但这会使得模型解释性差(因为保留的权值系数过多);
  2. 如果加的是L1正则化项,则为Lasso回归。因为L1正则化会产生稀疏的权值,所以Lasso回归会使得一些绝对值较小的权值系数直接变为0,因此其适用于特征筛选,得到的模型解释性更强。

但是,Lasso回归存在一个很大的问题,

剩余60%内容,订阅专栏后可继续查看/也可单篇购买

机器学习高频面试题详解 文章被收录于专栏

专栏作者曾在校招期间拿到包括字节、微信和华为等多家大厂的SSP offer,该专栏主要是为了帮助同学们系统性地学习和掌握机器学习中的基础知识。专栏详细地整理了各大厂的算法岗面经,力争深入浅出地讲解重要知识点,适合人群为准备校招或者实习,且目标岗位为算法岗、数据挖掘岗或者数据分析岗的同学。

全部评论
argmin下标应该是从theta_1到theta_n把
点赞 回复 分享
发布于 2023-02-12 21:19 广东
点赞 回复 分享
发布于 2022-12-09 11:20 广东
学到了新知识
点赞 回复 分享
发布于 2022-12-09 10:15 广西
有用的知识增加了
点赞 回复 分享
发布于 2022-12-09 10:01 广西
这就是大佬吗
点赞 回复 分享
发布于 2022-12-09 09:37 广西
收藏了
点赞 回复 分享
发布于 2022-12-08 18:15 广东
有用的只是增加了!!
点赞 回复 分享
发布于 2022-12-08 18:07 广东

相关推荐

白火同学:1、简历可以浓缩成一页,简历简历先要“简”方便HR快速过滤出有效信息,再要“历”用有效信息突出个人的含金量。 2、教育背景少了入学时间~毕业时间,HR判断不出你是否为应届生。 3、如果你的平台账号效果还不错,可以把账号超链接或者用户名贴到对应位置,一是方便HR知道你是具体做了什么内容的运营,看到账号一目了然,二是口说无凭,账号为证,这更有说服力。
面试被问期望薪资时该如何...
点赞 评论 收藏
分享
评论
16
18
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务