活泼的勇士面试中 level
获赞
6
粉丝
1
关注
1
看过 TA
11
华中科技大学
2021
算法工程师
IP属地:湖北
暂未填写个人简介
私信
关注
2020-04-10 20:51
已编辑
华中科技大学 算法工程师
蚂蚁金服,部门应该是做底层算法优化的,问的问题大都希望你从优化的角度回答,非正式面试,通过老师认识约谈那种,所以问题仅供参考。 面经: deep learning相关 1)overfitting,如何防止: batchnormalize和dropout,正则化如L1正则化可以稀疏参数防止过拟合,L2正则化通过求得更小参数来防止过拟合。 2)Cross entropy loss交叉熵损失与均方差损失(Mean Squared Error Loss)的差别(从优化角度不知道怎么讲诶) 均方差损失(Mean Squared Error Lo...
mars.Xyr:2. 从优化角度来讲 在分类任务上使用交叉熵而非均方误差的原因主要是: 分类任务上常用的激活函数是sigmoid,如果使用均方误差的话,在使用梯度下降算法更新时,权值w的偏导会含有sigmoid函数导数项(在输出接近0和1时会非常小),导致训练阶段学习速度会变得很慢,而如果用交叉熵的话,权值w的偏导时不含sigmoid函数的导数项的(可以自己推导一下),所以不会出现这个问题。所以在分类任务上,我们一般使用交叉熵。😊
投递蚂蚁集团等公司10个岗位 >
0 点赞 评论 收藏
分享

创作者周榜

更多
关注他的用户也关注了:
牛客网
牛客企业服务