首页 > 试题广场 >

神经网络训练时可以将全部参数初始化为0。（）

[单选题]
神经网络训练时可以将全部参数初始化为0。（） 
  • 正确
  • 错误
查看答案及解析
添加回答
头发还是这么短头像 头发还是这么短
错误的，一般b会初始化为0，但w一般服从高斯分布
发表于 2019-08-04 22:30:51 回复(0)
牛客668586075号头像 牛客668586075号
这道题有点坑啊，你当然可以初始化为0，只是效果不理想，做多了工作而已
发表于 2020-05-30 19:53:27 回复(1)
已注销0629头像 已注销0629
没有隐层时, 可以将所有的参数初始化为0。如果有隐层，对于隐层使用了ReLU: 本身, 不为0, 其余的所有层的输出都为0. BP时所有梯度也都为0, 包括输出层. 这意味着所有的非输入神经元都是dead neurons. 学习失败，所以，最后的结论是, 一般只在训练SLP/逻辑回归模型时才使用0初始化所有参数., 更实用的结论是, 深度模型都不会使用0初始化所有参数.
发表于 2020-07-08 00:21:10 回复(0)
社招求offer头像 社招求offer
一般只在训练SLP/逻辑回归模型时才使用0初始化所有参数., 更实用的结论是, 深度模型都不会使用0初始化所有参数.
发表于 2019-07-09 15:43:25 回复(0)
牛客54560154号头像 牛客54560154号
全部初始化为0，会导致权重对称：https://zhuanlan.zhihu.com/p/75879624
发表于 2021-03-10 19:39:53 回复(0)
牛客933277499号头像 牛客933277499号
全部为零是随机初始化的一种极端情况 为什么不可以 
发表于 2021-03-10 08:21:30 回复(0)
DeShuiYu头像 DeShuiYu
为什么不能设置为0，如果效果不好，可以调优啊！
发表于 2020-09-27 14:51:45 回复(0)
提交观点

问题信息

算法工程师 自然语言处理 2019 小鹏汽车
来自：小鹏汽车2019春招N...
上传者：小小
难度：
7条回答 4684浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号