首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
牛客674377号fighting
2017-08-16 11:10
已编辑
Akademia Rolnicza w Szczecinie Java
关注
已关注
取消关注
为啥给定初始值,梯度下降算法能取得最优值?
为啥给定初始值,梯度下降算法能取得最优值?
提示
全部评论
推荐
最新
楼层
骏博日博的迷弟
浙江交通职业技术学院 算法工程师
首先,泰勒展开,负梯度方向是descent direction。 其次,梯度下降(其他的line search、trust region也一样)只有在原问题是凸问题的情况下,才能保证以任意精度(因为毕竟是数值方法)取得最优解。 非凸情况下,改进的GD(比如随机初始化,escape saddle等trick等等)也只能保证以概率无限接近于1取得局部最优。
点赞
回复
分享
发布于 2017-08-16 11:12
haolexiao
北京大学 C++
泰勒定理展开取第一项,当delta x取导数的相反数的时候其稳定为负,所以就能一直下降
点赞
回复
分享
发布于 2017-08-16 11:08
我不是渣神
中国科学院大学 算法工程师
个人见解:梯度下降求解无约束最优化问题实现简单,好用。例如LR中的目标函数是光滑的凸函数,这时候保证能找到全局最优解,因为负梯度的方向朝向函数下降最快的方向,永远朝向全局最小值(最大值则反之)。当有多个极大值或极小值时,需要对梯度下降进行优化,比如动量,NAG,Adagrad,RMSprop等,可以减少陷入极大值极小值的可能性,设置得当可以得到全局最优解,但并不能100%保证获得全局最优解。
点赞
回复
分享
发布于 2017-08-16 10:58
256785
汽车之家_算法工程师
不一定啊,得是凸优化才行吧
点赞
回复
分享
发布于 2017-08-16 11:42
已删除
最初版本的GD是不能取得最优的,会陷入局部最优。
点赞
回复
分享
发布于 2017-08-16 11:16
暂无评论,快来抢首评~
相关推荐
05-09 22:20
门头沟学院 Unity3D客户端
偷偷跑出去实习被老师发现,会被不给毕业证吗?
事情是这样的,之前的实习不小心被老师发现并且被搅黄了,原本是不想再找了的,但是后来想想,我不能这样坐以待毙,于是又找了一个实习,后天就准备出发了,上课也找人了,如果被发现了后果会怎么样呢。
我的求职进度条
点赞
评论
收藏
分享
05-08 16:37
已编辑
门头沟学院 算法工程师
据说百度实习薪资涨到600一天了?
兄弟们,昨晚差点没睡好觉。。起因是同学群里有人扔了一张截图,说是百度今年暑期实习AI岗,一天600。我:???第一反应是P的。第二反应是:就算是真的,也是那种ssssp,跟我没关系。但后来问了一个去年在百度实习过的师兄,他的意思是全面涨了,只是不同岗位涨幅不同。然后我就开始疯狂考古……翻了牛客、小红书、还有几个***,拼凑出来的信息大概是:百度今年实习生薪资确实普涨,平均涨30%以上AI类岗位涨幅最大,部分核心方向最高涨幅据说有110%一天600的说法,不是空穴来风。我现在在某中厂实习,一天200,已经觉得还行。但如果百度真给600:一天600 = 我现在的3倍一个月按20天算 = 1万2实习...
我直接跑过来:
蹲蹲
点赞
评论
收藏
分享
04-13 16:42
华东师范大学 Web前端
感谢曾经碰到mt,他是我的贵人!
实习最后一周,转正面试挂了。评委说"综合能力还差一点"。我走出会议室的时候脑子是空的,三个月白干的感觉。师父把我拉到茶水间,没安慰我,只是说:"你那个小工具是你自己从零做出来的吧,我都看过,能力没问题。这次挂了不代表什么。"他把他之前在某厂的内推码发给我:"春招别怂,投。"昨天春招开奖,我拿了那个厂的offer。薪资比原来的转正待遇还高20%!!我给师父发了条消息:"师父,我上岸了。"他回了个"牛"。就一个字。但我看了很久。谢谢我的老大哥,你是我的贵人
哪一刻你突然觉得实习“有...
点赞
评论
收藏
分享
04-20 09:21
河海大学 C++
简历问题
为什么暑期实习都约不到面啊,简历有什么问题吗,求告知。
点赞
评论
收藏
分享
05-08 19:45
美团_履约技术部_后端开发(实习员工)
RAG
一、概述与全链路 RAG(检索增强生成):用户提问 → 检索知识库相关片段 → 注入 Prompt → LLM 基于真实数据生成。解决知识截止、幻觉、无法访问私有数据。 Naive RAG(检索-拼接-生成)→ Advanced RAG(Query 改写、混合检索、Rerank)→ Modular RAG(可插拔模块、Agent 动态决策) 文档 → Chunking → Embedding → 向量数据库 用户查询 → Query改写 → 向量化 → 混合检索 → Rerank → Prompt → LLM生成 二、文档处理(Chunking + Metadata) 切分策略 策略 ...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
27 届前端 er 第一段实习故事
2.4W
2
...
30天的回望与总结
2.0W
3
...
招了一年实习生,撑过三个月的一只手数得清
1.1W
4
...
春招没进大厂,我的人生会完蛋吗
1.0W
5
...
字节一面
7021
6
...
破防了,腾讯技术实习月薪涨了近50%…
5040
7
...
恒生春招
4480
8
...
暑期结束了............(帮选offer)
3920
9
...
小米top2简历全挂(但我同学已oc)
3129
10
...
亚信安全前端日常实习值得去吗?
3081
创作者周榜
更多
正在热议
更多
#
你的实习产出是真实的还是包装的?
#
88595次浏览
638人参与
#
什么专业适合考公
#
69517次浏览
347人参与
#
在爱玛,骑向未来
#
44347次浏览
434人参与
#
机械人,说说你的烦心事
#
148576次浏览
1163人参与
#
毕业季,给职场新人一些建议
#
221217次浏览
2600人参与
#
工作压力大,你会干什么?
#
82429次浏览
707人参与
#
选offer应该考虑哪些因素
#
172528次浏览
1057人参与
#
工作后,你落下了哪些病根
#
42367次浏览
294人参与
#
机械人,秋招第一次笔试的企业是哪家?
#
103477次浏览
707人参与
#
巨人网络工作体验
#
76614次浏览
507人参与
#
如何缓解入职前的焦虑
#
290858次浏览
1505人参与
#
携程笔试
#
174246次浏览
916人参与
#
我的第一份实习怎么找的
#
288602次浏览
2108人参与
#
重来一次,我还会选择这个专业吗
#
466784次浏览
3983人参与
#
你被哪些公司挂了?
#
198087次浏览
1076人参与
#
职场新人体验
#
192769次浏览
1241人参与
#
实习生的蛐蛐区
#
957676次浏览
4841人参与
#
实习生工资多少才算正常?
#
76277次浏览
526人参与
#
应届生,你找到工作了吗
#
174096次浏览
900人参与
#
找工作中的小确幸
#
92838次浏览
472人参与
#
你上一次加班是什么时候?
#
157502次浏览
823人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务