优化器:SGD,Adam,Rmsprop。Adam叫做动量法或者冲量法,提出的原因是:有时候学习率太大一步会走错很多,所以Adam舍弃了线性函数而采用多项式(该点的泰勒展开式)来更贴近目标。不仅如此,他还考虑了在正确的方向上尽可能地加速,在错误的方向上尽可能地减速:将某个梯度方向上的历史数据大小加权求和,如果很长一段时间梯度大小都大于0,那这个方向说明没有问题需要加速,而如果经常正负交替这说明可能方向错误,则需要放缓抖动。
点赞 评论

相关推荐

在AI产品设计中,Agent(智能体)和Workflow(工作流)是两种核心范式,分别代表了智能化与流程化的不同方向。要从以下方面展开分析:一、核心区别二、Agent的核心特性三、Workflow的设计逻辑四、协同关系五、选择决策要点具体来说:1. 定义与功能:   - Agent:自主决策实体,能感知环境、做出决策并执行动作   - Workflow:预定义的任务序列,按照固定流程执行2. 执行方式:   - Agent:动态响应,根据输入和环境变化自主调整行为   - Workflow:线性执行,严格遵循预设步骤3. 灵活性:   - Agent:具备学习适应能力,可处理未知情况   - Workflow:静态结构,变更需要手动修改流程4. 决策能力:   - Agent:内置决策逻辑,可实时评估选择最佳路径   - Workflow:无自主决策,完全依赖流程设计5. 复杂度:   - Agent:通常包含状态记忆和目标导向行为   - Workflow:侧重任务编排和顺序控制6. 典型应用:   - Agent:聊天机器人、自动驾驶、游戏AI   - Workflow:数据处理流水线、审批系统、CI/CD流程7. 错误处理:   - Agent:可自主尝试恢复或寻找替代方案   - Workflow:依赖预设的错误处理分支总结:Agent是“大脑”,Workflow是“骨架”,二者结合可构建从灵活到稳定的AI应用光谱。未来方向是通过低代码平台降低两者融合门槛,实现智能化与自动化的统一。 #牛客激励计划#  #聊聊我眼中的AI#  #产品经理# #牛客AI配图神器#
点赞 评论 收藏
分享
牛客网
牛客企业服务