【有书共读】机器学习与优化读书笔记 08
第22章 局部搜索和反馈搜索优化
局部搜索是一种简单有效的方法，能用以确定离散优化问题的改进方案。它生成变化的序列，每一个变化都是局部的，即只在有限的部分内影响当前的解决方案。它成功的原因在于，许多问题有着丰富的构型（局部极小值聚在一起，又名大峡谷假说），并且相比于对一个全新的解决方案重新进行求值，在当前解决方案的邻域采用增量求值会更快。
局部搜索停在局部最优点，此时不存在可以改进的邻域，因此当前的搜索轨迹陷在局部最优里。此时需要额外的多样化的手段从局部吸引域逃脱。
反馈搜索优化（RSO）在优化的过程中使用学习和自适应，使搜索技术可以根据正在求解的实例和当前暂定解决方案的局部特点进行微调。RSO可以设计智能模块来监督基本的局部搜索过程，又可以平衡多样化和单一化，还可以对优化过程本身的组件（元优化或元启发式）进行优化。
值得注意的是，反馈（reactive）这一术语在本书语境中理解为“对刺激的即时响应”,也可以是积极的“对于未来的问题、需要或者改变的预期做出的行动。”事实上，为了得到反馈算法，设计者需要积极行动起来，通过适当地将模块插入算法，应的能力。换句话说，反馈搜索优化算法需要积极的算法设计者。赋予这一算法自主回应的能力。换句话说，反馈搜索优化算法需要积极的算法设计者。
