迭代算法（具体情况具体分析）

1.迭代概念

迭代法也称辗转法（iterative method），是一种不断用变量的旧值递推新值的过程，跟迭代法相对应的是直接法（或者称为一次解法），即一次性解决问题。迭代算法是用计算机解决问题的一种基本方法，他利用计算机运算速度快、适合做重复性操作的特点，让计算机对一组指令（或一定步骤）进行重复执行，在每次执行这组指令（或这些步骤）时，都从变量的原值推出他的一个新值，迭代法又分为精确迭代h额近似迭代。比较典型的迭代法：如二分法和牛顿迭代法属于近似迭代法。

2.方法介绍

迭代法是一类利用递推公式或循环算法通过构造序列来求问题近似解的方法。

3.迭代应用

迭代法主要研究课题是对所论问题构造收敛的迭代格式，分析他们的收敛速度及收敛范围。迭代法的收敛性定理可分为以下三类：

1.局部收敛性定理：假设问题解存在，断定当初始近似与解充分接近时迭代法收敛

2.半局部收敛性定理：在不假定解存在的情况下，根据迭代法在初始近似处满足的条件，断定迭代法收敛于问题的解；

3.大范围收敛性定理：在不假定初始近似与解充分接近的条件下，断定迭代法收敛于问题的解

迭代法在线性和非线性方程组求解，最优化计算及特征值计算等问题中被广泛应用。

4.迭代算法

迭代是数值分析中通过从一份初始估计出发寻找一系列近似解来解决问题（一般是解方程或者方程组）的过程，为实现过程所使用的方法统称为迭代法。

一般可以做如下定义：对于给定的线性方程组x=Bx+f（这里的x,B,f同为矩阵，任意线性方程组都可以变换成此形式），用公式 X(k+1)=BX(k)+f（ X(k)代表迭代k次得到的x，初始时k=0)逐步带入求近似解的方法称为迭代法（或称一阶定常迭代法）。如果 LIM(k->oo)=mX(k)存在，记为x*，称此迭代法收敛。显然x*就是此方程组称为的解，否则称为迭代法发散。

跟迭代法相对应的直接法（或者称为一次解法），即一次性的快速解决问题，例如开方解决方程x+3=4。一般如果可能，直接解法总是优先考虑的。但当遇到复杂问题时，特别是在未知量很多，方程为非线性时，我们无法找到直接解法（例如五次以及更高次的代数方程没有解析解）这时候或许可以通过迭代法寻求方程（组）的近似解。

最常见的迭代法时牛顿法。其他还包括最速下降法、共轭迭代法、变尺度迭代法、最小二乘法、线性规划、非线性规划、单纯型法、惩罚函数法、斜率投影法、遗传算法、模拟退火等等

利用迭代算法解决问题，需要做好以下三个方面的工作：

1.确定迭代变量

在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量

2.建立迭代关系式

所谓迭代关系式：指如何从变量的前一个值推出其下一个值的公式（或关系）。迭代关系式得建立是解决迭代问题得关键，通常可以顺推或倒推得方式来完成。

3.对迭代过程进行控制

在什么时候结束迭代过程？这是编写迭代程序必须考虑的问题，不能让迭代过程无休止地重复执行下去。迭代过程的控制通常可分为两种情况：一种是所需的迭代次数是个确定的值，可以计算出来；另一种是所需的迭代次数无法确定。对于前一种情况，可以构建一个固定次数的循环来实现对迭代过程的控制；对于后一种情况，需要进一步分析出用来结束迭代过程的条件。