2.LLE（局部线性嵌入）特征映射

局部线性嵌入Locally Linear Embedding (LLE)

1. 核心思想：一个节点可以用它邻近的节点线性降维表示，具有线性，局部的特点。例:

   

2. 方法：图中特征相似的点，在二维邻接矩阵中的距离应该靠近

3. 过程

   1. 权重初始化，表示i，j节点之间的权重。对一个节点得权重进行归一化，即将i节点及其所有相邻的节点的权重之和设为1
   2. 计算损失值，设有m个n维样本，j均为节点i的邻近节点，loss公式：
   3. 利用矩阵和拉格朗日乘子里法来求解最优（此时的均为0或1）
   4. 转化，是元素全是1的向量
   5. 利用拉格朗日乘法转换为一个极值优化目标
   6. 求导得极小值，在这里是约束条件，对W求导，得极小值（不严谨）
   7. 对进行归一化（没搞懂）
   8. 已知节点间的权重W，求节点低维表示的数据，设置低维数据得约束(再读！！！！！)
   9. 矩阵化目标函数， 同样的推理过程：
   10. 令，再次利用拉格朗日乘法
   11. 求出J最小的Y的值

注：拉格朗日乘数法是一种将一个有n个变量与k个约束条件的最优化问题转换为一个有n + k个变量的方程组的极值问题，其变量不受任何约束。这种方法引入了一种新的标量未知数，即拉格朗日乘数：约束方程的梯度的线性组合里每个向量的系数。

参照文章