第十三章 半监督学习 生成式方法：是直接基于生成式模型的方法。 将高斯混合模型换成混合专家模型、朴素贝叶斯模型等即可推导出其他的生成式半监督学习方法。 半监督支持向量机中最著名的是TSVM。 1、TSVM对未标记样本进行标记指派与调整过程涉及很大的计算开销，试设计一个高效的改进算法。 在标记调整过程中，可以考虑每次将最有可能指派错误的样本进行调整，对即正负伪标记样本中松弛变量最大且大于1的样本进行标记更改，这样就可以减少迭代的次数。 2、试设计一个能对新样本进行分类图半监督算法。 图半监督算法不会直接对新样本进行分类，可行的办法一是将新样本作为...

第十一章 特征选择与稀疏学习 特征定义 相关特征：对当前学习任务有用的属性。 无关特征：对当前学习任务没有。 冗余特征：包含的信息能从其他特征中推演出来。 冗余特征在很多时候不起作用，去除它们会减轻学习过程的负担。但有时冗余特征会降低学习任务的难度。 特征选择的两个环节：子集搜索、子集评价。 子集搜索：“前向”搜索、“后向”搜索、“双向”搜索。 子集评价：信息增益、能判断两个划分差异的机制。 将特征子集搜索机制与子集评价机制相结合，即可得到特征选择方法。 ...

第九章  聚类 在“无监督学习”中，训练样本的标记信息是未知的，目标是通过对无标记训练样本的学习揭示数据内在性质及规律，为进一步的数据分析提供基础。 聚类过程仅能自动形成簇结构，簇所对应的概念语义需由使用者来把握和命名。 聚类既能作为一个单独过程，用于寻找数据内在的分布结构，也可作为分类等其他学习任务的前驱过程。 聚类性能度量：外部指标，（1）Jaccard系数，（2）FM指数，（3）Rand指数 内部指标：（1）BD指数，（2）Dunn指数 距离计算包括闵可夫斯基距离：有序属性和VDM距离：无序属性 原型聚类：K均值算法、学习向量量化、高斯混合聚类、密度聚类、DBSCAN 层次聚类：AGNE...