1)混合高斯模型2)条件随机场模型3)区分度训练4)隐马尔科夫模型
产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念,它们的区别在于:
对于输入x,类别标签y:(http://robotics.stanford.edu/~ang/papers/nips01-discriminativegenerative.pdf)
Logistic Regression
SVM
Traditional Neural Networks
Nearest Neighbor
CRF
Linear Discriminant Analysis
Boosting
Linear Regression
Gaussians
Naive Bayes
Mixtures of Multinomials
Mixtures of Gaussians
Mixtures of Experts
HMMs
Sigmoidal Belief Networks, Bayesian Networks
Markov Random Fields
Latent Dirichlet Allocation
生成模型: 关注数据是如何生成的
判别模型: 关注类别之间的差别
借用一下这位老兄的例子:
假如你的任务是识别一个语音属于哪种语言。例如对面一个人走过来,和你说了一句话,你需要识别出她说的到底是汉语、英语还是法语等。那么你可以有两种方法达到这个目的:
那么第一种方法就是生成方法,第二种方法是判别方法。
生成方法由数据学习联合概率分布,然后求出条件概率分布
作为预测的模型,即生成模型:
,