生成式模型
生成式模型（Generative Model）：生成数据的分布的模型（有多个模型，将测试用例分别放进各个模型，最后比较其结果，选择最优的作为label）
- 会对$x$和$y$的联合分布$p(x,y)$进行建模，然后通过Post not found: 朴素贝叶斯 贝叶斯公式来求得$p(y|x)$，最后选取使得$p(y|x)$最大的$y_i$，即
\begin{equation}
\begin{aligned}
y^*&=\arg{\max_{y_i}p(y_i|x)}\
&=\arg{\max_{y_i}\frac{p(x|y_i)p(y_i)}{p(x)} }\
&=\arg{\max_{y_i}p(x|y_i)p(y_i)}\
&=\arg{\max_{y_i}p(x,y_i)}
\end{aligned}
\end{equation}
生成式模型有：
- Post not found: 算法-朴素贝叶斯 朴素贝叶斯(Naive Bayes)
- Post not found: 算法-KNN k邻近（KNN）
- 高斯混合模型（GMM）
- 隐马尔可夫模型（HMM）
- 贝叶斯网络
- Sigmoid Belief Networks
- 马尔可夫随机场（Markov Random Fields）
- 深度信念网络（DBN）
- 迪利克雷分布模型（LDA，Latent Dirichlet Allocation）
判别式模型
判别式模型（Discriminative Model）：判别数据输出量的模型（只有一个模型，将模型应用到测试用例中，生成label）
- 会直接对$p(y|x)$进行建模
判别式模型有：
- Post not found: 算法-线性回归 线性回归（Linear Regression）
- 线性判别分析
- Post not found: 算法-LogisticRegression 逻辑回归（Logistic Regression）
- Post not found: 算法-神经网络 神经网络（NN）
- Post not found: 算法-SVM 支持向量机（SVM）
- 高斯过程（Gaussian Process）
- 条件随机场（CRF）
- CART（Classification and Regression Tree）
