欢迎转载，作者：Ling，注明出处：机器学习：原理简明教程04-朴素贝叶斯法

参考：《统计学习方法》

一句话概括：就是通过样本求出p(x/y)概率，然后给一个样本，通过贝叶斯公式求p（y/x）的概率

    朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。训练的时候，学习输入输出的联合概率分布；分类的时候，利用贝叶斯定理计算后验概率最大的输出。

朴素贝叶斯法的学习与分类

基本方法

也就是给定参数，找一个概率最大的ck出来

后验概率最大化的含义

注：

1）条件期望为什么等于期望风险函数

2）后面等式成立原因L就是0或1

3）其实不用这么一堆公式，光靠感觉也很好理解，给了一些证据后，不挑后验概率最大的，还能挑啥呢？

朴素贝叶斯法的参数估计

极大似然估计

注：

1）也就是用样本中ck的出现次数除以样本容量。

2）分子是样本中变量组合的出现次数，分母是上面说过的样本中ck的出现次数。

学习与分类算法

实例

贝叶斯估计

实例