转载请保留作者信息：

作者：88250

Blog：http:/blog.csdn.net/DL88250

MSN & E-mail & QQ：[email protected]

作者：zy

Blog：http:/blog.csdn.net/zyofprogrammer

作者：Sindy

E-Mail：[email protected]

续上篇

理论问题

• 文档型
• 词频型

c_NB=arg Max( P(c_j) * ∏₁^C P(x_i|c_j) )
其中，P(c_j)为类别j的先验概率，P(x_i|c_j)为特征量 x_i在类别c_j的类条件概率

先验概率计算

• 文档型
不考虑词频在各分类下的出现次数，仅考虑各分类下文档的数目。如下式计算：
P(c_j)=N(C=c_j)/N
其中，N(C=c_j)表示类别c_j中的训练文本数量； N表示训练文本集总数量。
• 词频型
考虑单词在各分类文档中出现的频次，如下式计算：
P(c_j)=^V∑_k=1TF(X=x_k, C=c_j)/^W∑_m=1^V∑ _k=1TF(X=x_k, C=c_m)
其中，V表示特征词表中总单词（属性）数，TF(X=x_i, C=c_j) 表示属性x_i在类c_j中出现次数之和，W表示总类别数目。

注意：类条件概率的计算方式必须与先验概率的计算方式匹配，如果先验概率是用文档型 计算的，那么类条件概率也必须使用文档型计算方式，反之亦然。

类条件概率

• 文档型
不考虑单词在文档中的出现频次，仅考虑单词在文档中是否出现。 0表示未出现，1表示出现。 如下式计算：
P(x_j|c_j)=( N(X=x_i, C=c_j )+1 ) / ( N(C=c_j)+V )
其中，N(X=x_i, C=c_j）表示类别c_j中包含属性x _i的训练文本数量；N(C=c_j)表示类别c_j中的训练文本数量；V表示类别的总数。
• 词频型
考虑单词在文档中出现的频次，如下式计算：
P(x_j|c_j)=( TF(X=x_i, C=c_j)+1) / ( V+^V∑_k=1TF(X=x_k, C=c_j) )
其中，V表示特征词表中总单词（属性）数，TF(X=x_i, C=c_j) 表示属性x_i在类c_j中出现次数之和。

注意：

• 类条件概率的计算方式必须与先验概率的计算方式匹配，如果先验概率是用文档型 计算的，那么类条件概率也必须使用文档型计算方式，反之亦然
• 为避免类条件概率结果为0，采用了拉普拉斯概率估计

关于训练库的预处理

为了提高分类的效率和准确率，必须对训练库进行预处理。主要预处理步骤如下：

1. 读取某一分类下的所有训练文本
2. 对这些文本进行分词处理
3. 通过词性、词长过滤无用词
4. 将剩下的词作为这一分类的特征结果并保存成文本

当前技术上的问题