机器学习之朴素贝叶斯
学习过概率的人一定知道贝叶斯定理,在信息领域内有着无与伦比的地位ã€?
贝叶斯算法是基于贝叶斯定理的一类算法,主要用来解决分类和回归问题ã€?/p>
人工智能之机器学习中最为广泛的两种分类模型æ˜?/p>
1
)决策树模型ï¼?/p>
Decision Tree Model
ï¼?/p>
å’?/p>
2
ï¼?/p>
朴素贝叶斯模型(
Naive Bayesian Model
ï¼?/p>
�/p>
今天我们重点探讨一下朴素贝叶斯
ï¼?/p>
NB
ï¼?/p>
ï¼?/p>
注意这里
NB
不是ç‰?/p>
X
ï¼?/p>
而是
Naive Bayesian
�/p>
^_ï¼?/p>
朴素贝叶斯是经典的机器学习算法之一ï¼?/p>
也是为数不多的基于概率论的分类算法ã€?/p>
朴素è´?/p>
叶斯原理简单,也很容易实现,多用于文本分类、垃圾邮件过滤、情感分析等ã€?/p>
英国数学家托马斯贝叶斯(
Thomas
Bayes
)在
1763
年发表的一篇论文中,首先提出了è´?/p>
叶斯定理ã€?/p>
贝叶斯定理的应用需要大量的计算,因此历史上很长一段时间,无法得到广泛应用。只æœ?/p>
计算机诞生以后,它才获得真正的重视。人们发现,许多统计量是无法事先进行客观判断
的,而互联网时代出现的大型数据集,再加上高速运算能力,为验证这些统计量提供了方
便,也为应用贝叶斯定理创造了条件,它的威力正在日益显现ã€?/p>
概念和定义:
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法ã€?/p>
朴素贝叶斯分类器
NBC
ï¼?/p>
NaiveBayes Classifier
)发源于古典数学理论,有着坚实的数学基础,以及稳定的分类æ•?/p>
率。朴素贝叶斯分类器(
NBC
)模型所需估计的参数很少,对缺失数据不太敏感,算法ä¹?/p>
比较简单。理论上ï¼?/p>
NBC
模型与其他分类方法相比具有最小的误差率。但是实际上并非
总是如此,这是因ä¸?/p>
NBC
模型假设属性之间相互独立,这个假设在实际应用中往往是不
成立的,这给
NBC
模型的正确分类带来了一定影响ã€?/p>
贝叶斯分类是一系列分类算法总称,这类算法均以贝叶斯定理为基础ï¼?/p>
故统称为贝叶斯分