正态分布之贝叶斯决策

单变量正态分布

更多:贝叶斯

贝叶斯是非常传统,理论简单,但是非常有效的一种机器学习方法。经过大量实验表明,贝叶斯方法是极具鲁棒性的。至今为止仍然有很多人在研究贝叶斯的基础理论,而且发现许多算法都可以由贝叶斯推导而来,所以贝叶斯是具有极大的研究价值的理论。

这一章节我们就来扯一扯正态分布数据的贝叶斯决策理论,看看我们能搞点什么事情出来。自己多多推导,没准能发现新的大陆。许多优秀的算法,比如SVM等等往往就是这样诞生的。

这一节因为推导的东西比较多,可能很枯燥。所以先搞个大纲出来,看看我们接下来要搞点什么事情。

  • 正态分布 
    • 单变量正态分布
    • 多变量正态分布
    • 正态分布的特点
  • 贝叶斯分类器设计 
    • 理论推导
    • 简化case1:最小欧式距离
    • 简化case2:马氏距离
    • General

主要就是这样一个构架了,谈正态分布的贝叶斯决策,显然我们得谈谈正态分布,然后由此出发,我们从最简单的case(增加各种假设条件,得到一个最简单的模型),然后依次General。

闲话少说,开始我们的旅程吧。

7.1正态分布

这里不是将概率论,详情请看我们写的数学系列教程。这里我们从需求出发,简单阐述单变量正态分布、多变量正态分布,最重要的是阐述一下正态分布的特点。

7.1.1 单变量正态分布

首先,搞个热身运动。下面是最简单的单变量正态分布。

其中:

  • Pdf(单变量概率密度函数)
  • Mean Vector (均值)
  • Variance(方差)
  • 数学表达式

发表评论

电子邮件地址不会被公开。 必填项已用*标注