概率之常用概率分布

2024-06-24 02:32
文章标签 常用 概率 概率分布

本文主要是介绍概率之常用概率分布,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. Bernoulli分布

单个二值随机变量的分布。它由单个参数\small \phi \in [0,1]控制,\small \phi给出了随机变量等于1的概率。它具有如下的一些性质。

\small P(x=1)=\phi

\small P(x=0)=1-\phi

\small P(\mathrm x = x) = \phi ^x (1 - \phi)^{1-x}

\small E_x[x] = \phi

\small Var_x(x) = \phi (1 - \phi)

2. Multinoulli分布

Multinoulli分布(multinoulli distribution)或者范畴分布(categorical distribution)是指在具有k个不同状态的单个离散型随机变量上的分布,其中k是一个有限值。

3. 高斯分布

高斯分布(Gaussian distribution)也称为正态分布(normal distribution):

\small \mathcal N (x; \mu, \sigma ^2) = \sqrt {\frac{1}{2\pi \sigma ^2}} exp (-\frac{1}{2 \sigma ^2} (x - \mu) ^ 2)

正态分布由两个参数控制,\small \mu \in \mathbb R, \sigma \in (0, \infty)。参数\small \mu给出了中心峰值的坐标即期望值E[x],分布的标准差用\small \sigma表示,方差用\small \sigma ^2表示。为表示方便,令\small \beta = \frac{1}{\sigma ^2}, \beta \in (0, \infty),上式可写成如下形式:

\small \mathcal N(x; \mu, \beta ^{-1}) = \frac{\beta}{2\pi} exp (-\frac{1}{2} \beta(x - \mu) ^ 2)

当我们缺乏关于某个实数上分布的先验知识而不知道该选择怎样的形式时,正态分布是默认的比较好的选择。原因有如下两个:

1. 我们想要建模的很多分布的真实情况是比较接近正态分布的。

2. 在具有相同方差的所有可能的概率分布中,正态分布在实数上具有最大的不确定性。

正态分布可以推广到\small \mathbb R^n空间,这种被称为多维正态分布(multivariate normal distribution)。它的参数是一个正定对称矩阵\small \Sigma:

\small \mathcal N(x; \mu, \Sigma) = \sqrt{\frac{1}{(2\pi)^n det(\Sigma))}} exp (-\frac{1}{2}(x - \mu)^{\top} \Sigma ^ {-1} (x - \mu))

参数\small \mu仍然表示的是分布的均值,只不过不再是标量而是一个向量值。参数\small \Sigma给出了分布的协方差矩阵。令\small \beta = \Sigma ^ {-1}

\small \mathcal N(x; \mu, \beta ^ {-1}) = \sqrt{\frac{det(\beta)}{(2\pi)^n}} exp (-\frac{1}{2}(x - \mu)^{\top} \beta (x - \mu))

4. 指数分布和Laplace分布

指数分布(exponential distribution):

\small \begin{center} p(x;\lambda) = \lambda1_{x \geq 0} exp(- \lambda x) \end{center}

指数分布用指示函数(indicator function) \small 1_{x \geq 0} 来使得当x取负值时的概率为零。

一个联系紧密的概率分布是Laplace分布,它允许我们在任意一点\small \mu处设置概率质量的峰值:

\small Laplace(x; \mu, \gamma) = \frac{1}{2 \gamma} exp (- \frac{|x - \mu|}{\gamma})

5. Dirac分布和经验分布

在一些情况下,我们希望概率分布中的所有质量都集中在一个点上。这可以通过Dirac delta函数(Dirac delta function)定义概率密度函数来实现:

\small p(x) = \delta(x - \mu)

Dirac分布经常作为经验分布(empirical distribution)的一个组成部分出现:

\small \hat{p}(x) = \frac{1}{m} \sum_{i=1}^{m} \delta(x - x^{(i)})

 

 

 

 

 

 

 

 

 

 

 

 

这篇关于概率之常用概率分布的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1088940

相关文章

JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法

《JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法》:本文主要介绍JavaScript中比较两个数组是否有相同元素(交集)的三种常用方法,每种方法结合实例代码给大家介绍的非常... 目录引言:为什么"相等"判断如此重要?方法1:使用some()+includes()(适合小数组)方法2

SpringBoot 获取请求参数的常用注解及用法

《SpringBoot获取请求参数的常用注解及用法》SpringBoot通过@RequestParam、@PathVariable等注解支持从HTTP请求中获取参数,涵盖查询、路径、请求体、头、C... 目录SpringBoot 提供了多种注解来方便地从 HTTP 请求中获取参数以下是主要的注解及其用法:1

Java Stream流以及常用方法操作实例

《JavaStream流以及常用方法操作实例》Stream是对Java中集合的一种增强方式,使用它可以将集合的处理过程变得更加简洁、高效和易读,:本文主要介绍JavaStream流以及常用方法... 目录一、Stream流是什么?二、stream的操作2.1、stream流创建2.2、stream的使用2.

MySQL常用字符串函数示例和场景介绍

《MySQL常用字符串函数示例和场景介绍》MySQL提供了丰富的字符串函数帮助我们高效地对字符串进行处理、转换和分析,本文我将全面且深入地介绍MySQL常用的字符串函数,并结合具体示例和场景,帮你熟练... 目录一、字符串函数概述1.1 字符串函数的作用1.2 字符串函数分类二、字符串长度与统计函数2.1

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致

Linux系统中查询JDK安装目录的几种常用方法

《Linux系统中查询JDK安装目录的几种常用方法》:本文主要介绍Linux系统中查询JDK安装目录的几种常用方法,方法分别是通过update-alternatives、Java命令、环境变量及目... 目录方法 1:通过update-alternatives查询(推荐)方法 2:检查所有已安装的 JDK方

MySQL字符串常用函数详解

《MySQL字符串常用函数详解》本文给大家介绍MySQL字符串常用函数,本文结合实例代码给大家介绍的非常详细,对大家学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录mysql字符串常用函数一、获取二、大小写转换三、拼接四、截取五、比较、反转、替换六、去空白、填充MySQL字符串常用函数一、

Java中Arrays类和Collections类常用方法示例详解

《Java中Arrays类和Collections类常用方法示例详解》本文总结了Java中Arrays和Collections类的常用方法,涵盖数组填充、排序、搜索、复制、列表转换等操作,帮助开发者高... 目录Arrays.fill()相关用法Arrays.toString()Arrays.sort()A

Spring Boot中WebSocket常用使用方法详解

《SpringBoot中WebSocket常用使用方法详解》本文从WebSocket的基础概念出发,详细介绍了SpringBoot集成WebSocket的步骤,并重点讲解了常用的使用方法,包括简单消... 目录一、WebSocket基础概念1.1 什么是WebSocket1.2 WebSocket与HTTP

golang中reflect包的常用方法

《golang中reflect包的常用方法》Go反射reflect包提供类型和值方法,用于获取类型信息、访问字段、调用方法等,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值... 目录reflect包方法总结类型 (Type) 方法值 (Value) 方法reflect包方法总结