在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,生成模型可以用来直接对数据建模,也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。
信息瓶颈是信息论中的一种方法,由纳夫塔利·泰斯比、费尔南多·佩雷拉与威廉·比亚莱克于1999年提出。对于一随机变量
X
{\displaystyle X}
,假设已知其与观察变量
Y
{\displaystyle Y}
之间的联合概率分布
p
{\displaystyle p}
。此时,当需要概括
X
{\displaystyle X}
时,可以通过信息瓶颈方法来分析如何最优化地平衡准确度与复杂度。该方法的应用还包括分布聚类与降维等。此外,信息瓶颈也被用于分析深度学习的过程。
马尔可夫网络,是关于一组有马尔可夫性质随机变量
X
{\displaystyle X}
的全联合概率分布模型。
马尔可夫网络,是关于一组有马尔可夫性质随机变量
X
{\displaystyle X}
的全联合概率分布模型。
在数学中,平稳过程,又称严格平稳过程或强平稳过程是一种特殊的随机过程,在其中任取一段期间或空间里的联合概率分布,与将这段期间任意平移后的新期间之联合几率分布相等。这样,数学期望和方差这些参数也不随时间或位置变化。
在数学中,平稳过程,又称严格平稳过程或强平稳过程是一种特殊的随机过程,在其中任取一段期间或空间里的联合概率分布,与将这段期间任意平移后的新期间之联合几率分布相等。这样,数学期望和方差这些参数也不随时间或位置变化。