Wayne
21
文章
0
评论
125
获赞
蒙特卡洛法近似KL散度的艺术：从有偏估计到零方差优化
在强化学习和概率建模的世界里，KL散度如同一位沉默的裁判，默默地衡量着两个概率分布之间的差异。然而，当面对高维空间或复杂分布时，KL散度的计算常常令人望而却步。本文将揭示一种优雅的近似方法，利用蒙特卡
...
反向 KL 散度与正向 KL 散度
给定两个分布 ，它们可能在相同的变量 上定义，但其分布形状各异。两者之间的距离可以通过 相对熵 (Relative Entropy) 来度量，其定义如下：
或者在连续情形下为：
其中：
1. 该指标
...