在哪些情况下,我们可以通过假设函数和期望通勤来近似函数的期望值?

机器算法验证 期望值
2022-04-06 03:21:11

我正在阅读一篇计算机视觉论文,作者近似f(X)Qf(XQ)在哪里f()是非线性的。这种近似有什么经验法则吗?在哪些情况下我们可以使用这样的近似值?我知道这是一个非常笼统的问题,因此任何示例都可以。

1个回答

我会用E用于期望,而不是尖括号。

首先,E(f(X))总是可以通过f(E(X)); 唯一的问题是该近似值的准确性和充分性,这可能是非常特定于上下文的。

如果f是线性的(或更一般地,仿射的),E(f(X))=f(E(X)),以及函数的求值顺序f和期望可以互换而不会引入任何错误。在某种程度上f是“几乎”线性的,那么E(f(X))可能几乎等于f(E(X)); 最终归结为在特定情况下对此进行量化。

如果X以概率 1 取一个特定的常数值,然后E(f(X))=f(E(X)), 不管f. 在某种程度上X具有非常接近于概率为 1 的特定常数的分布,则E(f(X))可能几乎等于f(E(X)); 最终归结为在特定情况下对此进行量化。

取决于功能f和概率分布X,可能还有其他组合也允许交换顺序而不会引入任何错误。这是一个简单的人为示例系列。f(x)= 一些函数x为了x>0,f(0)=0, 和f(x)=f(x)为了x<0. X是一个关于 0 对称的随机变量,并假设E(f(X))存在。然后E(f(X))=f(E(X)),恰好等于零。

如果f是凸的或凹的,则 Jensen 不等式https://en.wikipedia.org/wiki/Jensen's_inequality可用于提供交换期望和非线性函数中的误差的单边界限。具体来说,如果f是凸的,那么f(E(X))E(f(X)). 如果f是凹的,那么f(E(X))E(f(X)).