熵和 SNR 的关系：基于这个问题和答案，我有另一个问题让我印象深刻，我很想知道，如果有人可以阐明以下情况：$y= desired_{signal} + noise$由接收器接收，并且$error = y - \hat{y}$在哪里$\hat{y}$在接收器处通过使用猜测的参数以及在发射器处使用的模型类型的知识进行模拟。

为了增加 SNR（衰减噪声），误差熵会减少吗？在提供的链路中，传输信号的熵随着 SNR 的增加而降低，因为当噪声衰减时不确定性会降低。但是误差的熵呢？误差熵是否应该随着 SNR 的增加而增加？我对此感到困惑。

编辑：我计算误差熵的方式：让系统模型为 AR(2)：$y(t)= a1y(t-1) + b1y(t-2) + noise$. 在接收端，我有$z(t) = y(t) - (a2y(t-1) + b2y(t-2))$在哪里$(a2,b2)$是接近的猜测（$a1,b1$）。我计算了 y(t) 的 2 个熵 H1 和 z(t) 的 H2。

当 a2,b2 等于 a1,b1 时，z(t) 将接近于零，在这种情况下，对于特定的噪声 SNR 值，z(t) 的熵在所有不同的 z(t) 中是最小的。因此，对于一个特定的噪声值，我有 10 对 (a2,b2) 并且对于每个我得到 10 个 H2(z(t)) 值。对于特定 SNR 级别，我选择了所有 H2 中的最小值。但是，对于不同的噪声水平，当我增加发送端的 SNR 时，最小熵 H2(z(t)) 会随着 SNR 的增加而增加。我发现 H1 会随着 SNR 的增加而降低，但 H2 会发生相反的情况。这种趋势正确吗？