您发布的图像来自描述卷积受限玻尔兹曼机的基函数的图。

我在这篇ICML 论文（在付费墙后面，抱歉）和这篇博士论文中找到了它们，都是由 Andrew Ng 建议的 Honglak Lee 编写的。

严格来说，它们不是前馈卷积神经网络的可视化，这可能就是为什么你很难解释它们所描绘的内容。我自己对 RBM 的了解并不多，所以恐怕我无法帮助他们解释。

就 CNN 的可视化而言，有几种常见的方法。您可以直接可视化过滤器权重，查找最大程度地激活过滤器的输入图像，将激活绘制为图像遮挡的函数等。 此页面对技术进行了很好的总结，本文也可能有用。