卷积神经网络相对于“简单”前馈网络的优势?

机器算法验证 神经网络 深度学习 卷积神经网络
2022-04-14 03:46:11

卷积网络在哪些方面优于简单的神经网络(前馈网络)?卷积运算是卷积神经网络和深度网络的唯一区别吗?

2个回答

任何时候只要你可以合法地做出更强的假设,你就可以获得更强的结果。卷积网络假设局部性,因此更强大。这取决于实际上表现出局部性(自相关)的数据,例如图像或时间序列。

直观地说,如果您正在查看图像,则图像区域中的像素比远处的像素更有可能相关。因此,如果您不(直接)将远处的像素连接到同一个神经元,您可以节省大量的神经元连接。使用更少的接线,每个系数可以获得更多数据,从而加快速度并获得更好的结果。

深度网络是一个通用类,其唯一强制性特征是神经层数量异常,而卷积网络是一种可以包含在深度网络中的特定技术,以及其他技术,如 LSTM、感知器、Kohonen 网络等。请注意,“深度学习”是一个定义模糊的流行词;在实践中,这些其他神经技术并没有经常包含在同样模糊的深度网络定义中。根据我目前阅读的学术论文,我相信大多数“深度”网络主要由卷积层组成。该术语并不一定意味着或要求在每个深度网络中都包含卷积 - 例如,您可以拥有一个由两打感知器层组成的深度网络,尽管那几乎是不切实际的。然而,将卷积堆叠在堆栈中具有实际优势,特别是利用卷积过滤器创建分层表示的能力。卷积可能还有其他微妙的优势,但这是迄今为止占主导地位的优势。我将把它留给更有经验的用户来提供数学和逻辑细节,说明为什么可以堆叠卷积以创建分层表示,但只要说这是对您的问题的“简短”答案就足够了:1)他们'更好主要是因为卷积过滤操作和 2) 有点像苹果和橘子的比较,因为一个是一般类,另一个是通常包含在其中的特定类型。但是,要将卷积堆叠在堆栈中,尤其是利用卷积过滤器创建分层表示的能力。卷积可能还有其他微妙的优势,但这是迄今为止占主导地位的优势。我将把它留给更有经验的用户来提供数学和逻辑细节,说明为什么可以堆叠卷积以创建分层表示,但只要说这是对您的问题的“简短”答案就足够了:1)他们'更好主要是因为卷积过滤操作和 2) 有点像苹果和橘子的比较,因为一个是一般类,另一个是通常包含在其中的特定类型。但是,要将卷积堆叠在堆栈中,尤其是利用卷积过滤器创建分层表示的能力。卷积可能还有其他微妙的优势,但这是迄今为止占主导地位的优势。我将把它留给更有经验的用户来提供数学和逻辑细节,说明为什么可以堆叠卷积以创建分层表示,但只要说这是对您的问题的“简短”答案就足够了:1)他们'更好主要是因为卷积过滤操作和 2) 有点像苹果和橘子的比较,因为一个是一般类,另一个是通常包含在其中的特定类型。特别是利用卷积过滤器创建分层表示的能力。卷积可能还有其他微妙的优势,但这是迄今为止占主导地位的优势。我将把它留给更有经验的用户来提供数学和逻辑细节,说明为什么可以堆叠卷积以创建分层表示,但只要说这是对您的问题的“简短”答案就足够了:1)他们'更好主要是因为卷积过滤操作和 2) 有点像苹果和橘子的比较,因为一个是一般类,另一个是通常包含在其中的特定类型。特别是利用卷积过滤器创建分层表示的能力。卷积可能还有其他微妙的优势,但这是迄今为止占主导地位的优势。我将把它留给更有经验的用户来提供数学和逻辑细节,说明为什么可以堆叠卷积以创建分层表示,但只要说这是对您的问题的“简短”答案就足够了:1)他们'更好主要是因为卷积过滤操作和 2) 有点像苹果和橘子的比较,因为一个是一般类,另一个是通常包含在其中的特定类型。