卷积滤波器 吴恩达《卷积神经网络》课程笔记（1）(4)

any one responsible for the security of a trusted network will be concerned when connecting it to a distrusted network. in the case of connections to the internet this concern may be based largely on anecdotal evidence gleaned from widespread media coverage of security breaches.a closer inspect订敞斥缎俪等筹劝船滑ion of the facts and statistics behind some of the media coverage will ,however,only serve to deepen that concern.。这个模型把网络通信的工作分为7层,它们由低到高分别是物理层（physical layer),数据链路层（data link layer),网络层(network layer),传输层（transport layer),会话层（session layer），表示层（presen tation layer)和应用层（application layer)。常见的深度学习算法包括：受限波尔兹曼机（restricted boltzmann machine， rbn）， deep belief networks（dbn），卷积网络（convolutional network）, 堆栈式自动编码器（stacked auto-encoders）。osi七层网络模型由下至上为1至7层，分别为物理层(physical layer)，数据链路层(data link layer)，网络层(network layer)，传输层(transport layer)，会话层(session layer)，表示层(presentation layer)，应用层(application layer)。

卷积神经网络的单层结构如下所示：

相比之前的卷积过程，CNN的单层结构多了激活函数ReLU和偏移量b。整个过程与标准的神经网络单层结构非常类似：

卷积运算对应着上式中的乘积运算，滤波器组数值对应着权重W[l]W[l]，所选的激活函数为ReLU。

我们来计算一下上图中参数的数目：每个滤波器组有3x3x3=27个参数，还有1个偏移量b，则每个滤波器组有27+1=28个参数，两个滤波器组总共包含28x2=56个参数。我们发现，选定滤波器组后，参数数目与输入图片尺寸无关。所以，就不存在由于图片尺寸过大，造成参数过多的情况。例如一张1000x1000x3的图片，标准神经网络输入层的维度将达到3百万，而在CNN中，参数数目只由滤波器组决定，数目相对来说要少得多，这是CNN的优势之一。

最后，我们总结一下CNN单层结构的所有标记符号，设层数为l。

如果有m个样本，进行向量化运算，相应的输出维度为：

8. Simple Convolutional Network Example简单卷积网络示例

下面介绍一个简单的CNN网络模型：

该CNN模型各层结构如上图所示。需要注意的是，a[3]的维度是7 x 7 x 40，将a[3]排列成1列，维度为1960 x 1，然后连接最后一级输出层。输出层可以是一个神经元，即二元分类（logistic）；也可以是多个神经元，即多元分类（softmax）。最后得到预测输出y^。