卷积网络和全连接网络的比较

电子说

1.2w人已加入

描述

**1 **问题

我们在深度学习的过程中,开始对模型进行在测试集的精度进行预测时,最开始是全连接网络进行模型的精度预测,最后发现测试集的精度预测值不是很理想,就在想能不能换一种网络层提高测试集的精度?

**2 **方法

在后续的学习中,我们学习和了解了卷积网络,卷积神经网络也是通过一层一层的节点组织起来的。和全连接神经网络一样,卷积神经网络中的每一个节点就是一个神经元。在全连接神经网络中,每相邻两层之间的节点都有边相连,于是会将每一层的全连接层中的节点组织成一列,这样方便显示连接结构。而对于卷积神经网络,相邻两层之间只有部分节点相连,为了展示每一层神经元的维度,一般会将每一层卷积层的节点组织成一个三维矩阵。

全连接层的参数太多,对于MNIST数据,每一张图片的大小是28281,其中28*28代表的是图片的大小,*1表示图像是黑白的,有一个色彩通道。有的图片会更大或者是彩色的图片,这时候参数将会更多。参数增多除了导致计算速度减慢,还很容易导致过拟合的问题。所以需要一个合理的神经网络结构来有效的减少神经网络中参数的个数。卷积神经网络就可以更好的达到这个目的。于是我们就用卷积神经网络替代了全连接神经网络进行测试,发现确实提高了测试集的精度。

这是全连接网络的网络层

MNIST

这是卷积网络的网络层:

MNIST

最后我们训练了五十个周期,得出对比:

这是卷积网络测试集的精度

MNIST

这是全连接网络测试集的精度

MNIST

**3 **结语

我们通过训练发现卷积网络确实提高了网络测试集的精度,而从中也发现了卷积神经网络的输入输出以及训练的流程和全连接神经网络基本一致,而他们两种网络唯一区别就是神经网络相邻两层的连接方式。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分