CNN网络结构的发展（最全整理）

今日应用

新华妙笔

新华妙笔，AI公文写作学习平台，由新华社媒体融合生产技术与系统国家重点实验室与博特智能公司联合研发。集查、写、审、问、学一体，集合了范文参考资料、写作素材、智能写作、校对纠错、润色续写等特色功能。帮助公务员、事业单位人员、国企人员的机关公文写作场景，快速拟稿，降低内容风险，擅长工作总结、竞聘材料、发言稿、工作简报等材料等智能写作。

今日话题

CNN网络结构的发展（最全整理）

 

重点标签 卷积神经网络、CNN结构、LeNet5、AlexNet、VGG、GoogLeNet、Xception、MobileNet、EffNet、EfficientNet、ResNet、ResNeXt、DenseNet、SqueezeNet、ShuffleNet、SENet、SKNet

文章摘要

本文详细介绍了十五种经典的卷积神经网络（CNN）结构，包括它们的基本部件和特点。CNN的基本部件包括局部感受野、池化、激活函数和全连接层。局部感受野通过卷积操作实现，池化用于减少像素信息，激活函数引入非线性，全连接层则作为分类器。以下是对这些经典网络结构的详细总结：

1. LeNet5：由两个卷积层、两个池化层和两个全连接层组成，卷积核为5×5，使用maxpooling。
2. AlexNet：共八层，包含五个卷积层和三个全连接层，使用ReLU激活函数，采用dropout和数据增强，双GPU实现，使用LRN。
3. VGG：全部使用3×3卷积核堆叠，网络层数更深，每段卷积后接一层最大池化，卷积核数目逐渐增加。
4. GoogLeNet (Inception v1)：通过增加网络宽度来提高复杂度，减少参数，使用1×1卷积增加复杂度，Inception-v2加入batch normalization技术，Inception-v3将卷积核分解，Inception-v4引入ResNet。
5. Xception：在Inception-v3基础上提出，采用通道分离式卷积，先做1×1卷积再做3×3卷积，提高精度。
6. MobileNet系列：V1使用depthwise separable convolutions，放弃pooling层，V2引入残差结构，pointwise后使用linear激活函数，V3结合v1和v2的特点，引入h-swish激活函数。
7. EffNet：对MobileNet-v1的改进，将dw层分解为3×1和1×3的dw层，减少计算量。
8. EfficientNet：研究网络设计在depth, width, resolution上的扩展方式，提高效率和准确率。
9. ResNet：解决梯度消失问题，增加shortcut连边。
10. ResNeXt：基于ResNet和Inception的结合，使用group convolution，增加Cardinatity提升模型表达能力。
11. DenseNet：通过特征重用减少参数量，缓解梯度消失问题。
12. SqueezeNet：提出fire-module，squeeze层+expand层，参数少，准确率高。
13. ShuffleNet系列：V1通过分组卷积和逐点群卷积核降低计算量，V2使神经网络更高效，减少内存访问成本。
14. SENet：引入注意力机制，提高模型性能。
15. SKNet：结合SENet的特点，进一步优化网络结构。

此外，文章还提供了技术专栏、技术综述和极视角动态等资源，以及如何加入极市CV技术交流群的方法。通过阅读原文，可以进入CV社区，收获更多技术干货。

文章来源

原文地址: 点我阅读全文
原文作者: 极市平台