2012年ImageNet图像分类大赛冠军AlexNet网络结构解析
一、AlexNet
1.AlexNet结构简介
AlexNet层数变多了,LeNet5不加输入层共7层,不严格讲它已经有11层了。
AlexNet有八个带权层,前五个是卷积层,剩下三层是全连接层。第一个卷 积层利用96个大小为11X11X3、步长为4个像素的核,对大小为224X224X3的输入图像进行卷积。第二个卷积层接收第一个卷积层输出为输入,用 5X5X48的核对其进行滤波。第三、四、五个卷积层彼此相连,中间没有池 化层。第二、四、五个卷积层的核只连接到前一个卷积层也位于同一GPU中 的那些核映射上。第三个卷积层的核被连接到第二个卷积层中的所有核映 射上。全连接层中的神经元被连接到前一层中所有的神经元上。响应归一 化层跟在第一、第二个卷积层后面。最大化池化层跟在响应归一化层以及 第五个卷积层之后。ReLU非线性应用于每个卷积层及全连接层的输出。
2.AlexNet优势何在?
01卷积池化并行化
输入图像像素为224×224
把同一层的卷积池化拆成两块,每一块在一个GPU上跑
第一层用的11×11的大卷积对原始图做卷积,
第一层96通道分为两组,每48个放到一个GPU上面,每一个卷积核对上一层输入做卷积核是独立。
02激活函数
激活函数是relu,比饱和函数训练速度更快。
03防止过拟合
避免过拟合采用数据增强与dropout防止过拟合<

本文详细解读了2012年ImageNet大赛冠军AlexNet的网络结构,包括8个卷积层和3个全连接层的设计,GPU并行化、ReLU激活、防止过拟合策略等关键要素。深入剖析了每一层的参数计算和GPU布局,展示了其在深度学习里程碑中的重要性。

9663

被折叠的 条评论
为什么被折叠?



