《Computer vision》笔记-AlexNet（1）

作者：石文华

编辑：陈人和

前 言

AlexNet，是以论文的第一作者 Alex Krizhevsky 的名字命名的，另外两位合著者是 ilya Sutskever 和 Geoffery Hinton。在2012年的ILSVRC比赛中，作者通过这个模型获得了冠军。如下图是这个卷积神经网络模型的网络架构

章节目录

网络结构

输出结果

加载数据

查看数据

训练模型

01

网络结构

机器学习最重要的任务，是根据一些已观察到的证据（例如训练样本）来对感兴趣的未知变量（例如类别标记）进行估计和推测。概率模型（probabilistic model）提供了一种描述框架，将学习任务归结于计算变量的概率分布。在概率模型中，利用已知变量推测位置变量的分布称为“推断”（inference），其核心是如何基于可观测变量推测出未知变量的条件分布。具体来说，假定所关心的变

可以看到网络从输入到输出分别是输入层、Conv1层，MaxPool1层、Conv2层，MaxPool2层、Conv3层，Conv4层，Conv5层，MaxPool3层、FC6层、FC7层、FC8层和OutPut层。

（1）输入层：AlexNet 首先用一张 227×227×3 的图片作为输入，实际上原文中使用的图像是 224×224×3，但是如果你尝试去推导一下，你会发现 227×227 这个尺寸更好一些,这里使用输入数据是224*224*3的图像进行推导，即长宽都是224的图像，色彩通道是R、G、B三个。

（2）Conv1层：第一个卷积层、使用的卷积核大小为11*11*3，步长为4、Padding为2，最后输出的特征图为55*55*96，其中55=（224-11+4）/2+1(如果求维度不能整除的时候，卷积向下取整，池化向上取整)，输出深度为96，是因为使用了96个卷积核进行卷积。最后得到特征图维度是55*55*96 。

（3）MaxPool1层：卷积之后使用最大池化，池化的滑动窗口是3*3*96，步长为2，池化之后输出的特征图的长宽是27,27=（55-3）/2+1，所以池化之后的特征图维度是27*27*96。

（4）Conv2层：使用卷积核大小为5*5*96，步长为1，Padding设置为same，这里为2，因为要确保输出长度为27，所以27=（27-5+2*a）/1+1，所以也可知Padding为2。这里使用了256个卷积核进行卷积，所以最后输出的特征图是27*27*256。

（5）MaxPool2层：滑动窗口大小为3*3*256，步长为2，得到的长宽为13,13=（27-3）/2+1,最后得到的特征图大小为13*13*256。

（6）Conv3层：卷积核大小为3*3*256，步长为1，Padding为1，得到特征图的长宽为13,13=（13-3+2）/1+1=13,使用384个卷积核进行卷积。得到输出为13*13*384。

（7）Conv4层:卷积核大小为3*3*384，步长为1，Padding为1，得到特征图的长宽为13,13=（13-3+2）/1+1=13,使用384个卷积核进行卷积。得到输出为13*13*384。

（8）Conv5层:卷积核大小为3*3*384，步长为1，Padding为1，得到特征图的长宽为13,13=（13-3+2）/1+1=13,使用256个卷积核进行卷积。得到输出为13*13*256。

（9）MaxPool3:滑动窗口大小为3*3*256，步长为2，得到的长宽为6,6=（13-3）/2+1,最后得到的特征图大小为6*6*256。

（10）FC6层:第一个全连接层，输入特征维度是6*6*256，首先先对输入的特征图进行扁平化处理，将维度变为1*9216的输入特征图，因为要求输出的数据维度为1*4096，所以需要一个9216*4096的矩阵完成输入数据和输出数据的全连接，最后得到输出数据的维度为1*4096。

（11）FC7层：输入数据维度是1*4096，输出特征要求为1*4096，所以需要4096*4096的矩阵完成输入数据和输出数据的全连接，随后得到输出数据的维度是1*4096。

（12）FC8层：输入数据维度是1*4096，输出特征要求为1*1000，所以需要4096*1000的矩阵完成输入数据和输出数据的全连接，随后得到输出数据的维度是1*1000。

（13）OutPut层：输出图像对应的1000个类别的可能性值，将FC7层的输出数据传递到Softma激活函数中，能够得到1000个全新的输出值，这1000个输出值就是模型预测的输入图像对应1000个类别的可能性。

AlexNet 网络结构看起来相对复杂，包含约 6000 万个参数， 这些数字（55×55×96、 27×27×96、 27×27×256……） 都是 Alex Krizhevsky 及其合著者不得不给出的,。

注：AlexNet网络卷积之后的激活函数是relu，每个全连接层后面加上Dropout层减少模型的过拟合问题。

02

输出结果

03

加载数据

04

查看数据

05

训练模型

参考文献：

Andrew Ng 《Deep Learning》

唐进民 《深度学习之PyTorch实战计算机视觉》

END

往期回顾之作者石文华

【1】

干货|（DL~3）deep learning中一些层的介绍

【2】(Keras/监督学习)15分钟搞定最新深度学习车牌OCR

【3】干货|（DL~2)一看就懂的卷积神经网络

【4】基础|认识机器学习中的逻辑回归、决策树、神经网络算法

机器学习算法工程师

一个用心的公众号

进群，学习，得帮助

你的关注，我们的热度，

我们一定给你学习最大的帮助