请解释CNN的架构
请解释CNN的架构
提问于 2019-04-15 15:24:51
我有下面的架构，我想了解下面的问题，这是我的代码，我的图像大小是50X50。
model.add(Conv2D(16, (3,3), input_shape=(image_x, image_y, 1), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2), padding='same'))
model.add(Conv2D(32, (3,3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2), padding='same'))
model.add(Conv2D(64, (3,3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2), padding='same'))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.2))
model.add(Dense(num_of_classes, activation='softmax'))`
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])我的问题是: 1] dense_1 :平面有1600个输入，输出将是128个，所以它将如何从1600个输入中选择128个输出？(2)将在哪个层中应用丢失的功能和优化。
回答 1
Data Science用户
发布于 2019-04-15 17:06:03
- 你不能从1600中选择128。稠密层执行矩阵向量乘法.首先，平坦层基本上将您的max_pool层( 5*5*64 )的输出扁平化为向量(1600*1) (注意5*5*64 =1600)。这只是对元素的重新安排。我们扁平最大池层，因为我们希望使用最大池层的输出作为密集层的输入(密集层也称为完全连接层或多层感知器)。稠密层只不过是一个向量矩阵乘法.假设您有一个形状为1600*1的输入向量(I)，并且您希望输出(O)形状为128*1。那么稠密的层将执行以下操作: O=WI，其中W是一个128*1600权矩阵。这就是W矩阵的128个output.The维数是由输入形状和输出形状指定的，因此，在指定输入/输出形状之后，W矩阵是由tensorflow隐式自动生成的。顺便说一句，密度层块中的" relu“函数，称为非激活函数，对输出矢量(128*1)中的每个元素执行relu函数计算，因此它不会影响最终的输出形状。
- 通常，所有的层都会被优化。损失函数定义了真实标签和神经网络输出之间的损失(在您的情况下，这是最后的密集层)。损耗回的梯度通过反向传播算法传播到每一层(您可以在线检查它，但基本上它只是链式规则)。因此，每个层都有自己的误差梯度。然后，我们使用这些误差梯度来更新每个层的系数，以使总体损失更小(损失函数定义的损失)。这种运算称为梯度下降算法。因为每个层都单独更新，所以始终可以冻结一些层，这样这些系数就不会更新，这可以在tensorflow中完成。
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/49359
复制相关文章
相似问题
重要的CNN架构
CNN架构的变化
如何修补CNN的架构？
CNN输出形状解释
代表深层次CNN的架构
添加站长 进交流群
领取专属 10元无门槛券
AI混元助手 在线答疑
关注 腾讯云开发者公众号
洞察 腾讯核心技术
剖析业界实践案例
社区富文本编辑器全新改版！诚邀体验～
全新交互，全新视觉，新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能，全面提升创作效率和体验
腾讯云开发者
