深度学习模型的最大输入大小是多少
深度学习模型的最大输入大小是多少
提问于 2020-09-30 07:39:22
我有一个数据要使用完全连接的深度神经网络FC-DNN进行训练和测试；我应该训练的输入数据的大小几乎是3000，第一个隐藏层的大小应该达到4096，第三层应该达到4096，最后输出层应该是3000。
我的问题是，深度神经网络的规模是合理的和可以接受的吗？深度神经网络的最大合理规模是多少？
回答 1
Stack Overflow用户
回答已采纳
发布于 2020-09-30 08:01:23
没有最大合理大小(既不是每层神经元，也不是层数)。在特定点之后(这实际上取决于您试图解决的问题)，当应用多个Dense层时，您会得到递减的回报。事实上，它可能导致过度拟合，这是应该避免的。同时，在没有剩余连接的情况下，堆叠多个Dense层(使网络变得超深)也可能导致梯度消失问题。
您应该手动尝试添加一些层，并且只有当您看到您的网络表现不佳时(您的问题中的低精度/其他指标，这是不足的迹象)，您才应该添加更多层。
另外，对于最后一层，我不认为你的问题需要3000个神经元。如果是回归，那么一个具有线性激活的神经元就足够了。只有当你有3000个不同的类别时，才需要3000个神经元(这里我们只讨论回归和分类)。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/64132975
复制相关文章
相似问题
为什么我不能做悬停？
为什么我不能做全屏
为什么我不能做'cout << 3*“;'？
为什么我不能做黄瓜呢？
为什么我不能做这个更新？
添加站长 进交流群
领取专属 10元无门槛券
AI混元助手 在线答疑
关注 腾讯云开发者公众号
洞察 腾讯核心技术
剖析业界实践案例
腾讯云开发者
