在Keras中，dropout应用于哪个权重？
在Keras中，dropout应用于哪个权重？
提问于 2019-01-17 21:34:43
我目前正在尝试找到一种方法来检索给定层的哪些权重被“忽略”(特别是当我在测试阶段使用"training“标志来使用dropout时)。有没有简单的方法可以找到它，或者我有义务创建一个自定义的排除层？
回答 1
Stack Overflow用户
回答已采纳
发布于 2019-01-17 21:58:13
没有简单的方法。Keras的tensorflow后端简单地调用tf.nn.dropout，它的工作原理是生成一个与其输入大小相同的随机矩阵，如果随机矩阵中的对应值小于阈值，则将输入中的值设置为零。
这里是关键步骤，位于https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/nn_ops.py中
# Sample a uniform distribution on [0.0, 1.0) and select values larger than
# rate.
random_tensor = random_ops.random_uniform(
noise_shape, seed=seed, dtype=x.dtype)
keep_prob = 1 - rate
ret = (1 / keep_prob) * math_ops.cast(keep_prob >= random_tensor,
x.dtype) * x您不能直接通过keras检索这些结果，因为随机乘法是立即应用的，而不是保存的。但是，您可以尝试修改源代码以打印或保存math_ops.cast(keep_prob >= random_tensor,x.dtype)的结果，其中包含在使用dropout时使用的权重。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/54244630
复制相关文章
相似问题
如何从itunes connect中删除应用程序
iTunes Connect，TestFlight和Jenkins
iTunes connect时区混淆
更新AppStore connect内部版本
Itunes Connect多次拒绝应用程序？
添加站长 进交流群
领取专属 10元无门槛券
AI混元助手 在线答疑
关注 腾讯云开发者公众号
洞察 腾讯核心技术
剖析业界实践案例
腾讯云开发者
