我是深度学习和tensorflow的新手，现在正在尝试通过以下示例代码来学习如何基于函数API (而不是keras)实现深度学习代码。在我正在查看的代码中，我发现了“gradients=tape.gradient(loss，model.trainable variables )”的来源。我直观地理解了可训练变量的含义，然而，为了清楚地理解，我尝试在tensorflow文档中搜索(方法属于哪个模块或类，哪些是关键参数等)，但我无法找到我想要的信息。(“可训练变量”方法不在他们的文档索引中，我想知道为什么) 那么，谁能告诉我trainable_variable方法属于哪个模块/类，它需要哪些参数
浏览 86提问于2020-07-17得票数 0
回答已采纳
我在tensorflow中有以下trainable_variables列表：
l_vars = [l_unary.trainable_variables, l_regularization.trainable_variables]
它会像这样传递到磁带中：
grad_l_model = l_tape.gradient(tf.constant(l_loss), l_vars)
但是，这会产生错误：
AttributeError: 'list' object has no attribute '_in_graph_mode'
当用l_vars包装tf.Var
浏览 2提问于2020-08-19得票数 1
回答已采纳
我正在研究如何在TF 2中进行迁移学习，我看到在中，他们使用属性trainable_variables来引用模型的可训练变量，但在这个中，他们使用tf.keras.Model的属性trainable_weights。
我用一个简单的模型检查了这两个属性，它们给出了相同的结果。
import tensorflow as tf
print(tf.__version__)
inputs = tf.keras.layers.Input(shape=[64, 64, 3])
x = tf.keras.layers.Conv2D(128, kernel_size=3, strides=2)(input
浏览 2提问于2020-06-07得票数 3
1回答
这是代码：
def point_wise_feed_forward_network(d_model, dff):
return tf.keras.Sequential([
tf.keras.layers.Dense(dff, activation='relu'), # (batch_size, seq_len, dff)
tf.keras.layers.Dense(d_model) # (batch_size, seq_len, d_model)
])
我在phew类中使用它，并将其初始化为：
class Foo(tf.keras.layer
浏览 10提问于2021-12-06得票数 0
回答已采纳
我发现在keras.backend或keras.layers中有许多相同的名称，例如keras.backend.concatenate和keras.layers.Concatenate。我模糊地知道，一个是张量，另一个是层。但是当代码这么大的时候，这么多的函数让我混淆了张量或者层。有人有解决这个问题的好主意吗？
我发现的一种方法是首先在一个函数中定义所有占位符，但函数将其作为变量在结束时返回层，而另一个函数以该层为变量可能返回另一个变量。
浏览 0提问于2018-12-20得票数 0
回答已采纳
我注意到tf.keras.Model有两组相似的属性：
weights，variables
trainable_weights，trainable_variables
non_trainable_weights，non_trainable_variables
还有一些方法：
add_weight，add_variable
在我所查看的模型中，属性对的值是相同的，并且是您所期望的(适当的tf.Variable集合)。
所以我的问题是:这两者之间的区别是什么？概念上的区别是什么，我什么时候应该使用其中一个？
这是TensorFlow 2.3.1。
浏览 0提问于2020-11-19得票数 1
2回答
我正在自学数据科学，一些奇特的东西吸引了我的眼球。在我正在编写的示例DNN教程中，我发现Keras layer.get_weights()函数返回的变量列表为空。我已经成功地交叉验证并使用model.fit()函数来计算召回分数。
但是，当我尝试对分类变量使用get_weights()函数时，它为所有变量返回空权重。
我不是在寻找代码的解决方案，但我只是好奇什么可能会导致这种情况。我已经通读了Keras API，但它没有为我提供我希望看到的信息。除了没有设置权重之外，是什么原因导致Keras中的get_weights()函数返回空列表？
浏览 3提问于2017-11-04得票数 8
2回答
你如何将迁移学习应用于像InceptionV3，ResNet50这样的模型，这些模型是在ImageNet (大约1000个班级)上训练的，对于一个超过1000个班级的问题？
我正在使用Keras，但我对其他解决方案持开放态度。我熟悉这样的想法:加载一个经过训练的网络的所有权重(就像ImageNet上的ResNet50 )，除了顶部(最终分类层有1000个单元)，然后将网络的末端连接到我可以指定的其他层(完全连接层，池化等)。然而，在许多这样的网络中，最终层之前的层只有不到3000个单元，因此添加一个超过3000个单元的层将是一个扩展层，有点像自动编码器中的解码器。正常情况下，我已经看到最后一层
浏览 0提问于2019-01-12得票数 1
当我创建具有一个或多个自定义层的Keras模型时，可以使用model.save()方法以TensorFlow SavedModel格式持久化Keras模型。 我可以使用tf.keras.models.load_model()函数从文件系统中加载此模型，然后再次将其保存到文件系统中。 但当我第二次从文件系统加载SavedModel时，它失败了，并出现以下异常： TypeError: f(inputs, training, training, training, training, *, training, training) missing 1 required argument: train
浏览 107提问于2021-10-29得票数 0
继论文渐进式Gans ()之后，我实现了需要增长的keras.Model (层)。我首先初始化整个模型。但是，当进行推理时，我将只使用模型的一部分，而使用相同的trainable_variables，例如4x4然后是8x8。因此，传递给使用trainable_variables装饰的train_step的tf.function将是不同的。此方法适用于计算梯度等，但不适用于optimizer.apply_gradients。
代码看起来如下所示：
strategy = tf.distribute.MirroredStrategy()
G = Generator()
with strategy.s
浏览 4提问于2022-09-03得票数 0
1回答
这就是具有标准损失函数的模型。 target = Input(shape=(1, ), dtype='int32')
w_inputs = Input(shape=(1, ), dtype='int32')
w_emb = Embedding(V, dim, embeddings_initializer='glorot_uniform',name='word_emb')(w_inputs)
w_flat= Flatten()(w_emb)
# context
w1= Dense(input_dim=dim, uni
浏览 26提问于2019-07-03得票数 3
我的训练循环给了我以下警告：
警告:tensorflow:当损失最小化时，变量‘噪音:0’不存在梯度。
经过一些修改后，我确定只有当噪声变量作为参数传递给我的损失函数(即tf.function )时，才会发生这种情况。下面的代码显示，当损失函数不是tf.function或函数中引用全局噪声变量时，没有问题。它还显示，当噪声变量在tf.function中用作参数时，尝试对其执行梯度会导致错误：
import numpy as np
import tensorflow as tf
import tensorflow_probability as tfp
from tensorflow_p
浏览 11提问于2021-07-09得票数 0
我一直在尝试从我的层中获取可训练变量，但找不到一种方法来使其工作。所以这是我尝试过的：
我尝试过直接访问Dense或Conv2D对象的内核和偏置属性，但无济于事。我得到的结果类型是“密集对象没有‘kernel’属性”。
trainable_variables.append(conv_layer.kernel)
trainable_variables.append(conv_layer.bias)
类似地，我尝试以以下方式使用属性"trainable_variables“：
trainable_variables.extend(conv_layer.trainable_variables
浏览 27提问于2019-12-10得票数 4
回答已采纳
1回答
如何有效地访问tf.fuction中Keras模型的所有可训练变量，以便向所有变量添加自定义噪声？
让我们假设这个简单的模型：
my_model = Sequential()
my_model.add(Dense(300, input_dim=40, activation='relu'))
my_model.add(Dense(200, activation='relu'))
my_model.add(Dense(8, activation='sigmoid'))
急切地跑，我可以这样做：
@tf.function
def weight_pert
浏览 4提问于2020-10-26得票数 4
1回答
你好，我想整理一下tensorflow的VGG模型。我有两个问题。
如何从网络中获取权重？trainable_variables为我返回空列表。
我在这里使用了现有的模型：。我找到了关于获得体重的帖子，但是由于import_graph_def，这对我不起作用。
import tensorflow as tf
import PIL.Image
import numpy as np
with open("../vgg16.tfmodel", mode='rb') as f:
fileContent = f.read()
graph_def = tf.Grap
浏览 0提问于2016-04-04得票数 5
回答已采纳
在尝试使用基本的LSTM Cell复制Tensorflow中的LSTM Cell的权重时，我偶然发现了trainable_weights和trainable_variables属性。
遗憾的是，对于像我这样的菜鸟来说，并没有真正提供丰富的信息。经过一些实验，确实得到了以下信息:两者具有完全相同的布局，是一个长度为2的列表，其中第一个条目是形状的tf.Variable：(2*num_units，4*num_units)，列表的第二个条目是形状(4*num_units，)，其中num_units是初始化BasicLSTMCell的num_units。对我来说，直观的猜测是，第一个列表项是lstm的
浏览 42提问于2018-02-28得票数 7
回答已采纳
1回答
我有以下结构
商店
Rebate
RebateMetadata
RebateCommission
所以，关系是这样的-
Store ->返点是一对多关系返点-> RebateMetadata是一对一映射返点-> RebateCommission是一对一映射
我的查询是加载所有存储。使用它，加载所有回扣、元数据和佣金。
我使用的HQL是：
从store as Store中选择store；
我希望在尽可能少的SQL中加载整个图。为了防止n+1选择问题，我在商店->返点之间使用子选择抓取。
然而，为了获取RebateMetadata和RebateComm
浏览 3提问于2010-06-25得票数 0
我正在构建一个具有多头注意力层的keras模型。我正在尝试从keras.layers实现MultiHeadAttention层，但是当我运行代码时，我在不同的变量上多次收到以下警告：
“警告:tensorflow:以下变量已用于Lambda层的调用(tf.einsum)，但在其跟踪的对象中不存在：<tf.Variable‘multi_head_ are /query/kernel:0’shape=(1，8,240) dtype=float32>这可能是有意为之的行为，但更有可能是遗漏。这强烈表明应该将此层表示为子类化层，而不是Lambda层。”
我用来构建模型的代码如下：
浏览 5提问于2021-05-27得票数 1
我现在正在一个定制的训练循环中训练一个模型。因此，我需要访问model.trainable_variables。但是，我的模型有keras.engine.sequential.Sequential object at 0x7fa284a24d30类型，而不是tensorflow.python.keras.engine.sequential.Sequential类型(参见)。
因此，当我试图获取可训练变量时，就会得到错误：
AttributeError: 'function' object has no attribute 'trainable_variables'
浏览 6提问于2022-04-12得票数 0
1回答
我使用Tensorflow (Keras)创建了这个线性回归模型。然而，我没有得到很好的结果，我的模型试图围绕一条线性直线来拟合点。我相信用n次多项式来拟合点可以得到更好的结果。我在谷歌上搜索了如何使用Tensorflow Keras将我的模型更改为多项式线性回归，但找不到好的资源。对如何改进预测有什么建议吗？
我有一个很大的数据集。首先洗牌，然后吐出80%的训练和20%的测试。此外，数据集也是标准化的。
1)建筑模型：
def build_model():
model = keras.Sequential()
model.add(keras.layers.Dense(units=3
浏览 1提问于2019-02-26得票数 3
我在TensorLayer中遇到了DropConnect层的一个实现：，但我需要一个Keras等效项。在Keras上有没有DropConnect的实现？如果不能，是否可以将任何现有的Keras层转换为DropConnect？
浏览 5提问于2017-05-26得票数 8
我有一个来自keras的预训练模型(vgg16)。我尝试通过循环在每个conv2d之后添加BatchNormalization层。然而，似乎我不能把它们都放在一起。这是我的代码。
from keras.applications import VGG16
from keras.layers import BatchNormalization, Input
from keras.models import Model
input_tensor = Input(shape=(256, 256, 3))
pretrain = VGG16(weights="imagenet", inc
浏览 8提问于2020-02-19得票数 0
我正在尝试编写一个小型回归神经网络作为学习基础知识的起点。
这是我使用的简单数据集：
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Activation
import pandas as pd
import io
import os
import requests
import numpy as np
from sklearn import metrics
df = pd.read_csv("C:\\Users\\Dan\\y_sinx.csv
浏览 0提问于2019-11-21得票数 0
我有这段来自youtube视频的Keras代码： from keras.models import Sequential
from keras.layers import Embedding, SimpleRNN
model = Sequential()
model.add(Embedding(10000, 32))
model.add(SimpleRNN(32))
model.summary() 摘要的输出如下： _________________________________________________________________
Layer (type)
浏览 33提问于2019-06-13得票数 1
回答已采纳
我正在尝试命名Keras模型中的节点，但Keras将附加信息附加到层名称。
例如，当您创建一个名为“sm_output”的层时：
model.add(keras.layers.Dense(output_size, activation='softmax', name="sm_output"))
您最终会调用softmax输出
sm_output/Softmax
如何命名模型的最终输出？我需要它符合一个标准约定，因为这个模型与其他模型互换，如果输出层不同，调用代码就找不到输出层。
浏览 1提问于2019-03-18得票数 3
在我的数据集中，单个输入和输出的形状是15 x 61。我指定input_shape=(15,61)。这意味着15x61到15x61之间的映射，这不是一个分类问题。输出层中的单位规格应该是什么？ model = tf.keras.models.Sequential([tf.keras.layers.Dense(units=128,input_shape =(15,61),
tf.keras.layers.Dense(units=128, activation=tf.nn.relu),
tf.keras.layers.Dense(units=, activation=tf.nn.softmax)
浏览 6提问于2019-09-14得票数 0
我定义了一个自定义的Keras层custom_layer，有两个输出: output_1和output_2。接下来，我想让两个独立的层A和B分别连接到output_1和output_2。如何实现这种网络？
浏览 12提问于2018-08-24得票数 1
1回答
我在Keras中有以下代码(基本上我正在修改这段代码以供我使用)，我得到了这个错误：
'ValueError:检查目标时出错:要求conv3d_3具有5维，但得到形状为(10,4096)的数组‘
代码：
from keras.models import Sequential
from keras.layers.convolutional import Conv3D
from keras.layers.convolutional_recurrent import ConvLSTM2D
from keras.layers.normalization import BatchNormaliz
浏览 1提问于2018-03-28得票数 24
回答已采纳
1回答
我有一些tensorflow模型，需要导出到保存的模型中。下面是我正在尝试导出的模型的简化代码。
import tensorflow as tf
def foo(x):
return tf.reduce_sum(x)
inputs = tf.keras.layers.Input(shape=(128,128,3))
y = tf.keras.layers.Conv2D(filters=32, kernel_size=3, padding='SAME')(inputs)
y = tf.keras.layers.ReLU()(y)
outputs = tf.map_f
浏览 14提问于2020-05-06得票数 0
回答已采纳
class RoastBot(tf.keras.Model):
def __init__(self, vocab_size, embedding_dim, batch_size, conv_arr, rnn_arr):
super(RoastBot, self).__init__()
self.img_input = tf.keras.layers.Input(batch_input_shape=[batch_size,None,None,3])
self.text_input = tf.keras.layers.Embedding(v
浏览 29提问于2020-10-12得票数 0
1回答
我使用的是tensorflow 1.15.0。 我用tf.keras构建我自己的模型。但是当我尝试用Saver保存我的模型时 saver = tf.compat.v1.train.Saver(var_list=tf.trainable_variables()) 我发现在eager execution mode中tf.trainable_variables()总是返回空列表。 下面是一个简单的代码示例： import numpy as np
import tensorflow as tf
from tensorflow import keras
tf.enable_eager_executi
浏览 1提问于2020-12-08得票数 1
回答已采纳
我按照this guide中的步骤将预训练的keras模型转换为与Tensorflow.js一起使用 现在，当我尝试使用以下命令将其导入javascript时 const model = tf.loadModel("{% static "keras/model.json" %}"); 出现以下错误： Uncaught (in promise) Error: Unknown layer: GaussianNoise. This may be due to one of the following reasons:
1. The layer is defined
浏览 40提问于2019-03-06得票数 0
回答已采纳
我有一个由两个LSTM组成的模型，上面有一个密集的层。当我保存模型并重新加载它以进行更多训练时，我收到一个警告:没有传递给第一层的input_shape的顺序模型无法重新加载它们的优化器状态。因此，您的模型从一个新初始化的优化器开始。我不明白为什么我在模型中定义输入形状时会收到这个警告。 # create data feeder from (1m,6) and (30k,3) datasets
def windowed_dataset(series, results, window_size=120, batch_size=1024):
data = tf.data.Dataset.
浏览 9提问于2019-10-16得票数 0
回答已采纳
根据，tensorflow2 / keras中的自定义层可以这样定义
class CustomLayer(layers.Layer):
def __init__(self, ntimes):
super().__init__()
self.convs = [layers.Conv2D(10, (3, 3), padding='same') for i in range(ntimes)]
def call(self, x, **kwargs):
for conv in self.convs:
浏览 2提问于2021-02-08得票数 0
我正在尝试使用tensorflow 2训练模型。 我收到以下错误： ValueError: Attempt to convert a value (<tensorflow.python.keras.engine.training.Model object at 0x7f1ab822ecc0>) with an unsupported type (<class 'tensorflow.python.keras.engine.training.Model'>) to a Tensor. 当我试着打电话给 return loss_object(y_true=
浏览 180提问于2019-03-14得票数 3
回答已采纳
根据keras ，Input将_keras_shape属性添加到输入张量。然而，如下所示，情况并非如此。
import tensorflow as tf
s = tf.keras.layers.Input(shape=[2], dtype=tf.float32, name='s')
print(s._keras_shape)
Traceback (most recent call last):
File "<input>", line 3, in <module>
AttributeError: 'Tensor' ob
浏览 2提问于2019-02-10得票数 3
回答已采纳
1回答
计算两层的差异
、、
我想合并两个keras层，以便合并后的层具有这两个层的差异。例如，如果layer1输出为0,1,2，layer2输出为1,2,3，合并后的层应为-1，-1，-1。我尝试使用以下代码
from keras.layers import Input, merge
from keras.models import Model
import numpy as np
input_a = np.reshape([1, 2, 3], (1, 1, 3))
input_b = np.reshape([4, 5, 6], (1, 1, 3))
a = Input(shape=(1, 3))
b = Input
浏览 0提问于2016-08-10得票数 3
回答已采纳
我知道，已经有一些这样的问题，但我找不到任何解决这个问题的方法。 我创建了一个这样的模型： def CreateModel(optimizer=optimizer, loss=loss, learn_rate=learn_rate, activity_regularizer=activity_regularizer):
model = keras.Sequential([
keras.layers.Conv2D(32,3,input_shape=(9,21,1)),
keras.layers.Flatten(),
浏览 41提问于2020-10-28得票数 1
回答已采纳
看起来，使用分发策略不支持梯度裁剪。
(“优化器中的梯度裁剪”(通过设置clipnorm或clipvalue)当前“在使用分发策略时不支持”)。
有什么原因吗？我很想用直接剪裁梯度来定义一个定制的def _minimize(strategy, tape, optimizer, loss, trainable_variables):。
浏览 0提问于2020-06-28得票数 5
我不知道我正在寻找的东西的名称，但我想在keras中创建一个层，其中每个输入都乘以它自己的独立权重和偏差。例如，如果有10个输入，将有10个权重和10个偏差，每个输入将乘以其权重，并与其偏差相加，得到10个输出。 例如，下面是一个简单的密集网络： from keras.layers import Input, Dense
from keras.models import Model
N = 10
input = Input((N,))
output = Dense(N)(input)
model = Model(input, output)
model.summary() 如您所见，此模型有
浏览 26提问于2019-06-30得票数 2
回答已采纳
在下面找到我的模型：
class CustomModel(tf.keras.Model):
def __init__(self, model1, model2, model3, model4):
super(deep_and_wide, self).__init__()
self.model1 = model1
self.model2 = model2
self.model3 = model3
self.model4 = model4
def call(self, inputs):
浏览 0提问于2021-04-02得票数 0
1回答
我想获得自定义层的权重，但是我无法通过model.layer().get_weights()X获得它们。所以我检查了模型的各个层，似乎定制层被分解成几个操作，在这些层中找不到权重。
以下是自定义层代码
class PixelBaseConv(Layer):
def __init__(self, output_dim, **kwargs):
self.output_dim = output_dim
super(PixelBaseConv, self).__init__(**kwargs)
def build(self, input_shape)
浏览 12提问于2022-11-18得票数 0
在一些使用tf2的Tensorflow教程中(例如和)，它们定义了自定义tf.keras.Models而不是tf.keras.layers.Layers (例如BahdanauAttention(tf.keras.Model):)。
另外，文档显式地使用tf.keras.Model。这一节说：
创建包含其他层的类似层的东西时使用的主要类是tf.keras.Model。实现一个是通过继承从tf.keras.Model完成的。
听起来，我们需要继承tf.keras.Model来定义一个构成子层的层。
但是，据我所查，即使我将ResnetIdentityBlock定义为tf.keras.la
浏览 4提问于2019-09-26得票数 6
我在第一个数据集上训练了一个LeNet架构。我希望通过使用从LeNet获得的权重来初始化VGG的权重，从而在其他数据集上训练VGG架构。
keras中的所有初始化函数都是预定义的，我不知道如何自定义它们。例如：
keras.initializers.Zeros()
你知道我怎么设置权重吗？
浏览 0提问于2019-04-17得票数 0
我的目录中有从折扣中受益的产品。如果产品有返点，则自定义字段“返点”设置为1。 我想要显示一个页面，所有的产品都有回扣，我正在通过API做到这一点。因为我是新手，所以我想知道应该使用什么语法来获取自定义字段值并对其进行过滤。 我正在使用下面这样的东西进行测试：https://api.bigcommerce.com/stores/{store_hash}/v3/catalog/products?include=custom_fields&rebate=1 但根本不起作用。我得到了一个422，说回扣不是一个有效的过滤器。 谢谢你的帮助，Jaad
浏览 15提问于2019-03-01得票数 0
如何使用keras和python从数据集中返回和显示图像，
这是我下载和解压缩数据集的代码。
_URL = 'https://storage.googleapis.com/mledu-datasets/cats_and_dogs_filtered.zip'
data_dir = tf.keras.utils.get_file('cats_and_dogs_filterted', origin=_URL, extract=True)
data_dir = pathlib.Path(data_dir)
train_dir = os.path.join(data_d
浏览 2提问于2022-08-09得票数 0
1回答
所以我有一个定制层，它没有任何权重。在第一步中，我尝试实现在Kers中操作输入张量的函数。但由于许多原因，我没有成功。我的第二种方法是用numpy操作实现函数，因为我正在实现的自定义层没有任何权重，据我的理解，我可以使用numpy操作，因为我不需要反向传播，因为没有权值，对吗？然后，我将图层的输出转换为张量，其中：
Keras.backend.variable(value = output)
因此，主要思想是实现一个自定义层，该层接受张量，将它们转换为numpy数组，使用numpy操作对它们进行操作，然后将输出转换为张量。问题是，我似乎无法使用.eval()来将层的输入张量转换为numpy
浏览 4提问于2017-11-30得票数 1
回答已采纳
我正在尝试重用前一层的权重矩阵。作为一个玩具示例，我想做这样的事情：
import numpy as np
from keras.layers import Dense, Input
from keras.layers import merge
from keras import backend as K
from keras.models import Model
inputs = Input(shape=(4,))
inputs2 = Input(shape=(4,))
dense_layer = Dense(10, input_shape=(4,))
dense1 = dense_la
浏览 0提问于2016-09-19得票数 4
2回答
如何获得概率层的形状？
、、、
我是一个具有TensorFlow概率层的建筑模型。当我这样做时，model.output.shape，我得到一个错误： AttributeError: 'UserRegisteredSpec' object has no attribute '_shape' 如果我这样做了，output_shape = tf.shape(model.output)它给出了一个Keras张量： <KerasTensor: shape=(5,) dtype=int32 inferred_value=[None, 3, 128, 128, 128] (created by l
浏览 35提问于2021-08-19得票数 2
回答已采纳
我试图用Keras编写一个自定义层，以便在论文中提出的特定体系结构上进行复制。该层没有可训练的重量。我认为这可能是相关的，因为没有必要扩展类层。
我正在使用CNTK后端，但我试图尽可能地保持代码的后端无关性，所以我依赖于keras.backend中定义的接口，而不是直接使用CNTK。
现在我只是想找个小例子。例子如下：
import numpy as np
from scipy.misc import imread
from keras import backend as K
im = imread('test.bmp')
#I'm extending a gra
浏览 1提问于2017-06-26得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
