我应该在哪里定义Keras中自定义激活函数的导数
在Keras中定义自定义激活函数的导数可以通过编写一个自定义的激活函数类来实现。以下是一个示例：
from keras import backend as K
from keras.layers import Activation
class CustomActivation(Activation):
def __init__(self, activation, **kwargs):
super(CustomActivation, self).__init__(activation, **kwargs)
self.__name__ = 'custom_activation'
def custom_activation(x):
return K.sin(x) # 自定义激活函数的计算逻辑
def custom_activation_derivative(x):
return K.cos(x) # 自定义激活函数的导数计算逻辑
# 在模型中使用自定义激活函数
model.add(Dense(64))
model.add(CustomActivation(custom_activation))
# 获取自定义激活函数的导数
x = K.placeholder(shape=(None, 64))
y = custom_activation(x)
grads = K.gradients(y, x)
custom_activation_derivative = K.function([x], grads)
# 使用自定义激活函数的导数
result = custom_activation_derivative([[1, 2, 3, 4]])
print(result)在上述示例中，我们首先定义了一个自定义激活函数类CustomActivation，继承自Keras的Activation类。然后，我们定义了自定义激活函数custom_activation和对应的导数计算函数custom_activation_derivative，这里仅为示例，使用了sin和cos函数作为计算逻辑。接下来，在模型中使用自定义激活函数时，我们可以直接使用CustomActivation类来包装自定义激活函数。最后，我们通过K.gradients函数来获取自定义激活函数的导数，并使用K.function将其编译为可调用的函数。通过调用这个函数，我们可以得到自定义激活函数的导数值。
需要注意的是，以上示例仅展示了如何在Keras中定义自定义激活函数的导数，实际使用时还需要根据具体的需求和场景进行适当的修改和调整。
关于Keras的更多信息和使用方法，您可以参考腾讯云的Keras产品介绍页面：Keras产品介绍
相关·内容
1回答
我试图把我的大脑包裹在绝对的交叉熵损失上。在Keras中查看交叉熵损失的implementation： # scale preds so that the class probas of each sample sum to 1
output = output / math_ops.reduce_sum(output, axis, True)
# Compute cross entropy from probabilities.
epsilon_ = _constant_to_tensor(epsilon(), output.dtype.base_dtype)
outpu
浏览 24提问于2021-04-23得票数 0
回答已采纳
1回答
我有一个自定义激活函数及其导数，尽管我可以使用自定义激活函数，但我不知道如何告诉keras什么是它的导数。
看起来它自己找到了一个，但是我有一个参数必须在函数和它的导数之间共享，那么我怎么做呢？
我知道在tensorflow中有一种相对简单的方法，但是我不知道如何在keras 中实现它
编辑:根据我得到的答案，也许我不够清楚。我想要的是为我的激活函数实现一个自定义导数，以便它在反向传播过程中使用我的导数。我知道如何实现自定义激活函数。
浏览 0提问于2018-08-08得票数 1
回答已采纳
2回答
我正在制作一个具有两个定制激活函数的神经网络。第一个激活函数是f(x)，第二个激活函数是f(x)对f(x)的导数。对于我的实际情况，如何使Keras后端自动完成，而不是手工获取导数呢？
这是我的代码：
import numpy as np
import math
import keras
from keras.models import Model, Sequential
from keras.layers import Input, Dense, Activation
from keras import regularizers
from keras import backend as K
浏览 3提问于2019-10-04得票数 2
回答已采纳
1回答
我训练了一个定制的YOLOv4模型。然后，我使用以下方法将权重转换为.h5：
之后，我尝试将.h5转换为coreml：
# Custom activation function
from keras.layers import Activation
from keras import backend as K
from keras.utils.generic_utils import get_custom_objects
def mish(x):
return x * K.tanh(K.softplus(x))
get_custom_objects().update({'mi
浏览 6提问于2020-08-27得票数 1
我正在阅读神经网络的反向传播指南，它给出了误差函数如下：
接下来计算出神经元B的错误。这个错误是你想要的--你实际上得到了什么，换句话说: ErrorB = OutputB (1-OutputB)(TargetB - OutputB)
但是，下面写着：
“输出(1-输出)”在方程中是必要的，因为Sigmoid函数--如果我们只使用一个阈值神经元，它就是(目标输出)。
事实上，我正在使用sigmoid函数作为我的网，但我想写的东西尽可能一般。我想试试这样的东西：
public List<Double> calcError(List<Double> expectedOutp
浏览 0提问于2015-07-30得票数 1
回答已采纳
我想在我正在构建的tensorflow模型中为我的简单RNN使用relu激活。它位于一个深而复杂的网络之上。我正在尝试对一系列图像进行分类。我注意到，keras和tensorflow源代码中的默认激活对于简单的RNN来说都是tanh。这有什么原因吗？使用relu有什么问题吗？似乎雷鲁会更好地帮助逐渐消失的梯度。
nn = tf.nn.rnn_cell.BasicRNNCell(1024, activation = tf.nn.relu)
浏览 8提问于2016-08-27得票数 6
回答已采纳
我是python，深度学习和神经网络的初学者。我做了自定义激活函数。当我从sigmoid创建自定义激活函数时，我想知道什么，我应该在哪里定义我的自定义激活函数的导数？ 我试过阅读有关自动微分的内容。但我不确定keras会自动派生我的自定义sigmoid吗？ keras/activation.py中的自定义激活函数 def tempsigmoid(x, temp=1.0):
return K.sigmoid(x/temp) 我的模型 def baseline_model():
# create model
model = Sequential()
model.a
浏览 24提问于2019-04-24得票数 0
回答已采纳
我正在使用keras制作一个类似SE-Net()的网络，但与它完全不同。
假设我想做一些图层序列，例如：
import keras
Input = keras.model.Input((None,None,3))
x1 = keras.layers.Conv2d(filters = 32, kernel_size = (3,3))(Input)
x_gp = keras.layers.GlobalAveragePooling()(x1)
x2 = keras.layers.Conv2d(filters = 32, kernel_size = (1,1))(x_gp)
x3 = keras.l
浏览 1提问于2021-11-02得票数 1
回答已采纳
我正在训练一个GRU层，其中输入的长度不一样。因此，我用0.0填充了输入的特性，使所有序列都具有相同的长度。另一方面，我不想在任何时间步骤中计算任何损失，只要输入的特征向量都是零。例如，在时间步骤1000中，我的批处理大小为34，但是这个批的样本编号33和34在时间步骤1000中缺少数据或特征值。
我已经发现，只要所有后续的层或操作都支持Masking()(inputs)，我们就可以在Keras中使用masking方法。但我已经在tensorflow实现了我的模型。那么，Masking()在tensorflow中的等价性是什么呢？
其次，我如何知道：batch normalization、co
浏览 0提问于2018-08-10得票数 3
回答已采纳
1回答
我在学习神经网络中的激活函数。具有简单线性函数的问题如下所述：
A= cx，关于X的导数是c，这意味着梯度与x没有关系，它是一个恒定的梯度，下降将在一个恒定的梯度上。如果预测有错误，则反向传播所做的更改是常量的，而不取决于输入增量(X)的变化！
ReLu函数的导数也是常数。我的问题是，“当ReLu函数的导数是常数而不依赖于输入的变化时，我们如何反向传播？”
浏览 1提问于2018-03-20得票数 2
1回答
TensorFlow版本: tf 1.13.1
Keras版本: 2.2.4
Python版本: 3.7
调试后，我发现在我的模型的各个部分添加激活层之后，layer会删除2个属性_keras_history和_keras_shape。
目前，该模型还没有编译，因为我的体系结构在计算逻辑之后，在最终应用了一个激活层。
代码：
x = keras.activations.relu(x)
ff_layer2 = keras.layers.DepthwiseConv2D(128, strides=(1, 1), depth_multiplier=1, padding='same'
浏览 0提问于2019-05-27得票数 0
回答已采纳
当我试图用SineRELU或PELU替换工作代码中的SineRELU或relu时。我一直在犯这个错误：
ValueError:未知激活函数:PELU
我正在使用keras.contrib。我附上了示例代码。我已经在几个密码中尝试过。任何实现这一目标的方法都将不胜感激。
from keras.layers import Dense, Input, LeakyReLU, UpSampling2D, Conv2D, Concatenate
from keras_contrib.layers import SineReLU
from keras.models import Model,load
浏览 0提问于2019-04-11得票数 2
2回答
我有一个简单的Keras网络，它使用定义为lambda的自定义激活函数：
from tensorflow.keras.activations import relu
lrelu = lambda x: relu( x, alpha=0.01 )
model = Sequential
model.add(Dense( 10, activation=lrelu, input_dim=12 ))
...
它编译、训练、测试都很好(省略了代码)，我可以使用model.save( 'model.h5' )保存它。但是，当我试图使用loaded = tf.keras.models.load
浏览 4提问于2020-08-05得票数 2
回答已采纳
2回答
我想为Keras实现一个新的优化函数，它不是基于参数的偏导数，而是基于这些偏导数的导数。我该如何继续呢？
浏览 17提问于2019-10-14得票数 0
1回答
二值化神经网络的激活函数
、、、、
我试图用keras和tensorflow实现一个二值化的神经网络。以下是我的当前代码：
import tensorflow as tf
from tensorflow import keras
from keras import datasets
from keras.utils.vis_utils import plot_model
from keras.layers import Activation
from keras import backend as K
from keras.utils.generic_utils import get_custom_objects
def
浏览 0提问于2020-08-09得票数 1
我正在学习NN，我想手动编写反向传播代码，以了解它是如何工作的，但我正在与算法进行斗争。我正在试图解决论文的问题30 (这样我就有了一个如何工作的例子)。
这个问题的简短版本是，如果有人能告诉我如何为H2找到错误，我会很感激(答案应该是A；-0.0660)。
这个问题的长篇版本是，我的想法正确吗(使用H2的反向传播发现错误)：
I1、I2和I3的误差(来自问题29)分别为0.1479、-0.0929和0.1054 .
网络架构是：
加权数为：
所以我想我要做的是：
找出导致每个输出错误的权重总数(我取绝对值来得到错误总数，对吗？)：
浏览 3提问于2021-01-01得票数 0
回答已采纳
我是ML的新手，我正在为一个模特而苦苦挣扎。 为了试图理解一个更大的模型出了什么问题，我想创建一个简单的模型，它的目标只是提供输入的双倍值，但是即使在这个简单的问题上我也不能成功，因为模型编译但不学习。 有人能帮帮我吗？我只是很沮丧，因为我不知道为什么这个简单模型不能学习。 import numpy as np
from tensorflow.keras import Sequential, Model
from tensorflow.keras.layers import Input, Dense
x = [i for i in range(1, 21)]
y = [2 * i for
浏览 20提问于2020-12-01得票数 0
回答已采纳
类似于这个职位这个职位，我需要tanh的梯度下降步长，但现在使用二进制交叉熵(BCE)。
所以我们有
\Delta \omega = -\eta \frac{\delta E}{\delta \omega}
现在我们有了BCE：
E = −(ylog(\hat{y})+(1−y)log(1−\hat{y}))
考虑到我的输出是\hat{y} = tanh(\omega .x)，x是我的输入向量，y_i是这里对应的标签。
\frac{\delta E}{\delta \omega} = \frac{\delta −(ylog(tanh(wx))+(1−y)log(1−tanh(wx
浏览 0提问于2020-04-30得票数 1
回答已采纳
2回答
我用tensorflow在Keras中实现了一个基本的MLP，并试图解决一个二进制分类问题。对于二进制分类，sigmoid似乎是推荐的激活函数，我不太理解其中的原因，以及Keras如何处理这个问题。
我理解sigmoid函数会产生介于0到1之间的值。我的理解是，对于使用sigmoid的分类问题，将有一个特定的阈值来确定输入的类(通常为0.5)。在Keras中，我没有看到任何方法来指定这个阈值，所以我假设它是在后端隐式完成的？如果是这种情况，那么Keras如何区分在二进制分类问题中使用sigmoid，还是在回归问题中使用？对于二进制分类，我们需要一个二进制值，而回归则需要一个名义值。我所能看到的
浏览 0提问于2018-03-06得票数 21
回答已采纳
1回答
尝试使用keras建立图像二值分类模型。不幸的是，每次都得到相同的输出。每个测试样本的概率是不同的，但它们都倾向于一个标签。数据集是平衡的。标签L(n=250)与标签E(n=250)：300用于火车，100用于验证，100用于测试。这些群体之间没有样本重叠。
在无法预测测试数据集之后，我还使用了训练数据集进行预测，这意味着模型将对刚刚训练过的样本进行预测。我知道这没有任何意义。但是它也得到了相同的输出:计数器({0: 300})。
from keras.layers.core import Dense, Flatten, Dropout
from keras.layers.convolutio
浏览 8提问于2022-03-26得票数 0
我正在尝试使用参数'axis‘执行softmax，我发现唯一的方法是通过函数lambda。下面是我的代码，其中包含一个带有softmax的lambda的激活层：
from keras.models import Model
from keras.layers import Input,Dense,Reshape,Activation
from keras.layers.merge import Multiply,Concatenate
from keras.layers.core import Lambda
from keras.activations import softmax
f
浏览 24提问于2017-06-19得票数 5
1回答
我遇到了一些用于反向传播的不同误差计算函数:来自的平方误差函数
或，用于BP损失函数的推导
Error = Output(i) * (1 - Output(i)) * (Target(i) - Output(i))
现在，我想知道还有多少人，它对训练有什么影响？
另外，因为我知道第二个例子使用了层使用的激活函数的导数，所以第一个例子在某种程度上也是这样做的吗？对于任何损失函数(如果有更多的损失函数)，这是真的吗？
最后，如何知道要使用哪一个，以及何时使用？
浏览 6提问于2016-04-01得票数 3
回答已采纳
1回答
在Keras中使用以下语法定义图层时，如何在激活前获取该值： model.add(Convolution2D(128, 5, 5, activation='relu')) 我知道我可以简单地使用： model.add(Convolution2D(128, 5, 5))
model.add(Activation('relu')) 并从第一层获得输出，但使用第一层语法时可能吗？
浏览 14提问于2018-12-23得票数 2
回答已采纳
2回答
我试着训练一个模型来区分两种时间信号，一种是RTS噪声，另一种是白噪声。
我有一个简单的一维CNN，工作良好(92%的准确性)与一个训练集，但变成一个完整的硬币翻转与另一个。在眼睛看来，这些装置非常相似。一个是用真实信号创建的，另一个是用模拟信号创建的。对我来说唯一真正的区别是平均震级。在第二组中，模型如此可靠地失败是否有原因？我需要用某种方式来规范数据吗？
from keras.models import Sequential
from keras.layers import Dense, Dropout,Activation
from keras.layers import Embeddi
浏览 0提问于2018-10-31得票数 4
回答已采纳
我试图在启用mixed-precision的培训管道中使用自定义激活，但遇到了以下错误：
TypeError: Input 'y' of 'Mul' Op has type float32 that does not match type float16 of argument 'x'.
再生产
使混合精度..。
import tensorflow as tf
policy = tf.keras.mixed_precision.experimental.Policy('mixed_float16')
tf.keras.mixe
浏览 6提问于2020-12-22得票数 0
回答已采纳
1回答
创建自己的激活函数时出错
、、、
我正在尝试测试MNIST数据上的激活函数，但它给出了一个错误： TypeError: Using a `tf.Tensor` as a Python `bool` is not allowed. Use `if t is not None:` instead of `if t:` to test if a tensor is defined, and use TensorFlow ops such as tf.cond to execute subgraphs conditioned on the value of a tensor. 下面是我的激活函数： def fun1(x):
浏览 24提问于2019-10-03得票数 0
回答已采纳
我正在使用keras，我想将自己的激活函数myf添加到tensorflow后端。如何定义新功能并使其运行。因此，与代码行不同的是：
model.add(layers.Conv2D(64, (3, 3), activation='relu'))
我会写
model.add(layers.Conv2D(64, (3, 3), activation='myf')).
浏览 0提问于2019-09-09得票数 18
我正在用一个自定义激活函数建立一个由Keras的tf后端和一些tf的张量运算符本身编写的新类的keras序列模型。我将自定义激活函数放在./keras/advanced_activation.py中。
我打算使用float16精度来运行它。如果没有自定义函数，我可以使用以下方法轻松地在float32和float16之间进行选择：
if self.precision == 'float16':
K.set_floatx('float16')
K.set_epsilon(1e-4)
el
浏览 0提问于2019-06-16得票数 2
我正试图将一个经过训练的链子模型转换成一个经过训练的角模型，希望把它转换成核心模型。我这样做的尝试是通过使用与chainer模型相同的体系结构直接设置实例化keras模型的权重。通过调试，我注意到权矩阵的形状在Keras中设置时会被转换。问题是这两种模式的产量不同。在keras模型中，第一层得到了一些正确的输出，但大多数输出都以不可预测的方式被零化。对于我缺少的受过训练的角膜模型，还有其他参数吗？
import chainer
import cv2 as cv
import numpy as np
import argparse
import sys
import os
import ev
浏览 1提问于2019-01-19得票数 2
回答已采纳
所以我正在做tensorflow教程，在这里发现：
https://www.tensorflow.org/tutorials/keras/basic_分类
基本上，我的输入是一个28x28矩阵(图像)，我把它压平成一个1x784向量。
该教程接着说：
在输入到神经网络模型之前，我们将这些值缩放到0到1之间。为此，将图像组件的数据类型从整数转换为浮点数，然后除以255。
我的问题是，为什么在这种情况下我们需要正常化？我的理解是，当我们有不同规模的特征时，如果不是模型的输出被扭曲，我们就需要规范化。但在这种情况下，所有像素范围从0到255 (所有功能都是相同的比例)。
我继续以规范化的方式运行它，
浏览 0提问于2018-10-19得票数 1
我正在使用一个由4个输入神经元组成的神经网络，一个由20个神经元组成的隐藏层和一个7个神经元的输出层。
我正试着用bcd to 7分段算法来训练它。我的数据是标准化的，0是-1，1是1。
当输出误差评估发生时，神经元饱和错误。如果期望输出为1，而实际输出为-1，则错误为1-(-1)= 2。
当我将它乘以激活函数error*(1-output)*(1+output)的导数时，由于2*(1-(-1)*(1-1)，误差几乎变成了0。
如何避免这种饱和度错误？
浏览 0提问于2012-11-30得票数 11
回答已采纳
1回答
我在运行用BogoToBogo编写的神经网络实例
该方案运作良好：
(array([0, 0]), array([ 2.55772644e-08]))
(array([0, 1]), array([ 0.99649732]))
(array([1, 0]), array([ 0.99677086]))
(array([1, 1]), array([-0.00028738]))
神经网络学习异或，默认情况下使用tanh作为激活函数。但是，在我将激活函数更改为"sigmoid“之后，
nn = NeuralNetwork([2,2,1], 'sigmoid')
现在，程序
浏览 0提问于2018-08-29得票数 1
回答已采纳
2回答
我正在Keras中训练VGG16的最后一层。我的模特们看起来：
map_characters1 = {0: 'No Pneumonia', 1: 'Yes Pneumonia'}
class_weight1 = class_weight.compute_class_weight('balanced', np.unique(y_train), y_train)
weight_path1 = './imagenet_models/vgg16_weights_tf_dim_ordering_tf_kernels_notop.h5'
pr
浏览 3提问于2019-03-07得票数 4
回答已采纳
2回答
Keras模型不学习
、、、、
我的Keras模型没有学到任何东西，我也不知道为什么。我甚至把训练集缩小到5个元素，而且模型仍然不适合训练数据。
这是我的代码：
model = Sequential()
model.add(Conv1D(30, filter_length=3, activation='relu', input_shape=(50, 1)))
model.add(Conv1D(40, filter_length=(3), activation='relu'))
model.add(Conv1D(120, filter_length=(3), activation='r
浏览 7提问于2017-09-15得票数 3
回答已采纳
1回答
我试着用大约700张图片和35个有代码行的课程训练CNN模型，不知道我错在哪里，以及当我完成训练时如何打印和检查结果。我已经咨询过这些方法，但是只有两个类，并且使用if- there表单，所以我不知道它将如何与许多类一起工作。
model = tf.keras.models.Sequential([ tf.keras.layers.Conv2D(16,(3,3),activation = 'relu',input_shape = (200,200,3)),
tf.keras.layers.MaxPool2D(2,2),
#
浏览 6提问于2022-07-24得票数 1
回答已采纳
1回答
我试图在tensorflow中定义一个自定义的丢失函数，它根据的答案惩罚假阳性和假阴性。我必须修改计算专一性的代码，并回忆相当多的代码，因为我有一个多类分类问题，而post中的问题只是二进制分类。如果重要的话，我正在使用存储在ImageDataGenerator对象中的图像进行培训。
损失函数的作用如下。
将y_pred中的逻辑和y_true中的一个热编码类转换为稀疏的数字向量(例如。对于每个batchInstantiate计数器来说，0、2、1、1是真阳性、正负、假阳性和假负数(TPx、TNx、FPx、FNx -x分别为0、1或2)。庞大的if和elif语句基本上计算混淆矩阵中的每个点，因为
浏览 2提问于2021-08-26得票数 1
我发现在某些地方，您需要为您的自定义激活定义导数函数。这是真的吗？或者，您所需要做的就是将与tensorflow兼容的函数传递给包装器，然后tensorflow.keras负责其余的工作？ 即。 def my_actv(x):
return x * x
model.add(Activation(my_actv))
浏览 12提问于2020-01-24得票数 0
在TensorFlow2.0中，有一个名为 tf.keras.losses.sparse_categorical_crossentropy(labels, targets, from_logits = False) 请问设置from_logits = True或False有何不同？我的猜测是，当传入的值是logit时，设置from_logits = True，如果传入的值是概率(由softmax等输出)。然后，您只需设置from_logits = False (这是一个默认设置)。 但是为什么呢？损失只是一些计算。为什么它需要根据传入的值有所不同？我还在谷歌的tensorflow教程http
浏览 333提问于2019-03-22得票数 12
回答已采纳
3回答
我训练了一个神经网络来对正弦函数进行回归，并希望计算关于输入的一阶和二阶导数。我尝试像这样使用tf.gradients()函数(neural_net是tf.keras.Sequential的一个实例)： prediction = neural_net(x_value)
dx_f = tf.gradients(prediction, x_value)
dx_dx_f = tf.gradients(dx_f, x_value) x_value是一个具有测试大小长度的数组。但是，这会导致predictions and derivatives。网络的预测(蓝色曲线)基本上准确地捕捉到了正弦函数，但我
浏览 90提问于2019-06-26得票数 4
回答已采纳
1回答
keras限制输出最小最大值
、、、、
我的问题很简单。 如何让keras的输出受限于边界- min和max？ 有些人建议我做一个自定义的激活函数，将输出转换为最小和最大值。我希望这是我最后的选择。 我原以为在带有min_max_norm的密集层上的kernel_constraint和bias_constraint可以工作，但事实证明它不能工作。
浏览 45提问于2019-01-30得票数 1
回答已采纳
1回答
我试图获得使用Keras构建的基线自动编码器中每个层的激活值，因为我想根据Kullbach (KL)散度向损失函数添加稀疏惩罚，如所示。
在这个场景中，我将计算每个层的KL散度，然后用主损失函数(例如mse )对它们进行求和。
因此，我用朱庇特编写了一个脚本，在那里我会这样做，但是每次我试图编译时，我都会得到ZeroDivisionError: integer division or modulo by zero。这是密码
import numpy as np
from keras.layers import Conv2D, Activation
from keras.models impo
浏览 6提问于2017-04-27得票数 0
回答已采纳
3回答
我试图用反向传播来实现神经网络的梯度计算。我无法使它在交叉熵误差和校正线性单元(ReLU)的激活下工作。
我设法使我的实现使用sigmoid、tanh和ReLU激活函数来处理平方错误。正确计算了乙状结肠激活梯度的交叉熵误差。但是，当我将激活更改为ReLU时，它会失败。(对于CE，我跳过tanh，因为它在(-1,1)范围内重写了值。
这是因为log函数的值接近于0的行为( ReLUs大约返回该值)。50%的时间用于标准化输入)？我试着缓解这个问题：
log(max(y,eps))
但这只会使误差和梯度回到实数--它们仍然与数值梯度不同。
我用数值梯度验证了结果：
num_grad = (f(W+
浏览 1提问于2014-06-22得票数 8
2回答
我是机器学习的新手，我的任务是复制中的代码。我想在Keras上实现它。我已经写了如下所示的代码，但是得到的结果停留在9.87%
BNN.ipynb
import keras
from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D,Dropout, Flatten, Dense
from keras.datasets import mnist
from keras.layers import Dense, Activation, BatchNormalization
from keras.
浏览 13提问于2018-09-02得票数 0
2回答
在Keras中，我可以创建任何具有线性激活函数的网络层，如下所示(例如，采用完全连接的层)：
model.add(keras.layers.Dense(outs, input_shape=(160,), activation='linear'))
但我在PyTorch文档中找不到线性激活函数。ReLU不合适，因为我的样本中有负值。如何在PyTorch中创建具有线性激活函数的层？
浏览 3提问于2021-02-20得票数 0
以下是我的代码可以帮助我 import tensorflow as tf
from keras.preprocessing.image import ImageDataGenerator
import numpy as np
train_datagen = ImageDataGenerator(
rescale=1./255,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True)
training_set = train_datagen.flow_from_direct
浏览 33提问于2020-09-13得票数 1
我正在尝试建立CNN。我被困在这里了。
x_train shape: (60000, 28, 28, 1)
x_test shape: (10000, 28, 28, 1)
60000 train samples
10000 test samples
y_train dimensions (60000, 10, 10, 10, 10)
y_test dimensions (10000, 10, 10, 10, 10)
model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3),
activation
浏览 0提问于2019-10-28得票数 0
1回答
我正在做一个关于Colab的项目。我想创建一个在TensorFlow 2.0.0中使用的自定义激活，如下所示：
def custom_activation(x):
return tf.math.log(x)
model = tf.keras.models.Sequential([
... # some layers
tf.keras.layers.Dense(10, activation=custom_activation),
tf.keras.layers.Dense(1)
])
在训练过程中，我看到了以下内容：
Epoch 1/100
9/Unknown -
浏览 13提问于2020-02-24得票数 0
回答已采纳
1回答
在这个深造的世界里，我是新手。这些天来，我一直在努力了解神经网络是如何工作的，所以我做的是不同的测试。到目前为止，我正在使用MNIST数据库，数字从0到9。我已经应用了一个没有隐藏层的完全连接的网络。以下是代码：
from keras.datasets import mnist # subroutines for fetching the MNIST dataset
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
from keras.utils import np_utils # utili
浏览 1提问于2018-03-10得票数 0
回答已采纳
我有以下使用Keras的NN架构： from keras import Sequential
from keras.layers import Dense
import keras
model = Sequential()
model.add(Dense(16, input_dim=32))
model.add(keras.layers.advanced_activations.PReLU())
model.add(Dense(8))
model.add(keras.layers.advanced_activations.PReLU())
model.add(Dense(4))
mo
浏览 14提问于2019-06-22得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
云直播活动推荐
腾讯云开发者
