为什么输出总是收敛到0.5？
输出总是收敛到0.5的原因可能有多种，以下是一些可能的解释：
- 程序逻辑错误：输出收敛到0.5可能是由于代码中存在逻辑错误导致的。可能是在计算过程中出现了错误的判断条件或计算公式，导致最终结果始终为0.5。
- 数据处理错误：输出收敛到0.5可能是由于数据处理错误引起的。可能是在数据输入、转换或处理过程中出现了错误，导致最终结果始终为0.5。
- 算法问题：输出收敛到0.5可能是由于使用的算法存在问题。可能是选择了不适合解决特定问题的算法，或者算法参数设置不正确，导致结果始终收敛到0.5。
- 数据采样问题：输出收敛到0.5可能是由于数据采样不足或不均匀引起的。可能是数据样本过小或者样本中存在偏差，导致最终结果始终为0.5。
- 系统误差：输出收敛到0.5可能是由于系统误差引起的。可能是硬件或软件环境中存在的误差，导致结果始终收敛到0.5。
针对以上可能的原因，可以采取以下措施进行排查和解决：
- 检查程序逻辑：仔细检查代码中的逻辑，确保没有错误的判断条件或计算公式。
- 检查数据处理：检查数据输入、转换和处理的过程，确保数据没有被错误处理或转换。
- 重新评估算法：重新评估所使用的算法，确保选择了适合解决问题的算法，并正确设置算法参数。
- 增加数据采样量：增加数据采样量，确保样本足够大且均匀，以减少采样误差。
- 检查系统环境：检查硬件和软件环境中是否存在误差，确保系统环境正常。
请注意，以上仅是一些可能的解释和解决方案，具体情况需要根据实际情况进行分析和处理。
相关·内容
我正在训练一个带有1个乙状结肠隐层和一个线性输出层的神经网络。网络简单地近似于一个余弦函数。权值根据Nguyen初始化初始化，偏差初始化为1。我使用MATLAB作为平台。
在不改变任何参数的情况下多次运行网络，得到的结果(均方误差)从0.5到0.5*10^-6不等。我不明白为什么结果会有这么大的变化，我想至少会有一个更窄和更一致的错误窗口。
是什么导致这么大的差异？
浏览 0提问于2015-03-12得票数 1
回答已采纳
1回答
MLP中ReLu的收敛性问题
、、、、
我只使用numpy从零开始在python中创建了神经网络，我正在处理不同的激活函数。我所观察到的非常奇怪，我很想知道为什么会发生这种情况。
我观察到的问题取决于初始权重。当使用乙状结肠函数时，如果权重是0,1、-1,1或-0.5,0.5范围内的随机数，那就无关紧要了。但是在使用ReLu时，当我在范围-1,1中使用随机权值时，网络常常会遇到一个很大的问题。但是当我将权值的初始化范围更改为-0.5,0.5时，它就开始工作了。这只适用于ReLu激活函数，我完全不明白为什么它不适用于-1,1。它不应该有任意的随机权值吗？
另外，当我将初始权重改为正常分布时，它的收敛性没有问题。我知道正态分布应该比随机
浏览 0提问于2020-12-10得票数 1
回答已采纳
1回答
我创建了一个神经网络，其结构如下：
Input1 - Input2 -输入层.
N0 - N1 -隐藏层.每个节点有3个权重(一个用于偏置)。
N2 -输出层。3项权重(1项用于偏倚)。
我试图用以下测试数据来训练它的XOR函数：
0 1-预期结果:1
1 0-预期结果:1
0-期望结果:0
1-预期结果:0
训练后，{0，1} = 测试的均方误差(在寻找1结果时)，我认为这是很好的。但是，测试的均方误差(当查找0结果时) {1，1} = 0.5，这肯定需要为零。在学习阶段，我注意到真实结果的MSE在前几个时代下降到零，而错误结果的MSE停留在0.5左右。
我用反向传播
浏览 4提问于2014-04-15得票数 0
我试图最小化一个成本函数，我从scipy.optimize.minimize (使用方法和'SLSQP'，‘L B’)得到了非常奇怪的结果。
每次评估后，我会打印成本函数的值。首先，它在进入所谓的正确方向之前执行小扰动(ok)。但后来又发生了一些奇怪的事情:它似乎改变了最初的成本函数在第一次评估中的价值--成本函数在当前评估中的价值，并收敛到成本函数的第一次评估的值。
为了说明我创建了一个由2个参数组成的玩具函数(0.25 + 1000 * x1 ** 2+ 100 * x2 ** 2+ 0.1 *随机())。x1和x2仅限于间隔。X0设置为(0.5，0.5)。我得到的是：
c
浏览 3提问于2021-09-06得票数 1
1回答
我从一个简单的线性回归风格的网络开始，它是用Tensorflow编写的，很大程度上是基于初学者教程的MNIST。有7个输入变量和1个输出变量，这些变量都是连续的。使用该模型，所有输出都在1左右徘徊，这是有意义的，因为目标输出集在很大程度上是由1的值主导的。这是由测试数据生成的输出样本：
[ 0.95340264]
[ 0.94097006]
[ 0.96644485]
[ 0.95954728]
[ 0.93524933]
[ 0.94564033]
[ 0.94379318]
[ 0.92746377]
[ 0.94073343]
[ 0.98421943]
然而，准确性从来没有达到约84%
浏览 0提问于2017-10-19得票数 1
回答已采纳
2回答
这是我的代码，我给它输入如下，我删除了由用户给出一个实际的输出值的步骤，因为它是在代码中计算的，但是仍然会发生相同的情况。
第一输入为"1“，第一输入为"0.5”，第一输入为"0“，第二输入为其权重为"0.6”，期望输出为"0“，定义值为"0.002”，学习速率为"0.23“。
package Neural4copy;
import java.util.Scanner;
import java.lang.Math;
public class Demo {
// inputs are declared
privat
浏览 0提问于2016-01-16得票数 0
回答已采纳
我创建这篇文章的目的是为了了解一个奇怪的行为，当我试图使用来自驱动程序ScipyOptimizeDriver的优化器COBYLA时，我注意到了这个奇怪的行为。实际上，当我试图解决Betz限制(这是OpenMDAO建议的示例之一)时，它有时超过了我为设计变量"a“设置的边界。
通常，变量"a“应该始终在0到1之间。但是，通过使用相同的Betz限制示例代码，并在每次迭代时打印设计变量"a”，我得到了如下结果：
Design iteration number: 1
Input a: [0.5]
Output Cp: [0.5]
Design iteration numbe
浏览 4提问于2022-06-01得票数 1
回答已采纳
1回答
收敛到零输出的神经网络
、、、、
我正在尝试训练这个神经网络，以便对一些数据进行预测。我在一个小的数据集(大约100条记录)上尝试了它，它的效果非常好。然后我插入新的数据集，我发现NN收敛到0输出，误差近似收敛到正样本数量与总样本数量之间的比率。
我的数据集由yes/no特征(1.0/0.0)组成，基本事实也是yes/no。
我的假设是：
1)存在输出为0的局部最小值(但我尝试了学习率和初始权值的许多值，它似乎总是在那里收敛)
2)我的权重更新是错误的(但对我来说很好)
3)这只是一个输出缩放问题。我尝试缩放输出(即output/max( output )和output/mean(output))，但结果并不理想，正如您在下面
浏览 0提问于2017-05-27得票数 5
我面临着一个非常奇怪的问题，我正在使用tensorflow构建一个随机神经网络模型，然后在完成训练后使用tf.Saver存储模型变量(全部)。
在测试期间，我只是再次构建推理部分，并将变量恢复到图中。恢复部分不会显示任何错误。
但是当我开始对评估测试进行测试时，我总是从推理中得到相同的输出，即对于所有测试输入，我都会得到相同的输出。
我在训练期间打印了输出，我确实看到不同训练样本的输出是不同的，成本也在下降。但是当我做测试时，无论输入是什么，它总是给我相同的输出。
有人能帮我解释一下为什么会发生这种情况吗？我想发布一些最小的例子，但由于我没有得到任何错误，我不确定我应该在这里发布什么。我很乐意
浏览 2提问于2016-09-17得票数 3
我试图用ANN来近似一个函数(单输入单输出)。使用MATLAB工具箱，我可以看到在隐藏层中有5个或更多的神经元，我可以达到一个非常好的结果。因此，我尝试手动完成此操作。
计算:由于网络只有一个输入和一个输出，相对于连接隐藏神经元j和输出神经元的权重的误差的偏导数(e=d-o，其中'd‘是期望输出，'o’是实际输出)将是-hj (其中hj是隐藏神经元j的输出)；误差相对于输出偏置的偏导数将是-1；关于将输入连接到隐藏神经元j的权重的误差的偏导数将是- woj * f‘*i，其中woj是隐藏神经元j的输出权重，f’是tanh()导数，'i‘是输入值；最后，关于隐藏层偏差的误
浏览 1提问于2014-08-27得票数 0
1回答
我在ML领域没有太多的知识，但从我天真的观点来看，在训练中性点网络时，似乎总是使用梯度下降的一些变体。因此，我想知道为什么没有使用更高级的方法，例如SQP算法或内点方法。这是不是因为训练中性网总是一个简单的无约束优化问题，而上述方法是不必要的？任何洞察力都会很好，谢谢。
浏览 0提问于2018-02-22得票数 2
因此，我试图设计一个多层神经网络，由3个输入神经元、3个隐神经元和1个输出神经元组成。
我计划让它学习3位xor模式。b1 xor b2 xor b3类型的表。现在我正试着教它下表。
0d,0d,0d =>0d
0d,0d,1d =>1d
0d,1d,0d =>1d
0d,1d,1d =>0d
1d,1d,0d =>0d
1d,1d,1d =>1d
hidden[]是隐层之间的权值，输出层input[]是输入层和隐层之间的权重。
忽略D
这是代码，它在仅仅10个时代之后收敛，学习速率为0.1，错误的值降到
浏览 2提问于2013-12-18得票数 1
回答已采纳
我最近被介绍到神经网络的神奇世界。我开始跟踪，它实现了一个NN来识别手写数字。它实现了一个3层网络(1输入、1隐藏和1输出)，并使用MNIST数据集进行训练。
我刚刚发现，具有相似层784,30,10结构的两个神经网络的权重矩阵，使用相同的数据集进行训练，是完全不同的。偏差矩阵也是如此。
一般直觉说，由于我们使用的是多个历元，并且在每个时期随机化数据，两个神经网络的权重矩阵应该收敛到相似的值。但结果却大不相同。也可能是这个原因吗？
下面是NN1的头几个权重：
[array([[-1.2129184 , -0.08418661, -1.58413842, ..., 0.14350188,
浏览 6提问于2020-05-12得票数 1
回答已采纳
2回答
输入值范围与损失收敛之间的联系
、、、、
我正在用tensorflow 2.0训练一个使用Keras高端API的变分自动编码器。其目的是对在零背景下由均匀强度int_shape不等于零的形状组成的图像进行共振，请参见下面的int_shape = -0.25图像。
变分式自动编码器具有以下结构，其潜在空间为50维，与图像中的16相反。
lambda层使用一个函数从正态分布中取样，如下所示：
def sampling(args):
z_mean, z_log_var = args
epsilon = K.random_normal(shape =(1,1,latent_dim))
return
浏览 0提问于2020-04-18得票数 1
回答已采纳
3回答
我只是在研究一些初学者的Java问题，在这里我要输出10个随机生成的‘硬币抛出’的结果(使用Math.random())。
由于某些原因，程序不会一直迭代到10。有时它会输出5个结果，或7个或8个等等。
为什么迭代不总是不变的呢？
public class Coin
{
public static void main(String[] args)
{
for (int i=0; i<11; i++)
{
if (Math.random() < 0.5)
{
System.out.println("H")
浏览 3提问于2015-10-11得票数 1
回答已采纳
2回答
我正在尝试创建一个接受x值的函数，并创建一个带有n+1平方根项的模式:sqrt(X)^sqrt(X)...
def func(x,n):
a = x**0.5
i = 0
while i < n:
a = a ** (x**0.5)
i += 1
print a
例如，使用x= 2，函数不会收敛(到2)，而是以某种方式指数增长，我不明白为什么。
对于第一次迭代(i=0)，它似乎是正确的，因为它计算的是sqrt(2)^sqrt(2)，但是对于第二次迭代(i=1)，它给出了2.0，并且还在不断增加。
谢谢!
浏览 1提问于2015-03-05得票数 0
给定二维贝塞尔曲线(P0，P1，P2，P3)的点，我想找出给定x坐标的y坐标。由于以下限制，这个问题得到了很好的界定：
P0 = (0,0)，P3 = (1,1)
对于0，1之间的t，P1 = (t，1-t)
P2 =1- P1 (x和y)
我有下面的函数来计算答案，把上面所有的限制都加入到这里的Bezier曲线公式中，。我使用牛顿-拉夫森计算出我想要的点的参数，我知道这是因为我不让循环完成，直到它有(在定义的容限内)。
我使用这个函数将对比度过滤器应用于图像。对于这个0.5返回相同的图像，0.0做最大缩小对比，1.0做最大增加。
编辑下面的函数已经被修正，现在工作得很完美
浏览 2提问于2012-03-09得票数 1
回答已采纳
我正在使用scipy.optimize来解决最小化问题。但它所做的一切没有任何意义。如果我没有设置最大迭代次数，它将永远运行(好吧，至少12小时)。因此，我将最大迭代次数设置为要测试的较小值，例如20。
我的函数的初始值是880.770191886。当我运行scipy.optimize.fmin的所有诊断输出(full_output=True、retall=True)时，我得到：
>>dataOut = so.fmin(optimize_grid, coordsOuter, args=(0.5,(65,86,2)), maxiter=20, disp=True, full_outp
浏览 0提问于2012-11-24得票数 2
1回答
我已经创建了一个非常简单的回归模型，它训练0.5-10之间的黑白图像和相应的标签。当训练预测标签时，它总是收敛到一个模型，该模型对所有标签输出相同的数字，该数字看起来最有可能是所有标签的平均值。是不是我的模型中有什么东西导致了这种情况？我的代码：
from __future__ import absolute_import, division, print_function
import tensorflow as tf
from tensorflow import keras
import numpy as np
import matplotlib.pyplot as plt
(trai
浏览 19提问于2019-07-24得票数 1
回答已采纳
我正在训练一个UNet型的CNN，必须处理数据不平衡的问题。我想将假负数降到最低，所以我想实现一个定制的丢失函数。我创建了以下损失函数：
from tensorflow.keras import backend as K
def fbeta_loss(y_true, y_pred, beta=2., epsilon=K.epsilon()):
y_true_f = K.flatten(y_true)
y_pred_f = K.flatten(y_pred)
tp = K.sum(y_true_f * y_pred_f)
predicted_posit
浏览 3提问于2022-02-18得票数 -1
我在Github中查找GAN代码。我找到的代码使用pytorch。在这段代码中，我们首先将图像归一化为mean = 0.5，std = 0.5。通常，归一化为min =0和max = 1。或者正态分布，均值=0，std = 1。为什么归一化为均值= 0.5，std = 0.5？
transformtransfo = transforms.Compose([
transforms.ToTensor(),
transforms.Normalize(mean=(0.5, 0.5, 0.5), std=(0.5, 0.5, 0.5))
])
浏览 5提问于2018-09-03得票数 9
我在tensorflow中拟合一个非常简单的模型时遇到了问题。如果我有一列恒定的输入数据，我的输出总是收敛到为所有行产生相同的值，这是我的输出数据y_的平均值，即使x_中有另一列有足够的信息来准确地重现y_。这里有一个小例子。
import tensorflow as tf
def weight_variable(shape):
"""Initialize the weights with random weights"""
initial = tf.truncated_normal(shape, stddev=0.1, dty
浏览 4提问于2016-07-19得票数 1
回答已采纳
1回答
我开始构建如下所示的模型：
model_sim <- glmer(Accuracy ~ x*y*z_scaled + (1 |Participant),
binomial(link = "logit"), data = Data)
它不能收敛，所以我运行了allFit函数：
(model_sim <- allFit(model_sim, maxfun = 1e+05))
为了查看是否有实际的合理理由值得关注，它与6个优化器中的5个收敛，都具有相同的值，所以我选择了我总是选择的-使用1e+05迭代的bobyqa，但它再次无法收敛。有人能解释一下为
浏览 1提问于2019-10-14得票数 0
1回答
我正在研究一个具有非常大的稀疏权重矩阵的神经网络。权重中的零值将保持为零，并且不会更改。应该只计算和传播非零值的梯度，否则运行起来代价太高。这意味着我正在使用Theano及其sparse.structured_dot矩阵乘法。这是我的代码：
#!/usr/bin/env python3
import math
import numpy as np
import theano as th
import theano.tensor as T
from theano import sparse as sp
import scipy.sparse as spsp
def sparse_matrix
浏览 0提问于2018-05-12得票数 0
1回答
我刚刚开始尝试在c#中创建自己的神经网络，方法是复制我发现的一个用python编写的简单神经网络，并且输出总是以0.5结束。我查看了Google上发布的关于这个问题的所有其他问题，没有一个解决方案是适用的。我不知道为什么会发生这种事。下面是我的代码现在的样子： public class NeuralNetwork
{
private double[,] w;
public NeuralNetwork()
{
w = random(2, 1);
}
浏览 18提问于2021-01-19得票数 0
回答已采纳
当训练神经网络的成本函数最小化时，自适应矩估计优化器似乎总是工作得更好(更快，更可靠，达到全局最小值)。
为什么不总是用亚当？为什么还要费心使用RMSProp或动量优化器呢？
浏览 0提问于2018-04-15得票数 48
回答已采纳
1回答
我错过了关于随机化算法的讲座，也不能把头脑放在放大双边错误算法的概率上。
有人能解释一下为什么下面的算法通过重复给出正确输出的概率增加了吗?这种概率是如何计算的？
L是一种形式语言
如果输入x∈L，则算法的输出将以2/3的概率为YES
如果输入x !∈L，则算法的输出将为NO，概率> 1/2
提前谢谢你
浏览 5提问于2019-02-07得票数 2
1回答
我正在尝试简单的实验来学习scipy的SLSQP优化器。 我采用了下面的函数： def obj(x):
return -1*((x[0]*x[0])+(x[1]*x[1])) 它是雅可比矩阵： def jacj(x):
return [-2*x[0],-2*x[1]] 它的界限是： bounds=[(0,1),(0,1)] 一个简单的约束-- x+2*x1<=1： cons2=({'type':'ineq',
'fun':lambda x: np.array([-(x[0])-2*(x[1])+1]),
浏览 88提问于2019-09-04得票数 0
2回答
通常，在培训网络以从给定的数据中选择两个值时，我注意到了一些2问题。
(1.)每个判决使用两个输出神经元，并通过偏爱较高值的神经元作出+ve决策。
(2.)2.)每个神经元对一个特定阈值的决定，例如0.5，因此，通过检查神经元是否输出值>= 0.5来做出+ve决策。
比方说，人们希望网络根据输入数据进行预测，比如每次从给定的图像中预测形状的质心，除了让输出神经元得到可能的结果数(这绝对是由于X,Y值对而产生的像素x的全部数量)之外，还能做什么。
具体来说，如何才能使输出神经元像质心一样激发(432,50)，在这种情况下，可能的质心(X,Y)坐标是从0到450 ()，换句话说，人工神经元能
浏览 1提问于2018-10-12得票数 0
回答已采纳
1回答
几天前，我尝试将今年在AI讲座中学到的关于神经网络的知识付诸实践。我试着做一个简单的模型，只有两个神经元，可以复制它的输入信号。这是一张网络的小图，根据我的计算： (很抱歉有法语的评论，它们并不是很重要)
奇怪的是，它确实收敛了，但对于简单的二进制输入信号，当信号为0时，网络有效地发送~0，但当信号为1时，网络发送~0.5，我不明白为什么。另外，我必须将学习率设置得相当高(~100)才能让它工作，我也不知道为什么。
下面是我用来测试网络的java代码：
public class Main
{
final static double R = 100;
public static voi
浏览 1提问于2016-07-29得票数 1
1回答
我一直在研究一个学习基本乘法的神经网络: 1*0，1*1，1*2，. 1*9。我把上面的值映射到两个输入: 1，0.0；1，0.1；1，0.2；. 1，0.9。我最初的想法是使用10个输出节点，以便:对于输入1，0.5，您将有输出0,0,0,0,0,1,0,0,0,0，0，0，0。因此，具有第二输入值指示的位置的输出节点应该具有值1。
主要的问题是网络不会像这样学习：
Run: 0; input: 1.0 and 0.0; calc. output: 0 outputs: [0.94048536, 0.75189143, 0.90448654, 0.84964263, 0.92710346,
浏览 3提问于2017-12-20得票数 0
回答已采纳
为什么以下两个命令不返回相同的输出？
x <- sample(0:1, 50, replace = TRUE, prob = c(0.5, 0.5))
sum(x==1)
sample(0:1, 50, replace = TRUE, prob = c(0.5, 0.5)) %>%
sum(.==1)
第二个命令中的第一个总是给出正确的答案(大约25)，第二个命令返回一个太高的数字，比如52。我对这里的管道操作员有什么误解？
浏览 5提问于2021-11-29得票数 6
回答已采纳
让我们假设在有图像的同时，在图像的X轴上也有一个从左到右的梯度，在Y轴上还有一个从上到下的梯度。这两个梯度具有相同的图像大小，可能都在-0.5到0.5之间。
现在，我想做一个卷积核。卷积滤波器，即卷积权值)取决于(x, y)在梯度中的位置。所以内核是梯度的函数，就像核是嵌套的微型神经网络的输出。这将使过滤器的权重在每个位置上都不同，但与它们的邻居略有相似。我如何在PyTorch或TensorFlow中做到这一点？
当然，我可以自己计算一个，但是如果假装x==y==n，矩阵乘法就需要O(n^3)操作，而卷积可以在O(n^2) normally中实现。或者我可以自己对每个元素进行迭代，并以一种非向
浏览 2提问于2018-01-18得票数 2
回答已采纳
我理解k-means算法的步骤。然而，我不确定算法是否总是收敛？或者，观察总是可以从一个质心切换到另一个质心吗？
浏览 0提问于2015-11-08得票数 8
回答已采纳
1回答
我试图通过使用MATLAB中的割线方法找到函数y = exp(2x) + 3x -4的根。
我得到了起始值x1=0.5和x2=0.4，但是如果我运行我的代码，我将得到一个来自MATLAB的“带有值的函数句柄”输出。
这是我的密码：
function [f] = fopg1(x)
f = @(x) exp(2*x)+3*x-4;
x(1) = 0.5;
x(2) = 0.4;
for i=3:5
x(i) = x(i-1) - (f(x(i-1)))*((x(i-1) - x(i-2))/(f(x(i-1)) - f(x(i-2))));
浏览 0提问于2018-02-25得票数 0
回答已采纳
我在Tensorflow (Python3.5)中建立了一个神经网络模型。
但是，每当我用相同的训练数据初始化模型和重新训练时，特定输入的输出值总是不同的。这意味着，用相同的参数和数据训练但初始化不同的模型可以预测出非常不同的结果。我认为，如果我用相同的参数和数据进行训练，那么无论初始化与否，权重和偏差都会变得几乎相同。
我改变了隐藏层的数量、学习速度、激活函数和批处理大小，但是这个问题没有改变。在这种情况下我该怎么办？
我的模型正在使用
25归一化输入，每个元素的范围为-1,1
32隐藏层(1级)
10输出层(我预计每个输出值应该在-1，1，因为我训练的奖励是-1，1)。
xavier初始化
浏览 5提问于2017-11-29得票数 0
回答已采纳
1回答
我曾经用WebRTC的AEC模块做过回声消除，现在我遇到一个问题，就是我做点对点通信的时候，如果一段时间没有人说话，再有一点说话，这个时候回声就会出现，如果总是有人说话，回声消除效果很好，我想知道，为什么在一段时间内没有人说话之后会有回声。
感谢您的回复！
浏览 9提问于2013-12-05得票数 1
1回答
我正在尝试在keras(tensorflow)中为NN开发一个hello world应用程序。我想创建一个符合方程y=0.5+0.5x的基本模型，我写了这段代码 import tensorflow as tf
import numpy as np
from tensorflow import keras
TRAINING_DATA_SIZE = 20
model = keras.Sequential([keras.layers.Dense(units=1, input_shape=[1])])
model.compile(optimizer='sgd', loss='
浏览 30提问于2019-06-28得票数 0
回答已采纳
1回答
我正在尝试使用Matlab优化工具箱优化设备设计(准确地说，使用fmincon函数)。为了快速表达我的观点，我提供了一个小的变量集{l_m，r_m，l_c，r_c}，它的起始值等于{4 1mm，2 1mm，1 1mm，0.5 1mm}。
虽然Matlab没有特别推荐将输入变量归一化，但我的教授建议我将变量归一化为{l_m，r_m，l_c，r_c}的最大值。因此，变量现在将采用从0到1的值(而不是在l_m的情况下从3 3mm到4.5 3mm)。当然，我必须修改我的目标函数，将其转换回正确的值，然后进行计算。
我的问题是:像fmincon这样的优化函数是否关心输入变量是否被规范化？由于正常化而期望
浏览 0提问于2012-09-11得票数 5
回答已采纳
我正在设计一种新的算法，需要部分运行EM算法。我正在使用MATLAB的(R2015b)优胜劣汰。
我观察到(1)同时运行大量迭代和(2)逐个运行相同次数的迭代所获得的解决方案之间的差异。请注意，两个版本都使用相同的起点，复制的数量被保留为1(默认)，RegularizationValue被留作默认值(0)。
那么，这种差异是从何而来呢？
下面是演示这个问题的代码：
mu1 = [1 1];
Sigma1 = [2 0; 0 0.5];
mu2 = [1 -1];
Sigma2 = [1 0;0 1];
rng(20); % For reproducibility
X = [mvnrnd(mu1
浏览 2提问于2016-05-21得票数 1
回答已采纳
1回答
用级数确定二重的平方根
、、、
问题是：
使用下面的近似公式，编写一个返回实数平方根的函数或方法！使用序列xk + 1 = 1/2 * (xk +a/ xk)，如果x1 =1，则该序列收敛到“a”实际参数的平方根。
我的解决方案类似，但没有使用这个公式：
public static double squareRoot(double a) {
double k;
double root = a / 2;
do {
k = root;
root = 0.5*(k+ (a / k));
} while ((k - root) != 0);
ret
浏览 4提问于2020-02-09得票数 0
回答已采纳
从我的背景来看，我理解有一个学习速率(α)的目的是将梯度的大小(▽J)标准化，这样步长就可以适当地收敛到局部极小值。
由于α是任意的，所以我们必须找到最佳的超参数学习速率(α)。
也许，当我们将梯度归一化为一个单位向量时，我们不必对其进行超参数调整，在这个单位向量中，梯度的大小总是1。
传统的梯度下降：
w:=w −α▽J
我的梯度下降：
w:=w −▽J/||▽J||
再次，回到我的问题，我不明白为什么梯度下降的变体没有我的想法。将梯度归一化为单位向量
ps。我推测，当梯度的幅度极低时，我的梯度下降可能不能很好地工作，并且可能会发散到inf。
浏览 0提问于2022-07-05得票数 1
1回答
Adagrad采用梯度下降过程中的学习速率\alpha ，将每个权重除以上一次平方梯度到时间t 的总和。因此，对于不频繁的数据样本，更新将是很大的，对于频繁的数据样本，更新将是一个非常适合稀疏数据的算法。
\boxed{W^{(i+1)}=W^{(i)}-\frac{\alpha}{\sqrt{G_{i}+\varepsilon}} \odot \nabla_{W} L\left(W^{(i)}\right)}
\underline{where:}
G_{i} 是大小为\mathbb{R}^{F+1,F+1} 的对角线矩阵，在每条对角线中包含参数w_{i} 的平方梯度之和，直到时间
浏览 0提问于2023-03-13得票数 0
1回答
问:我有一个X函数，我想找出最大化X(y)的值y。
set.seed(8)
A <- seq (1:20)
B <- c(0,rbinom(18,1,0.5),1)
X <- function (y) {
fx <- prod(1*B-pnorm(A-y)*(-1)^B)
fx
}
X(10)
[1] 3.615998e-40
X(11)
[1] 5.624095e-53
我知道我可以通过X(0)循环到X(20)，但这非常耗时。有没有更聪明的方法来做我想要的？
浏览 0提问于2016-10-16得票数 1
1回答
我想解决
min f(x) s.t. x in X
哪里
1) f(x)有一个以上的局部最小值
2) f(x)是光滑的，可以计算f(x)的梯度。
3) X是R的紧子集
我使用MultiStart在MatLab中寻找f(x)的所有局部极小值。根据关于GlobalSearch和MultiStart的比较，在我看来，我们可以使用MultiStart找到所有的局部极小值。但是，当我运行一个简单的测试函数时，MultiStart只输出全局最小值和全局最小值。我的问题是:使用MultiStart，我如何获得所有的最小值？
我的例子是f(x) = x^4 - x^2 + 1和X=[-10,10]。在X上，f
浏览 0提问于2016-09-28得票数 1
回答已采纳
我有以下积分
x,x1,x2,t=symbols('x x1 x2 t')
f=t*x1*x2*(x-t)**(-Rational('0.5'))
integrate(f,t).simplify()
结果是一个分段函数。
Piecewise((2*sqrt(x)*x1*x2*(-I*t**2*sqrt((t - x)/x) - I*t*x*sqrt((t - x)/x) + 2*t*x + 2*I*x**2*sqrt((t - x)/x) - 2*x**2)/(3*(t - x)), Abs(t/x) > 1), (2*sqrt(x)*x1*x2*(-t*
浏览 0提问于2018-03-08得票数 1
回答已采纳
1回答
最近，我实现了自己的神经网络(使用不同的指南，但主要来自)，以供将来使用(我打算在我开发的OCR程序中使用它)。目前我正在测试它，我遇到了这个奇怪的问题。
每当我给我的网络一个训练示例时，该算法就会以一种导致期望输出的方式改变权重。然而，经过几个训练示例之后，权重就变得混乱了--使网络对某些输出很好地工作，并使它对其他输出产生错误(即使我输入了训练示例的输入，就像它一样)。
如果有人能看到这个问题，我会很感激。以下是计算神经元误差和调整重量的方法-
private static void UpdateOutputLayerDelta(NeuralNetwork Network, Lis
浏览 1提问于2013-12-01得票数 1
回答已采纳
1回答
我有一个函数返回一个双。下面的代码清单是我用于测试的一个示例，但真正的函数将从数据集的分析中提取出来。
public double f(double x)
{
return (100000 - x) / 15000;
}
可以假定较高的x值总是返回较低的值，因此当x接近于0时，返回的值可能会增加，但可能始终保持在0。
X的值总是正数。
我希望能够找到f(x)的最低值，即当提供给定的最小值和最大值时，f(X)是>=到7(精度只对0.001起重要作用)。在上面的例子中，我使用100000作为最大值，1作为最小值。
这是二进位搜索的好人选，还是有更好的选择？
浏览 3提问于2014-05-13得票数 1
回答已采纳
3回答
梯度下降收敛
、、
我是数学和计算机专业的双学位，对机器学习感兴趣。我目前正在选修安德鲁教授的热门课程。他在谈论和解释梯度下降，但我不能不注意到一些事情。以我的数学背景，我知道如果我试图找到函数的全局最小/最大值，我必须首先找到所有的临界点。这门课程讨论的是GD的收敛性，但它真的能保证收敛到全球最小值吗？我怎么知道它不会卡在马鞍上？做一次二阶导数测试不会更安全吗？如果我的函数是可微的，它似乎是合理的，它收敛到一个局部最小值，而不是全局最小值。我试图寻找一个更好的解释，但似乎每个人都认为这是理所当然的，毫无疑问。有人能给我指明正确的方向吗？
浏览 0提问于2019-03-26得票数 1
每当我尝试使用Sympy来集成我的函数时，它不会计算它，而只是返回乘以1.0的输入。
下面是我的代码：
import sympy as sp
a = sp.Symbol('a')
Ωm = 0.31
Ωr = 9*(10**(-5))
ΩΛ = 0.69
Ω0 = Ωm + Ωr + ΩΛ
I = sp.integrate(((Ωm*a**(-1)) + (Ωr*a**(-2)) + (ΩΛ*a**(2)) + (1-Ω0))**(-0.5),a)
print(I)
这是我得到的答案：
1.0*Integral((0.69*a**2 - 8.99999999999235
浏览 0提问于2017-10-21得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
