对于深度学习，使用激活relu，输出在训练期间变为NAN，而使用tanh是正常的

深度学习是一种机器学习的方法，通过构建多层神经网络模型来解决复杂的模式识别和预测问题。在深度学习中，激活函数是神经网络中的一个重要组成部分，用于引入非线性特性，增强模型的表达能力。

激活函数relu（Rectified Linear Unit）是一种常用的激活函数，它将负值设为0，正值保持不变。relu函数的优势在于计算简单，且在训练过程中能够有效地缓解梯度消失问题，加速模型的收敛速度。然而，当使用relu作为激活函数时，有时会出现输出变为NAN（Not a Number）的情况。

输出变为NAN的原因可能是由于梯度爆炸或梯度消失导致的数值溢出或下溢。当网络的权重参数过大或过小时，梯度在反向传播过程中可能会变得非常大或非常小，从而导致数值溢出或下溢，进而使得输出变为NAN。

相比之下，激活函数tanh（双曲正切函数）在训练期间通常是正常的。tanh函数将输入值映射到-1, 1的范围内，具有较好的非线性特性。它相对于relu函数来说，能够更好地处理负值的情况，因此在某些情况下，使用tanh作为激活函数可以避免输出变为NAN的问题。

对于解决输出变为NAN的问题，可以尝试以下几种方法：

1. 使用更小的学习率：减小学习率可以降低梯度的大小，从而减少梯度爆炸或梯度消失的可能性。
2. 使用梯度裁剪（Gradient Clipping）：通过限制梯度的范围，防止梯度爆炸的发生。
3. 使用其他激活函数：尝试其他的激活函数，如Leaky ReLU、ELU等，以寻找更适合当前问题的激活函数。
4. 检查数据预处理：确保输入数据的范围合理，避免数据过大或过小。
5. 检查网络结构：检查网络结构是否合理，是否存在梯度消失或梯度爆炸的情况。

腾讯云提供了一系列与深度学习相关的产品和服务，包括云服务器、GPU实例、弹性GPU、深度学习平台等。您可以通过腾讯云官方网站了解更多相关产品和服务的详细信息：腾讯云深度学习产品。