首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

使用sigmoid激活的python中从头开始的神经网络

从头开始构建神经网络是指使用基本的数学运算和编程语言来实现神经网络的各个组件,而不依赖于现有的深度学习框架。在Python中,我们可以使用sigmoid激活函数来构建一个简单的神经网络。

首先,我们需要导入所需的库:

代码语言:python
代码运行次数:0
复制
import numpy as np

接下来,我们定义一个sigmoid函数,它将输入的值映射到0和1之间:

代码语言:python
代码运行次数:0
复制
def sigmoid(x):
    return 1 / (1 + np.exp(-x))

然后,我们定义一个神经网络类,其中包含初始化函数、前向传播函数和反向传播函数:

代码语言:python
代码运行次数:0
复制
class NeuralNetwork:
    def __init__(self, input_size, hidden_size, output_size):
        self.input_size = input_size
        self.hidden_size = hidden_size
        self.output_size = output_size
        
        # 初始化权重和偏置
        self.W1 = np.random.randn(self.input_size, self.hidden_size)
        self.b1 = np.zeros((1, self.hidden_size))
        self.W2 = np.random.randn(self.hidden_size, self.output_size)
        self.b2 = np.zeros((1, self.output_size))
        
    def forward(self, X):
        # 前向传播
        self.z1 = np.dot(X, self.W1) + self.b1
        self.a1 = sigmoid(self.z1)
        self.z2 = np.dot(self.a1, self.W2) + self.b2
        self.a2 = sigmoid(self.z2)
        return self.a2
    
    def backward(self, X, y, learning_rate):
        # 反向传播
        m = X.shape[0]
        
        # 计算输出层的误差
        self.delta2 = self.a2 - y
        
        # 计算隐藏层的误差
        self.delta1 = np.dot(self.delta2, self.W2.T) * (self.a1 * (1 - self.a1))
        
        # 更新权重和偏置
        self.W2 -= learning_rate * np.dot(self.a1.T, self.delta2) / m
        self.b2 -= learning_rate * np.sum(self.delta2, axis=0, keepdims=True) / m
        self.W1 -= learning_rate * np.dot(X.T, self.delta1) / m
        self.b1 -= learning_rate * np.sum(self.delta1, axis=0, keepdims=True) / m

最后,我们可以使用这个神经网络来训练和预测数据:

代码语言:python
代码运行次数:0
复制
# 创建神经网络对象
nn = NeuralNetwork(input_size=2, hidden_size=3, output_size=1)

# 定义输入和标签数据
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
y = np.array([[0], [1], [1], [0]])

# 训练神经网络
for i in range(10000):
    nn.forward(X)
    nn.backward(X, y, learning_rate=0.1)

# 预测新数据
new_data = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
predictions = nn.forward(new_data)
print(predictions)

这是一个简单的使用sigmoid激活函数的神经网络示例。在实际应用中,我们可以根据具体的问题和数据集来调整网络的结构和参数,以获得更好的性能。

关于腾讯云相关产品和产品介绍链接地址,可以参考腾讯云官方文档或咨询腾讯云客服获取更详细的信息。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

  • 机器学习(五)使用Python和R语言从头开始理解和编写神经网络介绍目录神经网络背后的直观知识多层感知器及其基础知识什么是激活函数?前向传播,反向传播和训练次数(epochs)多层感知器全批量梯度下降

    本篇文章是原文的翻译过来的,自己在学习和阅读之后觉得文章非常不错,文章结构清晰,由浅入深、从理论到代码实现,最终将神经网络的概念和工作流程呈现出来。自己将其翻译成中文,以便以后阅读和复习和网友参考。因时间(文字纯手打加配图)紧促和翻译水平有限,文章有不足之处请大家指正。 介绍 你可以通过两种方式学习和实践一个概念: 选项1:您可以了解一个特定主题的整个理论,然后寻找应用这些概念的方法。所以,你阅读整个算法的工作原理,背后的数学知识、假设理论、局限,然后去应用它。这样学习稳健但是需要花费大量的时间去准备。

    05

    机器学习(三)使用Python和R语言从头开始理解和编写神经网络介绍目录神经网络背后的直观知识多层感知器及其基础知识什么是激活函数?前向传播,反向传播和训练次数(epochs)多层感知器全批量梯度下降

    本篇文章是原文的翻译过来的,自己在学习和阅读之后觉得文章非常不错,文章结构清晰,由浅入深、从理论到代码实现,最终将神经网络的概念和工作流程呈现出来。自己将其翻译成中文,以便以后阅读和复习和网友参考。因时间(文字纯手打加配图)紧促和翻译水平有限,文章有不足之处请大家指正。 介绍 你可以通过两种方式学习和实践一个概念: 选项1:您可以了解一个特定主题的整个理论,然后寻找应用这些概念的方法。所以,你阅读整个算法的工作原理,背后的数学知识、假设理论、局限,然后去应用它。这样学习稳健但是需要花费大量的时间去准备。 选

    07

    神经网络中的激活函数-tanh为什么要引入激活函数tanh的绘制公式特点图像python绘制tanh函数相关资料

    为什么要引入激活函数 如果不用激励函数(其实相当于激励函数是f(x) = x),在这种情况下你每一层输出都是上层输入的线性函数,很容易验证,无论你神经网络有多少层,输出都是输入的线性组合,与没有隐藏层效果相当,这种情况就是最原始的感知机(Perceptron)了。 正因为上面的原因,我们决定引入非线性函数作为激励函数,这样深层神经网络就有意义了(不再是输入的线性组合,可以逼近任意函数)。最早的想法是sigmoid函数或者tanh函数,输出有界,很容易充当下一层输入(以及一些人的生物解释balabal

    02
    领券