深度学习三、深度学习兴起

近年来，深度学习和神经网络迅速兴起，本文简述了，这两项技术兴起的主要原因：

1.神经网络与深度学习（neural networks and deep learning）

上图中，纵轴代表机器算法的性能，横轴代表完成任务的数据量。橙色线表示传统机器学习算法，这些算法，无法处理海量数据，因此在数据量巨大时出现了瓶颈期。而神经网络深度学习则会随着模型的变大，和数据的增加，而有更好的表现。

在数据量较小时，深度学习训练，主要依赖的是手工设计，此时的学习效果与传统算法的区别不明显。在数据量较大时，神经网络的表现远优于传统算法，而且神经网络模型的复杂度设计越越高，则深度学习的效果越好。

2.数据、算法与深度学习（data and computation and deep learning）

上图中，算法的变化：数据量变大时，ReLU的速度明显快于sigmoid，两个函数的斜率为学习速度。而且，计算能力越强，验证算法的速度越快。这样，即时面对大量的数据和大规模的神经网络，也能快速的完成学习训练，验证结果，以便进行下次迭代。

综上所述，神经网络的应用和大数据的采集以及算法的更新导致了深度学习的兴起。