DL基石-神经网络简易教程

2020-06-18 10:50

在这篇文章中，我们将去学习神经网络的基础知识。

本篇文章的学习需要对机器学习有着基本理解，如果你学习过一些机器学习算法，那就更好了。首先简单介绍一下人工神经网络，也叫ANN。很多机器学习算法的灵感来自于大自然，而最大的灵感来自我们的大脑，我们如何思考、学习和做决定。有趣的是，当我们触摸到热的东西时，我们身体里的神经元会将信号传递给大脑的，然后大脑会产生让我们从热的区域撤退的反应。我们可以根据经验来进行训练，根据我们的经验，我们开始做出更好的决定。使用同样的类比，当我们向神经网络发送一个输入（触摸热物质），然后根据学习（先前的经验），我们产生一个输出（从热区域退出）。在未来，当我们得到类似的信号（接触热表面），我们可以预测输出（从热区退出）。假设我们输入了诸如温度、风速、能见度、湿度等信息，以预测未来的天气状况——下雨、多云还是晴天。这可以表示为如下所示。

让我们用神经网络来表示它并理解神经网络的组成部分。神经网络接收输入，通过使用激活函数改变状态从而转换输入信号，进而产生输出。输出将根据接收到的输入、强度（如果信号由权值表示）和应用于输入参数和权值的激活而改变。神经网络与我们神经系统中的神经元非常相似。

x1、x2、…xn是神经元向树突的输入信号，在神经元的轴突末端会发生状态改变，产生输出y1、y2、…yn。以天气预报为例，温度、风速、能见度和湿度是输入参数，然后神经元通过使用激活函数对输入施加权重来处理这些输入，从而产生输出，这里预测的输出是晴天、雨天或阴天的类型。

那么，神经网络的组成部分是什么呢神经网络会有输入层，偏置单元。一个或多个隐藏层，每个隐藏层将有一个偏置单元输出层与每个连接相关的权重将节点的输入信号转换为输出信号的激活函数输入层、隐含层和输出层通常称为全连接层

这些权值是什么，什么是激活函数，这些方程是什么？让我们简化一下权重是神经网络学习的方式，我们调整权重来确定信号的强度。权重帮助我们得到不同的输出。例如，要预测晴天，温度可能介于宜人到炎热之间，晴天的能见度非常好，因此温度和能见度的权重会更高。湿度不会太高，否则当天会下雨，所以湿度的重量可能会小一些，也可能是负的。风速可能与晴天无关，它的强度要么为0，要么非常小。我们随机初始化权重（w）与输入（x）相乘并添加偏差项（b），所以对于隐藏层，会先计算z，然后应用激活函数。我们称之为前向传播。方程可以表示如下，其中为层的编号，对于输入层。