神经网络是一个由生物神经元组成的网络或电路,或者从现代意义上讲,是一个由人工神经元或节点组成的人工神经网络。因此,一个神经网络要么是由生物神经元组成的生物神经网络,要么是用于解决人工智能(AI)问题的人工神经网络。
一个生物神经网络是由一组化学上相连或功能上相关的神经元组成。一个神经元可能与许多其他神经元相连,网络中的神经元和连接的总数可能很广泛。连接,称为突触,通常是从轴突到树突形成的,尽管树突和其他连接是可能的。除了电信号外,还有其他形式的信号,这些信号来自于神经递质的扩散。人工智能、认知建模和神经网络是受生物神经系统如何处理数据启发的信息处理范式。人工智能和认知建模试图模拟生物神经网络的一些特性。在人工智能领域,人工神经网络已被成功应用于语音识别、图像分析和自适应控制,以构建软件代理(在计算机和视频游戏中)或自主机器人。从历史上看,数字计算机是从冯-诺依曼模型演化而来的,通过一些处理器对内存的访问来执行明确的指令而运作。另一方面,神经网络的起源是基于对生物系统中信息处理的建模努力。与冯-诺依曼模型不同,神经网络计算并没有将记忆和处理分开。神经网络理论有助于更好地确定大脑中的神经元如何运作,并为创造人工智能的努力提供基础。
生物神经元的连接在人工神经网络中被建模为节点之间的权重。正的权重反映了兴奋性连接,而负值意味着抑制性连接。所有的输入都被一个权重修改并加总。这种活动被称为线性组合。最后,一个激活函数控制输出的振幅。例如,可接受的输出范围通常在0和1之间,也可以是-1和1。这些人工网络可用于预测建模、自适应控制和可通过数据集进行训练的应用。经验导致的自我学习可以在网络中发生,它可以从复杂的、看似不相关的信息集中得出结论。
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??图1?
?
输入层是神经网络的第一层,它负责接收外部输入的数据。在选择输入层的神经元数量时,需要根据实际问题的特点来确定。通常,输入层的神经元数量与输入数据的特征数量相对应。例如,在图像分类问题中,输入层神经元数量可以等于图像的像素数量。另外,输入层的神经元之间的连接方式也是需要注意的问题。通常采用全连接的方式,即每个神经元都与前一层的所有神经元相连。但在一些特殊情况下,也可以采用部分连接的方式,以减少连接的数量,提高模型的泛化能力。
隐藏层(中间层)是神经网络的核心部分,它对输入数据进行处理和传递。中间层的数量和结构可以根据具体问题的复杂程度和特点来定制。在中间层中,每个神经元都接收来自前一层神经元的输入,并将输出传递给下一层神经元。因此,中间层的神经元之间的连接方式也非常重要。常见的连接方式包括全连接、稀疏连接和自连接等。此外,中间层的神经元通常采用激活函数来引入非线性因素,使神经网络能够更好地学习和表示复杂的模式。
最后是输出层,它是神经网络的最后一层,负责将中间层的输出结果转化为所需的输出结果。输出层的神经元数量可以根据具体问题的需求来确定。例如,在分类问题中,输出层的神经元数量通常等于分类的类别数量。输出层的激活函数也是非常重要的,因为它决定了输出结果的形式和含义。
神经网络的各个层在模型的学习和预测中都具有非常重要的地位。输入层负责数据的接收和预处理,中间层负责对数据的深度处理和特征学习,而输出层则负责将处理后的数据转化为有意义的预测结果。通过合理地设计神经网络的结构和参数,可以有效地解决各种复杂的问题,这也是神经网络成为当今机器学习领域的重要原因之一。
?
目前,已有近40种神经网络模型,其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据不同的拓扑结构去区分,下面先了解最简单的模型。
?
网络中各个神经元接受前一级的输入,并输出到下一级,网络中没有反馈,可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换,它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单,易于实现。反传网络是一种典型的前向网络。
?