神经网络结构

【2023-3-9】深度学习Top10算法

自2006年深度学习概念被提出以来，20年快过去了，深度学习作为人工智能领域的一场革命，已经催生了许多具有影响力的算法

神经网络架构变化

神经网络经历多次变化

(1) 第一代经网络：McCulloch–Pitt 感知机
- 它仅由输入和输出组成，第一个神经元的计算模型是由 Warren MuCulloch（神经科学家）和Walter Pitts（逻辑学家）在1943年提出的。执行阈值运算并输出数字（0，1）。
- 由于其简单的结构，导致无法解决非线性问题。
(2) 第二代神经网络：第二代神经网络解决了非线性的问题，包括添加了隐藏层，激活函数（例如sigmoid或ReLU增加了连续非线性），基于反向传播机制（back propagation）使其能够计算一组连续的输出值。第二代神经网络也是目前使用的最广泛的网络算法，目前所有的主流深度神经网络DNN，都属于第二代网络。
- 典型的二代神经网络：多层感知机 MLP（MultiLayer Perceptron）
(3) 第三代神经网络：通过“整合放电”（integrate-and-fire）机制进行数据传递的尖峰神经元，通过脉冲交换信息，因此称为脉冲神经网络（SNN）。
- 第二代和第三代神经网络之间最大的区别: 信息处理性质。
- 第二代神经网络使用了实值计算(real-value)（例如，信号振幅）
- 而SNN则使用信号的时间（脉冲）处理信息。
- SNNs 神经元只有在接收或发出尖峰信号时才处于活跃状态，因此它是事件驱动型的，因此可以使其节省能耗。

SNN 冲神经网络增加了时间维度，有利于持久学习不遗忘, SNN以脉冲形式，或进制进行学习，更节省能耗

SNN 脉冲神经网络

【2022-6-21】第三代神经网络初探：脉冲神经网络（Spiking Neural Networks）

通过“整合放电”（integrate-and-fire）机制进行数据传递的尖峰神经元，通过脉冲交换信息，因此称为脉冲神经网络（SNN）。

ANN vs SNN

第二代和第三代神经网络最大的区别:信息处理性质。

第二代神经网络使用了实值计算(real-value)（例如，信号振幅），而SNN则使用信号的时间（脉冲）处理信息。

SNNs 经元单元只有在接收或发出尖峰信号时才处于活跃状态，因此它是事件驱动型的，因此可以使其节省能耗。

SNN 脉冲神经网络增加了时间的维度，有利于持久学习不遗忘
SNN 以脉冲形式，以二进制进行学习，更节省能耗

SNN 是由海德堡大学和伯尔尼大学的研究人员首次提出，作为一种快速和节能的技术，使用尖峰神经形态基质进行计算。

与第二代对比

a) 传统 ANN 神经元网络，对所有权重求和输出；
b)SNN 脉冲神经网络，神经元在时间维度上积累脉冲，达到阈值之后输出

维度	ANN	SNN	分析
工作原理	所有权重加权求和	部分神经元时间上积累脉冲
数值类型	连续实值计算	离散二进制脉冲
作用维度	空间	时间	SNN与生物神经元惊人相似，但行为不同
仿生程度	一般	更高

除了神经元和突触状态外，SNNs还将时间纳入其工作模型。

SNN中的神经元不会在每个传播周期结束时传输信息（例如传统的MLP多层感知器网络），而是只有当膜电位 —— 一个神经元与其膜电荷有关的内在质量–达到某个值，即所谓的阈值时才会传输信息。当膜电位达到阈值时，神经元就会发射，向相邻的神经元发送信号，相邻的神经元根据信号增加或减少其电位。

SNN与生物神经元惊人相似，但行为不同

SNN只有一般的通用结构，没有特异化结构
生物神经元并不直接传递冲动。为了进行交流，必须在突触间隙中交换称为神经递质的化学物质
计算与学习规则

SNN 原理

与ANN擅长处理持续变化的时间值相比，SNN主要应用在处理在规定时间发生的离散事件。

SNN 将一组尖峰作为输入，并产生一组尖峰作为输出（一系列的尖峰通常被称为尖峰序列）。

构建SNN的整体步骤

每个神经元都有一个值，相当于生物神经元在任何时候的电势。
一个神经元的值可以根据其数学模型而改变；例如，如果一个神经元从上游神经元得到一个尖峰，其值可能会上升或下降。
如果一个神经元的值超过了某个阈值，该神经元将向与第一个神经元相连的每个下游神经元发送一个脉冲，而该神经元的值将立即下降到其平均值以下。
因此，该神经元将经历一个类似于生物神经元的折返期。随着时间的推移，该神经元的值将逐渐恢复到其平均值。

人工尖峰神经网络被设计用来做神经计算。

对于计算来说，重要的变量必须以尖峰神经元交流的方式来定义。

SNN 网络架构

SNN 结构中，尖峰神经元和连接突触是由可配置的标量权重描述的。

模拟输入数据通过基于速率、时间或其他技术被编码成尖峰序列，作为构建SNN的初始阶段。

相比于大脑中的生物神经元（以及模拟的尖峰神经元）从神经网络中的其他神经元获得突触输入。动作电位的产生和网络动态都存在于生物脑网络中。

与实际的生物网络相比，人工SNN的网络动力学要简化很多。

在这种情况下，假设建模的尖峰神经元具有纯粹的阈值动力学（相对于折射、滞后、共振动力学或抑制后反弹的特征），当突触后神经元的膜电位达到阈值时，突触前神经元的活动会影响突触后神经元的膜电位，从而产生动作电位或尖峰。

SNN 学习过程

几乎所有的ANN中，不管是尖峰还是非尖峰，都是通过改变标量值的突触权值来实现学习的。

脉冲机制允许复制一种在非加速网络中不可能实现的生物可信的学习规则。这种学习规则的许多变体已被神经科学家们在总括为术语： “尖峰时间依赖的可塑性”（spike-timing-dependent plasticity，STDP）。

主要特点: 突触前和突触后神经元的权重（突触效能，synaptic efficacy）能够根据它们在几十毫秒时间间隔内的相对尖峰时间而改变。权重的调整是基于突触局部和时间局部的信息。

无监督学习：检测非标签数据中的统计相关性，并做出相应的反应（分类，聚类）达成目标。其中，SNN适用于Hebbian learning和尖峰泛化，并识别相应的相关性。
- Hebbian learning，活动依赖的突触可塑性，突触前和突触后神经元的相关激活导致两个神经元之间的联系加强。这种学习方法表明，如果神经网络中的神经元经常一起为该网络的特定输入而兴奋，则它们之间会形成更强的连接。
- STDP被定义为一个过程，如果突触后的神经元在突触前的神经元发射脉冲后不久就激活，那么突触后的神经元就会加强突触的权重，如果突触后的神经元发射较晚，那么突触的权重就会减弱。另一方面，这种传统形式的STDP仅仅是STDP众多生理形式中的一种。
监督学习
- 数据（输入）伴随着标签（目标），学习的目的是将（类）输入与目标输出相关联（输入与输出之间的映射或回归）。目标和实际输出之间的误差信号脉冲被进行计算，并被用来更新网络的权重。监督学习允许我们使用目标来直接更新参数。强化学习为我们提供了一个通用的错误信号（”奖励”），从而反映系统的运作情况。在实践中，这两种监督学习的界限是模糊的。在这方面，SNN的训练模式与第二代神经网络并无太大区别。

信息编码

基于生物学知识，人们提出了各种神经元信息编码。

二进制编码（Binary Coding）

二进制编码是一种全有（1）或全无（0）的编码，其中一个神经元在一个特定的时间间隔内要么活跃，或不活跃，在整个时间范围内发射一个或多个尖峰。这种编码的原因是：在生理机制中，神经元在接受输入（感觉刺激，如光或外部电输入）时倾向于类似的激活机制。

单个神经元可以从这种二进制抽象中获益，因为它们被描绘成只能接受两个开/关值的二进制单元。它也可以应用于对目前尖峰神经网络的尖峰序列的解释，在尖峰序列分类中采用了对输出尖峰序列的二进制解释。

速率编码（Rate Coding）

在速率编码中，间隔中的尖峰速率被用作信息交流的尺度。这是从尖峰的时间性质中抽象出来的。在生物上的神经元对于较强的（感觉或人工）刺激会更频繁地释放脉冲，这一事实促使了速率编码。

它可以在单神经元水平上使用，也可以再次用于解释尖峰序列。在第一种情况下，神经元被直接描述为速率神经元，它在每个时间步长将实值输入数字 “速率 “转换成输出 “速率”。在技术背景和认知研究中，速率编码一直是传统的人工 “Sigmoidal”神经元的概念，即拥有非线性激活函数的神经元。

完全时间性编码（Fully Temporal Coding）

一个完全时间性的编码取决于所有尖峰的精确时间。来自神经科学的证据表明，尖峰的时间可以非常精确，并具有高度的可重复性。其中，时序与全时空代码中的某个（内部或外部）事件有关（如刺激的开始或参考神经元的尖峰）。

延迟编码（Latency Coding）

延迟编码利用了尖峰出现的时间，但没有使用尖峰的数量。一个特定的（内部或外部）事件和第一个尖峰之间的延迟被用来编码信息。这种编码已被用于无监督和有监督的学习方法，如SpikeProp和Chronotron等。关于刺激的信息是按照一个组内的神经元产生其第一个尖峰的顺序来编码的，这与等级顺序编码密切相关。

SNN 分析

SNNs 理论上与标准ANNs 应用场景同。

目前，SNNs主要应用领域还是在脑科学与认知科学中，用于了解生物动物的中枢神经系统，如昆虫在陌生环境中寻找食物。
由于SNNs的相似性，它们可以被用来研究生物大脑网络的运作：从一个关于真实神经回路的拓扑结构和功能的假设开始，该回路的记录可以与适当的SNN的输出进行比较，以评估该假设的合理性。
然而，SNNs缺乏足够合适的训练过程，这在特定的应用中可能是一个障碍，如计算机视觉。

优点

SNN是一个动态系统。因此，它在动态过程中表现出色，如语音和动态图片识别
当一个SNN已经在工作时，它仍然可以继续进行学习
训练一个SNN时，只需要训练输出神经元
然而，SNN通常相较ANN有更少的神经元
由于神经元发送脉冲而不是连续的值，利用了信息的时间呈现，SNNs提高了信息处理的效率和抗噪音能力，可以高效的运作，并相比于ANN，消耗更少的能量

缺点

SNNs训练过程比较困难
到目前为止，还没有专门为这项任务建立的学习算法
目前，建立一个小型的SNN并不实用

观点

【2025-1-6】知乎评论

从业者，这条路好难啊，目前活的大多是用SNN实现ANN的算法，极少lab从神经学角度走SNN的路，不然也不会让Hopfield这么老的理论拿诺贝尔。估计做DL的年轻人很多不知道Hopfield net是什么或者跟AI有什么联系。

SNN的training到处都是坑，往深里说符号系统本身还有很多很基层的理解不到位。马上博士毕业都没找到下家，不知道这辈子过了这一段还能不能继续做这方面的研究了，我和老大都认为这是正确的路，但同时我们对此生能看到SNN大爆发保持悲观。

推荐有限的生命别搞这个，让已经拿到教职的老大们偶尔水水paper维持群体记忆就好

SNN作为最契合生物的模型，在training方面Hebbian/STDP，或者Likelihood/Rate based的各种变种，再加上各种compensation/normalization，打榜的lab还是很多的，各种95-99%的成功率。

但问题是在这些训练在根本上是有问题的：人脑里面对classification的实现方式不是SOM或者Hopfield这种一网多能，而是content based的winner take all，比方说假设学会了识别苹果和犁，人脑可能让这部分参与识别猕猴桃，但不会让他去参与识别皮卡，让SNN学习的结果不是看成功率，更重要的是学习完了之后打开模型看形成了哪些cluster，这些cluster后续怎么用，看和人脑的数据是不是契合。15年Cook的文章敲开了SNN成功率的大门，至少Cook也开盒看了clustering的情况，解释不了太多东西但还算契合SNN的意义，后续的研究基本到成功率就结束了，感觉根本没必要用SNN。用SNN的目的是去探究本质上人脑是怎么represent各种content，如何用细胞实现content based memory。

回到苹果的问题，对人来说根本不会单独解决识别问题。远远看到一个有盖子的半透明果盘，里面隐约有3个红色的圆果，再加上想起最近家里有人买了苹果，多数可以认定他是苹果。人脑擅长组合分类，这里面重要的是组合而不是分类。分类只是智能的一小部分，如何从分类形成认知，从认知组合形成包含时间和历史的再现，从各种再现再扩展才是智能的一大步。期待着走DL的路走出content based memoy是不可能的。而研究SNN representation的lab大多是走neuroscience，不太走computational的路线，所以也谈不上训练什么的

社会认知影响智能发展是一种假设，多年前一个朋友也是持这个想法，但这个假设是错的。有很多反例：我们的听觉，味觉都是很具象的，不带有社会属性，也不需要太多调教和互动的认知体系。普通人可以很轻松的培养出很相似的听觉味觉能力。在组合认知的层次的智能和互动没关系，社会互动只是会加速这个学习的进程，而不是根本上改变学习的能力。只要在critical period给足够的刺激，人所谓的智商在5岁已经基本开发完成了。剩下的只是在往脑子里填料用后天努力去制造更快的运算通路让人显得更高效。

社会认知理论是个很靠谱的心理学方向，这就是另一个话题了

进化神经网络

LNDP

【2024-7-8】神经网络也能生娃了？这帮疯狂科学家搞出了会自我繁殖的AI

哥本哈根IT大学推出 “终身神经发育程序”（Lifelong Neural Developmental Programs，简称LNDP）

【2023-7-17】《进化自组装神经网络：从自发活动到经验依赖学习》
Towards Self-Assembling Artificial Neural Networks through Neural Developmental Programs
LNDP是建立在神经发育程序（NDP）基础上，NDP像AI界的”生娃指南”，告诉你如何从一个单细胞受精卵长成一个成熟的神经网络。
而LNDP则更进一步，不仅能生还能养，让这些”AI娃娃”不断成长，不断适应新环境。
LNDP还能搞”自发活动”
LNDP还能进行”突触和结构可塑性”

NDP跟遗传算法或进化算法（比如NEAT/HyperNEAT）有啥区别？是不是后者一旦创建就固定了，而NDP可以在使用过程中持续发展？

NDP就像是一个永远长不大的彼得潘，而 NEAT/HyperNEAT 则更像是一个一次性的速成班。
NDP可在”使用”过程中不断调整自己，像一个边打游戏边学习的孩子，而NEAT/HyperNEAT则是一次性把所有技能点都加满，然后就固定不变了。

1、深度神经网络（DNN）

背景

背景：

深度神经网络（DNN）也叫多层感知机，最普遍的深度学习算法
发明之初由于算力瓶颈而饱受质疑，直到近些年算力、数据的爆发才迎来突破。

模型原理

模型原理：

一种包含多个隐藏层的神经网络。
每一层都将其输入传递给下一层，并使用非线性激活函数来引入学习的非线性特性。通过组合这些非线性变换，DNN能够学习输入数据的复杂特征表示。

模型训练

模型训练：

使用反向传播算法和梯度下降优化算法来更新权重。
训练过程中，通过计算损失函数关于权重的梯度，然后使用梯度下降或其他优化算法来更新权重，以最小化损失函数。

分析

优缺点

优点：能够学习输入数据的复杂特征，并捕获非线性关系。具有强大的特征学习和表示能力。
缺点：随着网络深度的增加，梯度消失问题变得严重，导致训练不稳定。容易陷入局部最小值，可能需要复杂的初始化策略和正则化技术。

使用场景：图像分类、语音识别、自然语言处理、推荐系统等。

代码

Python示例代码：

import numpy as np
from keras.models import Sequential
from keras.layers import Dense
# 假设有10个输入特征和3个输出类别  
input_dim = 10
num_classes = 3
# 创建DNN模型  
model = Sequential()
model.add(Dense(64, activation='relu', input_shape=(input_dim,)))
model.add(Dense(32, activation='relu'))
model.add(Dense(num_classes, activation='softmax'))
# 编译模型，选择优化器和损失函数  
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
# 假设有100个样本的训练数据和标签  
X_train = np.random.rand(100, input_dim)
y_train = np.random.randint(0, 2, size=(100, num_classes))
# 训练模型  
model.fit(X_train, y_train, epochs=10)

2、卷积神经网络（CNN）

模型原理

模型原理：

卷积神经网络（CNN）是一种专门为处理图像数据而设计的神经网络，由Lechun大佬设计的LeNet是CNN的开山之作。

CNN通过使用卷积层来捕获局部特征，并通过池化层来降低数据的维度。

卷积层对输入数据进行局部卷积操作，并使用参数共享机制来减少模型的参数数量。
池化层则对卷积层的输出进行下采样，以降低数据的维度和计算复杂度。

这种结构特别适合处理图像数据。

图见原文

模型训练

模型训练：

使用反向传播算法和梯度下降优化算法来更新权重。
训练过程中，通过计算损失函数关于权重的梯度，然后使用梯度下降或其他优化算法来更新权重，以最小化损失函数。

分析

优缺点

优点：有效地处理图像数据，并捕获局部特征。具有较少的参数数量，降低了过拟合的风险。
缺点：对于序列数据或长距离依赖关系可能不太适用。可能需要对输入数据进行复杂的预处理。

使用场景：图像分类、目标检测、语义分割等。

代码

Python示例代码

from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D, Flatten, Dense
# 假设输入图像的形状是64x64像素，有3个颜色通道  
input_shape = (64, 64, 3)
# 创建CNN模型  
model = Sequential()
model.add(Conv2D(32, (3, 3), activation='relu', input_shape=input_shape))
model.add(MaxPooling2D((2, 2)))
model.add(Conv2D(64, (3, 3), activation='relu'))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dense(num_classes, activation='softmax'))
# 编译模型，选择优化器和损失函数  
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
# 假设有100个样本的训练数据和标签  
X_train = np.random.rand(100, *input_shape)
y_train = np.random.randint(0, 2, size=(100, num_classes))
# 训练模型  
model.fit(X_train, y_train, epochs=10)

3、残差网络（ResNet）

背景

随着深度学习的快速发展，深度神经网络在多个领域取得了显著的成功。

然而，深度神经网络的训练面临着梯度消失和模型退化等问题，这限制了网络的深度和性能。

为了解决这些问题，残差网络（ResNet）被提出。

图见原文

模型原理

模型原理：

ResNet通过引入“残差块”来解决深度神经网络中的梯度消失和模型退化问题。

残差块由一个“跳跃连接”和一个或多个非线性层组成，使得梯度可以直接从后面的层反向传播到前面的层，从而更好地训练深度神经网络。

ResNet能够构建非常深的网络结构，并在多个任务上取得了优异的性能。

模型训练

模型训练：

ResNet 训练通常使用反向传播算法和优化算法（如随机梯度下降）。
训练过程中，通过计算损失函数关于权重的梯度，并使用优化算法更新权重，以最小化损失函数。
此外，为了加速训练过程和提高模型的泛化能力，还可以采用正则化技术、集成学习等方法。

分析

优缺点

优点：
- 解决了梯度消失和模型退化问题：通过引入残差块和跳跃连接，ResNet能够更好地训练深度神经网络，避免了梯度消失和模型退化的问题。
- 构建了非常深的网络结构：由于解决了梯度消失和模型退化问题，ResNet能够构建非常深的网络结构，从而提高了模型的性能。
- 多个任务上取得了优异的性能：由于其强大的特征学习和表示能力，ResNet在多个任务上取得了优异的性能，如图像分类、目标检测等。
缺点：
- 计算量大：由于ResNet通常构建非常深的网络结构，因此计算量较大，需要较高的计算资源和时间进行训练。
- 参数调优难度大：ResNet的参数数量众多，需要花费大量时间和精力进行调优和超参数选择。
- 对初始化权重敏感：ResNet对初始化权重的选择敏感度高，如果初始化权重不合适，可能会导致训练不稳定或过拟合问题。

使用场景：

ResNet在计算机视觉领域有着广泛的应用场景，如图像分类、目标检测、人脸识别等。此外，ResNet还可以用于自然语言处理、语音识别等领域。

代码

Python示例代码（简化版）：

简化版的示例中，演示如何使用Keras库构建一个简单的ResNet模型。

from keras.models import Sequential
from keras.layers import Conv2D, Add, Activation, BatchNormalization, Shortcut

def residual_block(input, filters):
    x = Conv2D(filters=filters, kernel_size=(3, 3), padding='same')(input)
    x = BatchNormalization()(x)
    x = Activation('relu')(x)
    x = Conv2D(filters=filters, kernel_size=(3, 3), padding='same')(x)
    x = BatchNormalization()(x)
    x = Activation('relu')(x)
return x

4、LSTM（长短时记忆网络）

背景

处理序列数据时，传统的循环神经网络（RNN）面临着梯度消失和模型退化等问题，这限制了网络的深度和性能。为了解决这些问题，LSTM被提出。

模型原理

模型原理：

LSTM通过引入“门控”机制来控制信息的流动，从而解决梯度消失和模型退化问题。LSTM有三个门控机制：输入门、遗忘门和输出门。输入门决定了新信息的进入，遗忘门决定了旧信息的遗忘，输出门决定最终输出的信息。通过这些门控机制，LSTM能够在长期依赖问题上表现得更好。

模型训练

模型训练：

LSTM的训练通常使用反向传播算法和优化算法（如随机梯度下降）。在训练过程中，通过计算损失函数关于权重的梯度，并使用优化算法更新权重，以最小化损失函数。此外，为了加速训练过程和提高模型的泛化能力，还可以采用正则化技术、集成学习等方法。

分析

优点：

解决梯度消失和模型退化问题：通过引入门控机制，LSTM能够更好地处理长期依赖问题，避免了梯度消失和模型退化的问题。
构建非常深的网络结构：由于解决了梯度消失和模型退化问题，LSTM能够构建非常深的网络结构，从而提高了模型的性能。
在多个任务上取得了优异的性能：由于其强大的特征学习和表示能力，LSTM在多个任务上取得了优异的性能，如文本生成、语音识别、机器翻译等。

缺点：

参数调优难度大：LSTM的参数数量众多，需要花费大量时间和精力进行调优和超参数选择。
对初始化权重敏感：LSTM对初始化权重的选择敏感度高，如果初始化权重不合适，可能会导致训练不稳定或过拟合问题。
计算量大：由于LSTM通常构建非常深的网络结构，因此计算量较大，需要较高的计算资源和时间进行训练。

使用场景：

LSTM在自然语言处理领域有着广泛的应用场景，如文本生成、机器翻译、语音识别等。此外，LSTM还可以用于时间序列分析、推荐系统等领域。

代码

Python示例代码（简化版）：

from keras.models import Sequential
from keras.layers import LSTM, Dense

def lstm_model(input_shape, num_classes):
    model = Sequential()
    model.add(LSTM(units=128, input_shape=input_shape))  # 添加一个LSTM层  
    model.add(Dense(units=num_classes, activation='softmax'))  # 添加一个全连接层  
return model

5、Word2Vec

Word2Vec 模型是表征学习的开山之作。由Google的科学家们开发的一种用于自然语言处理的(浅层)神经网络模型。

Word2Vec模型的目标是将每个词向量化为一个固定大小的向量，这样相似的词就可以被映射到相近的向量空间中。

模型原理

Word2Vec模型基于神经网络，利用输入的词预测其上下文词。在训练过程中，模型尝试学习到每个词的向量表示，使得在给定上下文中出现的词与目标词的向量表示尽可能接近。这种训练方式称为“Skip-gram”或“Continuous Bag of Words”（CBOW）。

模型训练

训练Word2Vec模型需要大量的文本数据。
首先，将文本数据预处理为一系列的词或n-gram。
然后，使用神经网络训练这些词或n-gram的上下文。
训练过程中，模型会不断地调整词的向量表示，以最小化预测误差。

分析

优点

语义相似性: Word2Vec能够学习到词与词之间的语义关系，相似的词在向量空间中距离相近。
高效的训练: Word2Vec的训练过程相对高效，可以在大规模文本数据上训练。
可解释性: Word2Vec的词向量具有一定的可解释性，可以用于诸如聚类、分类、语义相似性计算等任务。

缺点

数据稀疏性: 对于大量未在训练数据中出现的词，Word2Vec可能无法为其生成准确的向量表示。
上下文窗口: Word2Vec只考虑了固定大小的上下文，可能会忽略更远的依赖关系。
计算复杂度: Word2Vec的训练和推理过程需要大量的计算资源。
参数调整: Word2Vec的性能高度依赖于超参数（如向量维度、窗口大小、学习率等）的设置。

使用场景

Word2Vec被广泛应用于各种自然语言处理任务，如文本分类、情感分析、信息提取等。例如，可以使用Word2Vec来识别新闻报道的情感倾向（正面或负面），或者从大量文本中提取关键实体或概念。

代码

Python示例代码

from gensim.models import Word2Vec  
from nltk.tokenize import word_tokenize  
from nltk.corpus import abc  
import nltk  
  
# 下载和加载abc语料库  
nltk.download('abc')  
corpus = abc.sents()  
  
# 将语料库分词并转换为小写  
sentences = [[word.lower() for word in word_tokenize(text)] for text in corpus]  
# 训练Word2Vec模型  
model = Word2Vec(sentences, vector_size=100, window=5, min_count=5, workers=4)  
# 查找词"the"的向量表示  
vector = model.wv['the']  
# 计算与其他词的相似度  
similarity = model.wv.similarity('the', 'of')  
# 打印相似度值  
print(similarity)

6、Transformer

背景

背景：

深度学习的早期阶段，卷积神经网络（CNN）在图像识别和自然语言处理领域取得了显著的成功。
然而，随着任务复杂度的增加，序列到序列（Seq2Seq）模型和循环神经网络（RNN）成为处理序列数据的常用方法。
尽管RNN及其变体在某些任务上表现良好，但它们在处理长序列时容易遇到梯度消失和模型退化问题。为了解决这些问题，Transformer模型被提出。而后的GPT、Bert等大模型都是基于Transformer实现了卓越的性能！图片

模型原理

模型原理：

Transformer模型主要由两部分组成：编码器和解码器。
每个部分都由多个相同的“层”组成。每一层包含两个子层：自注意力子层和线性前馈神经网络子层。自注意力子层利用点积注意力机制计算输入序列中每个位置的表示，而线性前馈神经网络子层则将自注意力层的输出作为输入，并产生一个输出表示。
此外，编码器和解码器都包含一个位置编码层，用于捕获输入序列中的位置信息。

模型训练

模型训练：

Transformer模型的训练通常使用反向传播算法和优化算法（如随机梯度下降）。在训练过程中，通过计算损失函数关于权重的梯度，并使用优化算法更新权重，以最小化损失函数。此外，为了加速训练过程和提高模型的泛化能力，还可以采用正则化技术、集成学习等方法。

分析

优点：

解决了梯度消失和模型退化问题：由于Transformer模型采用自注意力机制，它能够更好地捕捉序列中的长期依赖关系，从而避免了梯度消失和模型退化的问题。
高效的并行计算能力：由于Transformer模型的计算是可并行的，因此在GPU上可以快速地进行训练和推断。
在多个任务上取得了优异性能：由于其强大的特征学习和表示能力，Transformer模型在多个任务上取得了优异的性能，如机器翻译、文本分类、语音识别等。

缺点：

计算量大：由于Transformer模型的计算是可并行的，因此需要大量的计算资源进行训练和推断。
对初始化权重敏感：Transformer模型对初始化权重的选择敏感度高，如果初始化权重不合适，可能会导致训练不稳定或过拟合问题。
无法学习长期依赖关系：尽管Transformer模型解决了梯度消失和模型退化问题，但在处理非常长的序列时仍然存在挑战。

使用场景：

Transformer模型在自然语言处理领域有着广泛的应用场景，如机器翻译、文本分类、文本生成等。此外，Transformer模型还可以用于图像识别、语音识别等领域。

代码

Python示例代码（简化版）：

pip install transformers

7、生成对抗网络（GAN）

GAN 思想源于博弈论中的零和游戏，其中一个玩家试图生成最逼真的假数据，而另一个玩家则尝试区分真实数据与假数据。

GAN由蒙提霍尔问题（一种生成模型与判别模型组合的问题）演变而来，但与蒙提霍尔问题不同，GAN不强调逼近某些概率分布或生成某种样本，而是直接使用生成模型与判别模型进行对抗。

模型原理

模型原理：

GAN由两部分组成：生成器（Generator）和判别器（Discriminator）。
生成器的任务是生成假数据，而判别器的任务是判断输入的数据是来自真实数据集还是生成器生成的假数据。
训练过程中，生成器和判别器进行对抗，不断调整参数，直到达到一个平衡状态。
此时，生成器生成的假数据足够逼真，使得判别器无法区分真实数据与假数据。

模型训练

模型训练：

GAN训练过程是一个优化问题。在每个训练步骤中，首先使用当前参数下的生成器生成假数据，然后使用判别器判断这些数据是真实的还是生成的。接着，根据这个判断结果更新判别器的参数。同时，为了防止判别器过拟合，还需要对生成器进行训练，使得生成的假数据能够欺骗判别器。这个过程反复进行，直到达到平衡状态。

分析

优点：

强大的生成能力：GAN能够学习到数据的内在结构和分布，从而生成非常逼真的假数据。
无需显式监督：GAN的训练过程中不需要显式的标签信息，只需要真实数据即可。
灵活性高：GAN可以与其他模型结合使用，例如与自编码器结合形成AutoGAN，或者与卷积神经网络结合形成DCGAN等。

缺点：

训练不稳定：GAN的训练过程不稳定，容易陷入模式崩溃（mode collapse）的问题，即生成器只生成某一种样本，导致判别器无法正确判断。
难以调试：GAN的调试比较困难，因为生成器和判别器之间存在复杂的相互作用。
难以评估：由于GAN的生成能力很强，很难评估其生成的假数据的真实性和多样性。

使用场景：

图像生成：GAN最常用于图像生成任务，可以生成各种风格的图像，例如根据文字描述生成图像、将一幅图像转换为另一风格等。
数据增强：GAN可以用于生成类似真实数据的假数据，用于扩充数据集或改进模型的泛化能力。
图像修复：GAN可以用于修复图像中的缺陷或去除图像中的噪声。
视频生成：基于GAN的视频生成是当前研究的热点之一，可以生成各种风格的视频。

代码

简单的Python示例代码：

以下是一个简单的GAN示例代码，使用PyTorch实现：

import torch
import torch.nn as nn
import torch.optim as optim
import torch.nn.functional as F

# 定义生成器和判别器网络结构  
class Generator(nn.Module):
    def __init__(self, input_dim, output_dim):
        super(Generator, self).__init__()
        self.model = nn.Sequential(
            nn.Linear(input_dim, 128),
            nn.ReLU(),
            nn.Linear(128, output_dim),
            nn.Sigmoid()
        )
    def forward(self, x):
        return self.model(x)

class Discriminator(nn.Module):
    def __init__(self, input_dim):
        super(Discriminator, self).__init__()
        self.model = nn.Sequential(
            nn.Linear(input_dim, 128),
            nn.ReLU(),
            nn.Linear(128, 1),
            nn.Sigmoid()
        )
    def forward(self, x):
        return self.model(x)
# 实例化生成器和判别器对象  
input_dim = 100  # 输入维度可根据实际需求调整  
output_dim = 784  # 对于MNIST数据集，输出维度为28*28=784  
gen = Generator(input_dim, output_dim)
disc = Discriminator(output_dim)
# 定义损失函数和优化器  
criterion = nn.BCELoss()  # 二分类交叉熵损失函数适用于GAN的判别器部分和生成器的logistic损失部分。但是，通常更常见的选择是采用二元交叉熵损失函数（binary cross

8、Diffusion扩散模型

Diffusion模型是一种基于深度学习的生成模型，它主要用于生成连续数据，如图像、音频等。

Diffusion模型的核心思想

通过逐步添加噪声来将复杂数据分布转化为简单的高斯分布，然后再通过逐步去除噪声来从简单分布中生成数据。

详见站内专题: 扩散模型

模型原理

Diffusion 模型包含两个主要过程：前向扩散过程和反向扩散过程。

前向扩散过程：

从真实数据分布中采样一个数据点(x_0)。
在(T)个时间步内，逐步向(x_0)中添加噪声，生成一系列逐渐远离真实数据分布的噪声数据点(x_1, x_2, …, x_T)。
这个过程可以看作是将数据分布逐渐转化为高斯分布。

反向扩散过程（也称为去噪过程）：

从噪声数据分布(x_T)开始，逐步去除噪声，生成一系列逐渐接近真实数据分布的数据点(x_{T-1}, x_{T-2}, …, x_0)。
这个过程是通过学习一个神经网络来预测每一步的噪声，并用这个预测来逐步去噪。

模型训练

训练Diffusion模型通常涉及以下步骤：

前向扩散：对训练数据集中的每个样本(x_0)，按照预定的噪声调度方案，生成对应的噪声序列(x_1, x_2, …, x_T)。
噪声预测：对于每个时间步(t)，训练一个神经网络来预测(x_t)中的噪声。这个神经网络通常是一个条件变分自编码器（Conditional Variational Autoencoder, CVAE），它接收(x_t)和时间步(t)作为输入，并输出预测的噪声。

优化：

通过最小化真实噪声和预测噪声之间的差异来优化神经网络参数。常用的损失函数是均方误差（Mean Squared Error, MSE）。

分析

优点

强大的生成能力：Diffusion模型能够生成高质量、多样化的数据样本。
渐进式生成：模型可以在生成过程中提供中间结果，这有助于理解模型的生成过程。
稳定训练：相较于其他一些生成模型（如GANs），Diffusion模型通常更容易训练，并且不太容易出现模式崩溃（mode collapse）问题。

缺点

计算量大：由于需要在多个时间步上进行前向和反向扩散，Diffusion模型的训练和生成过程通常比较耗时。
参数数量多：对于每个时间步，都需要一个单独的神经网络进行噪声预测，这导致模型参数数量较多。

使用场景

Diffusion模型适用于需要生成连续数据的场景，如图像生成、音频生成、视频生成等。此外，由于模型具有渐进式生成的特点，它还可以用于数据插值、风格迁移等任务。

代码

Python示例代码

简化的Diffusion模型训练的示例代码，使用PyTorch：

import torch  
import torch.nn as nn  
import torch.optim as optim  
  
# 假设我们有一个简单的Diffusion模型  
class DiffusionModel(nn.Module):  
    def __init__(self, input_dim, hidden_dim, num_timesteps):  
        super(DiffusionModel, self).__init__()  
        self.num_timesteps = num_timesteps  
        self.noises = nn.ModuleList([  
            nn.Linear(input_dim, hidden_dim),  
            nn.ReLU(),  
            nn.Linear(hidden_dim, input_dim)  
        ] for _ in range(num_timesteps))  
  
    def forward(self, x, t):  
        noise_prediction = self.noises[t](x)  
        return noise_prediction  
  
# 设置模型参数  
input_dim = 784  # 假设输入是28x28的灰度图像  
hidden_dim = 128  
num_timesteps = 1000  
  
# 初始化模型  
model = DiffusionModel(input_dim, hidden_dim, num_timesteps)  
  
# 定义损失函数和优化器  
criterion = nn.MSELoss()  
optimizer = optim.Adam(model.parameters(), lr=1e-3)  

9、图神经网络（GNN）

图神经网络（Graph Neural Networks，简称GNN）是一种专门用于处理图结构数据的深度学习模型。

现实世界中，许多复杂系统都可以用图来表示，例如社交网络、分子结构、交通网络等。传统的机器学习模型在处理这些图结构数据时面临诸多挑战，而图神经网络则为这些问题的解决提供了新的思路。

模型原理

图神经网络的核心思想

通过神经网络对图中的节点进行特征表示学习，同时考虑节点间的关系。

GNN通过迭代地传递邻居信息来更新节点的表示，使得相同的社区或相近的节点具有相近的表示。在每一层，节点会根据其邻居节点的信息来更新自己的表示，从而捕捉到图中的复杂模式。

模型训练

训练图神经网络通常采用基于梯度的优化算法，如随机梯度下降（SGD）。

训练过程中，通过反向传播算法计算损失函数的梯度，并更新神经网络的权重。常用的损失函数包括节点分类的交叉熵损失、链接预测的二元交叉熵损失等。

分析

优点：

强大的表示能力：图神经网络能够有效地捕捉图结构中的复杂模式，从而在节点分类、链接预测等任务上取得较好的效果。
自然处理图结构数据：图神经网络直接对图结构数据进行处理，不需要将图转换为矩阵形式，从而避免了大规模稀疏矩阵带来的计算和存储开销。
可扩展性强：图神经网络可以通过堆叠更多的层来捕获更复杂的模式，具有很强的可扩展性。

缺点：

计算复杂度高：随着图中节点和边的增多，图神经网络的计算复杂度也会急剧增加，这可能导致训练时间较长。
参数调整困难：图神经网络的超参数较多，如邻域大小、层数、学习率等，调整这些参数可能需要对任务有深入的理解。
对无向图和有向图的适应性不同：图神经网络最初是为无向图设计的，对于有向图的适应性可能较差。

使用场景：

社交网络分析：在社交网络中，用户之间的关系可以用图来表示。通过图神经网络可以分析用户之间的相似性、社区发现、影响力传播等问题。
分子结构预测：在化学领域，分子的结构可以用图来表示。通过训练图神经网络可以预测分子的性质、化学反应等。
推荐系统：推荐系统可以利用用户的行为数据构建图，然后使用图神经网络来捕捉用户的行为模式，从而进行精准推荐。
知识图谱：知识图谱可以看作是一种特殊的图结构数据，通过图神经网络可以对知识图谱中的实体和关系进行深入分析。

代码

简单的Python示例代码：

import torch  
from torch_geometric.datasets import Planetoid  
from torch_geometric.nn import GCNConv  
from torch_geometric.data import DataLoader  
import time  

# 加载Cora数据集  
dataset = Planetoid(root='/tmp/Cora', name='Cora')  

# 定义GNN模型  
class GNN(torch.nn.Module):
    def __init__(self, in_channels, hidden_channels, out_channels):
        super(GNN, self).__init__()  
        self.conv1 = GCNConv(in_channels, hidden_channels)  
        self.conv2 = GCNConv(hidden_channels, out_channels)  

    def forward(self, data):
        x, edge_index = data.x, data.edge_index  
        x = self.conv1(x, edge_index)  
        x = F.relu(x)  
        x = F.dropout(x, training=self.training)  
        x = self.conv2(x, edge_index)  
    return F.log_softmax(x, dim=1)  

# 定义超参数和模型训练过程  
num_epochs = 1000
lr = 0.01
hidden_channels = 16
out_channels = dataset.num_classes  
data = dataset[0]  # 使用数据集中的第一个数据作为示例数据  
model = GNN(dataset.num_features, hidden_channels, out_channels)  
optimizer = torch.optim.Adam(model.parameters(), lr=lr)  
data = DataLoader([data], batch_size=1)  # 将数据集转换为DataLoader对象，以支持批量训练和评估  
model.train()  # 设置模型为训练模式  
for epoch in range(num_epochs):  
    for data in data:  # 在每个epoch中遍历整个数据集一次  
        optimizer.zero_grad()  # 清零梯度  
        out = model(data)  # 前向传播，计算输出和损失函数值  
        loss = F.nll_loss(out[data.train_mask], data.y[data.train_mask])  # 计算损失函数值，这里使用负对数似然损失函数作为示例损失函数  
        loss.backward()  # 反向传播，计算梯度  
        optimizer.step()  # 更新权重参数

10、深度Q网络（DQN）

传统强化学习算法中，智能体使用一个Q表来存储状态-动作值函数的估计。然而，这种方法在处理高维度状态和动作空间时遇到限制。为了解决这个问题，DQN是种深度强化学习算法，引入了深度学习技术来学习状态-动作值函数的逼近，从而能够处理更复杂的问题。

模型原理

DQN使用一个神经网络（称为深度Q网络）来逼近状态-动作值函数。该神经网络接受当前状态作为输入，并输出每个动作的Q值。在训练过程中，智能体通过不断与环境交互来更新神经网络的权重，以逐渐逼近最优的Q值函数。

模型训练

DQN的训练过程包括两个阶段：离线阶段和在线阶段。在离线阶段，智能体从经验回放缓冲区中随机采样一批经验（即状态、动作、奖励和下一个状态），并使用这些经验来更新深度Q网络。在线阶段，智能体使用当前的状态和深度Q网络来选择和执行最佳的行动，并将新的经验存储在经验回放缓冲区中。

分析

优点：

处理高维度状态和动作空间：DQN能够处理具有高维度状态和动作空间的复杂问题，这使得它在许多领域中具有广泛的应用。
减少数据依赖性：通过使用经验回放缓冲区，DQN可以在有限的样本下进行有效的训练。
灵活性：DQN可以与其他强化学习算法和技术结合使用，以进一步提高性能和扩展其应用范围。

缺点：

不稳定训练：在某些情况下，DQN的训练可能会不稳定，导致学习过程失败或性能下降。
探索策略：DQN需要一个有效的探索策略来探索环境并收集足够的经验。选择合适的探索策略是关键，因为它可以影响学习速度和最终的性能。
对目标网络的需求：为了稳定训练，DQN通常需要使用目标网络来更新Q值函数。这增加了算法的复杂性并需要额外的参数调整。

使用场景：

DQN已被广泛应用于各种游戏AI任务，如围棋、纸牌游戏等。此外，它还被应用于其他领域，如机器人控制、自然语言处理和自动驾驶等。

代码

python

import numpy as np  
import tensorflow as tf  
from tensorflow.keras.models import Sequential  
from tensorflow.keras.layers import Dense, Dropout  

class DQN:  
    def __init__(self, state_size, action_size):  
        self.state_size = state_size  
        self.action_size = action_size  
        self.memory = np.zeros((MEM_CAPACITY, state_size * 2 + 2))  
        self.gamma = 0.95
        self.epsilon = 1.0
        self.epsilon_min = 0.01
        self.epsilon_decay = 0.995
        self.learning_rate = 0.005
        self.model = self.create_model()  
    def create_model(self):  
        model = Sequential()  
        model.add(Dense(24, input_dim=self.state_size, activation='relu'))  
        model.add(Dense(24, activation='relu'))  
        model.add(Dense(self.action_size, activation='linear'))  
        model.compile(loss='mse', optimizer=tf.keras.optimizers.Adam(lr=self.learning_rate))  
        return model  
    def remember(self, state, action, reward, next_state, done):  
        self.memory[self.memory_counter % MEM_CAPACITY, :] = [state, action, reward, next_state, done]  
        self.memory_counter += 1
    def act(self, state):  
        if np.random.rand() <= self.epsilon:
            return np.random.randint(self.action_size)  
        act_values = self.model.predict(state)  
        return np.argmax(act_values[0])  
    def replay(self):  
        batch_size = 32
        start = np.random.randint(0, self.memory_counter - batch_size, batch_size)  
        sample = self.memory[start:start + batch_size]  
        states = np.array([s[0] for s in sample])  
        actions = np.array([s[1] for s in sample])  
        rewards = np.array([s[2] for s in sample])  
        next_states = np.array([s[3] for s in sample])  
        done = np.array([s[4] for s in sample])  
        target = self.model.predict(next_states)  
        target_q = rewards + (1 - done) * self.gamma * np.max(target, axis=1)  
        target_q = np.asarray([target_q[i] for i in range(batch_size)])  
        target = self.model.predict(states)  
        indices = np.arange(batch_size)  
        for i in range(batch_size):  
            if done[i]: continue  # no GAE calc for terminal states (if you want to include terminal states see line 84)  
            target[indices[i]] = rewards[i] + self.gamma * target_q[indices[i]]  # GAE formula line 84 (https://arxiv.org/pdf/1506.02438v5) instead of line 85 (https://arxiv.org/pdf/1506.02438v5) (if you want to include terminal states see line 84)  
            indices[i] += batch_size  # resets the indices for the next iteration (https://github.com/ikostrikov/pytorch-a2c-ppo-acktr-gail/blob/master/a2c.py#L173) (if you want to include terminal states see line 84)  
            target[indices[i]] = target[indices[i]]  # resets the indices for the next iteration (https://github.com/ikostrikov/pytorch-a2c-ppo-acktr-gail/blob/master/a2c.py#L173) (if you want to include terminal states see line 84) (https://github.com/ikostrikov/pytorch-a2c-ppo-acktr-gail/blob/master/a2c.py#L173)

神经网络架构 - Neural Network Archtechture

神经网络结构

神经网络架构变化

SNN 脉冲神经网络

ANN vs SNN

SNN 原理

SNN 网络架构

SNN 学习过程

信息编码

二进制编码（Binary Coding）

速率编码（Rate Coding）

完全时间性编码（Fully Temporal Coding）

延迟编码（Latency Coding）

SNN 分析

观点

进化神经网络

LNDP

1、深度神经网络（DNN）

背景

模型原理

模型训练

分析

代码

2、卷积神经网络（CNN）

模型原理

模型训练

分析

代码

3、残差网络（ResNet）

背景

模型原理

模型训练

分析

代码

4、LSTM（长短时记忆网络）

背景

模型原理

模型训练

分析

代码

5、Word2Vec

模型原理

模型训练

分析

代码

6、Transformer

背景

模型原理

模型训练

分析

代码

7、生成对抗网络（GAN）

模型原理

模型训练

分析

代码

8、Diffusion扩散模型

模型原理

模型训练

分析

代码

9、图神经网络（GNN）

模型原理

模型训练

分析

代码

10、深度Q网络（DQN）

模型原理

模型训练

分析

代码

结束

Share

Related Posts

站内可视化导航

Comments