深度学习的意思

深度学习的意思


2024年4月26日发(作者:买电脑送的office密钥在哪)

深度学习的意思

什么是深度学习

深度学习(Deep Learning,DL)是指多层的人工神经网络和训练

它的方法。一层神经网络会把大量矩阵数字作为输入,通过非线性激

活方法取权重,再产生另一个数据集合作为输出。这就像生物神经大

脑的工作机理一样,通过合适的矩阵数量,多层组织链接一起,形成

神经网络“大脑”进行精准复杂的处理,就像人们识别物体标注图片一

样。

深度学习是从机器学习中的人工神经网络发展出来的新领域。早

期所谓的“深度”是指超过一层的神经网络。但随着深度学习的快速发

展,其内涵已经超出了传统的多层神经网络,甚至机器学习的范畴,

逐渐朝着人工智能的方向快速发展。

深度学习的基本思想

假设我们有一个系统S,它有n层(S1,…Sn),它的输入是I,输

出是O,形象地表示为: I =>S1=>S2=>…..=>Sn => O,如果输出O等

于输入I,即输入I经过这个系统变化之后没有任何的信息损失,保

持了不变,这意味着输入I经过每一层Si都没有任何的信息损失,即

在任何一层Si,它都是原有信息(即输入I)的另外一种表示。现在

回到我们的主题Deep Learning,我们需要自动地学习特征,假设我们

有一堆输入I(如一堆图像或者文本),假设我们设计了一个系统S

(有n层),我们通过调整系统中参数,使得它的输出仍然是输入I,

那么我们就可以自动地获取得到输入I的一系列层次特征,即S1,…,

Sn。

对于深度学习来说,其思想就是对堆叠多个层,也就是说这一层

的输出作为下一层的输入。通过这种方式,就可以实现对输入信息进

行分级表达了。

另外,前面是假设输出严格地等于输入,这个限制太严格,我们

可以略微地放松这个限制,例如我们只要使得输入与输出的差别尽可

能地小即可,这个放松会导致另外一类不同的Deep Learning方法。

上述就是Deep Learning的基本思想。

深度学习和浅层学习

浅层学习是机器学习的第一次浪潮。

20世纪80年代末期,用于人工神经网络的反向传播算法(也叫

Back Propagation算法或者BP算法)的发明,给机器学习带来了希望,

掀起了基于统计模型的机器学习热潮。这个热潮一直持续到今天。人

们发现,利用BP算法可以让一个人工神经网络模型从大量训练样本

中学习统计规律,从而对未知事件做预测。这种基于统计的机器学习

方法比起过去基于人工规则的系统,在很多方面显出优越性。这个时

候的人工神经网络,虽也被称作多层感知机(Multi-layer Perceptron),

但实际是种只含有一层隐层节点的浅层模型。

20世纪90年代,各种各样的浅层机器学习模型相继被提出,例

如支撑向量机(SVM,Support Vector Machines)、 Boosting、最大

熵方法(如LR,Logistic Regression)等。这些模型的结构基本上可以

看成带有一层隐层节点(如SVM、Boosting),或没有隐层节点(如

LR)。这些模型无论是在理论分析还是应用中都获得了巨大的成功。

相比之下,由于理论分析的难度大,训练方法又需要很多经验和技巧,

这个时期浅层人工神经网络反而相对沉寂。


发布者:admin,转转请注明出处:http://www.yc00.com/xitong/1714116225a2384372.html

相关推荐

发表回复

评论列表(0条)

  • 暂无评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信