人工神经网络 深度学习 MLP RBF RBM DBN DBM CNN 整理学习

注:整理自向世明老师的PPT


内容提要

1 发展历史
2 前馈网络(单层感知器,多层感知器,径向基函数网络RBF)
3 反馈网络(Hopfield网络,联想存储网络,SOM,Boltzman及受限的玻尔兹曼机RBM,DBN,CNN)


发展历史

技术文章





单层感知器

1 基本模型
技术文章
技术文章

2 如果激励函数是线性的话,可用最小二乘直接计算
技术文章
3 如果激励函数是sifmoid function,可迭代更新(一次性或者逐样本更新)
技术文章
上式只做了简单的求导展开,很容易推导

技术文章




多层感知器

1 基本模型
技术文章

技术文章

2 举例(含有一个隐含层的多层感知器MLP)

模型:
技术文章

y=h(v)=h(h(u))

求解:
技术文章
这里怎么转换到6k(xi)的?


然后分别对两个层的权值求导:
技术文章

然后更新即可,反向传播(BP)
技术文章


技术文章


3 经验
技术文章
4 优缺点
技术文章
技术文章



RBF神经网络

1 模型
技术文章
2 求解
技术文章

3 优点和视角
技术文章
技术文章





深度学习简介

1 前向神经网络
技术文章

2 发展历程
技术文章
3 整体一览
技术文章

4 一些值得关注
学术
技术文章
工业
技术文章







Belief Network & Hopfield Network & Boltzman机 & RBM 结构一瞥

1 Belief Network
技术文章
2 Hopfield Network
技术文章
3 Boltzman机
技术文章
4 RBM 受限的玻尔兹曼机
技术文章





RBM

1 模型
技术文章

技术文章

技术文章

技术文章
利用上图中公式,可以得到
技术文章


2 求解 CD算法
技术文章

技术文章
技术文章

技术文章
技术文章

技术文章
技术文章
技术文章

技术文章





DBN

1 模型
技术文章
2 训练
面向特征提取
技术文章
面向分类
技术文章






DBM

模型
技术文章



CNN

1 模型
技术文章

2 训练
技术文章

技术文章
技术文章



参考文献

技术文章
技术文章

文章来自:http://blog.csdn.net/lanbing510/article/details/40874173
© 2021 jiaocheng.bubufx.com  联系我们
ICP备案:鲁ICP备09046678号-3