资源 | 阿里发布免费深度学习课程:感知机梳理(附链接)

简介:

在2018 云栖大会·上海峰会上,阿里巴巴发布了免费的天池深度学习课程,涵盖了神经网络基础、CNN、RNN、递归网络、强化学习以及 GAN,内容很全面,感兴趣的同学可做为学习资源。

课程地址:

https://tianchi.aliyun.com/markets/tianchi/aiacademy

19b37fff0d58c2b842d019a49c8e06434c9e045d

课程设置,正式上线时会提供直播(见图中上线时间),直播结束后也会持续提供录播视频

目前该课程只开放了感知机的介绍,这也是机器学习与深度学习的基础。机器之心对感知机课程的相关内容做了梳理:

首先阿里巴巴向寒介绍了感知机的生物学基础,即大脑由神经元组成,它们之间会传递电讯号以激活其它神经元。在大脑的学习中,我们需要确定神经元之间的连接强度与神经元本身的激活程度。感知机也如同大脑,它会学习单元之间的连接强度或权重,也会通过激活函数学习激活程度。

185b876d3bd955dd8125d97d503a9093ff5e1c90

如上所示为向寒介绍的单神经元输入的计算方式,简单而言即前一层所有神经元激活值分别乘上连接强度 w 再求和。这种加权求和的方式可进一步馈送到激活函数。下图展示了一些常见的激活函数:

3928ad0bb5f948caf3fbf6af8a87b052fbf68b0e

这些激活函数将会为神经元提供非线性属性,且在不变输入下控制了激活程度。介绍了加权求和与激活函数这两个基本组件后,向寒继续展示了以误差为驱动的感知机算法,这也是很多初学者接触到的第一种参数更新算法。

66b868623fbe85dd5468ae30891389c9fd78cb95

在上图中,先预测所有训练数据,再对比真实标注,如果有错误就更新。其中权重与偏置项的更新即根据梯度下降求出。更新权重与偏置项后,我们可以再次预测训练数据,并对比真实标注而确定是否还有误差,有误差就重复上面过程继续更新。

下图展示了感知机分类的几何解释,其中绿色虚线为决策边界、w 为权重参数向量。在描述了感知机分类的几何解释后,随后阿里巴巴解释了几何角度上的参数更新过程。

63e93df2f750ac6a85eb37a5f9b457f54c376545

当然除了这种直观的解释,向寒还介绍了非常多的线性可分数据与感知机的收敛问题。

bd712de0983b37710c97109f7ad3484ebfff7a05

其实多个神经元进行 Voting 和 Averaging 可以提升性能。如下所示为进行平均的感知机:

2957bc22e8214858c1c5563006ff7ec4383ecea6

除了上述这些基本解释,向寒还介绍了感知机的限制著名的异或问题(XOR),并随后解释了多层感知机与它是如何解决异或问题的。这些内容都是非常基础的概念。视频最后一部分则重点解释了反向传播,这是深度学习最基本也是最常用的更新方式,它能将梯度按路径分配到前层神经元中的参数,因而能更新整个网络。

虽然我们只简要了解了第一部分 30 分钟的课程,但后面还有非常多的内容与主题,包括卷积网络和递归网络等基本架构、强化学习与生成对抗网络等前沿的优秀方法。我们也希望该课程能帮助广泛的读者了解并入门机器学习。


原文发布时间为:2018-06-10

本文来自云栖社区合作伙伴“数据派THU”,了解相关信息可以关注“数据派THU”。

相关文章
|
10天前
|
机器学习/深度学习 分布式计算 监控
如何解决Spark在深度学习中的资源消耗问题?
【5月更文挑战第2天】如何解决Spark在深度学习中的资源消耗问题?
25 5
|
2月前
|
机器学习/深度学习 PyTorch TensorFlow
有什么资源或教程可以帮助我学习深度学习和Python中的深度学习框架?
【2月更文挑战第14天】【2月更文挑战第39篇】有什么资源或教程可以帮助我学习深度学习和Python中的深度学习框架?
|
9月前
|
机器学习/深度学习 自然语言处理 算法
深度学习工程师-吴恩达课程汇总
深度学习工程师-吴恩达课程汇总
|
11月前
|
机器学习/深度学习 程序员 异构计算
【深度学习工具】Python代码查看GPU资源使用情况
在训练神经网络模型时候,有时候我们想查看GPU资源的使用情况,如果使用Ctrl+Shift+Esc不太符合我们程序员的风格😅,如果可以使用代码查看GPU使用情况就比较Nice。话不多说,直接上代码。
580 0
|
12月前
|
机器学习/深度学习 人工智能 自然语言处理
从感知机到Transformer,一文概述深度学习简史(2)
从感知机到Transformer,一文概述深度学习简史
|
12月前
|
机器学习/深度学习 存储 自然语言处理
从感知机到Transformer,一文概述深度学习简史(1)
从感知机到Transformer,一文概述深度学习简史
117 0
|
12月前
|
机器学习/深度学习 PyTorch TensorFlow
李沐「动手学深度学习」中文课程笔记来了!代码还有详细中文注释
李沐「动手学深度学习」中文课程笔记来了!代码还有详细中文注释
162 0
|
机器学习/深度学习 人工智能 自然语言处理
受阿里支持的深度学习及其应用课程认定为国家级课程
《深度学习及其应用》是一门理论和实践并重的课程,强调课程内容的深度和应用性,重视领域问题(项目沉浸)驱动式教学、配套实验案例和实验平台的建设、课程资源配套的建设以及与学生的交流。课程结合20多家企业的30多个实战合作项目实践,深入浅出地帮助学生钻研深度学习的算法以及应用;借助阿里等公司的人工智能开源平台,分享最新的算法、更多领域应用的相关实验。课程配套资料齐全,其中,利用主流的机器学习开源框架,开发了50多个机器学习案例,并在此基础上出版了多本实用案例丰富的教材,有效地支撑了课程实践教学的开展。课程在中国大学MOOC(爱课程)运行,已经有8万多名高校学生和社会学习者选修该课程,具有一定的影响力
162 0
受阿里支持的深度学习及其应用课程认定为国家级课程