本文来源于Github blog
BY omtcyfz
译者:赫鑫宇 郭昕
更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。
今天介绍一些深度学习的资源干货!个人认为这些资源对于那些刚刚进入机器学习领域准备摸索一番的小白十分有帮助。同时如果你想进一步了解神经网络算法及其应用,那请阅览本篇文章吧,相信会对你有极大的帮助!
在上干货之前,先来讲一下我把这些资源整合起来并归结到本篇文章中的初衷。在刚开始入门学习的时候,我看了大量的没有文字介绍的链接资源,我完全不知道他们中的哪一个是值得花时间研究的。所以现在我把见过的最有用的一些链接资源拿出来并配以简短的文字摘要,与大家共同分享。
免责声明:
我不是一个深度学习方面的资深专家,所以下文皆为本人的经验之谈。
在线深度学习课程
1. cs231n
项目 |
内容 |
网址 |
http://cs231n.github.io/ |
主讲人 |
Andrej Karpathy |
质量 |
非常好 |
课程 |
YouTube搜索cs231n |
这是一门《深入学习卷积神经网络》的课程,强烈建议那些想学习图像识别、计算机视觉相关问题的人去看一看。研究的问题很不错。这也是我见过的最好的NumPy入门教程。它能让你使用纯Python+NumPy实现课程中讲到的的算法,这对于你理解这些算法是如何运作的颇有助益。
2. cs224d
项目 |
内容 |
网址 |
http://cs224d.stanford.edu/ |
主讲人 |
Richard Socher |
质量 |
非常好 |
课程 |
YouTube搜索cs224d |
这是一门将多种深度学习模型运用到NLP相关问题上的课程:从Word2vec模型(Google 在 2013 年开源的一款将词转化为实数值向量的高效工具)到LSTM再到机器翻译。研究的问题也很好。但是这门课程不像之前cs231n讲授那么细致,也不太利于学习的人理解消化。至今我还没见过哪门课程能像cs231n那门课程那样的好。
小结:
从本人亲身感受来讲,我想说上面提到的两门课程都是从工程师(而不是数学家)的角度展开的。但它们开始的时候会涉及到微积分或数学领域里的一些琐碎概念。
机器学习中的神经网络
项目 |
内容 |
网址 |
https://www.coursera.org/learn/neural-networks |
主讲人 |
Geoffrey Hinton |
Coursera2012年推出的一门相当受欢迎的课程,他们最近(两个月前)宣布下次开课的时间是九月份。到Reddit上查询相关信息吧。虽然我还没开始上这门课,但是我经打算去上了。截至现在,我已经看到了关于那门课程的超多的积极评价。
1. ud730
项目 | 内容 |
网址 | https://www.udacity.com/course/deep-learning--ud730 |
主讲人 | Vincent Vanhoucke |
质量 | 非常好 |
这是Udacity上一门相当受欢迎的课程,由就职于Google Brain的Vincent教授授课。这是一门十分基础的课程,它从宏观上介绍了目前流行的模型是什么样子的、如何运作、怎么使用等问题。如果你是个机器学习领域刚入门的小白,从这门课程开始准没错!
博客和资源
1. karpathy.github.io
Andrej Karpathy写的大部分的关于神经网络的博客质量都很好,并且它们涉及到了许多特殊领域的问题。Andrej博士期间,师从斯坦福视觉实验室的Fei-Fei Li教授。他目前在OPENAI就职。
2. colah.github.io
Christopher Olah就职于Brain团队,他写了许多特别有意思的关于Recurrent Neural Networks和LSTMs研究的文章。其中的一些文章还在TensorFlow入门教程中被突出标示了出来。
3. TensorFlow tutorials
TF入门教程特别的好!他们非常好地介绍了大部分受欢迎的机器学习模型以及其他知识点。每个知识点还都配备了相应的编码例子,简直完美!这样你就可以创新出许多东西。这正是大部分的开源项目所缺少的东西。
4. r/MachineLearning
机器学习subreddit每天都上传大量的arXiv文章和博客的链接!强烈推荐你去看看。
5. TheDeepLearningBook
由Ian Goodfellow和YoshuaBengio共同编著的《Deep Learning Book》涉及到了深度学习领域的大部分问题。它的侧重点是广泛应用于深度学习中的模型后的数学理论及方法。
6. OpenAIRL Introduction
OpenAI有RL的介绍。它目前还不完美,还是WIP,但它已经有许多好的值得参考的RL方面的知识了。
研究
解决复杂的问题是学习一些新鲜事物最好的方法了。如果没人给你提供研究问题的话,你可以参考一下OpenAI Requestsfor Research list。这里大多是与RL相关的问题,但这些问题是真的很好。不仅告诉你时下研究的许诸多问题,还为你开始研究问题提供了许多的建议!并且每条链接都有大量的文献可以参考。
arXiv:我们要更加深入
arXiv没有独立的课程告诉你什么是最新的科技成果。但是在积累了大量深度学习和数学知识的基础之后你应该逐渐开始尽可能多的阅读最新发表的论文,使你自己不“落伍”。arXiv是最大的机器学习领域(和一些其他领域)的论文收藏地。几乎每位研究者都会把自己的研究成果及一些论文传到arXiv。但这对你来说,在每天持续更新的大量的内容里找到与你研究问题相关的内容可真不是件容易的事情,所以Andrej Karpathy创造出来了arXiv sanitizer 。当你开始每天使用arXiv的时候用它查个明白吧!
Have Fun with deep learning!