大数据会说话,简明机器学习问题

  1. 云栖社区>
  2. 博客>
  3. 正文

大数据会说话,简明机器学习问题

异步社区 2018-04-04 18:23:40 浏览1101
展开阅读全文

点击关注 异步图书,置顶公众号

每天与你分享 IT好书 技术干货 职场知识


参与文末话题讨论,每日赠送异步图书

——异步小编

我们只能向前看到很短的路,但却可以看到还有很多事情需要做。

——艾伦·图灵



从数据中学习究竟是什么?科学家从数据中学习,企业、政府和慈善机构也一样。事实上,无论是私人、公共的,还是慈善部门的领域,几乎没有哪个领域不在部署数据驱动的模型,以发掘和利用数据中的关系。

我们置身于数据之中,亚马逊网站每天发生2.5万次销售/交付,10万个基因几乎同时测序,超过100亿张图片存储在网页上。而大约在几个月之内,英国的国家卫生局对6000万份健康记录进行了数字化处理。我们所有人每天都在使用数据,而且许多人在工作的付薪过程中都使用了数据。营销公司的分析师必须决定,他的受众/听众选择模型需要包含哪些因素。本地卫生部门的研究人员测量季节性流感的发病率。气象学家运行气候模型,计算降水的可能性、温度的变化以及云层覆盖的百分比。

公共部门和某些公司需要将海量信息转换为可操作的战略性公共/商业决策。从数据中学习提供了一系列实践性的技术和工具,来帮助开发稳健的归纳模型,用以从数据中提取可用的见解。归纳的简单含义是指观点源于经验数据,而非根据理论第一的原则来推导。

本文的首要目标是帮助你把大量数据转化为可用的知识。为此,我们将借助理论来重塑数据科学挑战的思考方式。但是,本文不是一本专门讨论引理、证明以及抽象理论细节的教科书。它为这样的读者而准备:他们希望获得一个重要的、成功的框架,用来建立有用的预测分析模型,从而为他们工作的组织以及他们服务的客户改善运营方式和提高盈利。同时务必了解,数据科学这项职业不适合那些缺乏好奇心或者技术能力的人,任何处理实证数据的职业也同样不适合。

在本文中,你会学到归纳推理与演绎推理的关键区别,确定学习问题的三大要素,以及发现使用归纳模型的一个明确框架


 

1.1 归纳推理和演绎推理的基础

图1.1围绕着假设检验,展示了归纳法和演绎法之间的一个关键区别。两种方法都始于观察有趣的现象,但归纳方法更关心选择最佳的预测模型。而演绎方法更关心探索理论,主要是结合数据来检验某个理论的假设根据经验数据的“有分量的证据”,来判断这个假设是接受还是拒绝。


图1.1 归纳和演绎

1.1.1 你曾遇到过这些事情吗?

我想起在我听过的理论经济学课上,教授曾严厉警告:“不能信任数据。”也许,这种经历并不仅仅出现在我的课堂上。一位著名的计量经济学教授曾解释道1:“经济学中有一种普遍观点,如果当前的经验证据不可信,或经济现象无法预测,那么主要是因为经济太复杂,而且产生的数据太混乱,不适合建立统计模型。”或许,你也有过类似经历。

但是,当我离开课堂,步入了经验分析的真实世界,居然很快发现,只要给我足够的数据和适合的工具,使用数据驱动的归纳法会带给我意义重大的结论。

注意:在每个可以想到的领域——商业的、工业的以及政府的,成功的数据驱动的归纳模型都已经存在,或正在建立。数据决策的模型越来越多地用来制定决策,如可以识别你的语音的智能手机,又如实施外科手术的机器人2,再如核爆炸的检测。

1.1.2 释放归纳的力量

无论你是否在这些领域中工作,医疗诊断、手写体识别、市场、金融预测、生物信息学、经济学的领域,还是在其他任何要求经验分析的专业领域,你常常会面对这样的情况,潜在的首要原则尚未发现,或正在研究的系统过于复杂,无法通过充分详细的数学描述来提供有用的结果。我发现,数据驱动的归纳方法在以上所有情况中都有用,你也会认同这一点。

注意:在科学之外,演绎分析可能在经济学学科中占据了顶峰地位,其中大部分的焦点(甚至今天也一样)都围绕着检验和评估演绎理论的经济学有效性。事实上,经济学家对理论进行客观验证的渴望催生了新的统计学子学科—计量经济学。

1.1.3 推断的阴阳之道

尽管归纳和演绎的区别相当大,但它们实际上也可以互补使用。对于一个研究者来说,计划一个同时包含归纳元素和演绎元素的项目是非同寻常的。

如果你曾经或长或短地从事过经验建模领域的工作,那你很可能发现这种情况:你计划执行一个归纳或演绎的项目,但没想到随着时间的推移,你又发现了其他更适合的方法来阐明你的研究问题。需要牢记的是,归纳方法或演绎方法的使用,部分地依赖于你的数据分析目标。

注意演绎推理优越性的相对下降,可以部分地由数据驱动模型的高度成功来解释。意大利学者马特奥·帕尔多(Matteo Pardo)和乔治·斯贝沃格里尼(Giorgio Sberveglieri)在十多年前正确地观察到6:“在当前,从遵循首要原则的经典建模到开发数据建模,发生了一种范式转换。”有趣的是,需要注意,现在数据建模者的短缺是世界性的问题7。

 1.2 学习问题的三大要素

我们的讨论始于学习问题的基础。例如,有监督的分类问题,其中我们得到的数据是实值的属性—响应对(xy)。三个元素组成了基本的学习问题。

(1)响应变量或目标变量有K种类别。对于二元分类(K=2),我们通常假设,或者

(2)假定属性(或特征)x和目标y之间存在着一种概率关系,这个关系可以通过一个未知的概率分布刻画:

为什么要以概率术语指定xy之间关系呢?因为实践中有观察不到的非确定性因素影响着这种关系。例如,在面包圈的烘焙中,温度、湿度、面粉的重量、面粉的质地、部件磨损等方面,轻微的变化都会影响制作的面包圈的质地、口感和质量。输出的变化反映了对未观测到的因素缺乏认识,并导致了xy之间的概率关联。图1.2显示了这种情况,其中,给定xy发生的条件概率捕捉了未观测到的因素的影响,写为


图1.2 学习问题的概率设定

(3)因为数据科学是一种内在的经验活动,所以我们还观察到了概率分布的一组样本,N个独立同分布(i.i.d)的数据对独立性假设意味着每个新观测产生了新的相关信息。相同的分布意味着观测提供了关于潜在概率分布的固定但未知的信息。因此,给定一个i.i.d假设,可以在理论上构建一个一致的预测变量,其含义是,随着获得的数据越来越多,预测变量的预测值也越来越接近真实值。

 1.3 从数据中学习的目标


为了预测与过去观测相关的新情况,我们需要从数据中学习的能力,即对过去观测一般化的能力。这个目标是基于假设类H构造一个好的预测变量,这个假设根据x预测y,其中是参数向量。

预测变量或者学习器是关于生成数据的真实函数的一种假设。假设的类H是我们的算法可以考虑的函数集合。它的选择需要先验知识作为归纳偏置。相对于其他假设,归纳偏置可以是偏爱归纳学习器的任何假设。它包括一些基础假设或假设集合,这些学习器一般化了目标函数,使它超越了训练数据。例如:

如果H代表线性回归,那么假定了属性x和目标y之间的关系是线性的。就简单线性回归来说,数据科学家可能仅仅希望考虑其中的那些函数。

优化算法H中包括了允许算法搜索的空间。

注意

归纳偏置是数据科学实践中的一个关键要素,正如伦敦经济学院的Jonathan Baxter的解释8:“在机器学习中,可能最重要的事情就是学习机器假设空间的预先偏置,它要足够小,以保证合理训练集的好的一般化(预测能力),也要足够大,这样它才能包含学习问题好的解决答案。”

1.3.1 阐明选择标准

为了实现目标,我们需要一个准则,用以在H的相互竞争的假设中进行选择。我们用表示在预测y导致的误差。如果很大,那么在预测时,的表现就不好。如果很小,那么在预测时,就表现良好。

对于标记为的二元分类来说,一个常见的损失函数是:这是一个指标函数,如果的符号不同于

损失函数的另一种选择是平方误差损失(称为L2损失或者最小二乘方法),如果你曾经建立过传统的线性回归方程,那么你一定会熟悉下列方程:

预期的误差定义成:(1.1)

这个量通常称为预期风险,并且,我们希望选择一个函数来使它最小化。但是,因为是未知的,不能直接观测。相反,训练样本的经验风险的计算是最小化的。


1.3.2 学习任务的选择

现在,我们的学习框架已经准备就绪,可以把注意力转向我们作为数据科学家需要执行的真实任务。相当幸运,结果发现从数据中学习可以恰好分成3种基本类型的工作:

(1)类别决策边界的分类或估计。例如,流水线上按大小和颜色分类的鸡蛋。

(2)未知连续函数的回归或估计。例如,预测本地音乐节创造的票房平均价值。

(3)概率密度的估计。例如,估计爱尔兰沿海河流中白斑狗鱼的密度。

本文将自始至终主要讨论分类的问题,因为这是数据科学家面对的最频繁的任务。但是,我们得出的经验教训适用于所有3种类型的任务。

本文摘自《机器学习实践指南——基于R语言》



《机器学习实践指南——基于R语言 

 [英] 尼格尔·刘易斯(N.D. Lewis) 著

点击封面购买纸书


本书为读者建立机器学习模型提供了容易理解和上手的指导。本书拨开迷雾,开辟出一条清晰的学习路径,帮助读者发现、理解、应用和开发机器学习和数据科学的潜力。本书通过免费的预测分析软件包 ,为读者提供必要的工具,帮助读者充分理解、深化认识并展开创造性思维,以增强自己的机器学习和数据科学项目。 

本书阐述了: 

能够从数据中学习到什么? 

为什么从数据中学习是数据科学工具箱的必备部分? 

如何将机器学习运用到自己的研究中? 

通过阅读本书,你将能够: 

掌握从数据中学习的技能; 

探索、评价并利用核心学习类型; 

发挥监督学习的威力; 

使用半监督学习设计成功的解决方案; 

学会使用无监督学习; 

模拟实现自己的想法并帮助开创新方法。 

本书是一本可以轻轻松松从入门到精通的指南,你可以亲自动手实践其中巧妙的算法。 如果你对数据科学或机器学习应用领域有兴趣,并希望尝试其中的重要模型和预测技术,本书正是为你量身打造的。 


今日话题

清明小长假你有什么规划?截止时间4月8日17时,留言+转发本活动到朋友圈,小编将选出1名读者赠送异步新书1本。

延伸推荐

2018年2月新书

2018年1月重磅新书

小学生开始学Python,最接近AI的编程语言:安利一波Python书单

AI经典书单| 入门人工智能该读哪些书?

长按二维码,可以关注我们哟

每天与你分享IT好文。


异步图书”后台回复“关注”,即可免费获得2000门在线视频课程;推荐朋友关注根据提示获取赠书链接,免费得异步图书一本。赶紧来参加哦!

点击下方阅读原文,购买《机器学习实践指南——基于R语言


阅读原文


网友评论

登录后评论
0/500
评论