【深度森林第三弹】周志华等提出梯度提升决策树再胜DNN

  1. 云栖社区>
  2. 新智元>
  3. 博客>
  4. 正文

【深度森林第三弹】周志华等提出梯度提升决策树再胜DNN

技术小能手 2018-06-04 14:39:46 浏览888
展开阅读全文

还记得周志华教授等人的“深度森林”论文吗?今天,ArXiv上公布了深度森林系列最新的第三弹——可做表示学习的多层GBDT。

在这篇题为“Multi-Layered Gradient Boosting Decision Trees”的论文中,作者冯霁、俞扬和周志华提出了一种新颖的具有显式表示学习能力的多层GBDT森林(mGBDT),它可以与目标传播(target propagation)的变体进行共同训练。由于树集成(tree ensembles)的优异性能,这种方法在很多神经网络不适合的应用领域中具有巨大的潜力。这项工作还表明,一个不可微分的系统,也能够具有可微分系统的关键功能(多层表示学习)。

703692232436e14664341d1cc9659ecf9879fc58

用决策树也能做多层分布式表示学习

深度神经网络的发展在近十年来在机器学习领域取得了显著的进展。通过构建层次结构或“深层”结构,模型能够在监督或

网友评论

登录后评论
0/500
评论
技术小能手
+ 关注
所属云栖号: 新智元