零基础进行神经网络语言建模

  1. 云栖社区>
  2. 翻译小组>
  3. 博客>
  4. 正文

零基础进行神经网络语言建模

【方向】 2017-09-08 23:53:39 浏览4930
展开阅读全文

更多深度文章,请关注:https://yq.aliyun.com/cloud


187d6f3163372330d717420c995360fa1cdb5c65

语言模型是自然语言处理领域的基础问题,其在词性标注、句法分析、机器翻译、信息检索等任务中起到了重要作用。简而言之,统计语言模型表示为:在词序列中,给定一个词和上下文中所有词,这个序列出现的概率。例如:你手机上键盘上方正显示的三个字,系统试图预测你要输入的下一个字词就是语言建模的用途之一。在下面所示的情况下,语言模型预测“from”“on”“it”在给定句子中具有很高的下一个单词的可能性。其实输入法系统内部,语言模型都会计算词汇中的每个单词的出现的概率,但是用户只能看到前三个最可能的单词。

681b9abb080a485c1c2fc549bf93cccd62c7917a

语言模型是许多系统的基本部分,它试图解决机器翻译和语音识别等自然语言处理任务。目前,所有的最先进的语言模型都是神经网络。

这篇文章的第一部分提供了一个简单的前馈神经网络来

网友评论

登录后评论
0/500
评论
【方向】
+ 关注
所属云栖号: 翻译小组