DeepMind着手指导AI对关系网络进行推理

简介:

逻辑思维与更改思考能力无疑是实现智能的关键。而如果能够在机器当中复制这种能力,则将使得AI变得更加聪明。

但这一问题实现难度极大,特别是考虑到目前的深度学习方法还不够先进。深度学习在处理信息方面较为擅长,但却难以解决推理类任务。

这时出现了新的突破方向:关系网络,简称RN。

根据Alphabet公司旗下英国AI事业部DeepMind发布的最新论文,其正在尝试将关系网络引入卷积神经网络与经常性神经网络,从而推动这些在传统上负责实现计算机视觉与自然语言处理的机器获得推理能力。

DeepMind的一位发言人在接受采访时解释称,“并不是说深度学习不适合处理推理任务——更为确切地讲,实际上是不存在正确的深度学习架构或者模块以实现一般性关系推理。举例来说,卷积神经网络在理解本地空间结构方面拥有无与伦比的表现——这也是其被大量应用于图像识别模型中的理由,但其可能在其它推理任务当中遇到障碍。”

关系网络被描述为“即插即用”模块。其架构的设计方式专门用以确保网络能够专注于各对象之间的关系。其在一定程度上类似于图形网络,其中的节点即为各个对象,而连接节点的边界则为不同对象间的关系。

在CLEVR数据集中,这套网络将面对出数个具有不同形状、大小与纹理的对象,同时需要解答一系列用于测试其视觉推理能力的问题:

DeepMind着手指导AI对关系网络进行推理 

利用多种不同神经网络组件解决单一任务(图片来源:Santoro等)

为了回答以上关系问题,关系网络必须将所有对象的大小与“棕色金属物体”进行比较,且仅考虑圆柱体情况。首先,卷积神经网络会识别场景中的对象,而后利用一套长短期记忆网络将问题交付至关系网络当中。

问题当中嵌入的词汇允许关系网络专注于特定相关对象对,并计算其关系以提供答案。这是一种非常睿智的处理方式,允许利用单一功能解决每种关系。研究人员无需专为查看对象的大小与形状编写具体函数。这意味着关系网络能够更加高效地实现数据处理。

DeepMind在一篇博文当中解释称,“利用行业顶尖标准视觉问题回答架构对CLEVR进行处理,其能够得出68.5%的正确率,相比之下人类的识别准确率为92.5%。不过我们的关系网络增强型方案则带来了超越人类的95.5%的正确率水平。”

DeepMind在论文中同时指出,“我们预计,关系网络将为灵活的关系推理提供更为强大的支持性机制,从而帮助卷积神经网络更加专注于处理本地空间结构。这种在处理与推理层面的差异性非常重要。”

语言推理

关系网络亦在语言推理方面表现出光明的发展前景。由Faebook公司AI研究团队推广的bABI数据集包含20项涉及重复内容、归纳与计数能力评估的问答任务。

首先其会提出一些事实,例如“Sandra拿起足球”以及“Sandra前往办公室”,而后再提出“足球在哪里?”等问题。关系网络通过了20项任务中的18项,这一表现远超以往Facebook与DeepMind所使用的可微分神经计算机记忆网络。

而未能通过的两项bAbI任务确实更加复杂,其要求关系网络分别参考“两项支持事实”与“三项支持事实”。这一结果显示,提升机器智能当中推理原理的工作仍然面对着漫长的前进道路。

必须承认目前研究尚处于早期阶段,而DeepMind希望能够将关系网络应用于多种不同问题,例如社交网络建模以及解决更为抽象的实际问题。

为了使其更加强大,DeepMind团队还希望能够进一步提升其计算效率。目前其测试对象支持数量为100个,但在配合更好的硬件时,其将能够支持更多对象并引入更多并行计算机制。

这项研究受到象征性AI设计思路的启发——在上世纪八十年代之前,学界一直坚持象征性思路,认为知识应能够被明确表示为事实与规则。

DeepMind资深研究科学家兼英国帝国理工学院教授Murray Shartahan认为,象征性AI的研究工作很有可能再度复苏。

Shanahan在接受采访时指出,“我认为机器学习社区长期以来对于这种作法较为忽视,即将符号AI思维引入神经网络架构,但仍有一部分研究人员多年来一直在追寻相关解决方案。近来,这种思路再次获得关注。尽管尚处于起步阶段,但这种构想确实很有希望。”

在实现整体智能这一难题的过程当中,推理无疑是机器必须掌握的其中一大重要组成部分。除此之外,我们还面临着另一些尚未得到解决的难题——包括记忆、注意力与自主判断等等。



原文发布时间为:2017年6月11日

本文作者:黄雅琦

本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

相关文章
|
1月前
|
机器学习/深度学习 人工智能 安全
构建未来:AI驱动的自适应网络安全防御系统
【2月更文挑战第15天】 在数字化时代,网络安全已成为全球关注的焦点。传统的安全防御手段在面对日益复杂的网络威胁时显得捉襟见肘。本文将探讨如何利用人工智能(AI)技术构建一个自适应的网络安全防御系统。该系统能够实时分析网络流量,自动识别和响应潜在威胁,从而提供一种更加动态和灵活的安全保护机制。通过深度学习算法的不断进化,这种系统能够预测和适应新型攻击模式,显著提高防御效率和准确性。
|
3月前
|
人工智能 并行计算 PyTorch
【Hello AI】手动安装AIACC-Inference(AIACC推理加速)Torch版
AIACC-Inference(AIACC推理加速)支持优化基于Torch框架搭建的模型,能够显著提升推理性能。本文介绍如何手动安装AIACC-Inference(AIACC推理加速)Torch版并提供示例体验推理加速效果。
|
3月前
|
人工智能 网络协议 安全
【利用AI让知识体系化】简要了解网络七层协议(二)
【利用AI让知识体系化】简要了解网络七层协议
|
3月前
|
人工智能 网络协议 数据安全/隐私保护
【利用AI让知识体系化】简要了解网络七层协议(一)
【利用AI让知识体系化】简要了解网络七层协议
|
1月前
|
人工智能 芯片 异构计算
英伟达要小心了!爆火的Groq芯片能翻盘吗?AI推理速度「吊打」英伟达?
随着科技的飞速发展,人工智能公司Groq挑战了英伟达的王者地位,其AI芯片不仅展现出卓越的实力,还拥有巨大的潜力。Groq设计了一种独特的推理代币经济学模式,该模式背后牵动着众多因素,却也引发了深度思考:新的技术突破来自何处?中国该如何应对并抓住变革中的机遇?Groq成本如何评估?这些都是值得研究和思考的问题。
|
3月前
|
机器学习/深度学习 人工智能 安全
【AI 现况分析】AI在网络安全领域中的应用
【1月更文挑战第27天】【AI 现况分析】AI在网络安全领域中的应用
|
10天前
|
机器学习/深度学习 人工智能 运维
构建未来:AI驱动的自适应网络安全防御系统
【4月更文挑战第7天】 在数字时代的浪潮中,网络安全已成为维系信息完整性、保障用户隐私和确保商业连续性的关键。传统的安全防御策略,受限于其静态性质和对新型威胁的响应迟缓,已难以满足日益增长的安全需求。本文将探讨如何利用人工智能(AI)技术打造一个自适应的网络安全防御系统,该系统能够实时分析网络流量,自动识别并响应未知威胁,从而提供更为强大和灵活的保护机制。通过深入剖析AI算法的核心原理及其在网络安全中的应用,我们将展望一个由AI赋能的、更加智能和安全的网络环境。
25 0
|
28天前
|
人工智能 自然语言处理 API
全球第一AI大模型易主,Claude 3超越GPT-4,它的推理能力有多强
全球第一AI大模型易主,Claude 3超越GPT-4,它的推理能力有多强
|
1月前
|
机器学习/深度学习 人工智能 算法
构建未来:AI驱动的自适应网络安全防御系统
【2月更文挑战第27天】 在数字化进程加速的背景下,网络安全威胁日益增长,传统的安全防御机制逐渐显得力不从心。本文提出一种基于人工智能技术的自适应网络安全防御系统架构,旨在通过实时分析网络行为和自动调整防御策略来应对复杂多变的网络攻击。该系统利用机器学习算法对异常行为进行检测与分类,并结合深度学习技术实现攻击模式的预测和响应策略的动态优化。文章详细阐述了系统的设计理念、关键技术以及预期效能,展望了AI技术在网络安全领域应用的未来趋势。
|
1月前
|
机器学习/深度学习 人工智能 安全
DeepMind前成员推出Haiper:AI视频生成赛道再添新势力
【2月更文挑战第16天】DeepMind前成员推出Haiper:AI视频生成赛道再添新势力
90 2
DeepMind前成员推出Haiper:AI视频生成赛道再添新势力