Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

简介:

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

还记得击败世界围棋大师的阿尔法狗 AlphaGo 吗?

它来自谷歌 DeepMind 团队,现在这个人工智能实验室又推出了一项重磅研究——可微分神经计算机的神经网络模型(Differentiable Neural Computer,简称 DNC)。这种新型模型将神经网络与可读写的外部存储器结合,既能像神经网络那样通过试错和样本训练进行深度学习,又能像传统计算机一样处理数据。

深度学习作为一种神经网络人工智能算法,能够通过一些“深”层计算,对海量的数据进行更新学习。这种类似大脑结构的神经网络层由节点组成(也被称为神经元)。许多科技巨头如谷歌、Facebook、亚马逊和微软都一直在训练神经网络来学习如何更好地处理工作任务,包括识别狗的图像以及做出更好的翻译软件。这些 AI 功能已经让数百万人在使用谷歌翻译等在线服务中受益。

但是,神经网络面临着巨大的挑战:常规计算机可以处理复杂形式的数据,但是需要手动编程来执行这些任务。虽然人工神经网络可以像大脑一样进行学习,从数据中识别模式,但是它缺少存储器架构,无法对结构化数据进行符号处理。 

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

DNC 简易模型,图源:FT

为了提高深度学习的能力,谷歌的 DeepMind 团队创造了这种新型机器学习算法“ 可微分神经计算机”DNC,它将“神经网络”计算系统与传统计算机存储器结合在一起。

神经网络是一个互联的系统,它模仿生物神经网络运行,比如大脑的工作模式。在最近取得的各项人工智能成就中,神经网络扮演了关键角色。例如,在数字助手,如 Google Voice、Siri 中增强语音识别能力。在之前的研究中,神经网络只能连接自有网络所包含的数据。而最近,DeepMind 团队宣布,在 DNC 的支持下,神经网络可以接入之前不相容的外部数据,比如以传统数字模式编码的文本。这也就是说,我们离会思考的计算机更近了一步。

从数学上讲,DNC 类似一个可微分的函数,这或许是研究人员称它为可微分的原因。而数字计算机不可微分,因此也无法做到像神经网络一样从数据中学习。DNC 可以成功地理解图形结构,如家谱或传输网络,它甚至可以根据一张家谱来判断一个人的家族关系。此外,DNC 还能在没有先验知识的情况下规划在伦敦地铁上的最佳路线,解决涉及用符号语言描述目标的移动拼图谜题。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

美国HBO连续剧《西部世界》剧照

推理是灵长类动物才具备的能力,DeepMind 这种或许能够“唤醒”机器的人工智能算法与最近大火的神剧《西部世界》中的设想一致——也许有一天,我们真的能看到会自主推理的机器人,以及能思考的计算机。

DNC 包含了若干个模块,所有的这些模块都完全不是符号化的,彼此之间通过纯粹的模拟激活模型来交换信息流(streams),正如从生物大脑中记录的那样。

推理的一个关键前提,是记忆。在计算机中,记忆的角色由随机访问内存 RAM 承担。当计算机进行推理,也就是运行程序时,所有的信息都被捆绑在工作的内存中,并且结合的方式数不胜数。把人类的推理过程拿来与计算机程序相比,其实并不牵强。事实上,在现代可编程计算机(图灵机)和亚里士多德的三段论存在严肃的历史联系。

DNC 项目主管 Alex Graves 表示,“神经网络的记忆受到计算本身的约束,我们决定通过分离存储器的方式让它变得更强大,这样一来,不影响处理器就可以扩充规模。”

一些独立计算机科学家认为通用 DNC 应用范围广阔,例如,它可以用来生成视频注释,从文本中提取有意义的内容。甚至在未来,它还能够应用在包含问答、像真实世界一样的对话,这种需要一定的推理能力任务。

这个新项目被 Google 发表在《自然》杂志上。在文章里 Google 举了若干个应用实例,比如,集成后的深度学习技术能够自动发现两个地铁站之间最短的路线,它会自己进行“推理”,说出你想要到达的目的地。正确率高达 90% 以上。

英国《金融时报》援引斯坦福大学心智、大脑和计算中心主任 Jay McClelland 称,这项研究将成为人工智能领域“有趣且重要的里程碑”。

Via financial times & spectrum.ieee

推荐阅读:

浅谈神经网络训练方法,Deepmind更青睐正向传播

DeepMind发布最新原始音频波形深度生成模型WaveNet,将为TTS带来无数可能


本文作者:刘子榆


本文转自雷锋网禁止二次转载,原文链接

相关文章
|
8月前
|
机器人 区块链
区块链数字货币量化交易系统机器人开发合约源码定制详情
event BuyOrderPlaced(address user, uint256 price, uint256 amount); event SellOrderPlaced(address user, uint256 price, uint256 amount);
|
6月前
|
机器学习/深度学习 存储 机器人
一文看懂!Go语言开发聊天机器人
一文看懂!Go语言开发聊天机器人
65 0
|
6月前
|
算法 机器人
秒合约期权机器人开发/秒合约系统/币币合约/技术开发应用
秒合约期权机器人开发/秒合约系统/币币合约/技术开发应用
|
2月前
|
缓存 数据可视化 安全
开发阿里云 RPA 机器人的技巧
在当今数字化时代,机器人流程自动化(RPA)技术正逐渐成为企业提高效率和优化业务流程的重要手段。阿里云 RPA 作为一种强大的工具,为开发高效的机器人提供了丰富的功能和支持。本文将分享一些开发阿里云 RPA 机器人的技巧,帮助您更好地利用该平台的能力。
|
2月前
|
人工智能 自然语言处理 机器人
自然语言开发AI应用,利用云雀大模型打造自己的专属AI机器人
如今,大模型层出不穷,这为自然语言处理、计算机视觉、语音识别和其他领域的人工智能任务带来了重大的突破和进展。大模型通常指那些参数量庞大、层数深、拥有巨大的计算能力和数据训练集的模型。 但不能不承认的是,普通人使用大模型还是有一定门槛的,首先大模型通常需要大量的计算资源才能进行训练和推理。这包括高性能的图形处理单元(GPU)或者专用的张量处理单元(TPU),以及大内存和高速存储器。说白了,本地没N卡,就断了玩大模型的念想吧。 其次,大模型的性能往往受到模型调优和微调的影响。这需要对模型的超参数进行调整和优化,以适应特定任务或数据集。对大模型的调优需要一定的经验和专业知识,包括对深度学
自然语言开发AI应用,利用云雀大模型打造自己的专属AI机器人
|
5月前
|
传感器 机器人 C++
机器人操作系统ROS 编程开发--详细总结
最近工作涉及到自动驾驶的,需要学习ROS,学习中总结了一些知识点,分享给大家。 机器人操作系统ROS,是一种分布式处理框架(又名Nodes),ROS常用C++和python编程语言开发;(这里项目开发采用C++ 11版本)。ROS的点对点设计以及服务和节点管理器等机制,可以分散由计算机视觉和语音识别等功能带来的实时计算压力,能够适应多机器人遇到的挑战。ROS免费并且开源。
295 0
|
7月前
|
机器学习/深度学习 存储 人工智能
区块链、智能ai量化现货合约现货量化机器人开发公司
随着区块链技术和人工智能的不断发展,一个新的领域正在崭露头角,那就是区块链智能AI量化现货合约现货量化机器人。这种技术结合了区块链的去中心化特性和人工智能的智能分析能力,为现货市场的投资者提供了一个全新的工具。
|
8月前
|
机器人
去中心化交易所uniswap、pancakeswap夹子机器人模式开发合约源代码详情
contract PancakeSwapBot { using IERC20 for IERC20Token transferable; using FlashSwap for FlashSwapFactory flashSwapFactory; using FlashSwapTrader for FlashSwapTrader flashSwapTrader;
|
8月前
|
JSON 机器人 API
自动交易机器人做市策略APP量化交易模式开发
def __init__(self, api_url, api_key): self.api_url = api_url self.api_key = api_key def place_order(self, symbol, amount, price):
|
8月前
|
JSON 算法 机器人
量化交易机器人软件平台功能模块开发源码定制合约类型
def get_data(self): response = requests.get(self.url, headers=self.headers) data = json.loads(response.text) return data

热门文章

最新文章