AI并不需要互联网:利用有性生殖,合成更多样、紧凑的神经网络

简介: 滑铁卢大学的研究人员,借鉴有性生殖让后代更能适应环境的道理,在虚拟环境中让神经网络完成“交配仪式”,同时逐渐减少AI能使用的计算和存储资源,生成了更紧凑、轻量的神经网络,能够在没有互联网连接的终端提供强大的性能。

滑铁卢大学研究人员表示,他们可以让人工智能在计算和存储资源被移除后自行适应,方法是教AI学习自己并不需要那么多资源。

如果真的做到了这一点,神经网络将不受互联网和云的影响,这样的好处是:隐私性更好,数据发送成本更低,可移植性更强,在地理偏远地区也能使用AI应用程序。

亲代网络“有性生殖”,得到更加多样和通用的子网络

在题为《深度神经网络交配仪式:通过有性演化合成学习紧凑特征表示》(The Mating Rituals of Deep Neural Networks: Learning Compact Feature Representations Through Sexual Evolutionary Synthesis)的论文中,研究人员描述了他们模仿自然演化过程,将神经网络置于虚拟环境中,然后“不断地逐渐减少AI能够获取的资源”,从而生成更紧凑子代神经网络的过程。

研究人员从生物演化中获得灵感,利用有性生殖比无性生殖后代更加多样、适应性更强的特点,在合成神经网络过程中(也即传统的“无性生殖”方式),增加了一个交配功能,让两个亲代网络“有性”结合,生成子网络。

15e1ab01ef3300203e4c410a6ecccfc2ea9b576c

神经网络在虚拟环境中进行有性生殖

同时,研究人员不断将AI可以获取的计算和存储资源减少,训练AI学会自己没有大量计算资源可用的这一事实,于是AI不断改变自己来适应环境,生成了特征更加紧凑的后代。

论文作者、滑铁卢研究教授Mohammad Javad Shafiee表示,当他们减少AI系统的计算能力或存储容量时,AI就会变得更小,从而“能够在这些环境中生存下去”。在实验中,研究人员将用于特定物体识别任务的神经网络体积缩小了200倍。

这种轻量紧凑的AI非常适于整合到嵌入设备(比如智能手机),运行语音助理或其他智能功能。

边缘AI:更小、更轻的智能

滑铁卢大学的这个AI并不是第一个边缘AI(Edge AI)。英特尔在今年早些时候推出了Movidus神经计算棒,这种即插即用的神经计算设备售价低于100美元,能在没有互联网的边缘部署视觉神经网络。

基于Movidius的技术,谷歌也推出了基于树莓派的视觉神经网络加速套件AIY Vision Kit,在没有云连接的情况下,提供强大的计算机视觉能力,售价不到50美元。

aca314802099a6ddb7db0668c912d1dcc93a995b

滑铁卢大学的深度学习AI,也面向终端应用,能让移动设备(智能手机)在没有互联网的情况下进行物体识别。根据MNIST和CIFAR-10数据集的实验结果,相对于无性进化的神经网络基准,“有性”演化出的神经网络拥有更高的结构效率(architectural efficiency),在测试精度方面也表现不错。具体说,在MNIST上结构效率翻倍(集群效率34.29倍,突触效率258.37倍),而且测试精度都达到了97%。

研究人员表示,他们接下来的研究方向是更彻底地调查如何让有利的“性状”遗传到子代的方法,以及设计更好的“择偶规则”,从而让神经网络中适合于终端智能应用的特定集群及其特征能够强强结合,并且延续到子代审计网络

论文作者、滑铁卢大学系统设计工程教授Alexander Wong说:“我们认为这一技术拥有巨大的潜力,对于很多计算资源受限且网络连接性受限的应用情景,这项技术可能成为很大的推动力。”


原文发布时间为:2017-12-23

本文作者:闻菲

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:AI并不需要互联网:利用有性生殖,合成更多样、紧凑的神经网络

相关文章
|
2天前
|
机器学习/深度学习 人工智能 算法
构建未来:AI驱动的自适应网络安全防御系统
【5月更文挑战第11天】在数字时代的风口浪尖,网络安全问题日益凸显。传统的安全防御手段在应对不断进化的网络威胁时显得力不从心。本文提出了一个基于人工智能技术的自适应网络安全防御系统框架,旨在通过实时分析、学习和预测网络行为,自动调整防御策略以抵御未知攻击。系统采用先进的机器学习算法和大数据分析技术,能够在保持高效性能的同时,最小化误报率。文章详细阐述了系统的设计理念、关键技术组件以及预期效果,为网络安全的未来发展方向提供新思路。
|
3天前
|
机器学习/深度学习 人工智能 安全
AI对网络攻击的影响
【5月更文挑战第10天】AI对网络攻击的影响
9 3
|
5天前
|
机器学习/深度学习 人工智能 安全
构建未来:AI驱动的自适应网络安全防御系统
【5月更文挑战第8天】 随着网络攻击的不断演变,传统的安全措施已不足以应对日益复杂的威胁。本文提出了一种基于人工智能(AI)的自适应网络安全防御系统,旨在通过实时分析网络流量和行为模式来自动调整安全策略。系统利用深度学习算法识别潜在威胁,并通过强化学习优化防御机制。初步实验表明,该系统能够有效提高检测率,减少误报,并在未知攻击面前展现出较强的适应性。
17 1
|
9天前
|
机器学习/深度学习 人工智能 编解码
【AI 生成式】生成对抗网络 (GAN) 的概念
【5月更文挑战第4天】【AI 生成式】生成对抗网络 (GAN) 的概念
【AI 生成式】生成对抗网络 (GAN) 的概念
|
9天前
|
机器学习/深度学习 人工智能 监控
【AI 场景】如何应用人工智能来增强企业网络的网络安全?
【5月更文挑战第4天】【AI 场景】如何应用人工智能来增强企业网络的网络安全?
|
10天前
|
机器学习/深度学习 人工智能 安全
【AI 初识】人工智能如何用于欺诈检测和网络安全?
【5月更文挑战第3天】【AI 初识】人工智能如何用于欺诈检测和网络安全?
|
10天前
|
人工智能 语音技术
网络视听规范化时代,视频AI破解直播违规难题
视频AI技术应用于直播监管,通过智能识别、图像和语音识别实时监测,有效识别违规内容如色情、暴力、欺诈,提高监管效率,降低监管成本,保障观众权益,促进直播行业健康发展。随着技术进步,视频AI在直播监管中的角色将更为重要。
19 4
|
11天前
|
机器学习/深度学习 人工智能 算法
【AI 初识】什么是卷积神经网络 (CNN)?
【5月更文挑战第2天】【AI 初识】什么是卷积神经网络 (CNN)?
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
【AI 初识】递归神经网络 (RNN) 概念
【5月更文挑战第2天】【AI 初识】递归神经网络 (RNN) 概念
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
【AI 初识】神经网络有哪些不同类型?
【5月更文挑战第2天】【AI 初识】神经网络有哪些不同类型?