年度必看AI论文:生成式非对抗网络(停止对抗,用爱学习)

简介:
本文来自AI新媒体量子位(QbitAI)

640?wx_fmt=png&wxfrom=5&wx_lazy=1

震惊!(本次使用已获UC震惊部授权)

就在昨天,人工智能领域一个开创性的成果出现了:关于生成对抗网络(GAN)的最新论文出炉。很多学者和业内人士,都用震惊二字描述内心的波澜。

这篇已经在arxiv上公布的论文,题目是:《STOPPING GAN VIOLENCE: GENERATIVE UNADVERSARIAL NETWORKS》,并且已经作为会议论文提交SIGBOVIK 2017评审。这个大会将于3月31日在卡内基梅隆大学召开。

在Reddit上,有人评价这篇是自己近年唯一从头到尾读完的论文。这么重要的论文,量子位看过之后,赶紧跑来跟大家分享笔记。

核心摘要

神经网络苦对抗久矣。吾闻生成对抗网络(GAN)暴力也,不当立,当立者乃生成式非对抗网络(GUN)。在这一框架下,我们同时训练两个模型。

一个是生成器G,用以捕捉任何自认可以处理的任一数据分布。一个是激励器M,鼓励G努力奋斗。在奋斗的过程中,两个模型通过学习各自的差异而演变。

这个框架的理论基础是博弈论,并且可以看做是双赢的结构,两个模型结成团队以争取最佳结果。整个模型的原理如下:

640?wx_fmt=png&wxfrom=5&wx_lazy=1

 论文作者特别提示:低分辨率、远距离条件下观看效果更佳

生成器G提出样本:PROPS,作为回应,激励器M给出确认和赞美:ACKS。这样两个网络之间就产生了协同效应。

而此前的生成对抗网络,要求生成器G和鉴别器D不断对抗。

640?wx_fmt=png&wxfrom=5&wx_lazy=1

训练过程如图所示:(图a) 在激励器(红线)的帮助下,生成器(黄线)正为目标数据分布(蓝色虚线)而努力。 (图b) 激励得当的情况下,生成器完成目标。 (图c) 在激励器的鼓舞下,生成器还能额外做出10%的努力,这不是错误,而是激励有效的证明。

在经过叨逼叨逼的试验后,结论如下:

这项研究表明,GAN这种一个神经网络对另一个神经网络施加暴力的行为,不仅不道德而且不必要。试验显示,更幸福的网络性能更好。事实上,非对抗式学习在深度学习的广阔天地中,必将大有作。下一步的研究将纳入梯度等问题。

拜见作者

如此令人心旷神怡的论文,由三位作者合作完成。他们是:

半路出家,文笔一流君Samuel

云山雾罩,自学成才君Sebastien

微小贡献,强行采访君Joao

以上。

延伸

还记得开头说的SIGBOVIK 2017大会么?这个大会2007年首次召开,组织方是SIGBOVIK,也是一个脑洞大开的组织。欢迎实在很闲的情况下自行搜索……

分隔线

如果你对这篇开创性的论文感兴趣,请在量子位微信公众号(ID:QbitAI)对话界面,回复:“震惊”两个字,我们发你论文地址。

原文发布时间: 2017-03-09
相关文章
|
1月前
|
人工智能 自然语言处理 数据处理
英伟达推出NeMo,极大简化自定义生成式AI开发
【2月更文挑战第30天】英伟达发布NeMo平台,简化生成式AI模型开发,加速AIGC进程。平台提供NeMo Curator、Customizer和Evaluator微服务,覆盖数据准备至模型评估全周期。Curator加速数据处理,Customizer支持模型微调,Evaluator全面评估模型性能。虽有学习曲线挑战,但NeMo为AI创新与应用带来更多可能性。
38 2
英伟达推出NeMo,极大简化自定义生成式AI开发
|
1月前
|
人工智能 自然语言处理 API
Google Gemma 模型服务:开放的生成式 AI 模型服务
Google Gemma 模型服务:开放的生成式 AI 模型服务
109 4
|
1月前
|
消息中间件 网络协议 C++
C/C++网络编程基础知识超详细讲解第三部分(系统性学习day13)
C/C++网络编程基础知识超详细讲解第三部分(系统性学习day13)
|
26天前
|
机器学习/深度学习 人工智能 算法
AI学习
学习AI涉及编程语言(如Python)、数学基础、AI理论(包括机器学习、深度学习)、实践应用(如使用TensorFlow)、案例研究、伦理法律及持续跟进最新技术。从基础知识到项目实战,全面掌握AI需要扎实的理论与实践经验,关注领域发展,并具备跨学科协作能力。对于个人职业发展和适应未来社会,AI技能至关重要。
18 3
|
7天前
|
机器学习/深度学习 编解码 人工智能
Transformer 和扩散模型的生成式 AI 实用指南(预览版)
Transformer 和扩散模型的生成式 AI 实用指南(预览版)
9 1
Transformer 和扩散模型的生成式 AI 实用指南(预览版)
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
|
13天前
|
JavaScript Java 测试技术
基于Java的网络类课程思政学习系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的网络类课程思政学习系统的设计与实现(源码+lw+部署文档+讲解等)
30 0
基于Java的网络类课程思政学习系统的设计与实现(源码+lw+部署文档+讲解等)
|
16天前
|
人工智能 搜索推荐 语音技术
AI - 生成式人工智能(Generative AI)
AI - 生成式人工智能(Generative AI)
36 0
|
16天前
|
机器学习/深度学习 人工智能 运维
构建未来:AI驱动的自适应网络安全防御系统
【4月更文挑战第7天】 在数字时代的浪潮中,网络安全已成为维系信息完整性、保障用户隐私和确保商业连续性的关键。传统的安全防御策略,受限于其静态性质和对新型威胁的响应迟缓,已难以满足日益增长的安全需求。本文将探讨如何利用人工智能(AI)技术打造一个自适应的网络安全防御系统,该系统能够实时分析网络流量,自动识别并响应未知威胁,从而提供更为强大和灵活的保护机制。通过深入剖析AI算法的核心原理及其在网络安全中的应用,我们将展望一个由AI赋能的、更加智能和安全的网络环境。
27 0
|
27天前
|
人工智能 云计算 芯片