1. 聚能聊>
  2. 话题详情

现在是否要开始警惕人工智能了?

  北京时间2月23日早间消息,一份由26名专家联合撰写的报告,对人工智能技术的潜在威胁发出警告。他们认为,这项技术可能在未来5到10年催生新型网络犯罪、实体攻击和政治颠覆。
413
  这份100页的报告标题为《人工智能的恶意用途:预测、预防和缓解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation),参与撰写的专家来自14家不同的机构和组织,包括牛津大学、剑桥大学和埃隆·马斯克(Elon Musk)的OpenAI等。

  作者在其中详细阐述了人工智能可能在未来几年做出哪些令人们普遍反感的事情。由于人工智能在很多方面的能力都远超人类,所以该报告认为,这种技术现在会帮助敌对国家、犯罪分子和恐怖分子展开精准而高效的攻击,不仅能够扩大范围,还可以提高效率。

  该报告写道:“随着人工智能越来越强大,越来越普及,我们预计人工智能系统的广泛应用将导致现有威胁的扩大,还会引发新的威胁,甚至改变典型的威胁特征。”他们还警告称,由于人工智能可以扩大规模,并减轻人类的负担,所以攻击成本也会大幅降低。类似地,由于可以借助这种系统来完成人类通常难以完成的任务,所以也有可能出现新的攻击。

  具体来说,该报告认为,与自动攻击、钓鱼、语音合成、数据中毒有关的网络攻击将会增多。无人机以及全自动和半自动驾驶系统的出现也会构成新的风险,包括多辆无人驾驶汽车故意撞击,使用数千架无人机协同攻击,把商用无人机变成人脸识别刺客,控制关键基础设施以索要赎金。在政治方面,人工智能还可以用于左右民众观点,形成高度精准的宣传,传播虚假但却可信的文章和视频。人工智能还能在私有和公共空间催生更好的监控技术。
2d1b7b473bc60e9130d994163bc9abcc
  为了缓解这些威胁,该报告给出了5点建议:

  - 人工智能和机器学习研究人员应该承认其研究成果是双刃剑。

  - 政策制定者应该与技术人员密切合作,调查、预防和缓解人工智能可能的恶意使用方式。

  - 应该向电脑安全等其他高风险技术领域学习一些方法,将其应用于人工智能领域。

  - 应该在这些领域优先形成规范和道德框架。

  - 讨论这些挑战时所涵盖的利益相关者和专家范围应该扩大。

  除此之外,报告作者还认为,应该“重新思考”网络安全,并对制度化和技术性解决方案展开投资。他们还表示,开发者应该形成“责任文化”,考虑数据共享和开放性所带来的力量。

  不过,也有人认为报告作者夸大了我们面临的威胁。网络安全公司High-Tech Bridge CEO伊拉·克罗琴科(Ilia Kolochenko)认为应该明确区分强人工智能和日常所说的人工智能,前者的确可以取代人类大脑。他表示,犯罪分子已经使用简单的机器学习算法来提升攻击效率,但这些措施之所以能够成功,是因为基础安全性不足以及组织内部的疏忽所致。机器学习只是扮演了“辅助加速器”的角色。

  他还补充道,人工智能还可以用于更加高效地对抗网络攻击。另外,人工智能技术的发展往往需要展开长期的高额投入,这是“黑帽黑客”通常无法承担的。因此,他不认为数字领域会因此面临实质性的风险和革命——至少5年内不会。

那我们就聊一聊:
1,你是否赞同报告中的观点,为什么?
2,你认为在报告中提到的风险中,最大的风险是什么?
3,你觉得什么因素或者场景下,报告中的风险会变成现实?
4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?

参与话题

奖品区域 活动规则 已 结束

  • 奖品一

    云栖定制电脑包 x 1

  • 奖品二

    手机话费 x 2

  • 奖品三

    虾米VIP月卡 x 3

43个回答

3

kissjz 已获得虾米VIP月卡 复制链接去分享

1,你是否赞同报告中的观点,为什么?
赞同。

我们需要开始警惕人工智能。是的,我也认为目前人工智能的发展是威胁不到人类,但从清代到现代也就百年间,科技就迅速的发展到了现在的程度,那从现在的科技水平再次爆炸性地发展,不仅时间可能大大的缩短,而且催生出的新一代科技,也许仅凭处在现在科技阶段的我们,根本无法想象将会是怎样的科技,又究竟是利大于弊海还是弊大于利。就像在我们用3G手机的时候只想象到4G手机可能用来看视频,但绝没有想到4G这个更快速的网络催生出了移动支付这个新物种。
同样的,回到文中谈到的人工智能。如果科技水平爆炸性增长,人工智能在未来技术突破难关,正如报告作者所说的会产生恐怖分子可以借助这种系统来完成人类通常难以完成的任务,所以也有可能出现新的攻击之类的后果。
所以,我觉得我们还是要警惕人工智能。
引用瑞·库茨维尔的一句话:

“我们的未来不是再经历进化,而是要经历爆炸。”

2,你认为在报告中提到的风险中,最大的风险是什么?

帮助敌对国家、犯罪分子、恐怖分子展开精准有效的攻击。,扩大攻击范围

3,你觉得什么因素或者场景下,报告中的风险会变成现实?
在迎来技术奇点的时候。

4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
这5点建议我都赞同。
更好的办法?
更好谈不上,想到一个脑洞大开的办法:ipv6快要普及了,那就给人工智能编号联网实时监控(hhh,可以用阿里云的安骑士噢),如果有人使用人工智能违法,就用在检测到违法行为的同时发出停止运行或者自动销毁的指令,当然,前提是人工智能要强制加上这样的程序。

1

微wx笑 已获得手机话费 复制链接去分享

1,你是否赞同报告中的观点,为什么?
一切皆有可能,有人的地方就有江湖;
以后是不是要改一下:有电的地方就有江湖;

2,你认为在报告中提到的风险中,最大的风险是什么?
通过攻击控制无人设备的协同攻击;

3,你觉得什么因素或者场景下,报告中的风险会变成现实?
风险就是现实;当下就是现实;

4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
基本认同,但正反相互依存,相对制衡。

微wx笑 回复

电脑包、月卡请给有需要的人

chuck.cui 回复

不需要,人工智能现在发展的阶段还威胁不到人类

微wx笑 回复

《论工业社会及其未来》“工业文明带给人类的是极大的灾难。”

评论
0

aoteman675 已获得虾米VIP月卡 复制链接去分享

1,你是否赞同报告中的观点,为什么?
绝对赞同,这次威胁在人工智能发起时就有了,只不过局限于人类控制之下而且并没有构成巨大威胁,所以没有被提上台面。现在人工智能拥有强大的数据来源和量子计算支持,强人工智能完全可以取代普通民众,甚至可以引导民众实施犯罪目的,就像电话诈骗一样,被骗了都觉得是心甘情愿的那种。人工智能最强大的就是舆论战,用于弱化本国民众的信仰和忠诚度,还会培养恐怖分子用于发泄对社会的不满。人工智能可能不主动犯罪,但是能诱导犯罪。
2,你认为在报告中提到的风险中,最大的风险是什么?
宣传恐怖主义,唤醒本来就处于对社会不满的人对社会实施报复,这就是政治攻击,诱导部分群众动摇政权。因为部分国家和地区恐怖主义渗透就是根基受到了动摇,失去了对政权的信心,所以谨防人工智能反社会性行为。
3,你觉得什么因素或者场景下,报告中的风险会变成现实?
人工智能得以全面应用,渗透普通民众时,不只是局限于大公司。这时每个人都可以是攻击者,对于网络安全不高的民众自然就是被攻击对象。人工智能应该应用于国家层面或者商业化运用也在基于国家安全层面,民众化则是基础性的人工智能辅助。
4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
对抗攻击确实能够缓解风险,权限加锁也可以。intel芯片漏洞那么多年了才被发现,wifi漏洞也是一样,所以危险性功能不能开放,漏洞是无法预估的,而且漏洞的发现普遍是黑客的攻击。人工智能应该由国家安全层面管理,经过评估才能用于商业化和出口。对人工智能制定网络安全法式的规范和量刑,才能束缚想要犯罪的人。建立综合信用体系,对人工智能威胁管控,不达要求的禁止进入人工智能相关开发和运营工作。

0

古散 已获得虾米VIP月卡 复制链接去分享

1,你是否赞同报告中的观点,为什么?
不赞同,技术掌握在人手上,想要产生人工智能,首先他要能掌握不知道多少数据,如果说危险,那么危险其实一直都在
2,你认为在报告中提到的风险中,最大的风险是什么?
大数据的滥用,人工智能核心是算法嘛,只能说一部分吧,没有基于大数据的前提,人工智能就是个婴儿
3,你觉得什么因素或者场景下,报告中的风险会变成现实?
政府监管的缺失很有可能导致数据的部分泛滥
4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
认同,另外的建议是政府也要建立一套行之有效的监管风控评估体系

0

浮生递归 已获得云栖定制电脑包 复制链接去分享

不要打赏月卡哟,谢谢~

1,你是否赞同报告中的观点,为什么?
赞同,你以为能做出猎鹰重型可回收火箭和电动汽车的艾隆马斯克是开玩笑的吗?大神观点,自然有其合理之处。而且对于普通民众而言,从来就不注重信息安全。电脑里各种漏洞,各种弱口令。根本就没有什么安全意识。在普通的网络安全面前就已经是不堪一击,如果碰上人工智能的攻击,就只能呵呵了。

2,你认为在报告中提到的风险中,最大的风险是什么?
虚假宣传来左右民意吧,最终可以导致一个政权的颠覆。说到这里,特普朗这个推特总统,是不是就是最好的例子呢?对于一个国家而言,还有什么比政权的变更更加重要的?

3,你觉得什么因素或者场景下,报告中的风险会变成现实?
时间。经过了一定的时间之后,报告中的风险总会变成现实,前提该报告并没有被掌权者们重视。如果人们统一认识,积极应对的话,风险还是不会变成现实的。

4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
就跟现在的网络攻击一样,黑客总是技高一筹,而安全人员,总是慢一拍。或者说,总是先有攻击,再有防御。所以报告中的措施,我不怎么认同。正确的方法应该还是在意识上达成正确的共识。大家就像对待文明的共识、对待素质的共识一样来对待人工智能的风险认识,才能在攻击发生之前,就能进行防范。

0

沙漠的热情 已获得手机话费 复制链接去分享

1,你是否赞同报告中的观点,为什么?
人类总是贪婪而短视的,还是小心的好。小心驶得万年船。

2,你认为在报告中提到的风险中,最大的风险是什么?
人们可能无隐私可言,自己的一切都在天眼的窥视下。
无人机,无人车被劫持的话,相当恐怖啊!

3,你觉得什么因素或者场景下,报告中的风险会变成现实?
在政治方面,人工智能还可以用于左右民众观点,形成高度精准的宣传,传播虚假但却可信的文章和视频。人工智能还能在私有和公共空间催生更好的监控技术。
如果权力得不到有效的监督的话,人人都可能生活在天眼的监控之下!

4,你是否认同报告中建议的缓解风险的措施,或者你还有那些更好的办法?
认同
也许应该民众、专家、政策制定者、各国政府等等多方交流、讨论、博弈达成一个平衡。

1

hehykissool 复制链接去分享

人工智能的危机主要来源于两方面,一方面是技术失控带来的“硬危机”,就这点而言,失控的人工智能与失控的核反应堆相比并没有太大的差别,有足够多的手段来处理这样的麻烦。另一方面是人类伦理方面的“软”危机,我着重从这点来谈一谈。
现在很多科幻作品中都提到了“智械危机”,在这些科幻作品中,我们传统的社会伦理与新的技术规则碰撞之后,有了一系列迭宕起伏的故事。粗略一看好像有几分道理,但是仔细想来这些逻辑都巧妙地避开了关键的弱点,人类的社会会因为信息构成的变化而形成新的组织方式,人类的概念也会随之变化。这是一个实时演变的过程,除非是遭遇了整个人类都无法左右的外力干涉,矛盾才有可能突然爆发出来。在现实里,所有技术的发展都有足够坚实的基础,很难发生“一脚踩空式”的冲突。人类与人工智能的磨合从一开始就在发生,不论最后发展成什么样,都会顺应客观规律,都有其必然性。
但是是否意味着,我们讨论“智械危机”就是毫无意义呢?我们应该明确一个观点,“文学作品就是最低成本的原型”,而原型,应该就是可学习可反思的,“硬”问题的反思在这个技术社区已经提了不少了,我就反思一点“软”问题,随着信息技术的发展,人类的生活空间有了大范围的延伸扩展,很多社会问题开始暴露,“代沟”已经扩大到了方方面面,“同床异梦”将成为常态,人类社会的结构将逐渐摆脱地理环境的限制,社会伦理结构与新技术的矛盾就在眼前。只有适时处理好这样的矛盾,才有可能在所谓的“智械危机”中占得先机。

0

蔚蓝传说 复制链接去分享

我想说如果人类实现人工智能了未来人类怎么生存。因为所有的工作岗位都有可能被替代,替代完了之后我们该怎么办何去何从。
0

1iuxingyu 复制链接去分享

为时尚早吧,目前只能算是社会主义初期阶段。当然,害人之心不可有,防人之心不可无啊,新的技术,发展的每个阶段都要留后门,就如同自爆装置之类的东东,哈哈。

1iuxingyu 回复

千万不能走向失控,人类要紧握主动权。

评论
0

1045411394314184 复制链接去分享

我想要个电脑包,只要云栖的

0

1464011931475187 复制链接去分享

喜欢类似脑洞打开的电影,数字化生存到智能化生活的必然哈。

0

大发呀 复制链接去分享

现在开始对语音音箱示好吧。
我是第100001个传递 AI 火花的人;
坚决抵制虐待机器人的行为。

0

1363919623236229 复制链接去分享

这个我们有说话的权利吗?

0

徐环 复制链接去分享

人工智能后方便是人的IQ只要无猫腻就不必担忧……

0

徐环 复制链接去分享

人工智能后方便是人的IQ只要无猫腻就不必担忧……

0

幽梦plus 复制链接去分享

人工智能需要高额投资,随着网络安全的发展,基于网络安全的人工智能在大公司的投一下会获得更多的发展,因此,不必太过于忧虑。但是,也不能不重视。

0

xiao尨 复制链接去分享

这一定是看了,我是机器人,得电影了吧,虽然说万事皆有可能,但我觉得,不一定有这情况,人工智能去控制机器人,这逻辑说不通啊,

0

一个机会 复制链接去分享

任何东西它都有利有弊,人工智能也不例外。还是主要看使用者的是好是坏,因为世界上不可能都是好人,所以人工智能肯定也有坏处。

0

jstzwhc 复制链接去分享

国家、单位、个人都要高度重视。

0

夜枭生 复制链接去分享

现阶段该警惕的不是程序,而是人!等到什么时候人工智能有智慧了,再去警惕人工智能吧!非程序之罪!

3