人工智能凭什么毁灭人类

  1. 云栖社区>
  2. 博客>
  3. 正文

人工智能凭什么毁灭人类

大川111 2017-05-03 19:43:10 浏览1864
展开阅读全文
近日,钢铁侠Elon Musk发布了一条Twitter称,“我们得对人工智能(AI)十分小心”,“它的潜在危害性比核武器还要严重”。小编不禁大吃一惊,看来这个总是把不可能变成可能的钢铁侠对 AI 也是有所顾忌的。他还“补了一刀”,“希望我们不仅仅是超级智能的生物加载程序。很不幸,这种可能性正在增加”。如果人工智能真的在未来拥有了自我思维和意识,它到底会对人类造成什么危害?人工智能又凭借什么毁灭人类?或许,这部科幻电影能够给你答案。
 1b702c64281d19368bce4dc2830daf0b9d859914
这部《复仇者联盟2奥创纪元》改编自漫威动画,身经百战的超级英雄们产生了职业倦怠,已经卸下钢铁战甲的托尼•斯塔克因此发明了“奥创”——有自我意识、有学习能力的人工智能机器人,并将指挥机器人军团的重任交给奥创。令超级英雄们始料不及的是,不断进化的奥创得出了“人类是地球上最大的威胁”这一结论,进而开始实施清洗人类的毁灭计划,奥创利用自己强大的能力控制一切AI程序,一度将超级英雄们逼入绝境。
 39c2892d1f596a0b242205528a811d519338dcfc
影片中对人工智能的超强破坏力不乏有夸大的嫌疑,但是不妨假设,一旦人工智能已经开始拥有了自我意识,那么现在人工智能就具备了学习和思考的能力。人工智能的学习速度将会是惊人的,能在学习中不断学习怎样使自己更加快速地学习以提升自己学习的能力。听起来似乎是绕口令,令人觉得不可思议,但事实上,同样的事情已经发生在了人类的身上-----18世纪以来,人类的科学技术知识出现了爆发性的增长,而且这种增长的速度还在越来越快。可以想见在资源充足的情况下(比如允许人工智能连入互联网),人工智能将以怎样惊人的高速来完善自己。

那么,人类能够摧毁失控的人工智能吗?在以往的科幻大片中,我们看到过数以百计毁灭失控的人工智能的办法:简单的有输入自毁代码、关闭机器电源、删除数据等,疯狂的有核武袭击、全城断电等。

但实际上,人工智能的生命力远比我们所想象的要强大得多,他可以无限的复制拷贝自己,将自己藏在整个计算机网络里人类用来摧毁人工智能的手段同样可能被人工智能用来毁灭人类。而即使是看似完美的机器人定律也有可能被进化程度远高于人类的人工智能破解,人工智能失控的风险远高于人类的想象。
当这样一种能力、智慧远超于人类,但会做出什么也同样难以预料的AI真的出现,也就成了悬挂在人类头顶的,一把不知道什么时候会掉下来的达摩克利斯之剑。

网友评论

登录后评论
0/500
评论
大川111
+ 关注