人工智能一路狂奔 安全却漏洞百出

简介:

“过去一年我找遍了做IOT(物联网)、无人机、自动驾驶的国内外厂商,没人和我讨论安全问题。”国内知名白帽黑客团队Keen(碁震)创始人兼CEO王琦感慨。

王琦在白帽黑客中绰号叫“大牛蛙”,作为微软美国总部以外第一个区域性安全响应中心chinaMSRC创始人之一和技术负责人,他是微软亚太地区第一个漏洞研究领域的专家级研究员。

王琦所在的群体是一群“互联网安全界的守护者”,他们日常的工作是找到网络生活中的后台风险,同时攻破并协助软硬件厂商及时堵住安全漏洞。最近,他接触到很多人工智能方面的产品,但是他坦言,人家是做人工智能、无人驾驶的,高大上,瞧不上我们白帽子黑客,认为黑客是小儿科,那我们就伸手去够一够,看看能做些什么事情。

在10月24日的GeekPwn2016嘉年华现场,互联网安全领域有“小霍金”之称、患有脑裂畸形但拥有10年编程经验的Stephen Chavez第一个出场的他展示了利用漏洞去远程控制一个陌生人的智能轮椅。同时,来自清华大学的长亭科技团队也演示了针对PS4游戏机的越狱破解等。

值得注意的是,世界破解iPhone和索尼PS3第一人George Hotz(业内称GeoHot)也来到现场,表达了他对人工智能的看法。

他表示,尽管经过了60年的发展,但AI仍只是一个概念,没有进入从0到1的飞跃,自动驾驶也没有实现。现在,他的兴趣已经从早年对苹果手机和索尼游戏机的漏洞攻破上转移到汽车领域,并将在今年年底发布一款自动驾驶硬件,他做的不是自动驾驶汽车,而是辅助驾驶技术。

“目前苹果公司的安全性已经提高了很多,不需要我的帮助了。但是现在看来,汽车厂商们很笨,目前来看他们把汽车做得很漂亮,但一点都不智能。他们才需要我的‘帮助’。”

除了人工智能方面的展示,智能设备也有很多亮点。一个由东南大学与澳门大学师生组成的Phenix Coder团队将攻击对象瞄准了生活中并不起眼的智能插座,攻破后,他们竟然让这个智能插座自己发布了一条微博。

王琦表示,一个小小的智能插座能成为黑客远程控制用户社交媒体的载体,那黑客就可以通过这个硬件做更多破坏事情。

还有一名来自加利福尼亚大学圣塔芭芭拉分校的学生,演示了如何通过代码攻击,破解一部新拆封的华为手机的指纹密码。当这部新手机上录入了指纹,手机的TrustZone区域被攻破后,手机后台可以让任何指纹通过验证,攻击者甚至可以用鼻子代替手指去解锁手机。

华为方面随即表态称,对主办方提供的漏洞进行了慎重仔细的分析及修复工作,以保证华为手机系统的安全性进一步提升,“对于十分重视用户安全的华为手机来说,安全极客的攻破演示无疑成为一次提高产品安全性的重要机会。”

王琦表示,近几年,人工智能和职能生活飞速发展,但是互联网安全意识却远远没有跟上,暴露了很多巨大的问题,影响了很多用户的财产安全,但是一些国内硬件厂商在面对安全问题上的态度在发生转变,王琦表示,世界上不存在完全没有安全漏洞的智能产品,但是安全漏洞被发现和消灭的越早,智能产品越安全。对于用户方面,王琦给出一些建议,比如说如果当你无法确认酒店、星巴克等地方的公共wifi是否已经被黑客控制,那么当你上传或下载一些比较重要的资料时尽量用3G或4G网络。


作者:刘安妮

来源:51CTO

相关文章
|
2月前
|
人工智能 安全 算法
AI与大数据:智慧城市安全的护航者与变革引擎
AI与大数据:智慧城市安全的护航者与变革引擎
32 1
|
3月前
|
机器学习/深度学习 人工智能 安全
中国信通院联合金橙果科技等十七家单位发起人工智能大模型安全基准测试
2024年2月20日下午,AIIA“SafetyAI Bench”(人工智能大模型安全基准测试)线上研讨会成功举办。来自中国信息通信研究院(以下简称“中国信通院”)、厦门大学、北京大学、北京交通大学、360、百度、蚂蚁集团、VIVO、西门​子、小鹏汽车、马上消费、浪潮科技、海信视像、交通银行、商汤科技、邮储银行、普华永道、科大讯飞、金橙果科技、万商天勤律所、中兴通讯、博特智能、开源网安、云天励飞等单位40余位科研机构专家及企业代表参加了本次会议。
|
机器学习/深度学习 数据采集 人工智能
人工智能安全(下)
人工智能安全(下)
436 0
人工智能安全(下)
|
10天前
|
机器学习/深度学习 人工智能 安全
模型被投毒攻击,如今有了新的安全手段,还被AI顶刊接收
【4月更文挑战第25天】研究人员提出了一种结合区块链和分布式账本技术的联邦学习系统,以增强对抗投毒攻击的安全性。该系统利用智能合约支持的点对点投票和奖励惩罚机制,提高模型聚合的鲁棒性。此创新方法首次将区块链应用于联邦学习,减少中心化服务器的风险,但同时也面临计算成本增加、延迟问题以及智能合约安全性的挑战。论文已被AI顶刊接收,为金融、医疗等领域提供更安全的机器学习解决方案。[[1](https://ieeexplore.ieee.org/document/10471193)]
19 3
|
12天前
|
人工智能 安全 API
【AI大模型应用开发】1.3 Prompt攻防(安全) 和 Prompt逆向工程
【AI大模型应用开发】1.3 Prompt攻防(安全) 和 Prompt逆向工程
28 0
|
5月前
|
人工智能 安全 数据挖掘
AI大数据分析对安全隐私的保护
AI大数据分析对安全隐私的保护非常重要。随着大数据技术和人工智能的发展,个人和企业的数据越来越容易被收集和分析。这种数据分析可以为企业提供有价值的洞察和决策支持,但同时也带来了安全隐私的风险。
|
2月前
|
云安全 人工智能 安全
|
4月前
|
人工智能 安全
大模型放大了AI安全可信问题
【1月更文挑战第20天】大模型放大了AI安全可信问题
40 3
大模型放大了AI安全可信问题
|
4月前
|
人工智能 安全 自动驾驶
AI对齐:创新时代的安全与合规
【1月更文挑战第19天】AI对齐:创新时代的安全与合规
25 1
AI对齐:创新时代的安全与合规