1. 聚能聊>
  2. 话题详情

又双叒叕删库了,这次是 AI 动的手

部分材料摘自公共号大数据文摘,作者:蒋宝尚 材料已获得原作者的授权

Yelp最近又火了一把,基于一次失败的“被删库”体验。

这家全球最大美食点评公司最近忽然挂了,并且持续了一段时间。而其崩溃的原因2天前因为新版本的上线水落石出,Yelp似乎训练了一个神经网络来debug,然后这个具有“极度智能”工具,把数据库中所有的数据都删了。

为此,Yelp 在APP store中向近期可能感到体验不畅的各位用户致歉,更新中的说明表示,为了解决此问题,他们将不得不进行回滚(Roll back)。但是也并不是没有好的一面,至少,可以保证系统中100%没有了Bug。

image

通俗的讲,Yelp出现这种事情,杀一个程序员用来祭天肯定跑不了了。

image

至于,这个工具为什么会做出如此判断?或许用户名为狸角兽和-韩耿耿-的小伙伴道出了这个“人工智能的心声”:

Al:我不是针对谁我是说在坐的各位都是垃圾

image

不管怎么说,这次的事情,不光给Yelp了一个教训,也给了我们一个教训:利用AI帮忙可以,一定要做好风险控制,并且,人工智能距离自编程还很远。

对于日益发展的 AI 技术,您是如何控制潜在风险的?您是如何权衡新技术与安全的?您对这次的删库事件怎么看?欢迎在下方发表您的观点。

参与话题

奖品区域 活动规则 已 结束

  • 奖品一

    蓝牙手环 x 1

  • 奖品二

    云栖定制电脑包 x 1

  • 奖品三

    福禄寿淘公仔 x 1

40个回答

1

aoteman675 已获得蓝牙手环 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?
AI的风险很大,权限给予太大了,不然就不是智能了。人工智能的行为就像工程施工一样,需要配一个监理,在执行时监督行为是否符合设定要求。而且要及时做好数据的备份和业务双活机制,同时隔离也是要做好了,防止网络侵入。总之不能任由为所欲为。

您是如何权衡新技术与安全的?
技术的应用离不开实际的生产环境,所以我们的软件测试一定要全,在场景上做到全覆盖,同时新技术要做好风险控制机制,在异常时,自动切换环境。不能为了不出事故而不使用新技术,但是我们可以在人为保证安全下测试稳定性。

您对这次的删库事件怎么看?
幸好可以数据回滚,这事故就是因为太相信自动化运维系统了,来自异常操作竟然没有隔离行为,数据备份机制也没有经过实际的考验,关键还是缺少监督。。

1

盖地虎王晓 已获得福禄寿淘公仔 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?
AI是个好东西,但是用的好是个宝,用的不好那就是一个定时炸弹。现在数据是一个科技公司的生命线,所以数据容灾非常重要,我们公司无论是程序还是数据库,每次大动之前,都要备份两个,在线一个,本地一个,随时打算覆盖回去。

您是如何权衡新技术与安全的?
要勇于接受新技术,不能说存在风险就不去做,但是软件测试工作及容灾工作一定不能拉下。软件测试尽可能的详细,尽可能的找到新技术的BUG,将它消灭在萌芽状态。后面就是容灾备份了,这两个要两手一起抓,两手都要硬,不然就等着跑路吧。

您对这次的删库事件怎么看?
这和之前的顺风删除事件,及腾讯云数据丢失事件一个样子,没有做好数据备份,还有就是运维机制有问题,权限把控不到位。所以这些如果不做好,类似的问题还会有。所以要从制度到人都能做好防范才可以。

0

杜宝宝 已获得云栖定制电脑包 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?
1.把ai也当做一段程序,是程序就会有bug,要多场景多环境的测试,达到一定的稳定性才可以生产环境部署。
2.权限控制,对一些重要的数据只能有只读权限,经过一段时间生产环境测试过后,才可以逐步的开放其他权限。
3.也是最重要的,就是要对ai执行的命令和操作可以手动控制或者回滚。确保主动权在人的手上。
您是如何权衡新技术与安全的?
1,新技术可以极大的提高生产效率,改善人民的生产水平。我是支持的
2,对待新技术我们要保持怀疑的态度,不是所有的新技术都是好的,一般初次版本,或者前几次都是不太稳定的。这时候不要盲目的追求可以先了解一下优缺点。或者经过大公司如阿里谷歌内部用过以后开源出来的。都挺不错。
3.新技术和安全不是鱼和熊掌的关系,新技术也可以很安全但是要经过大量的测试实验,经历过好多的修改才能合格的。所以要给新技术时间,除非一开始理论就是错误的。
您对这次的删库事件怎么看?
1,这是很正常的互联网时间。
2,表明了一些公司在自动化运维管理制度的缺陷。
3,实实在在告诉了我们备份的重要性。

杜宝宝 回复

要是能获奖,我希望要一个电脑包

评论
1

丘666 复制链接去分享

你们的云服务器是否都是非常慢的吗?听说技术人员说T5的都是测试机,阿里云把测试机买给广大用户,味着良心赚顾客的钱呀!
d4e83e87dcc041a1bfa7b8bb031ab237_1_1548268323.915106.jpg

八面道君 回复

ZZ吗?这是聚能聊评论不是提交工单,也不是你反馈这些信息的地方

评论
2

黄二刀 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?
只能说量力而行,最好选择比较成熟的技术,千万不要充当小白鼠。
您是如何权衡新技术与安全的?
安全是第一位,如果连安全也无法保障,再新的技术也失去了意义。
您对这次的删库事件怎么看?
只能说为行业做贡献了,敬礼。

1

微wx笑 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?您是如何权衡新技术与安全的?您对这次的删库事件怎么看?欢迎在下方发表您的观点。
控制风险的难点在于未知,所以说对于未知的来说,只能是提前做更多的准备;
但是,我们不能因为有未知的风险,就停止了一切;
你能因为未知的交通事故不出门吗?

本次事故确实是产生了损失,但事前是有准备的,所以损失不是不可承受;
尝试新技术的时候,做好自己能承受多少损失的准备。

1

shadow- 复制链接去分享

它会把数据库里的所有东西删除这也是它自身的一个bug吧?!为什么不给它设置一个权限呢,比如最高限度只能删除几行代码。还有就这个ai就把数据库里的所有东西删了,那他们对数据库的安全保护会不会有点那个。。。来自一个小白的单纯的看法

0

mark99 复制链接去分享

总有一天人工智能将超越并替代人类

1592763369775186 回复

111

评论
0

wangccsy 复制链接去分享

AI也不是万能的啊。还在学习阶段。犯点错误也接受吧。

0

liujianges 复制链接去分享

ai为什么有那么大的权限,我很好奇

0

wenjia.hao 复制链接去分享

ai已经有思想,有意识,人类要小心了

0

甲兵 复制链接去分享

这个AI是要罢工的节奏 ^^

0

海阔天空yy 复制链接去分享

对于日益发展的 AI 技术,您是如何控制潜在风险的?
风险不在于技术本身,在于使用技术的人,一个好的技术到了有些人手里能变成好产品,到另一些人手里能变成自裁的工具,所以在使用技术前一定要充分了解,多测试,特别是在线上的产品。
您是如何权衡新技术与安全的?
先保证安全,再谈技术,否则没意义。
就像一个不设置登录密码的服务器放到网上,性能再好有什么用,也是沦为黑客的肉机而已。
您对这次的删库事件怎么看?欢迎在下方发表您的观点。
说明这人工智能程序不是很成熟的,并且他竟然还有这么高的权限可以删掉所有内容,所以在安全方面是有疏忽的

0

轩雨齐然 复制链接去分享

云计算在未来还是会与AI相结合

0

1986648297569645 复制链接去分享

怎样让建筑工地农民工工资问题用互联网数据解决?

0

1508675718504709 复制链接去分享

人工智能可以代替人,但人的智慧无法超越

0

30204491 复制链接去分享

阿里云的后台内容全面!

0

家腾·悦洁 复制链接去分享

快要被取代了。。。

0

smillence_sun 复制链接去分享

哈哈哈,干过。。

0

1701806735218909 复制链接去分享

人工智能,来自人工,最后,人工智能依赖人工智能,人工智能把人类写的数据库给删了,到底是人工智能删除了的,还是写这个人工智能的那群人给留的bug?

2