“脸书”成“死亡笔记”,小扎要在全球推广AI自杀分析系统,这样真的能拯救自杀者吗?

  1. 云栖社区>
  2. 镁客网>
  3. 博客>
  4. 正文

“脸书”成“死亡笔记”,小扎要在全球推广AI自杀分析系统,这样真的能拯救自杀者吗?

行者武松 2018-03-07 15:53:00 浏览1107
展开阅读全文

如何让AI真正落地,更好地为人类所用,这是包括Facebook在内的所有企业都要面对的问题。

Facebook上又双叒叕有人直播自杀啦!扎克很忙,扎克很累。

所以,他们最近正式对外宣布要在全球范围内推广AI防自杀系统。

\

停不下来的自杀事件,“脸书”成了死亡笔记

今年10月,因为女儿没有邀请自己参加婚礼,土耳其的一位父亲在Facebook上向网友倾诉一番后,毫不犹豫地拿起枪抵住自己的脑袋,爆头而亡。

这已经不是Facebook上第一起自杀事件了。今年4月,一美国男子因失恋在Facebook上直播随机杀人,在枪杀一名无辜老人后自杀,未过几日,一泰国父亲将自己女儿直播吊死后自己也上吊身亡。

\

更糟糕的是,这些自杀视频在Facebook主页上通常挂了几小时甚至几周后,才被官方发现并删除,此时视频已经被大量用户看见并且转发,对社会造成了极大不良影响。

由于网友们根本无法去到现场,报警也需要一定时间,那些在Facebook上自杀的人,大多都没有得到及时的制止与抢救。“脸书”变成了完整记录他人死亡过程的死亡笔记。

惋惜之后,人们将矛头对准平台,Facebook遭遇重大形象危机。

在今年的Facebook 年度开发者大会 F8 上,扎克伯格在向那些逝者表达慰藉之后,向我们介绍,公司正计划通过人类与人工智能的协同作战,以加强平台的内容管理和秩序维护,消除人们的不满和质疑。

\

今年5月份,扎克伯格在其脸书主页宣布,公司将再雇用3000名员工,与原有团队共同组成7500人的审查大队,采取7*24小时的工作制,专门负责检测Facebook上的不当贴文与视频,包括那些有自杀倾向的内容。

然而作为全球登录用户最多的社交应用,Facebook每天更新的内容数以亿计,不管在成本还是速度上,人工审核都有所不足,因此,公司又研发出了一套人工智慧防自杀分析系统,将AI程序作为信息的第一道过滤,帮助工作人员更快地发现异常状况并采取措施。今年3月初,该系统在美国范围内进行了测试。

\

今年秋天,一名美国女子在Facebook直播过程中不断挥舞手中的刀子,并扬言要自杀,Facebook的人工智能系统立刻侦测到其异常状态,并判定其有自杀倾向,随后立即通报警方与医院,有效阻止了一次自杀行为。

据Facebook介绍,AI侦测与回报机制的速度比人工的手动回报快三成,在正式投入使用后,一个月内能检测并拦截到的自杀事件就有百余个,有效挽救了许多生命。鉴于其功能已经相对完善,所以官方宣布将在全球范围内正式推广此系统。

Facebook到底是怎样用AI防止自杀的呢?

目前,系统主要是对用户的发帖内容进行扫描,“我想死”“我讨厌这个世界,我不想活了”这样的内容都会被作为检测的关键语句,接着,系统就会自动将这些用户标记起来,然后直接转发给公司相关部门,交由专员筛选和处理,对于那些确实有自杀倾向的人,Facebook会及时向当事人及其朋友发送有用信息,并且联系警方、医院,以及当地的防自杀组织甚至政府。

\

除了文字识别,Facebook在视频直播中也植入了AI程序,当发现疑似自杀直播后,系统不会切断信号,但是会开始内容监控,并在屏幕上显示热线电话等相关内容,不过关于直播监测的技术细节,官方目前并没有透露。

某种程度上,该系统确实极大提高了Facebook应对此类事件的能力,但是其在响应的速度和准确度上仍有很大的提升空间。

虽然和人工相比,AI程序已经相当迅速了,但是这类紧急事件对系统响应速度的要求十分之高,甚至要比警察系统的响应速度更快,因为它是第一道检测程序,直接决定了此次拦截能否及时有效实施,Facebook官方也表示:提高响应速度将会是整个流程中的重中之重。

另外,和人工相比,AI程序的准确度还远远不够,因为AI缺乏人类常识,经常会出现“开不起玩笑”的误报警现象。扎克伯格表示:“虽然目前已经有了通过识别语音语调,揣摩发言者意图以及辨别内容真假的技术,但是目前还不清楚将该技术整合进深度学习框架中后,是否还能有效率的运行。”

AI的加入,或许真的可以帮上大忙

虽然Facebook推出此系统很大程度上是为了减轻负面舆论,维护企业形象,但不得不说,其在AI的具体应用上有极大的借鉴意义。

如何让AI真正落地,更好地为人类所用,这是包括Facebook在内的所有企业都要面对的问题。事实上,许多企业都有类似的防自杀措施,比如siri的语音服务和谷歌的关键词搜索。另外,世界上还有很多相关的慈善机构,比如The Samaritans就在通过和Twitter这些社交平台的合作来阻止那些有自杀倾向的人。

\

但到目前为止,由于技术和成本等因素的限制,对自杀行为的识别仍停留在比较初级的关键字层面,并没有取得实质性的突破。

而Facebook这次大举花费人力财力搭建完整的AI防自杀系统,至少说明,在“全球越来越多人选择自杀”的这个老大难问题上,AI的加入,或许真的可以帮上大忙,带来更多质的飞跃。

比如AI的情绪识别,不仅在防止自杀,在医疗、服务、甚至审讯领域都有极大意义。目前国内外多家公司都推出了相关的面部表情识别系统,基于特定算法,捕捉人类面部的几百个关键肌肉点,构建模型进行分析,不仅可以识别出人类常有的基本表情,还可以计算视线方向,头部方向,甚至推测出对象性格。

\

结语:

虽然AI现在只是初具“察言观色”的能力,但相信不久的将来,随着算法的完善和数据的积累,它能够做到真正的洞察人心。至于它会化为魔鬼还是天使,那就要看人类自身对它的定义了。


原文发布时间:2017-11-29 17:47
本文作者:梁静伊
本文来自云栖社区合作伙伴镁客网,了解相关信息可以关注镁客网。

网友评论

登录后评论
0/500
评论
行者武松
+ 关注
所属团队号: 镁客网