隐秘的角落里,数亿场AI战争正在发生

  1. 云栖社区>
  2. 云栖号资讯>
  3. 博客>
  4. 正文

隐秘的角落里,数亿场AI战争正在发生

云栖号资讯小编 2020-07-21 11:46:45 浏览612
展开阅读全文

云栖号资讯:【点击查看更多行业资讯
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

"科技领域不做安全风控,就等于造汽车的时候没有做刹车。”蚂蚁集团首席AI科学家漆远这样形容安全风控的地位。

有安全作锚,大船方能当风御浪。失去安全感,信任与共识的建设也就成了无根之木。事实上,许多高精尖技术是首先在安全领域落地和发展,再在其他行业发光发热。

但如今的金融安全之险,或许完全超出你的想象。

当黑天鹅事件频发,当黑产演化日新月异,风险不会只出现在支付或是贷前环节,也不光冲着消费者而去。交易全链路的每一环、每一方都像蓄满电荷的积雨云,在黑夜里等待一个爆发的契机。

可是消费者和商户、金融机构最想要的那根“避雷针”是什么样子?细细摸索这构造极为复杂的交易网络之后,我们和支付宝聊了聊他们的“秘密武器”。

一通电话背后的风控升级:技术与温度的结合

未雨绸缪,可以说是安全风控的最理想境界。但常见的业内风控方案往往是被动响应式的,在交易开始前一筹莫展,白白浪费最佳风控“身位”。

不做主动风控的原因有二,一是不敢,二是不会——在不少支付平台看来,自己只负责保证交易正常完成,只要资金没有被盗就算功德圆满。

但支付宝选择为用户主动承担更多责任,主动风控也早已成为安全阵型里的常规配置。

此前他们曾为C端用户遭遇的网络诈骗风险,调教出一套全链路交互式的主动风控体系,例如通过智能弹窗唤醒用户,又或是延迟到账或资金截留,尽量阻止欺诈交易的发生。

但他们很快就意识到,用弹窗中断交易、进行风险拦截,确实直接了当,也确实不够温柔。

如果用户因此而对风险提示无视或者反感,可能就错失了一次阻止欺诈发生的机会。

于是去年7月,这套主动风控体系架上了一把“重机枪”:反诈骗叫醒热线。

当识别到交易存在诈骗风险时,系统会通过数据解析和智能派单,帮助客服快速定位超过一定金额的疑似诈骗交易行为,并由人工客服和AI客服致电用户提醒,防止消费者在其他渠道被骗。

此前叫醒热线优先服务50岁以上的老年人,上线以来,诈骗资损率已下降8成;现在热线已覆盖全年龄段的高风险人群。

比起风险拦截,语音方式的提醒和交流相对不显生硬,也更具有交互感。目前,AI客服可以做到和人工客服一样和用户对话,在交互中判断用户遭遇的骗局类型,进行针对性地提醒。

漆远告诉雷锋网AI金融评论,这是一种“更兼顾体验的柔性手段”,能让用户理解系统所看见的风险点和来电的出发点。

“如果客户明确表示,自己没有被骗,我们也能通过交流,确保他后续的支付是顺畅的。”他补充道。

image


支付宝首席AI科学家 达摩院金融智能负责人漆远

这种安全感的关键来源之一,是支付宝持续默默深耕的知识图谱技术,在复杂结构的关系网络中摸清犯罪团伙的踪迹。

在此基础上,支付宝的智能风控引擎能在0.1秒之内,通过近500条量化策略、100个风控模型,7*24小时实时风险检测扫描及保护交易支付,于数亿交易中精准识别账户异常行为,对每笔交易进行用户行为、交易环境、关联关系等8个维度的风险检测。

「AI判官」养成记

交易链条的下游,藏着另一个致命难点:事后举报和调解。

风控系统和用户的关系,有时像一对母子:系统明示了交易风险,但用户实在“叛逆”——数据显示,有60%的用户被骗就是因为不听系统一句劝,这种追悔莫及自然也让用户对交易后的风控效果怀有更大的期望。

识别诈骗是一个世界性难题,如果不是造成实际损失,很多人在过程中都无法意识到自己被骗了。事后在和疑似骗子的对方发生纠纷时,也同样很难向平台说明自己真的是被骗了。

第三方支付机构一样有苦衷:人工介入的成本太高耗时太长,做一个审理系统又不知从何教起……

这样一个无数用户急需的功能,支付宝并没有置之不理,贴合用户诉求,快速推出了智能审理服务,用于欺诈场景的用户投诉纠纷处理。

系统能整合各平台商家客服、AI电话、法律援助、在线视频等能力,通过文字、聊天记录截图、客观数据等证据来提供调解,但最“硬核”的,还数支付宝全球首创的交互式举报流程。

这种交互式与传统问卷式区别在哪儿?

以前要投诉,用户得填一大张表格,时间地点投诉对象,交易过程请在规定字数内描述完成,再一次性提交一堆不知道派不派得上用场的截图。

交互式就像有一位小姐姐专门服务你,挑要紧的事儿先问,再根据用户的回答,提取出下一步有针对性的提问,从而大幅节省用户的时间精力。

支付宝安全实验室就是通过多模态模型来理解用户,并根据去黑盒化的实时抗辩能力来判断风险、类案、缺失要素,从而定制交互信息。

这表面是客服,实际要做的是一个机器“判官”,要看得懂证据,听得懂吵架,能明辨是非正确判决,最后还要给出用户可以接受的调解结果。

漆远也坦言,抗辩性和司法层面的AI可解释性是当中最难跨的两道坎。

抗辩性,顾名思义,如果双方掐起架来,AI必须要能理解两边吵架的逻辑。比起“解语花”式的智能客服,“老娘舅”式智能审理客服的升级之处就在于系统对抗辩性的自洽和更大容纳。

可解释性,是指在每一轮智能交互中,AI都基于当前所掌握的信息,给出具有解释性的识别结果或决策。

漆远对AI的可解释性格外重视,在他看来,机器学习算法之所以在业务安全落地时,对可解释性要求非常高,是因为完全黑盒的模型可能造成无法预料的后果,这在业务安全上有较大的危险,需要有人可以理解的逻辑和介入修正。

尤其是在处理投诉和纠纷,或人机交互的过程中,直接反馈给用户的处理决定,对解释性的要求更高,需要用人可以理解的语言和逻辑去表述。

也就是说,AI的发言得让人听懂,并且有理有据令人信服。

“从法律层面出发,这项功能要做到全要素审核,采用的必须是与司法知识相结合的AI,不光能理解法律,更要能把法律的核心要点用人可以理解的语言和逻辑顺利解释出来。所以要在技术层面下功夫,还要联合运营、司法实务的同学去共建。”漆远补充道。

据支付宝安全实验室透露,目前智能审理可以实时1秒内定性,可定性的风险涵盖盗用,欺诈,赌博,非法投融资等20余种,定性准确率已经超过95%。

梳开KYB的「死结」

如果说主动为C端消费者的交易安全“负重前行”已属不易,迅速让广大商户复工复产、恢复经营任务则是难上加难。

以商户入网为例,核查常以线下人工操作为主;如今在防疫要求下,推广无接触式的线上申请和审核,优化商户入驻体验、简化签约流程成为当务之急。

但线上模式仍然存在缺陷:在审核商户的门头照、营业执照、网站及APP等凭证时,机器还是很难替代人工,审核时效慢、成本高、易积压,人工还很难识别出伪冒及冲突等风险。

利楚扫呗就是面临商户入驻核查难的企业之一,支付宝针对这些痛点,为这家聚合支付服务商打造了专属入网审查方案:

采取证照OCR自动识别技术,商户或业务BD用入网工具拍摄上传,系统即可自动上传、自动识别、快速入网,自动查询商户的法人身份证和执照信息是否真实。

这一方案的成功实施,让利楚扫呗现在的日均新入网商户数达到了1500多家。

这样的技术能力,不只输出给武汉利楚一家。早在去年4月,支付宝安全实验室就整合了应用图像识别、多态融合、NLP、神经网络、知识图谱等技术,沉淀出了eKYB产品——商保宝,具备对营业执照、经营场景照、网址、特殊资质、经营人主体的真实性核验能力。

在商保宝的助力下,商户入驻KYB时效已降至1小时(其中91%秒过),审核人力由155人下降至23人,年审核成本节约1600万;客户签约通过率提升18%。

目前,商保宝也已经进一步输出给集团如花呗、小程序、飞猪等7大业务场景,以及通联、钱盒等3家外部生态伙伴,为更多业务场景的客户带去体验的提升。

商户风险图谱,是商保宝的技术内核。

漆远分析称,做图谱要先把商户知识这种非结构化数据,规整为形如图表的结构化形式;然后关联商户的知识,构成图谱,借此从不同维度来理解商户本身所隐藏的风险与价值。

就像是把一堆乱七八糟打成死结的毛线,先梳理成团,再靠技术“毛衣针”织出细密的商户网。

商保宝的另一个杀手锏,则是蚂蚁集团从2016年就悄然布局的共享智能技术。

当建模有多方参与,且各方互不信任,共享智能让多方信息可由此进入“不可见”的安全可信环境,并在此基础上实现技术共享、模型共建、风险信息个性化识别。

共享智能应用于商保宝时,就是商户的隐私数据始终由各自保留,通过在每方部署的计算模块得出有关商户的分析结果和模型。

与此同时,支付宝安全实验室还在B端以智能凭证项目为起点,沉淀了一系列商户eKYB认证能力,为商户真实性认证提供整套综合解决方案。

例如一些服务商会对旗下优质商户提供特权服务,在接入之前,都是需要一段时间的“观察期”,根据该段时间商户的交易状况及金额等因素评估商户质量;在接入商户健康分服务后,可以有效缩短审核周期,极大提升了用户体验。

这些To B服务就像是给经营链条抹上一层润滑油,多个环节的数字化、智能化升级不光提升了商户的入驻效率和经营水平,同时也让广大中小商户尽早适应数字化生活的新浪潮,从而促进全社会运营成本的降低。

在疫情后的今天,这样的技术普惠思路和实践,对中国乃至世界都意义重大。

数字新基建的AI「进化论」

细看支付宝打造的安全技术方案,就像是复杂机器里啮合完美的齿轮,我们也从中逐点拼凑出一幅当代社会的理想AI图样:善解人意、更加主动、更明白如何与人互动……

数字新基建浪潮下的的AI,究竟应该具备哪些特质?漆远判断AI未来三个重要方向是:

第一,是数据学习与知识推理结合,共同驱动。

“AI其实像一个被高考机器惯出来的孩子。”漆远这样形容AI目前发展“偏科”的情况,好比一位有着特别强大的记忆体的学生,能通过题海战术学习了大量知识点之后,做题效率极高,却不懂怎么推理。

接下来需要让AI成长得更有“常识”和“情商”,打出“见多识广+推理能力”这套组合拳,把人类的知识经验形成规则,与算法在一个体系里共建,以人机结合的智能体系共同前进。

他表示,如果AI能实现因果分析这一最高境界,知道风险能够产生的原因,也就能更有效地防范风险。

第二,提升AI系统的鲁棒性、可靠性,重点关注对抗学习、博弈智能。

漆远表示,AI应该在对抗中提升鲁棒性,就像人在社会里成长,必须学会经受住更多的打击。

智能风控和反欺诈模型之所以会仍被黑产不定时的绕过和突破,一大原因就是黑产攻击手法变化快。

在他看来,系统除了要在工程上迅速灵活响应,更要做到在算法层自动分析组合可能发生的攻击,产生对抗模型,通过弱监督算法、动态蒸馏、自动化更新等算法提升模型快速适配能力。

就像下棋一样,黑产走了一步,AI要想好黑产接下来的三四步会怎么走。

而博弈论某种程度上作为高度凝练的“下棋指南”,本质是策略对抗,预测行为和结果,应用场景也十分广泛,对抗黑产、处理交易纠纷、设计调解机制……这些都是对抗博弈的形式的范畴。

因此,博弈论思想和AI结合的博弈智能,以及在快速主动风控中的应用,也是关键的AI未来方向之一。

AI金融评论了解到,支付宝安全实验室已经基于博弈智能打造了智能攻防算法,是世界上首次把深度学习引入博弈论并在德州扑克子实验上取得世界领先的水平。

第三,保护数据隐私的AI技术将越来越重要。

对用户或者客户而言,技术要保护好用户的隐私,但是又要提供基于数据背后价值的服务。化解这对矛盾的技术,在保护隐私的基础上打破数据孤岛,产生数据融合价值,漆远认为是接下来AI另一个至关紧要的进化方向。

比如各机构之间信息脱节,让安全水位参差不齐。某一安全事件的爆发,往往牵连多家相关企业,行业短板将引发木桶理论中全局危机的出现。

这正是蚂蚁布局共享智能技术的重要原因之一。基于共享智能做联合风控,在保护各自数据隐私安全的前提下,实现风险联防,打破信息孤岛的困局,在数字化进程持续加速的今天,意义非凡。

支付宝研发的端云雾智能风控,同样是体现这一趋势的重要底层技术之一。

漆远向AI金融评论透露,目前这一风控方案使得99%的用户数据及风控计算在用户终端完成,结合隐私保护的机器学习技术,可以更有效地保障用户数据隐私安全,也最大程度降低了云端运算负载,它已是世界上使用人群基数最大、并发数最高的终端风控。

结语

复盘支付宝的行进轨迹,会看见一条清晰的主线:用科技实现普惠。

普惠金融这个词已不新鲜,但在漆远看来,借由技术手段有效地降低服务成本、提高服务效率,让服务触达到以往难以覆盖的长尾人群,真正做到“供氧毛细血管”,从而促进社会的发展,方属普惠的本意。

“做技术落地,某种程度上你要相信技术本身的价值,愿意为此付出努力,最后看见价值的产生。”他说道。

正如同他刚加入阿里,着手研发第一代超大规模机器学习平台的时候。当时的国内,甚至是阿里内部,普遍对超大规模机器学习平台的价值是不理解的。

“一个崭新的技术,要让大家能够看到它的价值。”带着这样的想法,漆远和他的团队在不理解的目光中“憋着一口气”咬牙迎战,团队不少骨干整个春节都在加班。项目直到夏天终于实现大规模上线,奠定了阿里巴巴第一代机器学习平台的基础。

正是这种“因为相信所以看见”带来的使命感,驱使着支付宝的科学家和工程师们步履不停,向技术普惠的愿景继续前行。

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/live

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-07-21
本文作者:周蕾
本文来自:“雷锋网”,了解相关信息可以关注“雷锋网

网友评论

登录后评论
0/500
评论
云栖号资讯小编
+ 关注
所属团队号: 云栖号资讯