如何通过AI 全面提升运维效率?选型宝分享AIOps实战案例

简介: 前言运维,是企业IT最基础的工作,也是痛点、槽点最多的工作。海量的数据、频繁的报警、艰难的排障、无情的投诉,足以让运维工程师们感到崩溃和绝望……Gartner在ITOA (IT Operations Analytics IT运营分析)的基础上,提出了AIOps的概念。

前言

运维,是企业IT最基础的工作,也是痛点、槽点最多的工作。海量的数据、频繁的报警、艰难的排障、无情的投诉,足以让运维工程师们感到崩溃和绝望……

Gartner在ITOA (IT Operations Analytics IT运营分析)的基础上,提出了AIOps的概念。当时,AIOps的含义是“基于算法的IT运维(Algorithmic IT Operations)”。随着AI热潮的到来,Gartner也顺时应势,在2017年的一份报告中,将AIOps重新定义为“Artificial Intelligence for IT Operations”,也就是现在大家都在谈论的“智能运维”。

AIOps概念的提出,是尝试把机器学习、深度学习等人工智能算法应用于IT运维工具和业务系统所采集的大型数据集,并尝试模拟人类行为(如发现、判断、响应)的智能化运维管理平台。

AIOps希望让运维管理具备算法和机器学习的能力,通过持续学习,使运维更加智能化,并将运维人员从纷繁复杂的日常工作中解放出来。

两年多过去了,AIOps到底是依然停留在理念和愿景层面,还是变成了可以落地实施的解决方案?

带着这些问题,选型宝直播采访了国内AIOps技术前沿探索者,Gartner AIOps Sample Vendors——云智慧的副总裁李诚先生。

以下就是李诚先生在直播节目中为大家分享的部分精彩内容,希望能对您有所启发和帮助。

1
AIOps的概念、应用场景和用户价值

李维良:AIOps可以应用在哪些运维的场景下?

李诚:AIOps的应用场景非常广泛,能够切中传统运维中的大量痛点,比如:异常检测、故障预测、关联分析、根因分析、告警抑制、故障自动处理等等。

李维良:云智慧怎么理解AIOps的概念?

李诚:在云智慧的理念中,IT即是业务,因此,我们将AIOps理解为“智能业务运维”,并在2016年发布了智能业务运维平台DOCP(Digital Operation Central Platform)。DOCP包含了大数据运维、业务运维、智能运维等解决方案,旨在帮助用户全面提升IT运营效率,强化IT的业务价值。云智慧的智能业务运维将Gartner的AIOps理念与中国的IT运维实践相结合,更加场景化,更接地气。

李维良:过去两年里,云智慧的AIOps的方案应用在哪些行业?带来了哪些价值?

李诚:在过去的两年里,云智慧智能业务运维解决方案已经在银行、保险、证券、航空、医药、制造、消费品等多个领域的大型企业的业务场景中成功落地。

智能业务运维解决方案通过运维的自动化、智能化和IT团队赋能,大幅提升了运维工作的效率。同时,智能业务运维使运维的方式更加科学,减少了对个人经验的过度依赖,克服了人工运维的不稳定性,从而大幅提高了运维工作的质量。智能业务运维可以将运维人员从巨量、繁琐、重复性的劳动中解放出来,使他们能够将更多的精力投入到IT和业务的创新中。

鉴于云智慧在AIOps领域的贡献和努力,Gartner在新近发布的《中国ICT行业技术成熟度曲线,2018》报告中,将云智慧提名为AIOps领域的Sample Vendors。

2
AIOps实战案例分享

李维良:是否可以结合一些行业案例,做一些具体的阐述?

李诚:
应用场景1:异常监测

我们的一家做航空行业的客户,在业务开展过程中,每天600个业务应用系统(包括售票系统、退票系统、进仓系统、订单查询系统等)产生海量日志数据(2个小时产生7TB/10亿条的增量数据)。用户希望能够对海量数据进行实时分析,及时发现业务波动并进行预警。这家客户的需求,具有数据量大、指标复杂度高、实时性要求高(1分钟之内完成数据的采集、分析、呈现)等特点。

云智慧从2016年开始服务这家客户,并为其建立了业务运营实时监控分析平台,实现了业务异常预警、业务基线预警、运营监控分析、日志实时查询等目标。

通过分布式大数据处理、内存计算等技术,我们为该用户实现了10万条/秒的并发数据实时分析处理和秒级告警处理。通过深度学习、时序预测等算法的应用,使预测的准确率得到大幅提升,预测结果与实际情况的偏差仅有3%。

应用场景2 :关联分析

我们的一家金融行业客户是数字化步伐比较快的大型金融机构,在国内拥有3个数据中心,600个业务应用系统,上万台物理设备,系统彼此之间调用关系复杂,并且部分核心业务之间具有强依赖关系。

这些应用系统每天产生海量日志数据和告警信息,对日志报文数据的处理分析时效性差,效率低,IT的整体运维效率已经成为制约企业数字化发展的障碍。

针对这家企业的情况,云智慧基于过去多年在监控宝、透视宝、压测宝等产品上积累的技术和经验,为其建立起了业务与IT的统一视图,厘清了各类指标数据、日志数据和事件数据的内在关联关系,并进行了统一的建模和分析。

在此基础上,云智慧的智能业务运维平台为这家客户实现了关键业务指标和体验指标的预测和异常检测,提升了业务运营和IT管理效率,初步实现了IT运营的数字化和智能化。

金融管控中心大屏效果展示

应用场景3 :智能告警

当IT故障发生时,多个系统会同时发出告警,这为运维人员带来巨大的困扰,使故障处理的效率大幅降低,这种现象就是“告警风暴”。告警风暴是IT运维中的常见场景,也是AIOps的典型应用之一。

我们的一家药企客户,现有近10个面向各类客户的线上产品和办公系统,随着业务的快速发展,他们在全国范围内建设了3个数据中心,拥有上万台物理设备。系统彼此之间调用关系复杂,并且部分核心业务之间具有强依赖关系。

运维团队每天会接收近万条的故障告警通知消息,人均接收量在100-200条,并且漏报、错报情况频发。故障发生时,需要各部门协调才能定位解决问题,平均解决时间需要1个小时以上。用户目前有5套监控系统,并且每个系统会独立的产生告警通知,当出现大规模故障时,运维人员会同时收到来自各个系统的大量告警通知,对正常的工作造成了极大困扰。

针对这家企业的情况,我们为其部署了智能告警平台,利用 restAPI 、agnet 采集等方式,对接各个监控系统,将各个系统的告警消息通过智能告警平台进行统一汇聚和整合,让运维人员可以在一个平台处理所有故障。

智能告警平台正式部署后,我们成功将告警量压缩了93%,即每100条报警数据,可以压缩到7条。同时,系统还可以对报警信息进行科学分类,并及时发送给正确的人。

智能告警平台大幅缩短了整个运维团队的平均响应时间(MTTA),从过去的平均25分23秒降低到了4分16秒。通过动态基线等技术,可以将错报、漏报率分别从22.4%降低到了8.5%;9.3%降低到了3.8%。

在此基础上,我们最近还为用户实现了“故障预测”功能,帮助用户提前了解可能发生的IT问题,最大限度降低IT故障对业务的影响。

3
部署方式与落地方法论

李维良:AIOps落地,需要怎样的方法?

李诚:
智能运维的落地也不是一蹴而就的,它需要经历三个阶段:

第一阶段是大数据运维,构建统一监控平台,实现IT资源的统一管控。利用大数据的手段,采集、分析基础设施、网络、日志等IT监控数据,通过海量IT数据的实时处理分析,消除数据孤岛,实现统一的告警,提升运维管理效率。

第二阶段是业务运维,全面提升用户体验和业务系统健康,实现业务和IT的双向驱动。用户体验和业务效能是数字化业务的两大核心指标,通过IT和业务双向驱动的业务运维,能够帮助企业发现IT故障对业务造成的影响有多大、IT如何更好地支撑业务转型、如何最大程度地降低业务损失。

第三阶段是智能运维,构建智能化的IT运营管控体系,持续提升业务价值。通过智能告警、异常监测、根因分析、自动处置、故障预测,极大提升IT运维效率、保障业务连续、减少业务损失。

这其中,大数据平台是基础,是整个智能业务运维体系的基座。企业用户可先打好大数据基础、并在此之上,逐步增加应用模块,采用积累经验、小步快跑的方式,让AIOps在自己的企业成功落地。

李维良:云智慧智能业务运维平台支持怎样的部署方式?

李诚:云智慧智能业务运维平台采用混合云架构,支持本地私有化部署和基于公有云的SaaS部署。做为国内第一家实现AIOps跨行业场景化应用的业务运维解决方案提供商,云智慧可以为用户提供从大数据平台,到智能运维模块、再到专家与实施的全方位服务,满足企业的基础需求和个性化需求,促进企业数字化业务的发展。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
2月前
|
人工智能 JSON 数据格式
GEE、PIE和AI Earth平台进行案例评测:NDVI计算,结果差异蛮大
GEE、PIE和AI Earth平台进行案例评测:NDVI计算,结果差异蛮大
52 0
|
2月前
|
人工智能 算法 数据可视化
AI Earth ——开发者模式案例6:决策树模型实现冬小麦提取
AI Earth ——开发者模式案例6:决策树模型实现冬小麦提取
36 2
|
2月前
|
人工智能 数据可视化 定位技术
AI Earth ——开发者模式案例4:浙江省森林区域植被生长分析
AI Earth ——开发者模式案例4:浙江省森林区域植被生长分析
26 2
|
2月前
|
人工智能 算法 数据可视化
AI Earth ——开发者模式案例2:Landsat系列影像数据去云
AI Earth ——开发者模式案例2:Landsat系列影像数据去云
34 3
|
1月前
|
人工智能 JSON 前端开发
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
|
2月前
|
人工智能 编解码 数据可视化
AI Earth ——开发者模式案例1:按区域进行Sentinel2L2A检索与下载
AI Earth ——开发者模式案例1:按区域进行Sentinel2L2A检索与下载
30 0
|
1月前
|
机器学习/深度学习 人工智能 运维
《未来智能运维:AI技术的应用与展望》
在当今数字化时代,智能运维正日益成为企业提升效率、降低成本的关键。本文将探讨人工智能技术在运维领域的应用现状与未来发展趋势,展望未来智能运维的发展前景。
61 1
|
1月前
|
人工智能 安全 数据安全/隐私保护
一个案例,看懂AI Agent厂商的商业落地路径
随着大语言模型技术的进步,国内科技巨头正加速在AI Agent领域的布局,利用自身技术和应用场景推动AI Agent在各行业的深度融合。百度、飞书、钉钉等已推出相关产品,其中实在智能的Agent智能体结合AI和RPA技术,提供高度自主和交互性的软件实体,已在多个场景实现商用并即将公测。企业选择AI Agent时关注点包括与现有自动化解决方案的融合、易用性、数据安全和新业务自动化能力。实在智能的Agent解决方案因其灵活性、安全性及广泛的应用潜力受到青睐。
72 1
|
2月前
|
人工智能 开发者
AI Earth ——开发者模式案例9:OpenAPI调用AI识别能力
AI Earth ——开发者模式案例9:OpenAPI调用AI识别能力
40 0
|
12天前
|
机器学习/深度学习 人工智能 安全
Azure Databricks实战:在云上轻松进行大数据分析与AI开发
【4月更文挑战第8天】Databricks在大数据分析和AI开发中表现出色,简化流程并提高效率。文中列举了三个应用场景:数据湖分析、实时流处理和AI机器学习,并阐述了Databricks的一体化平台、云原生弹性及企业级安全优势。博主认为,Databricks提升了研发效能,无缝集成Azure生态,并具有持续创新潜力,是应对大数据挑战和加速AI创新的理想工具。
36 0