如何从海量数据中挖掘威胁情报?

简介:

本文讲的是 :  如何从海量数据中挖掘威胁情报?  ,  【IT168 编译】正如有些有见地的员工所指出,“威胁情报”是还没有明确定义的令人困惑的概念。如果你到处问问“什么是威胁情报?”,你会得到各种对解决方案和服务的描述,从恶意软件数据库到签名检测工具和IDS/IPS系统,再到现场咨询服务等。

如何从海量数据中挖掘威胁情报?

  然而,在乍看之下,这两个词一起看似乎立刻有了意义。“情报”即收集关于某物的详细信息,而“威胁”就是你收集关于什么的信息。当你在谷歌搜索“情报搜集”,定义很明确:

  在最广泛的形式中,情报收集网络是指这样一个系统,即通过这个系统收集的关于特定实体的信息通过使用一个以上相互关联的来源而让另一个人受益。

  从网络的角度来看,对可能威胁你的业务、网络、软件、web服务器等的信息的收集是很有价值的。那么,为什么网络威胁情报这么难以获取?对于初学者来说,是不是几乎所有安全工具或网络防御活动都是威胁情报机制?同时,如果是这样的话,企业如何利用来自四面八方的数据来采取任何形式的行动?答案是“是”以及“不是那么容易”。事实上,现在大多数企业很难从威胁情报中获取真正的价值。

  网络安全领域的大多数解决方案会测量、追踪、日志记录或报告事件。所有这些工具和流程会产生数据,这些数据可以进行分析而产生“威胁情报”。这些工具会产生大量数据,而且是很低水平的数据,换句话说,关于任何实体的信息都是非常冗长、复杂,且很少相互关联。

  更重要的是,很少有企业部署了强大的描述性-预测性-指令性分析功能来整理这些数据,以及支持最高业务层面的决策过程。这些威胁数据并没有标准模式或者联系网络活动到资产或业务操作。因此,并没有决策支持系统可以支持数据挖掘活动来回答典型的描述性问题,例如“在过去六个月是什么对企业造成最大的伤害?”或者更成熟的问题,“我们的哪个技术投资具有最高的投资回报率,以及哪些技术投资带来负面影响,哪些可能会构成威胁?”

  信息太多

  企业如何清除这些噪音而获取真正的价值呢?通过遵循一个简单的公式即可。还记得我们在学校学过的勾股定理吗?a2 + b2 = c2?这是几何的基本定理。还有麦克斯韦方程?热力学第二定律?傅立叶变换?或者其中最有名的,爱因斯坦的相对论,E=mc2?这些公司帮助我们制造了太多信息,太多数据。这些公式同样带领我们到了现在的时代,雷达、电视、喷气式客机、电子邮件、互联网以及社交媒体。

  输入一个简单的公式可以帮助获取有效的网络威胁情报而不只是收集威胁数据:

  Risk Intelligence = (High-Level Threat Intelligence + Context) * Continuous Data Collection/Intuitive KPIs

  威胁情报=(高级别威胁情报+背景知识内容)*连续数据采集/直观的KPI

  诚然,这并不是“真正的”公式。但它确实提供了同样强大的功能。换句话说,它可以帮助企业消除数据噪音,让看似无关的数据带来真正价值,带来切实可行的解决方案。

  在上面的公式中,我们可以将通过从各种来源收集和转译的低水平的威胁数据,转变为到分析师可以理解的高水平语言。通过存储这些数据并赋予其与你的企业、行业、技术相关的特定背景知识,以及威胁会如何影响你的企业,数据就可以进行分析。

  从这个公式来看,简单的分析通常就能够产生需要的结果。使用传统的关键绩效指标(KPI)业务智能结构,企业可以使用这个公式创建简单而强大的分析。例如,在金融领域,典型的KPI包括利用率、利润对收益率、现金流、净乘法器和积压量。当随着时间的推移,这个过程会为业务领导产生重要的决策信息。

  这种kPI的概念还可以用于网络数据。最后,它们也可以产生重要的价值信息,例如,特定安全投资的投资回报率或者企业是否有足够的安全人员来实现特定的安全目标。应用简单的威胁情报公式来处理原始威胁情报可以产生有用和有价值的结果。

原文发布时间为:2015年7月6日

本文作者:邹铮

本文来自云栖社区合作伙伴IT168,了解相关信息可以关注IT1684

原文标题 :如何从海量数据中挖掘威胁情报?


目录
相关文章
|
3月前
|
存储 机器学习/深度学习 算法
大数据时代下的智能洞察:大规模数据处理的创新与应用
在信息爆炸的时代,大规模数据处理成为了科技领域的核心挑战之一。本文将探讨大规模数据处理的定义、创新技术和广泛应用,并阐述数据驱动的决策和洞察对现代社会带来的巨大影响。
74 3
|
1月前
|
自然语言处理 机器人
一款基于大模型的金融分析工具Finpilot
【2月更文挑战第11天】一款基于大模型的金融分析工具Finpilot
35 1
一款基于大模型的金融分析工具Finpilot
|
3月前
|
存储 数据采集 机器学习/深度学习
大数据分析:挖掘数据价值的技术和方法
在数字化时代,大数据已经成为企业和科研机构的重要资源之一。然而,对于海量的数据如何进行分析和挖掘却是一个巨大的挑战。本文将介绍大数据分析的基本概念、技术和方法,帮助读者了解如何利用现代技术和工具,挖掘数据中蕴藏的价值。
103 0
|
4月前
|
机器学习/深度学习 自然语言处理 算法
【开源威胁情报挖掘2】开源威胁情报融合评价
【开源威胁情报挖掘2】开源威胁情报融合评价
119 0
|
4月前
|
机器学习/深度学习 自然语言处理 安全
【开源威胁情报挖掘3】开源威胁情报融合评价
【开源威胁情报挖掘3】开源威胁情报融合评价
74 0
|
移动开发 监控 供应链
互联网行业的数据分析,到底在分析什么?
经常有小伙伴问:天天看你们说互联网数据分析,到底互联网数据分析在分析什么?今天给大家分享一下哦。 首先,所有的数据分析,都是围绕三个问题展开的: 监控现状,发现问题 分析原因,评估效果 预测走势,测试方案 但是在不同的场景,解决的问题不一样。 因此想知道互联网数据分析在分析什么,得弄清楚,所谓的“互联网”到底有哪些场景。笼统地说,有7个大场景。
649 1
互联网行业的数据分析,到底在分析什么?
|
存储 分布式计算 运维
阿里云实时大数据解决方案,助力企业实时分析与决策
简介: 2020年双11,云原生实时数仓首次在阿里巴巴双11核心数据场景落地,实现商业全链路实时化,毫秒级海量数据处理能力。搜索推荐业务数据开发效率提升4倍,菜鸟物流包裹数据链路从小时级优化到3分钟,考拉分钟及小时业务1分钟内完成,大数据的实时分析与决策在瞬息万变的市场竞争中成为了标品!今天,我们将向大家分享阿里云实时大数据解决方案,助力企业实时决策。
3787 1
阿里云实时大数据解决方案,助力企业实时分析与决策
|
存储 SQL 分布式计算
本地生活行业如何在云上挖掘更多数据价值
阿里云数据湖解决方案,助力本地生活服务实现精细化运营
20710 0
本地生活行业如何在云上挖掘更多数据价值
|
数据挖掘 索引 Python
金融数据分析与挖掘具体实现方法 -1
有人让我写一下关于数据挖掘在金融方面的应用,再加上现在金融对数据方面的要求不断提高,准备用两篇随笔来做个入门总结。 首先,在看这篇随笔以前稍微补充一点金融方面的知识,因为我不是金融专业的,以下补充知识来自互联网与个人整理,欢迎批评指正并补充说明。
2075 0
|
Java 关系型数据库 大数据