阿里云日志服务新增四项功能,致力于满足全方位的用户需求

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 近日,阿里云对日志服务做了更进一步的完善,发布了面向嵌入式和物联网客户端C Producer;还发布了Flink Connector工具;新增了API网关访问日志功能;同时对告警功能进行升级。

近日,阿里云日志服务团队对日志服务做了更进一步的完善。阿里云日志服务团队专门为IoT(Internet of Things)设备量身定制了一套日志数据采集方案,发布了适用于开发者的面向嵌入式和物联网客户端C Producer;还发布了Flink Connector工具,方便Flink用户进行开发;以及新增了API网关的访问日志(Acccess Log)功能,便于开发和维护人员更详细的了解其Web服务的运行状况;同时对告警功能进行升级,新增了钉钉和自定义WebHook两种新通知渠道。

 

一、面向嵌入式、物联网日志客户端C Producer

 

随着IoT正在高速增长,越来越多的智能设备开始逐步走进我们的日常生活,例如智能路由器、天猫精灵、扫地机器人等,让我们体验到智能领域的便利。由于IoT设备数目多、分布广,难以调试且硬件受限,传统的设备日志解决方案无法完美满足开发者的需求。阿里云的日志服务团队根据多年Logtail的开发经验,结合IoT设备的特点,为IoT设备量身定制一套日志数据采集方案:C Producer。

 

日志服务团队将C Producer Library定位为一个“轻量级Logtail”,继承了Logtail的稳定、边界特点,虽然没有Logtail实时配置管理机制,但也具备除此之外70%的功能,包括:

 

l  提供多租户概念:可以对多种日志(例如Metric、DebugLog、ErrorLog)进行优先级分级处理,同时配置多个客户端,每个客户端可独立配置采集优先级、目的project/logstore等;

l  支持上下文查询:同一个客户端产生的日志在同一上下文中,支持查看某条日志前后相关日志;

l  并发发送,断点续传:支持缓存上线可设置,超过上限后日志写入失败。

 

此外,C Producer还具备以下IoT设备专享功能,例如:

 

l  本地调试:支持将日志内容输出到本地,并支持轮转、日志数、轮转大小设置;

l  细粒度资源控制:支持针对不同类型数据/日志设置不同的缓存上线、聚合方式;

l  日志压缩缓存:支持将未发送成功的数据压缩缓存,减少设备内存占用。

 

 

 

作为IoT设备量身定制的方案,C Producer在以下几个方面具备明显的优势:

 

 

 

l  客户端高并发写入:可配置的发送线程池,支持每秒数十万条日志写入,详情参见性能测试。

l  低资源消耗:每秒20W日志写入只消耗70% CPU;同时在低性能硬件(树莓派)上,每秒产生100条日志对资源基本无影响。

l  客户端日志不落盘:既数据产生后直接通过网络发往服务端。

l  客户端计算与 I/O 逻辑分离:日志异步输出,不阻塞工作线程。

l  支持多优先级:不通客户端可配置不同优先级,高优先级日志最先发送。

l  本地调试:便于在网络不通的情况下本地测试应用程序。

 

二、API网关访问日志

 

阿里云API网关提供API托管服务,在微服务聚合、前后端分离系统集成上为用户提供诸多便利。访问日志是由web服务生成的日志,每一次API请求都对应一条访问记录,内容包括调用者IP、请求的URL、响应延迟、返回状态码、请求和响应字节数等重要信息,便于用户了解其web服务的运行状况。

 

用户可通过访问日志功能进行日志在线查询、详细调用日志、自定义分析图表和预置分析报表等操作。日志服务支持通过数据接入向导采集API网关的访问日志,提供一键打通API网关日志功能,对API网关中产生实时日志提供如下信息:

 

l  秒级实时采集能力,99.9%情况下10秒内即可消费;

l  通过LogHub功能实时计算、流计算对接;

l  通过LogShipper与数据仓库对接;

l  利用LogSearch/Analytics功能进行实时日志查询、分析;

l  通过仪表盘、告警等功能进行线上监控。

 

三、日志告警功能升级

 

阿里云的日志服务提供告警功能,支持保存查询语句为快速查询,对查询设置触发周期(间隔),并对执行结果设定判断条件并且告警,以便实时监控Nginx访问日志。

 

日志服务通过通知中心告知用户,即在阿里云通知中心可以设置多个联系人,通知会通过邮件和短信方式发送给用户。

 

近日,日志服务团队对告警功能进行升级,新增了WebHook通知推送方式,即钉钉机器人和自定义WebHook等,用户可以在通知内容和方式上进行自定义配置并推送自定义地址,为开发者、运维及运营人员对日志的使用提供了便利。同时,对告警内容进行优化:新增上下文、账号归属人的信息,方便进行问题定位。

 

四、全新发布Flink Connector工具

 

Flink log connector是阿里云日志服务团队提供的用于对接Flink的工具,方便Flink用户在Flink环境中进行日志服务LogHub的数据开发,包括两部分消费者(Consumer)和生产者(Producer)消费者用于从日志服务中读取数据,支持exactly once语义,支持shard负载均衡。生产者用于将数据写入日志服务,使用connector时,需要在项目中添加maven依赖:

 

1.  <dependency>

2.  <groupId>org.apache.flink</groupId>

3.  <artifactId>flink-streaming-java_2.11</artifactId>

4.  <version>1.3.2</version>

5.  </dependency>

6.  <dependency>

7.  <groupId>com.aliyun.openservices</groupId>

8.  <artifactId>flink-log-connector</artifactId>

9.  <version>0.1.7</version>

10.  </dependency>

11.  <dependency>

12.  <groupId>com.google.protobuf</groupId>

13.  <artifactId>protobuf-java</artifactId>

14.  <version>2.5.0</version>

15.  </dependency>

16.  <dependency>

17.  <groupId>com.aliyun.openservices</groupId>

18.  <artifactId>aliyun-log</artifactId>

19.  <version>0.6.10</version>

20.  </dependency>

21.  <dependency>

22.  <groupId>com.aliyun.openservices</groupId>

23.  <artifactId>log-loghub-producer</artifactId>

24.  <version>0.1.8</version>

25.  </dependency>

 

Flink Connector具有可设置消费起始位置,监控、告警,容灾、异常恢复,准确性高等特点:

 

l  设置消费起始位置,方便用户进行消费点的设置;

l  监控,实时获取当前数据消费状态,并通过设置告警知晓延迟的任务;

l  支持消费实例弹性伸缩、容灾、异常恢复,无需关心细节;

l  提供消费级exactly once语义支持,保证数据精确性。

 

更多关于日志服务的介绍及使用请参考以下文章

l  C Producer产品文档

l  API网关访问日志产品文档

l  告警功能产品文档

l  Flink Connector工具产品文档

 

 

 

 

 

 

 

 

 

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
2月前
|
弹性计算 人工智能 安全
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(3)
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(3)
431 0
|
2月前
|
弹性计算 安全 网络安全
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(2)
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(2)
478 0
|
27天前
|
存储 SQL 数据管理
阿里云数据库 SelectDB 内核 Apache Doris 如何基于自增列满足高效字典编码等典型场景需求|Deep Dive 系列
自增列的实现,使得 Apache Doris 可以在处理大规模时展示出更高的稳定性和可靠性。通过自增列,用户能够高效进行字典编码,显著提升了字符串精确去重以及查询的性能。使用自增列作为主键来存储明细数据,可以完美的解决明细数据更新的问题。同时,基于自增列,用户可以实现高效的分页机制,轻松应对深分页场景,有效过滤掉大量非必需数据,从而减轻数据库的负载压力,为用户带来了更加流畅和高效的数据处理体验。
|
1月前
|
算法 Java 开发工具
使用阿里云KMS产品针对 Springboot 接口参数加密解密功能
针对Springboot里面使用开源工具使用加解密,替换成阿里云KMS产品进行加解密;
120 1
|
2月前
|
文字识别 安全 API
阿里云文字识别OCR的发票凭证识别功能可以通过API接口的形式进行调用
【2月更文挑战第5天】阿里云文字识别OCR的发票凭证识别功能可以通过API接口的形式进行调用
78 5
|
2月前
|
弹性计算 Ubuntu Linux
阿里云助力《幻兽帕鲁》快速开服:全新自动部署功能上线,仅需10秒即可完成部署!
阿里云助力《幻兽帕鲁》快速开服:全新自动部署功能上线,仅需10秒即可完成部署!阿里云服务器搭建帕鲁服务器游戏,服务器稳定无卡顿,先下载SteamCMD,并运行;然后下载Palserver,修改服务ini配置,启动PalServer,进入游戏服务器。今天分享阿里云创建幻兽帕鲁服务器教程。
|
2月前
|
弹性计算 搜索推荐 Linux
阿里云自动部署【幻兽帕鲁/Palworld】功能上线,10秒全自动开服!
阿里云轻量应用主机Lighthouse上线幻兽帕鲁应用模板功能 ,用户只需要点三次鼠标,最快10秒就能自动安装好幻兽帕鲁主机,和自己的朋友一起开心“抓帕鲁”。同时,用户还可以在阿里云控制台的面板直接调整幻兽帕鲁的经验倍率、死亡惩罚等游戏配置,实现便捷、个性化的游戏体验。
阿里云自动部署【幻兽帕鲁/Palworld】功能上线,10秒全自动开服!
|
2月前
|
弹性计算 安全 网络安全
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(1)
带你读《从基础到应用云上安全航行指南》——阿里云产品专家教你如何全方位构建ECS安全体系(1)
427 0
|
2月前
|
API 网络安全
阿里云视觉智能平台中人脸搜索功能在长时间不使用后第一次使用时出现连接失败
阿里云视觉智能平台中人脸搜索功能在长时间不使用后第一次使用时出现连接失败
228 2
|
2月前
|
开发框架 机器人 API
定制阿里云 RPA 以满足特定业务需求
阿里云 RPA(机器人流程自动化)是一种强大的技术,可以帮助企业自动执行重复性任务,提高效率和准确性。然而,为了满足特定的业务需求,对阿里云 RPA 进行定制是至关重要的。本文将介绍如何定制阿里云 RPA 以满足特定业务需求,并提供一些实用的技巧和最佳实践。

热门文章

最新文章