日志服务(原SLS)2018-2 月功能发布

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 发布Json类型、中文分词、新增窗口/逻辑运算/二进制处理/Lamdba等分析函数,支持Kubernetes数据采集

[新地域] 亚太东南5(雅加达)访问入口

[新功能] 新增窗口/逻辑运算/二进制处理/Lambda等分析函数 文档

分析功能新增窗口、逻辑运算、二进制处理、Lamdba等分析函数,提升日志处理分析能力。新增处理函数如下:

  1. 窗口函数:支持跨行计算与聚合
  2. 二进制字符串:支持二进制与字符串操作处理
  3. 位运算:支持二进制位操作
  4. 映射函数:支持Map、数组、Lambda运算结果转化
  5. 比较运算符:判断参数的大小关系,可以应用于任何可比较类型:int , bigint, double ,text
  6. Lamdba函数:进行Lambda表达式运算
  7. 逻辑运算:支持布尔逻辑运算操作

新增函数能够扩展数据处理与运算能力,提供更强的数据统计与分析支持。

[新功能] 发布嵌入式客户端Lite版本(C Producer Lite)

使用说明(Lite分支)

C Producer Lite版本大幅优化内存占用,能够支持在内存受限的环境中使用。

C Producer Lite是用纯C编写的日志采集客户端,提供更加精简的环境依赖以及更低的资源占用,试用于各类嵌入式/智能设备的日志采集。

该版本性能相对C Producer有30%以上提升,资源占用相比C Producer大大降低(详细请参考性能测试): 除去libcurl占用,运行期间内存占用80KB左右, 编译后的动态库仅有65KB(strip后)。

C Producer Lite 会简化您程序开发的步骤,您无需关心日志采集细节实现、也不用担心日志采集会影响您的业务正常运行,大大降低数据采集门槛。

[新功能] 查询引擎增加对中文支持 文档使用说明

日志服务查询分析功能(LogSearch)新增中文支持,查询分析时会理解中文语义进行自动分词,提升查询准确率。

日志服务提升了查询引擎处理能力,除英文字符外新增中文字符支持,在中英文混杂或全中文日志中,只要打开爆开中文选项就会自动解析日志中的中文部分,并对日志和查询条件进行智能分词,提升日志查询友好度与准确性。

[新功能] 查询分析引擎新增JSON格式支持 文档 , 使用案例

日志服务查询分析新增Json格式支持,提升日志分析能力。

由于Json类自描述字段的灵活性,在日志中被大量使用。日志服务提供Json字段功能,能够智能解析字段中的嵌套文本、布尔类型,识别对应实体。对于数值等类型,在配置完路径后能够像普通字段类型一样进行查询与分析。

通过该功能,在无需清洗的情况下就可以一站式解决Json类数据解析困难问题,便捷地进行查询与分析。

[新功能] 客户端完整支持Kubernetes 文档功能介绍

客户端Logtail新增原生K8S支持,完善Docker日志方案。

用户只需要在Kubernetes集群中的部署Logtail的DaemonSet,即可实现该集群上所有宿主机日志、容器日志/stdout等所有数据源的一站式采集。该方案主要优势:

  1. 大大简化K8S日志采集运维负担,1分钟内即可完成整个集群部署,并且后续集群动态伸缩无需对采集做任何二次部署
  2. 支持容器自动发现:容器生命周期与启停自动维护,支持自定义Label筛选待采集的容器
  3. 支持容器文件自动渲染:只需要配置容器内的文件路径(支持各种采集模式),无需关心容器路径等变化细节
  4. 保证可靠性:针对容器数据采集的动态特点,新增了容器标准输出及容器文件的checkpoint维护机制

通过该功能,用户可以完整解决k8s上日志采集难的问题。

[新功能] SLB访问日志集成 文档功能介绍

日志服务与负载均衡(SLB)产品打通,支持访问日志实时处理与分析。方案可以在几十秒内,实时将负载均衡产生访问日志与日志服务联通,用户可以进行日志实时订阅与处理,将日志与数据仓库打通,对日志进行实时查询与分析等。该方案有如下优势:

  • 海量:访问日志与SLB实例请求PV成正比,往往数据规模很大,处理访问日志需要考虑性能和成本问题。日志服务可以1秒钟分析一亿日志,且相较于开源方案有明显成本优势
  • 实时:DevOps、监控、报警等场景要求日志数据的实时性。传统手段无法满足这一需求,例如将数据ETL到离线处理工具分析耗时很长,其中大量的工作花费在数据集成阶段。负载均衡访问日志结合阿里云日志服务强大的大数据计算能力,秒级分析处理实时产生的日志
  • 弹性:可按负载均衡实例级别开通或关闭访问日志功能。可任意设置存储周期(1-365天),并且日志Logstore容量可以动态伸缩满足业务增长需求

该方案将开发、运维人员从日志处理的繁琐耗时中解放出来,快速进行业务诊断与分析。

[新功能] WAF日志集成

日志服务与WAF产品打通,支持访问日志实时处理与分析,请联系我们开通。

[新功能] 态势感知日志集成

日志服务与态势感知产品打通,支持访问日志实时处理与分析,请联系我们开通。

[控制台] 控制台2月份发布功能介绍

用户在控制台上可以使用如下新增功能:

  1. 支持索引窗口配置Json和中文分词
  2. 同步升级阿里云控制台顶部导航和左侧导航
  3. 支持日本站数据接入向导
  4. 支持世界地图和高德地图

通过日志服务控制台功能提升,优化用户分析能力和便捷性。

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
16天前
|
Java
使用Java代码打印log日志
使用Java代码打印log日志
71 1
|
17天前
|
Linux Shell
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式
71 1
|
21天前
|
SQL 关系型数据库 MySQL
MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复
对于MySQL数据库,可以使用二进制日志(binary log)进行时间点恢复。二进制日志是MySQL中记录所有数据库更改操作的日志文件。要进行时间点恢复,您需要执行以下步骤: 1. 确保MySQL配置文件中启用了二进制日志功能。在配置文件(通常是my.cnf或my.ini)中找到以下行,并确保没有被注释掉: Copy code log_bin = /path/to/binary/log/file 2. 在需要进行恢复的时间点之前创建一个数据库备份。这将作为恢复的基准。 3. 找到您要恢复到的时间点的二进制日志文件和位置。可以通过执行以下命令来查看当前的二进制日志文件和位
|
27天前
|
监控 Shell Linux
【Shell 命令集合 系统管理 】Linux 自动轮转(log rotation)日志文件 logrotate命令 使用指南
【Shell 命令集合 系统管理 】Linux 自动轮转(log rotation)日志文件 logrotate命令 使用指南
48 0
|
28天前
|
存储 数据库
ALTER MATERIALIZED VIEW LOG :语句来更改现有物化视图日志的存储特征或类型。
`ALTER MATERIALIZED VIEW LOG` 语句用于修改已有的物化视图日志的存储属性或类型。配合示例中的动画图像(由于格式限制无法显示),该语句帮助优化数据库的性能和管理。
44 0
|
23天前
|
XML 运维 监控
【深入探究 C++ 日志库清理策略】glog、log4cplus 和 spdlog 的日志文件管理策略
【深入探究 C++ 日志库清理策略】glog、log4cplus 和 spdlog 的日志文件管理策略
61 0
|
29天前
|
安全 编译器 API
C++系统日志库精选:深入剖析glog与log4cplus,轻松搭建高效日志系统
C++系统日志库精选:深入剖析glog与log4cplus,轻松搭建高效日志系统
86 0
|
1月前
|
Web App开发 监控 应用服务中间件
全新架构!日志服务 SLS 自研免登录方案发布
全新架构!日志服务 SLS 自研免登录方案发布
87432 5
|
1月前
|
存储
Hudi Log日志文件格式分析(一)
Hudi Log日志文件格式分析(一)
25 1
|
1月前
|
缓存 索引
Hudi Log日志文件写入分析(二)
Hudi Log日志文件写入分析(二)
20 1

相关产品

  • 日志服务