CLI使用案例6:使用CLI的灵活时间格式来执行查询、报警和下载等

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 在查询、统计、拉取时需要传入时间范围,经常需要传入更灵活的参数,如:"今天凌晨","昨天","3天前","现在"等参数时。现在CLI也支持了!

使用CLI的灵活时间格式来执行查询、报警和下载等

介绍

在查询、统计、拉取时需要传入时间范围,但是经常我们需要传入更灵活的参数,如:"今天凌晨","昨天","3天前","现在"等参数时,大脑需要费力的换算成对应的时间格式,如"2018-8-1 10:10:00"等。
另一方面,用脚本定期跑的时候,需要相对这样的相对值,例如,每5分钟查询,过去60分钟的范围的数据是否有异常等。每次执行希望有一个时间范围是:过去60分钟到现在。

现在这样的方式CLI支持了!

支持的方法

以下方法的参数,如from_timeto_time等目前也接受相对时间了。

方法 作用
get_log 查询统计数据(参数放在文件中),未完成时自动重试。
get_logs 查询统计数据(参数放在命令行中),未完成时自动重试。
get_log_all 迭代式查询更大量的数据,未完成时自动重试。
pull_log 基于服务器接受时间范围,批量拉取特定shard的数据。
pull_log_dump 并发批量下载logstore所有shard的数据到本地。
get_cursor 获取特定服务器时间特定shard的游标(以便基于游标拉取数据)
copy_data 基于服务器时间复制数据到目标logstore
transform_data 基于服务器时间转换数据到目标logstore

支持的时间格式

除了常规的格式,例如:"%Y-%m-%d %H:%M:%S+8:00"的例子"2018-01-02 12:12:10+8:00";
也支持"1 hour ago", "now", "yesterday 0:0:0"等格式了。更多格式也可以参考https://dateparser.readthedocs.io/en/latest/

范围 时间例子
相对1分钟 -1min ~ now, 或 1 min ago ~ now
相对4小时 -4h ~ now,或 4 hours ago ~ now 或 4 hour ago
相对1天(24小时) -1d ~ now,或 1 day ago ~ now
相对1周(7*24小时) -1week ~ now, 或 1 week ago ~ now
今天 today 0:0:0 ~ now
昨天 yesterday 0:0:0 ~ yesterday 23:59:59,或 1 day ago 0:0:0 ~ -1d 23:59:59
前天 the day before yesterday 0:0:0 ~ 2 day ago 23:59:59

例子

实时显示当前网站UV

如下命令

aliyunlog log get_log --project=pdata1 --logstore=log1 --from_time="today 00:00:00" --to_time="now" --query="host: www.dcd.mock-domain.com | select count(distinct remote_addr) as uv" --jmes-filter="join('\n', map(&to_string(uv), @))"

每次运行时都会显示今天的独立访问客户的数量

定期导出客户端IP列表

aliyunlog log get_log --project=pdata1 --logstore=log1 --from_time="yesterday 00:00:00" --to_time="yesterday 23:59:59" --query="host: www.dcd.mock-domain.com | select distinct remote_addr" --jmes-filter="join('\n', map(&to_string(remote_addr), @))"

以上命令可以在每天0:0:1运行,导出昨天的独立访问客户的列表

进一步参考

  • 扫码加入官方钉钉群 (11775223):
    image
目录
相关文章
|
2月前
|
存储 Prometheus Cloud Native
Grafana 系列文章(十一):Loki 中的标签如何使日志查询更快更方便
Grafana 系列文章(十一):Loki 中的标签如何使日志查询更快更方便
|
4月前
|
前端开发 JavaScript 开发者
探索npm的高级特性:自定义脚本与包的发布与维护
探索npm的高级特性:自定义脚本与包的发布与维护
|
8月前
|
运维 监控 关系型数据库
【运维知识进阶篇】zabbix5.0稳定版详解4(用脚本自定义监控项+监控MySQL状态信息)(一)
【运维知识进阶篇】zabbix5.0稳定版详解4(用脚本自定义监控项+监控MySQL状态信息)
100 0
|
8月前
|
运维 监控 关系型数据库
【运维知识进阶篇】zabbix5.0稳定版详解4(用脚本自定义监控项+监控MySQL状态信息)(二)
【运维知识进阶篇】zabbix5.0稳定版详解4(用脚本自定义监控项+监控MySQL状态信息)(二)
72 0
|
9月前
|
关系型数据库 MySQL API
PHP定时任务:轮询多个API接口并将内容自动录入mysql数据库的解决方案
PHP定时任务:轮询多个API接口并将内容自动录入mysql数据库的解决方案
74 0
|
9月前
|
监控 JavaScript 前端开发
一种基于日志服务CLI工具实现的多区域发布方案
一种基于日志服务CLI工具实现的多区域发布方案
391 2
|
分布式计算 监控 Java
日志分析实战之清洗日志小实例3:如何在spark shell中导入自定义包
日志分析实战之清洗日志小实例3:如何在spark shell中导入自定义包
140 0
日志分析实战之清洗日志小实例3:如何在spark shell中导入自定义包
|
测试技术 Python
python接口自动化(二十六)--批量执行用例 discover(详解)
我们在写用例的时候,单个脚本的用例好执行,那么多个脚本的时候,如何批量执行呢?这时候就需要用到 unittest 里面的 discover 方法来加载用例了。加载用例后,用 unittest 里面的 TextTestRunner 这里类的 run 方法去一次执行多个脚 本的用例。那么前边介绍那么多都是半道开始,半道出家,这篇就带大家从头到尾,一步一步给小伙伴们详细介绍一下。
220 0
python接口自动化(二十六)--批量执行用例 discover(详解)
|
数据采集 分布式计算 监控
网站流量日志分析--工作流调度--预处理调度--程序打包 job 编写 | 学习笔记
快速学习网站流量日志分析--工作流调度--预处理调度--程序打包 job 编写
81 0
网站流量日志分析--工作流调度--预处理调度--程序打包 job 编写 | 学习笔记
|
SQL JSON 监控
(扩展)网站流量日志分析--数据可视化-- vue 版--复杂 josn 格式数据剖析 | 学习笔记
快速学习(扩展)网站流量日志分析--数据可视化-- vue 版--复杂 josn 格式数据剖析
102 0
(扩展)网站流量日志分析--数据可视化-- vue 版--复杂 josn 格式数据剖析 | 学习笔记