MaxCompute studio 第一弹 - 元数据浏览

简介: 随着 MaxCompute 2.0 的发布,我们提供了MaxCompute Studio,一套基于IntelliJ IDEA的开发插件,让用户在集成开发环境(IDE)中更方便地进行SQL及用户代码开发。

随着 MaxCompute 2.0 的发布,我们提供了MaxCompute Studio,一套基于IntelliJ IDEA的开发插件,让用户在集成开发环境(IDE)中更方便地进行SQL及用户代码开发。MaxCompute Studio 为开发者提供了良好的开发体验,支持项目空间浏览、SQL 脚本开发,UDF开发和调试,作业执行状态展示等功能,本系列将逐一展开进行介绍。

第一弹 - 元数据浏览
第二弹 - 玩转SQL编辑器
第三弹 - UDF开发与调试
第四弹 - 权限那些事儿

MaxCompute 通过表(Table)来存储数据,以项目空间(Project)的形式来组织表和用户自定义函数(UDF)等其他资源。开发者在开发过程中会经常需要访问项目空间:列举表、查询表结构和元数据、预览表中现有数据、向表中导入导出数据等。以前这些操作主要都只能通过命令行工具或者管理员的管理工具才能获得,现在开发者都可以通过 MaxCompute Studio 提供的项目空间浏览器(Project Explorer)来完成这些操作。

添加项目

首先你得在MaxCompute studio中添加一个project连接,具体的,在Project Explorer窗口中点击工具栏上的"+",配置好连接信息,点击OK,后台会自动同步这个项目的表和函数元数据到本地(默认存储在本机~/.odps.studio/meta)。 同步完成后在项目空间浏览器(Project Explorer)窗口的树中就能看到这个新增的Project节点。

表/函数详情

项目空间同步完成后,就可以在project explorer里浏览Table&View、Function、Resource等项目资源。这里树控件是可以搜索的,直接键入搜索字符即可:
image.png

双击树中某个元素即可查看详情,譬如双击表,可以查看表的详细信息,包括 owner,size,column 等元数据,表结构信息,数据预览,以及分区信息:
屏幕快照 2019-04-02 11.52.22.png

内置函数双击显示文档,自定义函数双击显示函数源码:
image.png

快速查找

除了通过列表浏览项目资源,你还可以精准的定位某个资源,具体的

  • 点击工具栏上的open specific entity按钮,直接输入表名即可:
    image
  • 快捷键(win:Ctrl+Alt+Shift+N mac:⌥+⌘+O)唤出navigate symbol,输入表名回车:
    image

创建/编辑表

  • 右键项目名称或者“Table & Views”选择“Create a new table”进行可视化建表;在某张表上右键,选择“open table editor”即可以可视化编辑表:
    image.png
  • 右键某张表,选择generate DDL statement,则会在SQL编辑器中打开该表的DDL,接下来就可以继续在其基础上修改了:
    image

元数据拷贝

studio支持用户“复制项目空间元数据”操作,如下图,选择源和目标project,点击工具栏上的copy meta按钮,弹出copy project meta对话框。选择你需要复制的表、函数、资源,点击ok,等待后台复制完成,将会在目标project下看到复制完成的表、函数、资源。
meta_copy

导入导出表数据

Studio可以将csv格式的本地数据文件导入到 MaxCompute 表中,也可将 MaxCompute 中表数据导出数据到本地文件。具体的,在表名上右键,选择 Export data from table,弹出Export Data对话框,选择导出数据文件的保存路径,列分隔符(可自定义输入),大小限制,错误容忍行数等:

export_table

小结

使用MaxCompute studio,可以帮助你高效的浏览项目中的元数据,也能方便的编辑元数据,导入及导出表数据。休息一下,继续学习下一弹玩转SQL编辑器

联系我们

MaxCompute studio插件支持IntelliJ全系产品,具体参考安装文档
image

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
4月前
|
SQL 分布式计算 大数据
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
27 0
|
7月前
|
SQL 存储 分布式计算
MaxCompute元数据使用实践--项目信息统计
MaxCompute的租户级别Information Schema从租户角度提供项目元数据及使用历史数据等信息,您可以一次性拉取您同一个元数据中心下所有Project的某类元数据,从而进行各类元数据的统计分析。
490 0
|
4月前
|
分布式计算 项目管理 MaxCompute
MaxCompute元数据使用实践--数据权限统计
本文主要介绍通过元数据的相关权限的视图进行数据权限的统计。
101493 2
|
4月前
|
存储 缓存 NoSQL
大数据 | HDFS 元数据持久化笔记
大数据 | HDFS 元数据持久化笔记
54 0
|
6月前
|
SQL 分布式计算 DataWorks
MaxCompute元数据使用实践--作业统计
通过MaxCompute租户级别Information Schema的“TASKS_HISTORY”视图可以统计查看MaxCompute计算作业的元数据信息,方便您进行作业审计以及各类统计,指导作业性能、成本优化。
1207 0
|
7月前
|
SQL 分布式计算 大数据
MaxCompute元数据使用实践 -- 数据下载审计
通过MaxCompute租户级别Information Schema的“TUNNELS_HISTORY”视图可以统计查看通过Tunnel通道进行数据上传下载的相关详细信息,方便您进行数据流转的审计排查。
573 0
|
SQL 存储 分布式计算
大数据组件-Hive部署基于derby作为元数据存储
大数据组件-Hive部署基于derby作为元数据存储
大数据组件-Hive部署基于derby作为元数据存储
|
SQL 存储 分布式计算
大数据组件-Hive部署基于MySQL作为元数据存储
大数据组件-Hive部署基于MySQL作为元数据存储
大数据组件-Hive部署基于MySQL作为元数据存储
|
SQL 分布式计算 数据可视化
Maxcompute Studio 安装配置说明|学习笔记
快速学习 Maxcompute Studio 安装配置说明
172 0
|
分布式计算 MaxCompute
【MaxCompute 常见问题】 元数据
通过数据源数据增量同步后,如何查看某一条数据具体被同步到MaxCompute 中的时间? 不支持,查看不了,可以看表元数据的 LastModifiedTime 时间,但具体某个记录看不到时间。
【MaxCompute 常见问题】 元数据

热门文章

最新文章