如何用SQL对MaxCompute数据进行修改和删除

简介: MaxCompute SQL不支持对数据的Update和Delete操作,但是实际工作中可能确实有一些场景需要这样处理,怎么办呢?本文就各种场景下的的解决方法做一个说明。 特别提醒大家,在工作中为避免误操作,尽量避免直接对数据进行直接的修改和删除,建议是创建一张新的表,把结果表进过加工后写入新的表

MaxCompute SQL不支持对数据的Update和Delete操作,但是实际工作中可能确实有一些场景需要这样处理,怎么办呢?实际上,MaxCompute SQL的Insert语法支持Insert Into/Overwrite两种数据导入的方式。分别对应数据导入的追加写入和覆盖写入两种场景。追加写入比较容易理解,覆盖写入是指,如果覆盖写入的表是非分区表,那就清空这个表的内容然后用新的结果覆盖进去。如果是非分区表,那就清空相关的分区,然后重新写入数据。本文就各种场景下的的解决方法做一个说明。

Update

从前面的描述可以看到,Insert Overwrite的就是一个现成的Update功能,我们要Update不正是要用Update后的结果来覆盖Update前的结果吗。所以我们可以把需要Update后的结果Select出来,然后Insert Overwrite回去,就能实现了Update的结果了。这里用几个简单的例子来说明下方便理解:

--元数据
+------------+------------+------------+------------+------------+------------+------------+------------+
| empno      | ename      | job        | mgr        | hiredate   | sal        | comm       | deptno     |
+------------+------------+------------+------------+------------+------------+------------+------------+
| 7499       | ALLEN      | SALESMAN   | 7698     | 1981-02-20 00:00:00 | 1600.0     | 300.0      | 30       |
| 7521       | WARD       | SALESMAN   | 7698     | 1981-02-22 00:00:00 | 1250.0     | 500.0      | 30       |
| 7654       | MARTIN     | SALESMAN   | 7698     | 1981-09-28 00:00:00 | 1250.0     | 1400.0     | 30       |
| 7698       | BLAKE      | MANAGER    | 7839     | 1981-05-01 00:00:00 | 2850.0     | NULL       | 30       |
| 7782       | CLARK      | MANAGER    | 7839     | 1981-06-09 00:00:00 | 2450.0     | NULL       | 10       |
| 7844       | TURNER     | SALESMAN   | 7698     | 1981-09-08 00:00:00 | 1500.0     | 0.0        | 30       |
| 7900       | JAMES      | CLERK      | 7698     | 1981-12-03 00:00:00 | 950.0      | NULL       | 30       |
| 7902       | FORD       | ANALYST    | 7566     | 1981-12-03 00:00:00 | 3000.0     | NULL       | 20       |
| 7788       | SCOTT      | ANALYST    | 7566     | 1987-07-13 01:00:00 | 3000.0     | NULL       | 20       |
| 7876       | ADAMS      | CLERK      | 7788     | 1987-07-13 01:00:00 | 1100.0     | NULL       | 20       |
+------------+------------+------------+------------+------------+------------+------------+------------+

--原SQL
Update Table emp Set comm  = 0 where comm is null;
--新SQL
--其实这里有个内建函数coalesce会更简单,但是用case when比较容易理解
Insert Overwrite table emp Select empno,ename, job,mgr,hiredate,sal,case when comm is null then 0.0 else comm end as comm,deptno from emp;

+------------+------------+------------+------------+------------+------------+------------+------------+
| empno      | ename      | job        | mgr        | hiredate   | sal        | comm       | deptno     |
+------------+------------+------------+------------+------------+------------+------------+------------+
| 7698       | BLAKE      | MANAGER    | 7839     | 1981-05-01 00:00:00 | 2850.0     | 0.0        | 30       |
| 7788       | SCOTT      | ANALYST    | 7566     | 1987-07-13 01:00:00 | 3000.0     | 0.0        | 20       |
| 7782       | CLARK      | MANAGER    | 7839     | 1981-06-09 00:00:00 | 2450.0     | 0.0        | 10       |
| 7902       | FORD       | ANALYST    | 7566     | 1981-12-03 00:00:00 | 3000.0     | 0.0        | 20       |
| 7876       | ADAMS      | CLERK      | 7788     | 1987-07-13 01:00:00 | 1100.0     | 0.0        | 20       |
| 7900       | JAMES      | CLERK      | 7698     | 1981-12-03 00:00:00 | 950.0      | 0.0        | 30       |
| 7499       | ALLEN      | SALESMAN   | 7698     | 1981-02-20 00:00:00 | 1600.0     | 300.0      | 30       |
| 7654       | MARTIN     | SALESMAN   | 7698     | 1981-09-28 00:00:00 | 1250.0     | 1400.0     | 30       |
| 7844       | TURNER     | SALESMAN   | 7698     | 1981-09-08 00:00:00 | 1500.0     | 0.0        | 30       |
| 7521       | WARD       | SALESMAN   | 7698     | 1981-02-22 00:00:00 | 1250.0     | 500.0      | 30       |
+------------+------------+------------+------------+------------+------------+------------+------------+

如果是分区表的数据需要修改数据的话,就套用分区表的Insert语法和Select语法,都是一样的道理,就不一一举例了。

Delete

Delete删除数据,分为是要删除某个表或者分区里的全部数据,还是只是删除一部分的数据。

删除全部数据

如果需要删除某个非分区表,使用 TRUNCATE TABLE table_name;删除这个表里的全部数据

如果需要删除的是分区表里的数据,需要ALTER TABLE table_name DROP PARTITION;的方式将这个分区删掉从而实现删除对应的分区里的数据(分区连同分区里的数据一起被删除)。

odps@ aliyun2014>show partitions partition_table;

ds=20160101
ds=20160102

OK
odps@ aliyun2014>alter table partition_table drop if exists partition(ds='20160102');
Confirm to "alter table partition_table drop if exists partition(ds='20160102');" (yes/no)? yes

OK
>show partitions partition_table;

ds=20160101

OK

删除部分数据

删除部分数据,就是指通过where语句过滤,只删除部分数据的情况。Delete也是用Insert Overwrite来实现的。如果需要删除一部分的数据,那其实就是覆盖写入剩下的数据。如果要删除全部的数据,那就是覆盖写入空数据。这里还是只提到普通表的例子,和Update一样,普通表和分区表的区别,就是Insert的时候,需要指定修改的分区,或者使用动态分区。

--数据集使用上个例子的Update之前的emp进行操作
--原SQL 希望删除里面的job为SALESMAN的记录
Delete from emp where comm >500;
--新SQL,注意对空值的处理,一些常见下可以考虑用Union all
Insert Overwrite Table Emp Select * From Emp Where  comm <=500 or comm is null;

--结果集
+------------+------------+------------+------------+------------+------------+------------+------------+
| empno      | ename      | job        | mgr        | hiredate   | sal        | comm       | deptno     |
+------------+------------+------------+------------+------------+------------+------------+------------+
| 7698       | BLAKE      | MANAGER    | 7839     | 1981-05-01 00:00:00 | 2850.0     | NULL       | 30       |
| 7788       | SCOTT      | ANALYST    | 7566     | 1987-07-13 01:00:00 | 3000.0     | NULL       | 20       |
| 7782       | CLARK      | MANAGER    | 7839     | 1981-06-09 00:00:00 | 2450.0     | NULL       | 10       |
| 7902       | FORD       | ANALYST    | 7566     | 1981-12-03 00:00:00 | 3000.0     | NULL       | 20       |
| 7876       | ADAMS      | CLERK      | 7788     | 1987-07-13 01:00:00 | 1100.0     | NULL       | 20       |
| 7900       | JAMES      | CLERK      | 7698     | 1981-12-03 00:00:00 | 950.0      | NULL       | 30       |
| 7499       | ALLEN      | SALESMAN   | 7698     | 1981-02-20 00:00:00 | 1600.0     | 300.0      | 30       |
| 7844       | TURNER     | SALESMAN   | 7698     | 1981-09-08 00:00:00 | 1500.0     | 0.0        | 30       |
| 7521       | WARD       | SALESMAN   | 7698     | 1981-02-22 00:00:00 | 1250.0     | 500.0      | 30       |
+------------+------------+------------+------------+------------+------------+------------+------------+

总的看来,这些都不是太有难度的东西,都只是一些比较常用的小技巧。希望这些小技巧能帮助到大家,让工作变得更加有效率。

在最后还是提醒大家,在工作中为避免误操作,尽量避免直接对数据进行直接的修改和删除,建议是创建一张新的表,把结果表进过加工后写入新的表。写入结束核对好了数据后,再把数据导过来。请务必注意数据备份!

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
目录
相关文章
|
14天前
|
分布式计算 大数据 BI
MaxCompute产品使用合集之MaxCompute项目的数据是否可以被接入到阿里云的Quick BI中
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
1天前
|
SQL 关系型数据库 MySQL
|
1天前
|
SQL 关系型数据库 MySQL
|
2天前
|
SQL 数据库
Sql中如何添加数据
Sql中如何添加数据
5 0
|
6天前
|
SQL API 数据库
在Python中获取筛选后的SQL数据行数
在Python中获取筛选后的SQL数据行数
17 1
|
7天前
|
SQL 分布式计算 数据可视化
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
|
12天前
|
SQL 机器学习/深度学习 数据采集
数据分享|SQL Server、Visual Studio、tableau对信贷风险数据ETL分析、数据立方体构建可视化
数据分享|SQL Server、Visual Studio、tableau对信贷风险数据ETL分析、数据立方体构建可视化
|
13天前
|
分布式计算 DataWorks 数据库
DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
24 0
|
13天前
|
SQL 分布式计算 DataWorks
DataWorks操作报错合集之在DataWorks中使用ODPS SQL时遇到"该文件对应引擎实例已失效,请重新选择可用的引擎实例"的错误提示”,是什么导致的
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
34 0
|
13天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之在 DataWorks 中,使用Oracle作为数据源进行数据映射和查询,如何更改数据源为MaxCompute或其他类型
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
28 1

热门文章

最新文章

相关产品

  • 云原生大数据计算服务 MaxCompute