使用JDBC编程访问ODPS

简介:

ODPS 提供了自己的 Java SDK 作为编程接口。但是对于大多数来自传统关系数据库的用户来说,为了完成一些简单任务再学习一套 SDK,性价比颇低。odps-jdbc 可以较好的解决这个问题。通过 odps-jdbc 可以轻松完成类似执行 select 语句,并获得结果集这样的任务。
创建任意 Java 项目,从 maven 添加 odps-jdbc 作为依赖(位于 maven 主仓-http://search.maven.org/#artifactdetails%7Ccom.aliyun.odps%7Codps-jdbc%7C1.0-public%7Cjar):

<dependency>
<groupId>com.aliyun.odps</groupId>
<artifactId>odps-jdbc</artifactId>
<version>1.0-public</version>
</dependency>

参考如下示例代码,包含了删表、建表、获取表 meta、执行 insert、执行 select 以及遍历结果集等常见操作:

import java.sql.Connection;
import java.sql.DatabaseMetaData;
import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.sql.Statement;
import java.util.Properties;

public class Main {

private static String driverName = “com.aliyun.odps.jdbc.OdpsDriver”;

public static void main(String[] args) throws SQLException {
try {
Class.forName(driverName);
} catch (ClassNotFoundException e) {
e.printStackTrace();
System.exit(1);
}

Properties config = new Properties();
config.put(“access_id”, “your_access_id”);
config.put(“access_key”, “your_access_key”);
config.put(“project_name”, “your_project”);
config.put(“charset”, “utf-8″);
Connection
conn = DriverManager.getConnection(“jdbc:odps:https://service.odps.aliyun.com/api”, config);
ResultSet rs;

// create a table
Statement stmt = conn.createStatement();
String tableName = “jdbc_test”;
stmt.execute(“drop table if exists ” + tableName);
stmt.execute(“create table ” + tableName + ” (key int, value string)”);

// get meta data
DatabaseMetaData metaData = conn.getMetaData();
System.out.println(“product = ” + metaData.getDatabaseProductName());
System.out.println(“jdbc version = ” + metaData.getDriverMajorVersion() + “, ”
+ metaData.getDriverMinorVersion());
rs = metaData.getTables(null, null, tableName, null);
while (rs.next()) {
String name = rs.getString(3);
System.out.println(“inspecting table: ” + name);
ResultSet rs2 = metaData.getColumns(null, null, name, null);
while (rs2.next()) {
System.out.println(rs2.getString(“COLUMN_NAME”) + “\t”
+ rs2.getString(“TYPE_NAME”) + “(” + rs2.getInt(“DATA_TYPE”) + “)”);
}
}

// run sql
String sql;

// insert a record
sql = String.format(“insert into table %s select 24 key, ‘hours’ value from (select count(1) from %s) a”, tableName, tableName);
System.out.println(“Running: ” + sql);
int count = stmt.executeUpdate(sql);
System.out.println(“updated records: ” + count);

// select * query
sql = “select * from ” + tableName;
System.out.println(“Running: ” + sql);
rs = stmt.executeQuery(sql);
while (rs.next()) {
System.out.println(String.valueOf(rs.getInt(1)) + “\t” + rs.getString(2));
}

}

}

运行可以获得类似如下结果:

product = ODPS JDBC
jdbc version = 1, 0
inspecting table: jdbc_test
key BIGINT(-5)
value   STRING(12)
Running: insert into table jdbc_test select 24 key, ‘hours’ value from (select count(1) from jdbc_test) a
updated records: 1
Running: select * from jdbc_test
24  hours

这里列一下使用 odps-jdbc 可能要注意的事项:

  • 目前 odps-jdbc 的实现,类似 select 这样的查询会在 odps 中生成临时表,表名为 jdbc_temp_tbl_$UUID。这些临时表会在 Statement.close 和 Connection.close 的时候被删除。如果忘记了调用 close,这些表会遗留在 ODPS 中,默认生命周期是 3 天。
  • odps-jdbc 虽然可以完成 insert into 动作,但并不适合如传统关系数据库那样密集执行每次 insert 一条记录的场景。每次 insert into 会启动一个 instance,执行时间可能需要数秒。
  • 并不是所有 odpscmd 命令都被 Statement 支持。Statement 只接受 sql 语句,例如 set、grant 等都不是 sql。
  • 不支持 select null。目前 odps 无法支持 create table … as select …, null, …,因此在 Statement 中写带有 null 的 select 会出错。

我们的目的是使 ODPS 更加开放、灵活和易用。目前 odps-jdbc 已经完成集团的开源流程,托管在 github-https://github.com/aliyun/aliyun-odps-jdbc 上。欢迎各位开源热心人士积极反馈,贡献代码。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
相关文章
|
2月前
|
SQL DataWorks Java
DataWorks常见问题之hive jdbc加载数据错误如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
36 0
|
7月前
|
Java 数据库连接 数据库
JSP奖学金管理系统myeclipse开发sqlserver数据库bs框架java编程jdbc
JSP 奖学金管理系统是一套完善的web设计系统,对理解JSP java编程开发语言有帮助,系统具有完整的源代码和数据库,开发环境为TOMCAT7.0,Myeclipse8.5开发,数据库为SQLSERVER2008,使用java语言开发,系统主要采用B/S模式开发。
37 0
|
7月前
|
Java 关系型数据库 MySQL
JSP居民信息采集系统yeclipse开发mysql数据库bs框架java编程jdbc
JSP 居民信息采集系统是一套完善的web设计系统,对理解JSP java编程开发语言有帮助,系统具有完整的源代码和数据库,开发环境为TOMCAT7.0,Myeclipse8.5开发,数据库为Mysql5.0,使用java语,言开发系统主要采用B/S模式开发。
36 0
|
1天前
|
SQL Java 关系型数据库
JDBC编程
JDBC编程
6 2
|
11天前
|
Java 关系型数据库 MySQL
【JDBC编程】基于MySql的Java应用程序中访问数据库与交互数据的技术
【JDBC编程】基于MySql的Java应用程序中访问数据库与交互数据的技术
|
16天前
|
SQL Java 数据库连接
Java从入门到精通:2.3.1数据库编程——学习JDBC技术,掌握Java与数据库的交互
ava从入门到精通:2.3.1数据库编程——学习JDBC技术,掌握Java与数据库的交互
|
2月前
|
SQL Java 数据库连接
Java的JDBC编程
Java的JDBC编程
|
4月前
|
druid Java 数据库连接
最新Java基础系列课程--Day16-JDBC编程(三)
最新Java基础系列课程--Day16-JDBC编程
|
4月前
|
SQL 安全 Java
最新Java基础系列课程--Day16-JDBC编程(二)
最新Java基础系列课程--Day16-JDBC编程
|
4月前
|
SQL Java 关系型数据库
最新Java基础系列课程--Day16-JDBC编程(一)
最新Java基础系列课程--Day16-JDBC编程

热门文章

最新文章