ODPS-SDK调用排坑笔记(1)

  1. 云栖社区>
  2. 博客>
  3. 正文

ODPS-SDK调用排坑笔记(1)

laoying776 2019-02-22 14:22:49 浏览796
展开阅读全文

一、坑从何来

ODPS表的数据使用,估计每个后端童靴都会碰到,常用就两种:

  1. 将ODPS表清洗后同步到mysql或histore中持久化,然后通过java封装服务能力调用。这种场景常用于在线实时调用;

2.直接调用ODPS-SDK,通过SQL.run(sql)直接获取odps数据,次方法常用离线JOB处理数据;

而我这次使用的及时后者,通过SQL直查的方式获取数据。下面就重点说下碰到一个坑。

二、采坑排查

1.代码写完,收工,源码如下:image
2.期待数据日志的打印,此时异常抛出:
image
3.初步定位返回数据结果有误导致XML解析错误,先看看ODPS源码那行是什么东东:
image
问题浮现:多个XML-parser被加载了,但是使用了错误的解析器,java8优先使用了自带的JAXB而不是com.sun.xml.internal.bind.v2.util.XmlFactory导致的冲突

三、排坑方案
1. 引入三方xml解析包
image
2.排调间接依赖:xml.xerces

<exclusion>
    <groupId> com.alibaba.external</groupId>
    <artifactId>xml.xerces</artifactId>
</exclusion>

四、小结

为什么就用到rt.jar中的xerces类呢,要去看Spring是如何load xml文件的,其实javadoc里面说得比较详细

1、Use the “javax.xml.parsers.DocumentBuilderFactory” system property.

2、Use the properties file "lib/jaxp.properties" in the JRE directory.

3、Use the Services API (as detailed in the JAR specification), if available, to determine the classname. The Services API will look for a classname in the file “META-INF/services/javax.xml.parsers.DocumentBuilderFactory"  in jars available to the runtime.

4、Platform default "DocumentBuilderFactory" instance,也就是类com.sun.org.apache.xerces.internal.jaxp.DocumentBuilderFactoryImpl。

如果前面三步都找不到实现类,jdk(好像必须是jdk1.5或以上版本)里自带的DocumentBuilderFactoryImpl将会被使用

网友评论

登录后评论
0/500
评论
laoying776
+ 关注