开发者社区> 问答> 正文

比较dataframe列中存在的scala中的日期

我想在过滤器中比较以下日期,如下所示: -

dataframe 具有值的KIN_PRC_FILE列pos_price_expiration_dt9999-12-31

val formatter = new SimpleDateFormat("yyyy-MM-dd");
val CURRENT_DATE = formatter.format(Calendar.getInstance().getTime());

val FILT_KMART_KIN_DATA= KIN_PRC_FILE.filter(s"(pos_price_expiration_dt)>=$CURRENT_DATE AND pos_price_type_cd").show(10)
但似乎上面的查询返回空记录,有人可以帮我理解这里有什么问题。

展开
收起
社区小助手 2018-12-05 14:08:19 2958 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    您只需要在current_date变量中添加单个逗号即可

    KIN_PRC_FILE.filter(s"pos_price_expiration_dt >= '$CURRENT_DATE'")
    这里的简单例子

    INPUT

    df.show
    pos_price_expiration_dt id
    2018-11-20 a
    2018-12-28 b
    null c

    OUTPUT

    df.filter(s"pos_price_expiration_dt>='$CURRENT_DATE'").show

    pos_price_expiration_dt id
    2018-12-28 b
    2019-07-17 23:18:21
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
相关产品:
问答排行榜
最热
最新

相关电子书

更多
Just Enough Scala for Spark 立即下载
JDK8新特性与生产-for“华东地区scala爱好者聚会” 立即下载
Adopting Dataframes and Parque 立即下载