开发者社区> 问答> 正文

(Linux AMI)EMR Cluster版本的`free`命令

free`命令
(Linux AMI)EMR Cluster版本
(Linux AMI)EMR Cluster版本的free命令
当我从AWS Linux AMI启动pyspark时,我正试图分配内存来激发 - 也就是说,当我调用pyspark时,将精确的参数传递给driver-memory和executor-memory参数。

据我所知,我可以在Instance Types页面上查看我在每个EMR集群实例上有多少内存的现成答案?但是我想知道我是否可以从aws cli本身做到这一点(“现场”),所以我可以看到在我的自举旋转过程之后我实际上有多少工作。

我也知道freeLinux 中的命令,但这似乎只给了我ssh'd主节点的空闲内存。我也知道YARN UI和Hadoop API,但在这种情况下,我想从命令行检查,如果可能的话。

展开
收起
社区小助手 2019-01-02 15:09:08 1790 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    您正在寻找有关群集内存使用情况的信息将在纱线管理器中提供。

    Yarn top
    Yarn Manger提供有关节点和使用的内存以及可用内存的信息。跟踪所有应用程序。

    2019-07-17 23:24:24
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Alibaba Cloud Linux 3 发布 立即下载
ECS系统指南之Linux系统诊断 立即下载
ECS运维指南 之 Linux系统诊断 立即下载