hadoop2.7.2 联邦配置文件

简介:

wKioL1bb_3qT8ZWZAAAiBVZANDQ167.png

配置文件如下:

hadoop 联邦配置:
1.配置hadoop-env.sh
vim hadoop-2.7.2/etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/jdk1.7.0_25
2.配置mapreduce:
[qujian@master ~]$ cp hadoop-2.7.2/etc/hadoop/mapred-site.xml.template hadoop-2.7.2/etc/hadoop/mapred-site.xml
[qujian@master ~]$ vim hadoop-2.7.2/etc/hadoop/mapred-site.xml

<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>

  
3.修改yarn-site.xml
 vim hadoop-2.7.2/etc/hadoop/yarn-site.xml 
<property>
  <name>yarn.nodemanager.aux-services</name>
  <value>mapreduce_shuffle</value>
</property>
<property>
  <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
  <value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
  <name>yarn.resourcemanager.address</name>
  <value>master.hadoop.cn:8032</value>
</property>
<property>
  <name>yarn.resourcemanager.scheduler.address</name>
  <value>master.hadoop.cn:8030</value>
</property>
<property>
  <name>yarn.resourcemanager.resource-tracker.address</name>
  <value>master.hadoop.cn:8031</value>
</property>
<property>
  <name>yarn.resourcemanager.admin.address</name>
  <value>master.hadoop.cn:8033</value>
</property>
<property>
  <name>yarn.resourcemanager.webapp.address</name>
  <value>master.hadoop.cn:8088</value>
</property>

4.修改slave
[qujian@master ~]$ vim hadoop-2.7.2/etc/hadoop/slaves
second2.hadoop.cn
data1.hadoop.cn
data2.hadoop.cn

5.配置core-site.xml
[qujian@master ~]$ vim hadoop-2.7.2/etc/hadoop/core-site.xml
<property>
  <name>fs.defaultFS</name>
  <value>hdfs://master.hadoop.cn:9000</value>
</property>
<property>
  <name>io.file.buffer.size</name>
  <value>4096</value>
</property>
<property>
  <name>hadoop.tmp.dir</name>
  <value>file:/home/qujian/hadoop-2.7.2/tmp</value>
</property>

6.修改hdfs-site.xml
[qujian@master ~]$ vim hadoop-2.7.2/etc/hadoop/hdfs-site.xml 
<property>
  <name>dfs.namenode.name.dir</name>
  <value>file:/home/qujian/hadoop-2.7.2/name</value>
</property>
<property>
  <name>dfs.datanode.data.dir</name>
  <value>file:/home/qujian/hadoop-2.7.2/data</value>
</property>
<property>
  <name>dfs.replication</name>
  <value>3</value>
</property>
<property>
  <name>dfs.webhdfs.enabled</name>
  <value>true</value>
</property>
<property>
  <name>dfs.permissions.enabled</name>
  <value>false</value>
</property>
<property>
  <name>dfs.nameservices</name>
  <value>ns1,ns2</value>
</property>
<property>
  <name>dfs.namenode.rpc-address.ns1</name>
  <value>master.hadoop.cn:9000</value>
</property>
<property>
  <name>dfs.namenode.http-address.ns1</name>
  <value>master.hadoop.cn:50070</value>
</property>

<property>
  <name>dfs.namenode.rpc-address.ns2</name>
  <value>second1.hadoop.cn:9000</value>
</property>
<property>
  <name>dfs.namenode.http-address.ns2</name>
  <value>second1.hadoop.cn:50070</value>
</property>
 


本文转自 zhuxtqw 51CTO博客,原文链接:http://blog.51cto.com/1054054/1748113,如需转载请自行联系原作者

相关文章
|
10天前
|
存储 分布式计算 Hadoop
[绝对要收藏]配置hadoop完全分布式环境
[绝对要收藏]配置hadoop完全分布式环境
9 0
|
9月前
|
分布式计算 Hadoop Java
Hadoop 常用配置文件 - 简单的 Hadoop 集群搭建
Hadoop 常用配置文件 - 简单的 Hadoop 集群搭建
106 0
|
9月前
|
分布式计算 Hadoop C++
hadoop环境遇到的问题 二
hadoop环境遇到的问题 二
|
9月前
|
SQL 分布式计算 Hadoop
hadoop环境遇到的问题 一
hadoop环境遇到的问题 一
|
11月前
|
存储 分布式计算 网络协议
Hadoop完全分布式部署
Hadoop完全分布式部署
|
存储 分布式计算 监控
Hadoop, Hadoop涉及到的一些常见概念(分布式与集群、HDFS、MapReduce等),Hadoop怎么用?
Hadoop, Hadoop涉及到的一些常见概念(分布式与集群、HDFS、MapReduce等),Hadoop怎么用?
427 0
|
分布式计算 资源调度 Hadoop
Hadoop运行环境搭建(开发重点四)在hadoop102安装hadoop、配置hadoop环境变量、测试Hadoop是否安装成功、hadoop重要目录
Hadoop运行环境搭建(开发重点四)在hadoop102安装hadoop、配置hadoop环境变量、测试Hadoop是否安装成功、hadoop重要目录
Hadoop运行环境搭建(开发重点四)在hadoop102安装hadoop、配置hadoop环境变量、测试Hadoop是否安装成功、hadoop重要目录
|
分布式计算 资源调度 Hadoop
Hadoop核心组件之HDFS的安装与配置
Hadoop核心组件之HDFS的安装与配置
291 0
Hadoop核心组件之HDFS的安装与配置
|
存储 分布式计算 Hadoop
Hadoop : hdfs的核心工作原理
Hadoop : hdfs的核心工作原理
201 0
Hadoop : hdfs的核心工作原理
|
分布式计算 监控 Hadoop
hadoop 配置文件
hadoop的配置文件分为两种,一种是默认类型、一种是自定义配置文件。我们先从默认类型开始。根据自己的实际业务对自定义配置文件进行修改。例如:是否开启hadoop数据存放目录,yarn的聚集日志文件的配置、hadoop垃圾箱的自动清空的天数,hdfs的域名映射等等。
1213 0

相关实验场景

更多