博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
按照《权威指南》的例子求最低温度并且修改默认调度器为FairScheduler
阅读量:5155 次
发布时间:2019-06-13

本文共 1169 字,大约阅读时间需要 3 分钟。

首先我只是下载了2003年的数据,因为网络较慢……然后把数据整合到test.txt中,upload到hdfs文件系统中。如图。已有一个test.txt。

数据准备好之后,开始搞代码。代码如图。

然后把它们打包成一个jar包,运行。

结果求得2003年的最低温度是-807。如图。

搞掂!!

接下来是实现hadoop的公平调度器。

首先不做任何修改,直接启动hadoop集群,然后启动两个作业,查看FIFO调度器队列。

可以看到,同时启动两个作业,只会有一个作业运行,另一个作业处在等待状态。

而接下来是用公平调度器,在mapred-site.xml中加入如下属性:

mapred.jobtracker.taskScheduler
org.apache.hadoop.mapred.FairScheduler
mapred.fairscheduler.poolnameproperty
pool.name
pool.name
${user.name}

然后在fair-scheduler.xml中设置了两个pool的名字以及容量等。就是在其中加入如下属性。

1
1
2
2
300
6
3
600

然后保存退出,重启集群,同时启动两个作业,查看调度器窗口,如图。可以看出两个作业同时运行,并且系统进行资源分配。

 

转载于:https://www.cnblogs.com/UUhome/p/4283316.html

你可能感兴趣的文章
jquery动态移除/增加onclick属性详解
查看>>
第九周作业
查看>>
MiniMagick
查看>>
css important
查看>>
KindEditor图片上传到七牛云
查看>>
JavaScript---Promise
查看>>
暖暖的感动
查看>>
[转] C语言的谜题
查看>>
Java中的日期和时间
查看>>
禁用windows2000.2003启动时的CTRL+ALT+DEL
查看>>
Django基于admin的stark组件创建(一)
查看>>
快速幂 模板及应用
查看>>
批处理/DOS命令删除文件夹下某类型的文件
查看>>
模板 - 数学 - 矩阵快速幂
查看>>
优秀的持久层框架Mybatis,连接数据库快人一步
查看>>
线段树 延迟更新
查看>>
CentOS的IP配置专题
查看>>
基于WCF大型分布式系统的架构设计
查看>>
Bat文件注册组件
查看>>
Autoit 3 常用的语句
查看>>