博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
hadoop(6)---mapred-site.xml 详解以及常用配置。
阅读量:6161 次
发布时间:2019-06-21

本文共 6045 字,大约阅读时间需要 20 分钟。

说明:这是hadoop2.x版本的参数。下面的value都是参数默认值。

常用配置:

♥♥♥1.mapreduce.job.hdfs-serversvalue:${fs.defaultFS}   说明:job客户端参数。2.mapreduce.task.io.sort.factorvalue:10说明:在Reduce Task阶段,排序文件时一次合并的流的数量。 这决定了打开文件句柄的数量。也即是一次合并的文件数据,每次合并的时候选择最小的前10进行合并。3.mapreduce.task.io.sort.mbvalue:100说明:排序文件时使用的缓冲区内存总量,以兆字节为单位。 默认情况下,为每个合并流提供1MB,这应该最小化搜索。4.mapreduce.map.sort.spill.percentvalue:0.8说明:Map阶段溢写文件的阈值(排序缓冲区大小的百分比)。5.mapreduce.jobtracker.addressvalue:local说明:MapReduce作业跟踪器运行的主机和端口。 如果是“本地”,则作业将作为单个映射在进程中运行并减少任务。6.mapreduce.job.mapsvalue:2说明:单个任务的map数量。7.mapreduce.job.reducesvalue:1说明:单个任务的reduce数量。 8.mapreduce.job.running.map.limitvalue:0说明:单个任务并发的最大map数,0或负数没有限制9.mapreduce.job.running.reduce.limitvalue:0单个任务并发的最大reduce数,0或负数没有限制10.mapreduce.job.max.mapvalue:-1说明:单个任务允许的最大map数,-1表示没有限制。11.mapreduce.job.max.split.locationsvalue:10说明:分片数量12.mapreduce.job.split.metainfo.maxsizevalue:10000000说明:split的元数据信息数量,如果value为-1,则没有限制13.mapreduce.map.maxattemptsvalue:4说明:每个 Map Task 最大重试次数,一旦重试参数超过该值,则认为 Map Task 运行失败。14.mapreduce.reduce.maxattemptsvalue:4说明:每个 reduce Task 最大重试次数,一旦重试参数超过该值,则认为 reduce Task 运行失败。15.mapreduce.reduce.shuffle.parallelcopiesvalue:5说明:Reduce Task启动的并发拷贝数据的线程数目 16.mapreduce.task.timeoutvalue:600000说明:如果任务既不读取输入,也不写入输出,也不更新其状态字符串,则任务终止之前的毫秒数。0表示禁用超时。17.mapreduce.map.memory.mbvalue:1024说明:每个Map Task需要的内存量18.mapreduce.map.cpu.vcoresvalue:1说明:每个Map Task需要的虚拟CPU个数19.mapreduce.reduce.memory.mbvalue:1024说明:每个Reduce Task需要的内存量20.mapreduce.reduce.cpu.vcoresvalue:1说明:每个Reduce Task需要的虚拟CPU个数21.mapred.child.java.optsvalue:-Xmx200m说明:jvm启动的子线程可以使用的最大内存。建议值-XX:-UseGCOverheadLimit -Xms512m -Xmx2048m -verbose:gc -Xloggc:/tmp/@taskid@.gc22.yarn.app.mapreduce.am.resource.mbvalue:1536说明:MR ApplicationMaster占用的内存量。23.yarn.app.mapreduce.am.resource.cpu-vcoresvalue:1说明:MR ApplicationMaster占用的虚拟CPU个数。24.mapreduce.jobhistory.addressvalue:0.0.0.0:10020说明:指定历史服务器的地址和端口25.mapreduce.jobhistory.webapp.addressvalue:0.0.0.0:19888说明:历史服务器的web地址26.mapreduce.map.java.optsvalue:-Xmx1024m说明:每个map任务的jvm需要的内存量,一般为map内存的0.827.mapreduce.reduce.java.optsvalue:说明:每个reduce任务jvm需要的内存量。为reduce内存量的0.828.mapreduce.map.output.compressvalue:false说明: map输出是否进行压缩,如果压缩就会多耗cpu,但是减少传输时间,如果不压缩,就需要较多的传输带宽,默认是false。配合 mapreduce.map.output.compress.codec使用29.mapreduce.map.output.compress.codecvalue:org.apache.hadoop.io.compress.DefaultCodec  不常用配置:1.mapreduce.local.clientfactory.class.namevalue:org.apache.hadoop.mapred.LocalClientFactory说明:这是负责创建本地作业运行客户端的客户端工厂。2.mapreduce.jobtracker.system.dirvalue:${hadoop.tmp.dir}/mapred/system说明:MapReduce存储控制文件的目录,可配置多块硬盘,逗号分隔。3.mapreduce.jobtracker.staging.root.dirvalue:${hadoop.tmp.dir}/mapred/staging说明:用来存放与每个job相关的数据4.mapreduce.cluster.temp.dirvalue:${hadoop.tmp.dir}/mapred/temp说明:用来存放临时文件共享的目录。5.mapreduce.job.reducer.preempt.delay.secvalue:0说明:6.mapreduce.reduce.shuffle.fetch.retry.enabledvalue:${yarn.nodemanager.recovery.enabled}说明:设置主机重新启动期间启用提取重试。7.mapreduce.reduce.shuffle.fetch.retry.interval-msvalue:1000说明:提取器重试再次获取的时间间隔。8.mapreduce.reduce.shuffle.fetch.retry.timeout-msvalue:30000说明:取回超时时间9.mapreduce.reduce.shuffle.retry-delay.max.msvalue:60000说明:在重试下载map数据之前,reducer将延迟的最大ms数。10.mapreduce.reduce.shuffle.connect.timeoutvalue:180000说明:reduce task 连接map的超时时间,以毫秒为单位。11.mapreduce.reduce.shuffle.read.timeoutvalue:180000说明:map 输出数据,reduce连接以后可用于读取的最长时间,以毫秒为单位。12.mapreduce.shuffle.listen.queue.sizevalue:128说明:shuffle侦听队列的长度13.mapreduce.shuffle.connection-keep-alive.enablevalue:false说明:是否保持活跃连接,默认为false。14.mapreduce.shuffle.connection-keep-alive.timeoutvalue:5说明:保持活跃连接的秒数。15.yarn.app.mapreduce.am.log.levelvalue:info说明:MR ApplicationMaster的日志记录级别。 允许的级别为:OFF,FATAL,ERROR,WARN,INFO,DEBUG,TRACE和ALL。 如果设置了“mapreduce.job.log4j-properties-file”,则可以覆盖此处的设置。16.mapreduce.map.log.levelvalue:info说明:map任务的日志记录级别。 允许的级别为:OFF,FATAL,ERROR,WARN,INFO,DEBUG,TRACE和ALL。 如果设置了“mapreduce.job.log4j-properties-file”,则可以覆盖此处的设置。17.mapreduce.reduce.log.levelvalue:info说明:reduce任务的日志记录级别。 允许的级别为:OFF,FATAL,ERROR,WARN,INFO,DEBUG,TRACE和ALL。 如果设置了“mapreduce.job.log4j-properties-file”,则可以覆盖此处的设置。18.mapreduce.reduce.merge.inmem.thresholdvalue:1000说明:设置了Map任务在缓存溢出前能够保留在内存中的输出个数的阈值(默认1000),只要一个满足,输出数据都将会写到磁盘。19.mapreduce.reduce.shuffle.merge.percentvalue:0.66说明:决定缓存溢出到磁盘的阈值(默认0.66),即占用分配给map输出总内存的百分比。20.mapreduce.reduce.shuffle.input.buffer.percentvalue:0.70说明:Reduce任务对多个Map任务的输出结果进行合并时,占用的缓存空间在堆栈空间中的占用比例(默认0.70)。21.mapreduce.reduce.input.buffer.percentvalue:0说明:reduce函数开始运行时,内存中的map输出所占的堆内存比例不得高于这个值,默认情况内存都用于reduce函数,也就是map输出都写入到磁盘22.mapreduce.reduce.shuffle.memory.limit.percentvalue:0.25说明:一个单一的shuffle的最大内存使用限制23.mapreduce.shuffle.ssl.enabledvalue:false说明:是否将SSL用于Shuffle HTTP端点。24.mapreduce.shuffle.ssl.file.buffer.sizevalue:65536说明:使用SSL时从文件读取溢出的缓冲区大小。

 

配置文件常用配置:

mapreduce.map.memory.mb
1024
mapreduce.map.java.opts
-Xmx819M
mapreduce.reduce.memory.mb
2048
mapreduce.reduce.java.opts
-Xmx1638M
mapreduce.task.io.sort.mb
512
mapreduce.task.io.sort.factor
100
mapreduce.tasktracker.http.threads
100
mapreduce.reduce.shuffle.parallelcopies
100
mapreduce.map.output.compress
true
mapreduce.map.output.compress.codec
org.apache.hadoop.io.compress.DefaultCodec
mapreduce.framework.name
yarn
mapreduce.jobtracker.address
master:11211

 

转载于:https://www.cnblogs.com/yjt1993/p/9476573.html

你可能感兴趣的文章
JS图片跟着鼠标跑效果
查看>>
Leetcode 3. Longest Substring Without Repeating Characters
查看>>
416. Partition Equal Subset Sum
查看>>
app内部H5测试点总结
查看>>
[TC13761]Mutalisk
查看>>
while()
查看>>
常用限制input的方法
查看>>
IIS7下使用urlrewriter.dll配置
查看>>
并行程序设计学习心得1——并行计算机存储
查看>>
C++ 迭代器运算
查看>>
【支持iOS11】UITableView左滑删除自定义 - 实现多选项并使用自定义图片
查看>>
【算法笔记】多线程斐波那契数列
查看>>
java8函数式编程实例
查看>>
jqgrid滚动条宽度/列显示不全问题
查看>>
在mac OS10.10下安装 cocoapods遇到的一些问题
查看>>
css技巧
查看>>
Tyvj 1728 普通平衡树
查看>>
javascript性能优化
查看>>
多路归并排序之败者树
查看>>
java连接MySql数据库
查看>>