为了账号安全,请及时绑定邮箱和手机立即绑定

认识Hadoop--基础篇

Kit_Ren Linux系统工程师
难度初级
时长 1小时22分
学习人数
综合评分9.17
211人评价 查看评价
9.4 内容实用
9.1 简洁易懂
9.0 逻辑清晰
分区 reduce排序 合并
hash 归并 同一个点
job task jobTracker TaskTracker
JobTracker:作业调度,分配任务(map任务 reduce任务),监控tasktracker状态;
tasktracker执行任务 报告状态;
MapReduce容错机制:重复执行,推测执行
客户端发送文件读请求——>namenode返回元数据(从哪些datanode找到)——>客户端读取block,下载下来之后组装;
客户端文件拆分成block——>通知namenode返回可用的 有足够磁盘空间的datanode——>客户端对block进行写入——>流水线复制——>更新元数据 ;
spark期望中
虽然腾讯云和阿里云都有学生计划,但是还是要钱啊。。。
老师的声音,我喜欢,这个抑扬顿挫的风格和暴走是一样一样的啊
http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz
hdfs-site.xml
<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>
代码不是重点,关键是,如何远程调试hadoop?我如何用eclipse/idea远程调试hadoop应用?
为了应付选修课作业~ 哎~
老师能不能把讲义给我们一份
很不错,希望可以使用IDE来进行编程讲解就更完美了
一个job包含多个task
配置文件
1.hadoop-env.sh 外部环境
修改JAVA_HOME
2.core-site.xml 工作目录
hadoop.tmp.dir dfs.name.dir fs.default.name
3.hdfs-site.xml 数据存放目录
dfs.data.dir
4.mapred-site.xml 任务调度器
mapred.job.tracker
5./etc/proifle 配置环境变量
HADOOP_HOME PATH
课程须知
本课程需要童鞋们提前掌握Linux的操作以及Java开发的相关知识。对相关内容不熟悉的童鞋,可以先去《Linux达人养成计划Ⅰ》以及《Java入门第一季》进行修炼~~
老师告诉你能学到什么?
1、Google的大数据技术 2、Hadoop的架构设计 3、Hadoop的使用 4、Hadoop的配置与管理

微信扫码,参与3人拼团

意见反馈 帮助中心 APP下载
官方微信
友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消