第1关：HDFS的基本操作
任务描述
本关任务：使用Hadoop命令来操作分布式文件系统。
编程要求
在右侧命令行中启动Hadoop，进行如下操作。
在HDFS中创建/usr/output/文件夹；在本地创建hello.txt文件并添加内容：“HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。”；将hello.txt上传至HDFS的/usr/output/目录下；删除HDFS的/user/hadoop目录；将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。
测试说明
平台会查看你本地的文件和HDFS的文件是否存在，如果存在，则会将其内容输出到控制台。
预期输出：
HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。
代码如下
start-dfs.shhadoop fs -mkdir /usrhadoop fs -mkdir /usr/outputvim hello.txthadoop fs -put hello.txt /usr/outputhadoop fs -rm -r /user/hadoophadoop fs -copyToLocal /usr/output/hello.txt /usr/local
第2关：HDFS-JAVA接口之读取文件
任务描述
本关任务：使用HDFS的Java接口进行文件的读写，文件uri地址为hdfs://localhost:9000/user/hadoop/task.txt。
编程要求
在右侧代码编辑区中编写代码实现如下功能：
使用FSDataInputStream获取HDFS的/user/hadoop/目录下的task.txt的文件内容，并输出，其中uri为hdfs://localhost:9000/user/hadoop/task.txt。
测试说明
点击评测，平台会通过脚本创建/user/hadoop/task.txt文件并添加相应内容，无需你自己创建，开启hadoop，编写代码点击评测即可。因为Hadoop环境非常消耗资源，所以你如果一段时间不在线，后台会销毁你的镜像，之前的数据会丢失（你的代码不会丢失），这个时候需要你重新启动Hadoop。
预期输出：
WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷，进一寸有一寸的欢喜。
第一行打印出来的是
log4j的日志警告，可以忽略。
代码如下
//先再命令行输入如下代码，然后再去代码文件粘贴java代码start-dfs.shvim test.txti//按i进入修改模式后，把下列中文粘贴进去 ctl+shift+v独坐池塘如虎踞，绿荫树下养精神。春来我不先开口，哪个虫儿敢作声。//按Esc键推出修改模式Esc//输入:wq推出命令行模式:wq
package step2;import java.io.IOException;import java.io.InputStream;import .URI;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.IOUtils;public class FileSystemCat {public static void main(String[] args) throws IOException {//请在Begin-End之间添加你的代码，完成任务要求。//请按照左侧的编程要求进行编写代码//文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"/********* Begin *********/URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");Configuration config = new Configuration();FileSystem fs = FileSystem.get(uri,config);InputStream in = null;try{in = fs.open(new Path(uri));IOUtils.copyBytes(in, System.out,2048,false);}catch (Exception e){IOUtils.closeStream(in);}/********* End *********/}}
第3关：HDFS-JAVA接口之上传文件
任务描述
本关任务：使用HDFSAPI上传文件至集群。
编程要求
在右侧代码编辑区和命令行中，编写代码与脚本实现如下功能：
在/develop/input/目录下创建hello.txt文件，并输入如下数据： 迢迢牵牛星，皎皎河汉女。 纤纤擢素手，札札弄机杼。 终日不成章，泣涕零如雨。 河汉清且浅，相去复几许？ 盈盈一水间，脉脉不得语。 《迢迢牵牛星》
使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目录下，并打印进度。
测试说明
平台会运行你的java程序，并查看集群的文件将文件信息输出到控制台，第一行属于警告信息可以忽略。
代码如下
//先再命令行输入如下代码，然后再去代码文件粘贴java代码start-dfs.shmkdir -p /develop/inputcd /develop/inputvim hello.txti//输入i进入修改模式后把下面诗句粘贴进去 ctl+shift+v迢迢牵牛星，皎皎河汉女。纤纤擢素手，札札弄机杼。终日不成章，泣涕零如雨。河汉清且浅，相去复几许？盈盈一水间，脉脉不得语。《迢迢牵牛星》//按Esc键退出修改模式Esc//输入:wq退出命令行模式:wq
package step3;import java.io.BufferedInputStream;import java.io.FileInputStream;import java.io.FileNotFoundException;import java.io.IOException;import java.io.InputStream;import .URI;import java.io.File;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FSDataOutputStream;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.IOUtils;import org.apache.hadoop.util.Progressable;public class FileSystemUpload {public static void main(String[] args) throws IOException {//请在 Begin-End 之间添加代码，完成任务要求。/********* Begin *********/File localPath = new File("/develop/input/hello.txt");String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";InputStream in = new BufferedInputStream(new FileInputStream(localPath));Configuration config = new Configuration();FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {long fileCount = 0;public void progress() {System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");fileCount++;}});IOUtils.copyBytes(in, out, 2048, true);/********* End *********/}}
第4关：HDFS-JAVA接口之删除文件
任务描述
本关任务：删除HDFS中的文件和文件夹。
编程要求
在右侧代码区填充代码，实现如下功能：
删除HDFS的/user/hadoop/目录（空目录）；删除HDFS的/tmp/test/目录（非空目录）；列出HDFS根目录下所有的文件和文件夹；列出HDFS下/tmp/的所有文件和文件夹。
测试说明
HDFS的文件夹在你点击评测是会通过脚本自动创建，不需要你自己创建哦，依照题意编写代码点击评测即可。
代码如下
//先再命令行输入如下代码，然后再去代码文件粘贴java代码start-dfs.sh
package step4;import java.io.IOException;import .URI;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileStatus;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.FileUtil;import org.apache.hadoop.fs.Path;public class FileSystemDelete {public static void main(String[] args) throws IOException {//请在 Begin-End 之间添加代码，完成本关任务。/********* Begin *********/String root = "hdfs://localhost:9000/";String path = "hdfs://localhost:9000/tmp";String del1 = "hdfs://localhost:9000/user/hadoop";String del2 = "hdfs://localhost:9000/tmp/test";Configuration config = new Configuration();FileSystem fs = FileSystem.get(URI.create(root),config);fs.delete(new Path(del1),true);fs.delete(new Path(del2),true);Path[] paths = {new Path(root),new Path(path)};FileStatus[] status = fs.listStatus(paths);Path[] listPaths = FileUtil.stat2Paths(status);for (Path path1 : listPaths){System.out.println(path1);}/********* End *********/}}
如果觉得《【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS》对你有帮助，请点赞、收藏，并留下你的观点哦！
