1 基本语法

hadoop fs 具体命令 OR hdfs dfs 具体命令
两个是完全相同的。

2 准备工作

1 启动集群

  1. # sbin/start-dfs.sh
  2. # sbin/start-yarn.sh

2 -help:输出这个命令参数

  1. # hadoop fs -help rm

3 创建文件夹

  1. # hadoop fs -mkdir /sanguo

上传

1 -moveFromLocal:从本地剪切粘贴到HDFS

  1. # hadoop fs -moveFromLocal ./shuguo.txt /sanguo

2 -copyFromLocal:从本地文件系统中拷贝文件到HDFS路径去

  1. # hadoop fs -copyFromLocal weiguo.txt /sanguo

3 -put:等同于copyFromLocal,生产环境更习惯用put

  1. # hadoop fs -put ./wuguo.txt /sanguo

4 -appendToFile:追加一个文件到已经存在的文件末尾

  1. # hadoop fs -appendToFile liubei.txt /sanguo/shuguo.txt

下载

1 -copyToLocal:从HDFS拷贝到本地

  1. # hadoop fs -copyToLocal /sanguo/shuguo.txt ./

2 -get:等同于copyToLocal,生产环境更习惯用get

  1. # hadoop fs -get /sanguo/shuguo.txt ./shuguo2.txt

HDFS直接操作

1 -ls: 显示目录信息

  1. # hadoop fs -ls /sanguo

2 -cat:显示文件内容

  1. # hadoop fs -cat /sanguo/shuguo.txt

3 -chgrp、-chmod、-chown:Linux文件系统中的用法一样,修改文件所属权限

  1. # hadoop fs -chmod 666 /sanguo/shuguo.txt
  2. # hadoop fs -chown atguigu:atguigu /sanguo/shuguo.txt

4 -mkdir:创建路径

  1. # hadoop fs -mkdir /jinguo

5 -cp:从HDFS的一个路径拷贝到HDFS的另一个路径

  1. # hadoop fs -cp /sanguo/shuguo.txt /jinguo

6 -mv:在HDFS目录中移动文件

  1. # hadoop fs -mv /sanguo/wuguo.txt /jinguo
  2. # hadoop fs -mv /sanguo/weiguo.txt /jinguo

7 -tail:显示一个文件的末尾1kb的数据

  1. # hadoop fs -tail /jinguo/shuguo.txt

8 -rm:删除文件或文件夹

  1. # hadoop fs -rm /sanguo/shuguo.txt

9 -rm -r:递归删除目录及目录里面内容

  1. # hadoop fs -rm -r /sanguo

10 -du统计文件夹的大小信息

  1. # hadoop fs -du -s -h /jinguo
  2. 输出:
  3. 27 81 /jinguo
  4. # hadoop fs -du -h /jinguo
  5. 输出:
  6. 14 42 /jinguo/shuguo.txt
  7. 7 21 /jinguo/weiguo.txt
  8. 6 18 /jinguo/wuguo.tx

11 -setrep:设置HDFS中文件的副本数量

  1. # hadoop fs -setrep 10 /jinguo/shuguo.txt

image.png
hadoop3的新功能,可以在客户端修改副本数量,这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。(如果节点数增加,会自动备份副本)