• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    hadoop迁移数据应用实例详解

    项目开发中hadoop一直装在虚拟机上,最近要迁移到服务器上。记录下迁移过程。

    一、为虚拟机添加一块新的硬盘

    虚拟机的初始硬盘只有30G,容不开要导出的数据。两种方式,一是给虚拟机扩容;二是为虚拟机添加一块新的硬盘。这里采取第二种方式。

    1、添加虚拟硬盘

    至此,添加硬盘成功。

    2、将硬盘分区

    要使用一块新的硬盘,需要先将硬盘分区,然后挂在文件系统上才能使用。

    这里普及一下linux的文件系统与硬盘以及分区的关系。按照一个“由硬到软”的顺序来讲,首先是硬盘,是物理的;我们要使用这个物理硬盘,需要将物理硬盘分成一个一个的分区;而我们在使用操作系统时,则通过文件系统来操作文件。文件系统这个“软件“是通过分区与硬盘这个“硬件”进行联系的:硬盘分成区后,以分区的形式挂在文件系统上。

    举例比较windows与linux文件系统的区别:

    对于windows来讲,比如我们的电脑上只安装了一块硬盘,这个硬盘分了四个区,对应我们文件系统中的CDEF盘。即四个分区在我们使用者看来是平级的。这时如果添加了一个

    对于linux来讲,硬盘也是以分区的形式挂载在文件系统上。这点与windows一致。不同的是,windows有多个文件系统树(C:D:E:F:),而linux只有一个文件系统树,也就是我们看到的,所有的目录以及文件都是在根目录 / 下的。那么linux是怎么挂的呢?linux会将不同的分区挂在不同的目录下。

    如图:

    图中,文件系统其实就是我们上边讲的分区,这些文件系统(分区)共同组成了我们linux整个的文件系统。这里注意,其实文件系统与分区是统一的,可以认为分区是文件系统的载体,我们上边讲它们两者的关系,只是为了进一步帮助理解。那么既然分区是挂在linux的基于根目录的这棵“树”上的,我们就将分区挂的这个目录称为挂载点。如上。

    下边我们来具体讲解一下关于将硬盘分区的命令:

    a、使用:fdisk -l 命令查看硬盘及分区信息,如图:


    图中,使用矩形围起来的是硬盘,一般硬盘会按照sda、sdb、sdc的顺序依次添加。下边两块硬盘暂时不要考虑。

    使用椭圆圈起来的是分区,如硬盘sda有三个分区,分别是sda1、sda2、sda3。

    可以看到箭头指向的硬盘sdc没有分区,这意味着这块硬盘尚未被使用,这就是我们新添加的硬盘。

    b、通过  fdisk /dev/sdc  对新硬盘进行分区


    输入m可以打印我们的操作菜单,注意上边红线圈出 的命令,n代表新建一个分区,p代表打印当前硬盘的分区表,w代表向硬盘写入分区表。接下来我们依次执行。如图:


    输入n,新建一个分区,两个选项,p代表主分区,e代表扩展分区,选择p主分区;第二次输入p是为了打印分区表,可以看到分区sdc1创建成功。创建过程中的分区好,起始扇区,last扇区使用默认值直接回车即可。最后输入w,写入分区。

    c、使用  mkfs -t ext4 /dev/sdc1 将新分区格式化成ext4的格式

    如图:

    d、通过  mount /dev/sdc1 /disk5 将新的分区sdc1挂载到目录disk5下边

    如图:

    最后,我们通过df -lh /disk5 命令查看目录disk5,发现其确实是新的分区sdc1,挂在成功。如此,便可正常使用新加的硬盘了。

    小结:用到了 fdisk df mkfs mount 等几个命令,注意复习。

    二、hadoop的命令的使用

    1、首先需要执行命令使hadoop命令能够被识别。

    export PATH=$PATH:/home/hadoop/hadoop-2.5.2/bin

    2、hadoop的文件系统的命令与linux的命令十分一致,下边举例说明:

    hadoop fs -ls / 表示列出根目录下的所有文件(夹)
    hadoop fs -put readme.txt /user/hadoop/test/ 表示将readme.txt文件上传到hdfs的/user/hadoop/test/目录下
    hadoop fs -get / /hadoop_data 表示将hdfs文件系统根目录/下的所有文件(夹)导出到本地的/hadoop_data目录下
    hadoop fs -rm / 表示删除hdfs文件系统中的所有文件(夹)

    总结

    以上所述是小编给大家介绍的hadoop迁移数据应用实例详解,希望对大家有所帮助,如果大家有任何疑问欢迎给我留言,小编会及时回复大家的!

    上一篇:Hadoop 分布式存储系统 HDFS的实例详解
    下一篇:hadoop二次排序的原理和实现方法
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    hadoop迁移数据应用实例详解 hadoop,迁移,数据,应用,实例,