完全分布式集群的搭建

1.进程规划

原则:

     ①核心进程尽量分散
     ②同质进程尽量分散

2.集群间复制
①scp

scp -r  源文件的用户名@主机名:源文件路径   目标文件的用户名@主机名:目标文件路径  
特点: 全量复制

②rsync

rsync -rvlt  源文件路径  目标文件的用户名@主机名:目标文件路径

源文件路径是个目录,源文件路径/,只会同步源文件目录中的内容!
源文件路径,不仅会同步源文件目录中的内容,包括目录本身也会进行同步!

3.配置ssh免密登录

    如果A机器的a用户,希望使用b用户的身份,免密登录到B机器!

    操作步骤:①a用户在A机器生成一对密钥(私钥+公钥)
                        ssh-keygen -t rsa
              ②将公钥的内容,配置到b用户家目录/.ssh/authoxxx_keys
                        ssh-copy-id b@B
              ③a用户在A机器,就可以使用 ssh  b@B

    如果在配置时,省略了用户名,那么默认使用当前操作的用户名作为目标机器的用户名!
            [a@A] ssh  B 等价于  [a@A] ssh  a@B 

4.两种ssh的使用方式

①登录到目标主机,再执行命令

            [a@A] ssh  B
            [a@B] jps

            属于Login-shell,默认读取/etc/profile文件!

②在A机器,执行命令

            [a@A] ssh  B jps
            属于non-Login-shell,不会读取/etc/profile文件!
            只会读取 ~/.bashrc

        解决: 在a@B的~/.bashrc中配置 source /etc/profile


    注意:当前主机也要配置自己到自己的SSH免密登录!

配置SSH的作用 :

            ①执行scp,rsync命令时,不需要输入密码,方便
            ②在执行start-all.sh群起脚本时,需要输入密码
  1. 执行群起

     ①start-dfs.sh 可以在任意一台机器执行
     ②start-yarn.sh 如果不在RM所配置的机器执行,那么不会启动RM
    
     建议: 在RM所在的机器执行群起脚本!
     只需要配置RM所在机器到集群其他机器的SSH免密登录!
    
    ③在执行群起时,默认读取当前机器 $HADOOP_HOME/etc/hadoop/slaves文件中,当前集群配置的主机名

6.集群的时间同步

一个集群中,每台机器的时间必须保证是同步的!

主要借助linux的ntp服务执行和远程时间服务器的时间同步!

保证当前机器的ntp服务是开机自启动!
chkconfig --list ntpd

使用 ntpdate  -u 时间服务器的地址
全部评论

相关推荐

压力很大,面试官全程高压,问的问题不难,但是没有任何反馈,很慌张,也无算法。实习问了20分钟,一直问我你们做的有什么用,总时长一小时1.学校都有什么课程2.spring的ioc原理以及优点3.除了解耦还知道什么?4.springboot与spring区别,二者的源码看过没?Tomcat了解嘛?有没有具体看过5.spring的bean,面试官一直在重复一个思想问我懂不懂,完全没听过6.mybatis是干什么的?ibatis用过没?平常怎么写SQL?完全不写嘛?7.设计一个分布式双十一秒杀系统(前端,网关,缓存,数据库防超卖全设计)8.怎么做限流9.缓存与数据库一致性,你做异步要用户等你嘛?10.负载均衡怎么做11.多数据中心还是单数据中心,如果出现没卖完怎么做(到这完全不会了,面试官直接说换个话题吧)12.平常读书吗?13.上过哲学课嘛?14.兴趣爱好有没有15.对ai的看法16.来深圳有问题嘛?17.为什么不考研18.上大学带给了你什么?你提升在哪里,有没有具体的例子?反问:1.现在手机都有应用市场,应用宝怎么盈利?除了手机应用市场还是有人用,现在在做跨端,微软都有合作,之后会进军mac,主要做游戏,腾讯本身就是游戏大户。2.面试表现?整体评价一下会给到反馈。面完直接变HR面,今天HR面后,已经转为录用评估了,来牛客许个愿,暑期现在还没什么面试,希望能拿个offer之后再考虑要不要留在手子吧。
nunuking:三面压力这么大吗,面试的会议约了多长时间呀
面试问题记录
点赞 评论 收藏
分享
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务