![Hadoop大数据技术开发实战](https://wfqqreader-1252317822.image.myqcloud.com/cover/392/27563392/b_27563392.jpg)
2.1 系统环境配置
本节讲解在安装软件及搭建集群之前对CentOS 7系统环境的一些配置操作。
2.1.1 新建用户
本书中使用1.3节安装操作系统时新建的hadoop用户进行后续的操作,读者若想使用其他用户,可按照下面的步骤新建用户。
例如,新建用户tom:
(1)使用“su -”命令切换为root用户,然后执行以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4265.jpg?sign=1739181787-aq2fFtVuMmcbeyFjdycI9tGRt5s6T3eD-0-f197aba8ea7e0d8661594576e7ce8000)
(2)执行以下命令,设置用户tom的密码:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4272.jpg?sign=1739181787-P8zbZx5ZogUzreQnaQ6ZCvvNVoqElxBu-0-d41e94dd6cc4d0c4b030e4a3a9ec6007)
到此,用户tom新建成功。
2.1.2 修改用户权限
为了使普通用户可以使用root权限执行相关命令(例如,系统文件的修改等),而不需要切换到root用户,可以在命令前面加入指令sudo。文件/etc/sudoers中设置了可执行sudo指令的用户,因此需要修改该文件,添加相关用户。
例如,使hadoop用户可以执行sudo指令,操作步骤如下:
使用“su -”命令切换为root用户,然后执行以下命令,修改文件sudoers:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4281.jpg?sign=1739181787-eYCDIAZ4mSzpHGmG91gNZc0CScdHtkry-0-5a791645f94de8bb2f146cf6f01e3aaf)
在文本root ALL=(ALL) ALL的下方加入以下代码,使hadoop用户可以使用sudo指令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4288.jpg?sign=1739181787-PiwiNETqjQr1jFFKrqUKrn5XH8wYO55z-0-b07d1af9bf5de33ece06913778c4c8fa)
执行sudo指令对系统文件进行修改时需要验证当前用户的密码,默认5分钟后密码过期,下次使用sudo需要重新输入密码。如果不想输入密码,则把上方的代码换成以下内容即可:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4295.jpg?sign=1739181787-cg016QH7tRuvywvfLWCJgv2hcIgFa5fz-0-78344de0a9375d1dc4085ec48e846ce6)
执行exit命令回到hadoop用户,此时使用root权限的命令只需要在命令前面加入sudo即可,无须输入密码。例如,以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4302.jpg?sign=1739181787-SEvyM6DeAaktJ7BV0tZmiYo5DeN3mqzV-0-a7255539dd8fc7bf415911e074c19a68)
注意
安装操作系统时创建的管理员用户hadoop,默认可以执行sudo指令,但需要验证hadoop用户的密码。可对其按照上面的步骤配置无须密码使用sudo指令。
2.1.3 关闭防火墙
集群通常都是内网搭建的,如果内网开启防火墙,内网集群通信则会受到防火墙的干扰,因此需要关闭集群中所有节点的防火墙。
执行以下命令关闭防火墙:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4355.jpg?sign=1739181787-VsdH4MqGLijjCCM974zBEwLF5zqZ1Psx-0-2a43136a6a1d442dd7af1c990efc46ef)
然后执行以下命令,禁止防火墙开机启动:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4362.jpg?sign=1739181787-IZbWUsr7cSFfI9q7P9INidSKWQKPx6fJ-0-0cd7dd9136f5a539c92907277c3d8378)
若需要查看防火墙是否已经关闭,可以执行以下命令,查看防火墙的状态:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4369.jpg?sign=1739181787-Sv4paPQtgAQYXQ8pRxneaVruBhgvZ97J-0-58782d0f1ea1e14cd91cefb8848f6738)
此外,开启防火墙的命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4376.jpg?sign=1739181787-C1acUnCWmfTJ6vxNT3J6NTYTXSncKneB-0-5d01d983b3beea073f7cc1954fef5da8)
2.1.4 设置固定IP
为了避免后续启动操作系统后,IP地址改变了,导致集群间通信失败,节点间无法正常访问,需要将操作系统的IP状态设置为固定IP,具体操作步骤如下。
1. 查看VMware网关IP
单击VMware菜单栏中的【编辑】/【虚拟网络编辑器】,在弹出的【虚拟网络编辑器】窗口的上方表格中选择最后一行,即外部连接为【NAT模式】,然后单击下方的【NAT设置】按钮,如图2-1所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4381.jpg?sign=1739181787-VphDHN6Ij3STbtJqeti7TO6zsB0H0U6v-0-1c865cf80d20b400248f32b9c56aac07)
图2-1 选择外部NAT模式
在弹出的【NAT设置】窗口中,查看VMware分配的【网关IP】。可以看到,本例中的网关IP为192.168.170.2(网段为170),如图2-2所示。
需要注意的是,后续给VMware中的操作系统设置IP时,网关IP应与图2-2中的网关IP保持一致。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4397.jpg?sign=1739181787-w7UjbD21Sd2OqSDJvNGv4BOvl7qfGQw9-0-cd1522bbe454745ecb24fdb6fcccb61c)
图2-2 查看VMware网关IP
2. 配置系统IP
CentOS 7系统IP的配置方法有两种:桌面配置方式和命令行配置方式,下面分别进行讲解。
(1)桌面配置方式。
单击系统桌面右上角的倒三角按钮,在弹出的窗口中单击【有线设置】,如图2-3所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4401.jpg?sign=1739181787-0qu8p02hfGDq1miMK4w5LPjTNlNn3Ouq-0-299ff5bec236018355daa2173beb5fcb)
图2-3 系统有线网络设置
在弹出的窗口中单击下方的【添加配置】按钮,如图2-4所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4417.jpg?sign=1739181787-7d8VdYipGek1ywR3ILavKU2vPpbB6Oe7-0-c2111f738bfad5a8ad47d9a3d65312ec)
图2-4 添加网络配置
在弹出的【网络配置】窗口中,左侧选择【IPv4】,右侧的【地址】选择【手动】,如图2-5所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4428.jpg?sign=1739181787-Nbkri3WDc8BvjhebVWXnnU0VARdknw73-0-3c461461f95a17a82951b125dde98147)
图2-5 网络连接信息配置界面
接着输入IP地址、网络掩码、网关和DNS服务器信息。IP地址可以自定义,范围在1~254之间,IP地址的网段应与网关一致,此处将IP地址设置为192.168.170.133。输入完毕后单击【添加】按钮,如图2-6所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4442.jpg?sign=1739181787-Sdaz46qZryhpIeBpUzbj1YErlPgOOkdF-0-958475535247dd8302a07054a4d506e0)
图2-6 填写网络配置信息
(2)命令行配置方式。
在系统终端命令行窗口执行以下命令,修改文件ifcfg-ens33:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4457.jpg?sign=1739181787-A1iFVyTmT6f1WudRqhzjiPxSV1KoUQfg-0-8fab72064da4007ba631f02d9314aeab)
完整修改后的内容如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4464.jpg?sign=1739181787-Z7ji05DlNLCKaLB5HkIMkRGU9qUUIcYB-0-f9d1d946cab70daddb2dceba3fa57722)
上述内容中,实线框标注的是修改的内容,虚线框标注的是添加的内容。
需要修改的属性及解析如下:
- BOOTPROTO:值static表示静态IP(固定IP),默认值是dhcp,表示动态IP。
- ONBOOT:yes表示开机启用本配置。
需要添加的属性及解析如下:
- IPADDR:IP地址。
- NETMASK:子网掩码。
- GATEWAY:默认网关。虚拟机安装的话,通常是2,即VMnet8的网关设置。
- DNS1:DNS 配置。虚拟机安装的话,与网关一致。若需要连接外网,需要配置DNS。
- DNS2:网络运营商公众DNS,此处也可省略。
修改完成后执行以下命令,重启网络服务,使修改生效:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4619.jpg?sign=1739181787-7z2TnTaFgeFvQNlqoA439m5118OsVQRp-0-47c3a1ff1d01b6b0b85c411fc699e4d7)
重启完成后,可以通过ifconfig命令或者以下命令,查看改动后的IP:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4626.jpg?sign=1739181787-Gn5c75HvD6Fbj4paiG5niakSLvxLi3eY-0-3d2ae1e32b480575d1fffecaca64f496)
在输出的信息中,若网卡ens33对应的IP地址已显示为设置的地址,说明IP修改成功,如图2-7所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4629.jpg?sign=1739181787-apcrEwTtliQpjzfHjNzoOnmZBAWfCIRV-0-3fa31fa9fe16b7ce15d14b20c578f5c8)
图2-7 查看系统IP地址
3. 测试本地访问
在本地Windows系统打开cmd命令行窗口,使用ping命令访问虚拟机中操作系统的IP地址,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4643.jpg?sign=1739181787-AmCRC0sE4MG9WlOmlgF7bRc1OtWTYqCZ-0-be299eddf69a904947a678de4ddbfe65)
若能成功返回数据,说明从本地Windows可以成功访问虚拟机中的操作系统,便于后续从本地系统进行远程操作。
2.1.5 修改主机名
在分布式集群中,主机名用于区分不同的节点,方便节点之间相互访问,因此需要修改主机的主机名。
具体操作步骤如下:
(1)使用hadoop用户登录系统,进入系统的终端命令行,输入以下命令,查看主机名:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4667.jpg?sign=1739181787-2HnfPNhQ02K98y7dt3sl2AXsTHz4zAqT-0-b101699e93ed46731c4ea68ce21e962a)
从输出信息中可以看到,当前主机的默认主机名为localhost.localdomain。
(2)执行以下命令,设置主机名为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4680.jpg?sign=1739181787-NqReKarcpBdIRysz5AwIybIPbzOM93eR-0-7216b9490cbc475d0bebce583001debd)
此时系统的主机名已修改为centos01,但是重启系统后修改将失效,要想永久改变主机名,需要修改/etc/hostname文件。
执行以下命令,修改hostname文件,将其中的默认主机名改为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4687.jpg?sign=1739181787-KJalr2bOF9gd0LdI4CF2ubfcGySZFYh5-0-b5d9957246890047c46bfad1d56cef4d)
(3)执行reboot命令,重启系统使修改生效。
需要注意的是,修改主机名后需要重启操作系统才能生效。
2.1.6 新建资源目录
在目录/opt下创建两个文件夹softwares和modules,分别用于存放软件安装包和软件安装后的程序文件,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4696.jpg?sign=1739181787-SNM0Bl9jSMOTq6uf7UU6y6uUQwe6nigk-0-63da66afabb16be44e37a8eaa9dba41f)
将目录/opt及其子目录中所有文件的所有者和组更改为用户hadoop和组hadoop,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4709.jpg?sign=1739181787-54LL9q1ZhzFsDKqwVdDHTdQAW2pQq0TH-0-9ed5824335c3cb2b530227f105d790f4)
查看目录权限是否修改成功,命令及输出信息如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4716.jpg?sign=1739181787-Hc6GwJF8sa38Vq5fljJHa4mEd8sYKOEy-0-587dd55bdd1c87d4cf2e69b071beeb55)