一、引言

在现代信息技术的高速发展中，服务器集群已经成为企业和组织提升计算能力、确保数据安全和实现高可用性的关键手段，本文将详细介绍如何在四台服务器上搭建一个高效、可靠的集群系统，涵盖从硬件准备到软件配置、网络设置以及监控管理的全过程。

二、硬件准备

服务器选择

我们选用了四台具有相似配置的服务器，确保它们在处理能力、内存和存储空间上能够满足集群的需求，具体配置如下：

处理器：Intel Xeon E5-2609 v4 @ 1.70GHz, 10C/20T

内存：32GB DDR4

存储：4 x 1.8TB SAS 12Gbps (RAID 5)

网络接口：双端口千兆以太网

操作系统安装

在每台服务器上安装相同的操作系统，我们选择了CentOS 7.9，因为它的稳定性和广泛的社区支持非常适合作为集群的操作系统。

三、网络配置

IP地址分配

为了确保服务器之间的稳定通信，我们为每台服务器分配了静态IP地址：

- 服务器1: 192.168.1.101

- 服务器2: 192.168.1.102

- 服务器3: 192.168.1.103

- 服务器4: 192.168.1.104

主机名配置

我们将主机名分别设置为：

- 服务器1: master-node

- 服务器2: slave-node1

- 服务器3: slave-node2

- 服务器4: slave-node3

并在每台服务器上的/etc/hosts文件中添加相应的映射关系，以便通过主机名相互访问。

关闭防火墙和SELinux

为了简化网络通信和避免潜在的权限问题，我们关闭了防火墙和SELinux：

systemctl stop firewalld
systemctl disable firewalld
sed -i "s/SELINUX=.*/SELINUX=disabled/" /etc/selinux/config
setenforce 0

四、集群软件安装与配置

1. Hadoop集群搭建（以Hadoop 3.3.1为例）

1.1 环境准备

在每台服务器上安装Java环境，并下载解压Hadoop安装包。

yum install -y java-1.8.0-openjdk-devel
tar -xzvf hadoop-3.3.1.tar.gz -C /opt/

1.2 配置SSH免密登录

为了方便在集群中执行分布式命令，我们配置了SSH免密登录：

ssh-keygen -t rsa
ssh-copy-id -i ~/.ssh/id_rsa.pub root@master-node
ssh-copy-id -i ~/.ssh/id_rsa.pub root@slave-node1
ssh-copy-id -i ~/.ssh/id_rsa.pub root@slave-node2
ssh-copy-id -i ~/.ssh/id_rsa.pub root@slave-node3

1.3 Hadoop配置

编辑hadoop-env.sh文件，添加Java环境变量：

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

复制hadoop-env.sh模板并重命名为hadoop-env.sh。

编辑core-site.xml文件，配置HDFS参数：

<configuration>
    <property>
        <name>NameNode</name>
        <value>hdfs://master-node:9000</value>
    </property>
</configuration>

编辑hdfs-site.xml文件，配置NameNode和DataNode参数：

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>3</value> # 根据服务器数量调整副本数
    </property>
</configuration>

编辑mapred-site.xml文件，配置MapReduce参数：

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

编辑yarn-site.xml文件，配置ResourceManager和NodeManager参数：

<configuration>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>master-node</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>

1.4 格式化NameNode并启动Hadoop集群

在NameNode上格式化HDFS：

hdfs namenode -format

启动HDFS和YARN：

start-dfs.sh
start-yarn.sh

验证集群是否启动成功：

jps

应看到NameNode、DataNode、ResourceManager和NodeManager等进程。

2. Keepalived+HAProxy高可用架构搭建（以Keepalived 2.0.22和HAProxy 2.4为例）

2.1 Keepalived安装与配置

在每台服务器上安装Keepalived：

yum install -y keepalived

编辑/etc/keepalived/keepalived.conf文件，配置VRRP实例：

vrrp_instance VI_1 {
    state MASTER
    interface eth0
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass your_password
    }
    virtual_ipaddress {
        192.168.1.200
    }
}

启动Keepalived服务：

systemctl start keepalived
systemctl enable keepalived

2.2 HAProxy安装与配置

在VIP所在服务器（如master-node）上安装HAProxy：

yum install -y haproxy

编辑/etc/haproxy/haproxy.cfg文件，配置HAProxy实例：

global
    log /dev/log local0
    log /dev/log local1 notice
    chroot /var/lib/haproxy
    stats socket /run/haproxy/admin.sock mode 660 level admin expose-fd listeners
    stats timeout 30s
    user haproxy
    group haproxy
    daemon
defaults
    log global
    option httplog
    option dontlognull
    timeout connect 5000ms
    timeout client 50000ms
    timeout server 50000ms
    errorfile 400 /etc/haproxy/errors/400.http
    errorfile 403 /etc/haproxy/errors/403.http
    errorfile 408 /etc/haproxy/errors/408.http
    errorfile 500 /etc/haproxy/errors/500.http
    errorfile 502 /etc/haproxy/errors/502.http
    errorfile 503 /etc/haproxy/errors/503.http
    errorfile 504 /etc/haproxy/errors/504.http
frontend fe_http_in
    bind *:80
    default_backend be_http_in
backend be_http_in
    balance roundrobin
    server slave-node1 192.168.1.102:80 check
    server slave-node2 192.168.1.103:80 check
    server slave-node3 192.168.1.104:80 check

启动HAProxy服务：

systemctl start haproxy
systemctl enable haproxy

五、测试与监控

集群测试

使用Hadoop自带的示例程序进行测试，确保集群运行正常：

hadoop jar /opt/hadoop/share/hadoop/mapreduce/