Балансировка нагрузки выполняется при помощи HAProxy.

HAProxy - это серверное программное обеспечение для обеспечения высокой доступности и балансировки нагрузки для TCP и HTTP-приложений, посредством распределения входящих запросов на несколько обслуживающих серверов. Доступно для систем Linux, FreeBSD, OpenBSD, Solaris (8/9/10), AIX (5.1–5.3), macOS, Cygwin.

Порядок установки на примере Ubuntu 18.04.3 LTS.

Предварительная настройка

1. HAProxy и кластерные серверы должны находиться в одной сети.
2. Фаервол должен быть настроен для работы с PAM Core и PAM Gateway, либо отключен.

   1. Для отключения фаервола используйте команду

      $ sudo ufw disable

   2. Для открытия портов используйте команды:

      $ sudo ufw enable 
      $ sudo ufw allow 80 
      $ sudo ufw allow 443
      $ sudo ufw allow 3389
      $ sudo ufw allow 8084

Установка HAProxy 1.8-stable (LTS)

1. Обновите операционную систему с помощью команд:
   

   $ sudo apt update
   $ sudo apt upgrade

2.  Установите HAProxy с помощью команд:
   

   $ sudo add-apt-repository ppa:vbernat/haproxy-1.8
   $ sudo apt update
   $ sudo apt install haproxy

3.  Настройте автоматический запуск HAproxy после перезагрузки сервера. Откройте конфигурационный файл с помощью команды sudo nano /etc/default/haproxy и добавьте в конец файла ENABLED=1:
   

   # Defaults file for HAProxy
   #
   # This is sourced by both, the initscript and the systemd unit file, so do not
   # treat it as a shell script fragment.
   
   # Change the config file location if needed
   #CONFIG="/etc/haproxy/haproxy.cfg"
   
   # Add extra flags here, see haproxy(1) for a few options
   #EXTRAOPTS="-de -m 16"
   ENABLED=1

4.  Для изменения конфигурации HAProxy введите команду sudo nano /etc/haproxy/haproxy.cfg и отредактируйте настройки.
   
5.  Для проверки корректности конфигурационного файла введите команду haproxy -c -f /etc/haproxy/haproxy.cfg
   
6.  Для перезапуска службы HAProxy после редактирования конфигурации введите команду systemctl restart haproxy