Эластичность опирается на непрерывный мониторинг и автоматическое принятие решений. Ваша облачная платформа отслеживает показатели использования ресурсов, такие как загрузка ЦП, потребление памяти, объем облачного хранилища, сетевой трафик и время отклика приложений. Эти метрики поступают в инструменты мониторинга, которые сравнивают текущую производительность с заранее заданными пороговыми значениями.
Рабочий процесс следует единому шаблону. Системы мониторинга собирают данные о производительности из вашей инфраструктуры каждые несколько секунд или минут. Когда метрики выходят за установленный порог, система запускает действие масштабирования. Например, если загрузка ЦП достигает 80 % и держится на этом уровне в течение продолжительного времени, платформа выделяет дополнительные ресурсы. Если уровень загрузки падает ниже 30%, происходит обратное масштабирование.
Это происходит через уровни оркестрации, которые управляют процессом выделения ресурсов:
Во время событий увеличения масштаба: система запускает новые вычислительные экземпляры, подключает их к балансировщикам нагрузки и направляет трафик на дополнительную емкость. Приложения начинают получать запросы на новых ресурсах в течение нескольких минут.
Во время событий уменьшения масштаба: платформа завершает соединения на недостаточно используемых ресурсах, отключает ненужные экземпляры и консолидирует рабочие нагрузки на меньшем числе машин.
После нормализации спроса система возвращается к базовой емкости. Розничное приложение может работать на пяти серверах в обычные рабочие часы, масштабироваться до 20 во время распродажи и затем возвращаться к пяти, когда трафик снижается.
Эффективность эластичных систем полностью зависит от настройки. Если задать пороги слишком консервативно, вы будете переплачивать за простаивающие ресурсы. Если задать их слишком агрессивно, во время неожиданных всплесков возможна деградация производительности. Политики определяют не только момент масштабирования, но и скорость, а также объем изменений.