L'elasticità si basa sul monitoraggio continuo e sul processo decisionale automatizzato. La piattaforma cloud tiene traccia delle metriche di utilizzo delle risorse, ad esempio l'utilizzo della CPU, il consumo di memoria, la capacità di archiviazione cloud, il traffico di rete e i tempi di risposta dell'applicazione. Queste metriche passano agli strumenti di monitoraggio che confrontano le prestazioni correnti con le soglie predefinite.
Il flusso di lavoro segue un modello coerente. I sistemi di monitoraggio raccolgono dati sulle prestazioni dall'infrastruttura ogni pochi secondi o minuti. Quando le metriche superano una soglia configurata, il sistema attiva un'azione di ridimensionamento. Ad esempio, se l'utilizzo della CPU raggiunge l'80% per un periodo prolungato, la piattaforma effettua il provisioning di risorse aggiuntive. Se l'utilizzo scende sotto il 30%, viene ridimensiona.
Ciò avviene tramite i livelli di orchestrazione che gestiscono il processo di provisioning:
Durante gli eventi di aumento delle prestazioni: il sistema avvia nuove istanze di calcolo, le collega ai servizi di bilanciamento del carico e instrada il traffico alla capacità aggiuntiva. Le applicazioni iniziano a ricevere richieste sulle nuove risorse in pochi minuti.
Durante gli eventi di riduzione delle prestazioni: la piattaforma svuota le connessioni da risorse sottoutilizzate, termina le istanze non necessarie e consolida i carichi di lavoro in un minor numero di computer.
Dopo la normalizzazione della richiesta, il sistema torna alla capacità di base. Un'applicazione per la vendita al dettaglio può essere eseguita su cinque server durante il normale orario di ufficio, scalare fino a 20 durante una vendita flash e quindi tornare a cinque una volta che il traffico si attenua.
L'efficacia dei sistemi elastici dipende interamente dalla configurazione. Se si impostano soglie in modo troppo conservativo, si passerà troppo tempo alle risorse inattive, impostandole in modo troppo aggressivo si rischierà una riduzione delle prestazioni durante picchi imprevisti. I criteri definiscono non solo quando ridimensionare, ma anche la velocità e la quantità.