
Kubernetes HPA: automatsko skaliranje Pod-ova pod opterećenjem
Ručno podešavanje broja replika tokom naglih skokova saobraćaja sporo je i podložno greškama. Ovaj vodič obuhvata konfiguraciju HPA-a od nule, postavljanje Metrics Servera i najbolje prakse za produkciju.
Elif Demir
Arhitekta cloud rešenja
Ručno podešavanje broja replika tokom skokova saobraćaja istovremeno je sporo i podložno greškama. Kubernetes Horizontal Pod Autoscaler (HPA) automatski povećava ili smanjuje broj Pod-ova na osnovu upotrebe CPU-a, potrošnje memorije ili prilagođenih metrika. Ovaj vodič obuhvata konfiguraciju HPA-a od nule, postavljanje Metrics Servera i najbolje prakse za produkciju.
Kako HPA radi?
HPA u redovnim intervalima (podrazumevano 15 sekundi) preuzima metrike Pod-ova iz Metrics API-ja. Upoređuje trenutnu vrednost metrike sa ciljnom i izračunava potreban broj replika. Formula je jednostavna:
💡 Formula: desiredReplicas = ceil(currentReplicas * (currentMetric / targetMetric)). Na primer, ako 3 Pod-a rade na 80% CPU-a, a cilj je 50%: ceil(3 * 80/50) = ceil(4.8) = 5 potrebnih Pod-ova.
Postavljanje Metrics Servera
HPA zahteva da Metrics Server bude instaliran u klasteru. Metrics Server prikuplja CPU i memorijske metrike od kubelet-a i izlaže ih preko Metrics API-ja.
# Install Metrics Server
kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml
# Verify installation
kubectl get deployment metrics-server -n kube-system
# Check node and pod metrics
kubectl top nodes
kubectl top pods
HPA konfiguracija zasnovana na CPU-u
Najčešći HPA scenario jeste skaliranje na osnovu upotrebe CPU-a. U sledećem primeru broj Pod-ova raste kada prosečna upotreba CPU-a pređe 60%, a opada kada se vrati ispod toga.
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
name: web-app-hpa
spec:
scaleTargetRef:
apiVersion: apps/v1
kind: Deployment
name: web-app
minReplicas: 2
maxReplicas: 20
metrics:
- type: Resource
resource:
name: cpu
target:
type: Utilization
averageUtilization: 60
⚠️ Važno: HPA zahteva da resources.requests.cpu bude definisan u Deployment kontejnerima. Bez CPU zahteva (requests) HPA ne može da izračuna procente i skaliranje se neće dogoditi.
Skaliranje na osnovu memorije i više metrika
Pored CPU-a, kao cilj možete dodati i upotrebu memorije. Kada je definisano više metrika, HPA bira najveći broj replika.
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
name: web-app-hpa
spec:
scaleTargetRef:
apiVersion: apps/v1
kind: Deployment
name: web-app
minReplicas: 2
maxReplicas: 30
metrics:
- type: Resource
resource:
name: cpu
target:
type: Utilization
averageUtilization: 60
- type: Resource
resource:
name: memory
target:
type: Utilization
averageUtilization: 75
behavior:
scaleDown:
stabilizationWindowSeconds: 300
policies:
- type: Percent
value: 10
periodSeconds: 60
scaleUp:
stabilizationWindowSeconds: 30
policies:
- type: Percent
value: 50
periodSeconds: 60
Odeljak behavior kontroliše brzinu skaliranja. scaleDown.stabilizationWindowSeconds: 300 čuva najveći broj replika iz poslednjih 5 minuta i sprečava prerano smanjivanje. scaleUp je podešen agresivnije radi brže reakcije.
Najbolje prakse za HPA
-
Podesite tačne resource requests Vrednosti CPU i memorijskih zahteva treba da odražavaju potrošnju vaše aplikacije pod normalnim opterećenjem. Prenisko postavljeni zahtevi izazivaju nepotrebno skaliranje, a previsoki izazivaju nedovoljno skaliranje.
-
Koristite stabilizaciju smanjivanja Podrazumevani period stabilizacije od 300 sekundi dobro funkcioniše u većini scenarija. Sprečava nepotrebna smanjivanja tokom kratkih padova saobraćaja.
-
Definišite readiness probe Novokreirani Pod-ovi ne bi trebalo da primaju saobraćaj dok nisu spremni. Bez readiness probe-ova HPA nove Pod-ove odmah smatra aktivnim, što povećava vreme odziva.
-
Ne koristite HPA i VPA na istoj metrici Ako Vertical Pod Autoscaler (VPA) i HPA ciljaju istu metriku (CPU), doći će do konflikta. VPA koristite samo za memoriju, a HPA za CPU, ili razmotrite Multidimensional Pod Autoscaler.
Za osnove Kubernetesa pogledajte naš vodič Uvod u Kubernetes. Za isporuku aplikacija pogledajte naš vodič za Helm Chart. Za nadzor infrastrukture pročitajte naš vodič za Prometheus + Grafana. Dodatni vredni izvori su Kubernetes HPA dokumentacija i projekat Metrics Server .
Često postavljana pitanja
Koliko brzo HPA skalira?
HPA podrazumevano proverava metrike svakih 15 sekundi. Odluke o povećanju primenjuju se odmah, ali spremnost novih Pod-ova (preuzimanje slike + pokretanje) može trajati od 30 sekundi do nekoliko minuta.
Može li HPA minReplicas biti 0?
Standardni HPA zahteva minReplicas od najmanje 1. Za skaliranje na nulu koristite KEDA (Kubernetes Event-Driven Autoscaling). KEDA podržava skaliranje od 0 na osnovu spoljnih metrika kao što su dužina reda ili broj HTTP zahteva.
Koji procenat CPU cilja treba da podesim?
Opšta preporuka je 50-70%. 50% obezbeđuje agresivnije skaliranje (više Pod-ova, manja latencija), dok je 70% isplativije. Prilagodite prema zahtevima vaše aplikacije u pogledu vremena odziva.
Mogu li da koristim prilagođene metrike sa HPA-om?
Da. Uz Prometheus Adapter ili KEDA možete skalirati na osnovu broja HTTP zahteva, dubine reda, broja konekcija ka bazi podataka i još mnogo toga. API autoscaling/v2 podržava prilagođene i spoljne tipove metrika.
Zaključak
Kubernetes HPA automatski reaguje na oscilacije saobraćaja i obezbeđuje i performanse i ekonomičnost. Instalirajte Metrics Server, podesite tačne resource requests, koristite stabilizaciju smanjivanja i definišite readiness probe. Kada su potrebne prilagođene metrike, proširite HPA pomoću Prometheus Adaptera ili KEDA.
Infrastruktura za automatsko skaliranje
Pripremite svoj Kubernetes klaster za skokove saobraćaja uz servere kompanije Hosted Cloud.
Istražite pakete cloud servera →Elif Demir
Arhitekta cloud rešenja
Specijalizovana za projekte migracije preduzeća u cloud i dizajn hibridne infrastrukture, sa 8 godina iskustva u AWS, Azure i privatnim cloud okruženjima.
Komentari uskoro