Trafik saat 9:00'da ikiye katlanıyor. Yaklaşık 30 saniye içinde HorizontalPodAutoscaler altı API replikası daha istiyor. Dördü başlıyor; ikisi Pending kalıyor, çünkü hiçbir node'da CPU istekleri için yer yok. Node otomatik ölçekleyici buluttan bir makine istiyor ve son iki replika, makine açılıp kümeye katıldıktan sonra başlıyor.
O sabah birkaç kontrol döngüsü üzerinde ilerledi; her birinin kendi girdisi ve kendi saati var. İyi ayarlandığında kimse onları fark etmez. İstekler yanlışsa ya da iki otomatik ölçekleyici anlaşamıyorsa, pod'lar döngü içinde tahliye edilir veya node'lar hiç küçülmez.
Bu yazı her döngüyü güncel varsayılanlarıyla (Kubernetes 1.37), döngülerin çatıştığı yerlerle ve hepsini gösteren tek bir diyagramla ele alıyor.
Otomatik ölçekleme döngülerine genel bakış
| Döngü | Neyi değiştirir | Neyi izler | Varsayılan periyot |
|---|---|---|---|
| HorizontalPodAutoscaler (HPA) | Replika sayısı | Resource, custom ve external metrikler | 15 sn |
| VerticalPodAutoscaler (VPA) | CPU ve bellek istekleri | Kullanım geçmişi | 1 dk |
| KEDA | Replika sayısı, sıfıra kadar | Kuyruk uzunluğu gibi olay kaynakları | 30 sn yoklama |
| Cluster Autoscaler | Node grubu boyutu | Zamanlanamayan pod'lar | 10 sn tarama |
| Karpenter | Tek tek node'lar | Zamanlanamayan pod'lar, node maliyeti | 1 ila 10 sn'lik gruplar |
Katmanları pod'lar birbirine bağlar ve para birimi isteklerdir: Kubernetes node otomatik ölçekleme belgelerinin vurguladığı gibi, zamanlayıcı ve iki node otomatik ölçekleyici de gerçek kullanıma değil, istenen CPU ve belleğe göre karar verir.
HPA: metriklerden replika sayısı
HPA denetleyicisi kube-controller-manager içinde çalışır ve her 15 saniyede bir yeniden hesaplar. CPU ve bellek, metrics-server tarafından sunulan metrics.k8s.io üzerinden gelir; metrics-server her kubelet'i 15 saniyede bir tarar. Bu API Kubernetes 1.37'de v1 olarak kararlı hale geldi, ancak HPA hâlâ v1beta1 okuyor. Diğer metrikler, metrik hattınız için yazılmış adaptörlerle gelir: saniyedeki istek sayısı gibi değerler için custom.metrics.k8s.io, bulut kuyruğu gibi küme dışındaki değerler için external.metrics.k8s.io. HPA referansı formülü belgeliyor:
desiredReplicas = ceil(currentReplicas × currentMetricValue / desiredMetricValue)
%90 CPU ve %60 hedefle 4 replika varsa HPA ceil(4 × 90 / 60) = 6 ister. %64'te hiçbir şey yapmaz: 1,07'lik oran varsayılan %10 toleransın içindedir. Kullanım oranı isteklere göredir; bu yüzden CPU isteği olmayan bir container, HPA'nın CPU üzerinden işlem yapmasını imkânsız kılar. Birden fazla metrik varsa en büyük sonuç kazanır.
| Ayar | Varsayılan |
|---|---|
| Eşitleme periyodu | 15 sn |
| Tolerans | %10; HPA başına alan 1.37'den beri kararlı |
| Küçültme stabilizasyonu | 300 sn, bu penceredeki en yüksek öneri kullanılır |
| Büyütme sınırı | 15 sn'de %100 veya 4 pod, hangisi fazlaysa |
| CPU başlatma süresi | 5 dk; henüz hazır olmayan pod'ların CPU'su yok sayılır |
Sıfıra ölçekleme beta aşamasındadır ve 1.37'de varsayılan olarak açıktır: bir object veya external metrikle minReplicas: 0 ayarlayabilirsiniz; sürüm duyurusu bunu açıklıyor. CPU ve bellek bir iş yükünü sıfırdan uyandıramaz, çünkü çalışan pod'lar üzerinde ölçülürler.
spec:
minReplicas: 3
maxReplicas: 30
metrics:
- type: Resource
resource:
name: cpu
target: {type: Utilization, averageUtilization: 60}
behavior:
scaleUp:
tolerance: 0.05
scaleDown:
stabilizationWindowSeconds: 300
VPA: kullanım geçmişinden istekler
VPA, Kubernetes autoscaler projesinden bir eklentidir ve güncel sürüm hattı 1.8'dir. Üç bileşeni vardır:
- Recommender, her container için dakikada bir hedef, alt sınır ve üst sınır hesaplar. Bellek 8 günlük zirveleri izler; CPU geçmişi her 24 saatte ağırlığının yarısını kaybeder.
- Updater, pod'ları dakikada bir kontrol eder ve sınırların dışında kalanları tahliye eder veya yeniden boyutlandırır; PodDisruptionBudget'lara uyar.
- Admission controller, bir mutating webhook'tur ve önerilen istekleri yeni pod'lara yazar.
| Güncelleme modu | Etki |
|---|---|
Off |
Yalnızca öneriler |
Initial |
İstekler yalnızca pod oluşturulurken ayarlanır |
Recreate |
Pod'lar tahliye edilir ve yeniden oluşturulur |
InPlaceOrRecreate |
Yerinde boyutlandırılır, başarısız olursa tahliye edilir |
InPlace |
Yalnızca yerinde boyutlandırılır; VPA 1.7'de alpha |
Auto |
Recreate için kullanımdan kaldırılmış takma ad |
Yerinde pod boyutlandırma Kubernetes 1.35'ten beri kararlıdır ve InPlaceOrRecreate VPA 1.6'dan beri genel olarak kullanılabilir durumdadır. Boyutlandırma mümkün olmadığında ya da beş dakikadan uzun süre ertelendiğinde updater yine tahliye eder. Güncellemeleri açmadan önce bir hafta Off modunda çalıştırın ve önerileri isteklerinizle karşılaştırın. VPA henüz pod düzeyinde resources kullanan iş yüklerini desteklemiyor; geri kalanı VPA referansında var.
Cluster Autoscaler ile Karpenter
İkisi de zamanlayıcının zamanlanamaz olarak işaretlediği pod'lara tepki verir ve ikisi de zamanlamayı node kullanımıyla değil, isteklerle simüle eder.
Cluster Autoscaler, önceden tanımladığınız node gruplarını büyütür; AWS Auto Scaling grupları gibi. Her 10 saniyede zamanlanamayan pod'ları her grubun şablon node'u üzerinde dener, bir expander ile grup seçer (varsayılan least-waste) ve buluttan onu büyütmesini ister; SSS'si, 100 node'un altındaki kümelerde bunun için 30 saniyenin altını hedefler. Pod'ları ayrılabilir CPU ve belleğinin %50'sinden azını isteyen ve başka yere taşınabilen bir node, 10 dakika sonra kaldırılır. Kısıtlayıcı PodDisruptionBudget'lar, yerel depolama ve safe-to-evict: "false" ile işaretlenmiş pod'lar bunu engeller.
Karpenter'da node grubu yoktur. Bir NodePool, instance aileleri, bölgeler ve limitler gibi kısıtları belirler; bir NodeClass bulut ayarlarını tutar. Karpenter bekleyen pod'ları 1 ila 10 saniye gruplar, bin-packing yapar ve instance'ları doğrudan başlatır; AWS'de EC2 Fleet'e 60'a kadar instance türü sunar. Kaldırma işlemini disruption belgeleri ele alıyor: consolidation az kullanılan node'ları siler veya değiştirir (varsayılan WhenEmptyOrUnderutilized), drift eden node'lar değiştirilir ve bütçeler ikisini de varsayılan olarak bir NodePool'un node'larının %10'u ile sınırlar. Node'lar ayrıca 720 saat sonra süresi dolarak kalkar.
| Cluster Autoscaler | Karpenter | |
|---|---|---|
| Ölçekleme birimi | Önceden tanımlı node grupları | Tek tek node'lar, her grup için seçilir |
| Instance türleri | Grup başına sabit | NodePool'un izin verdiği her tür |
| Node kaldırma | 10 dakika boyunca %50'nin altında istek | Bütçeler içinde consolidation ve drift, ayrıca süre dolumu |
| Bulut sağlayıcıları | Çok sayıda | Daha az, aralarında AWS ve Azure |
Yazım sırasında (Kasım 2026) EKS Auto Mode Karpenter üzerine kuruludur, AKS node auto-provisioning Karpenter'ı sizin için çalıştırır ve GKE kendi cluster autoscaler'ını yönetir. Her node kümesi için tek bir node otomatik ölçekleyici çalıştırın; Karpenter'ın geçiş kılavuzu Cluster Autoscaler'ı sıfır replikaya ölçekler.
KEDA: kuyruklar ve sıfıra ölçekleme
CNCF graduated projesi KEDA, 70'ten fazla scaler ile olay güdümlü ölçekleme ekler: Kafka partition'larındaki consumer lag, RabbitMQ veya SQS kuyruk uzunluğu, Prometheus sorguları, cron. Bir ScaledObject bir Deployment'ı işaret eder. KEDA operatörü 0'dan 1'e ve geri dönüşü kendisi yönetir; 30 saniyede bir yoklar ve 300 saniyelik bekleme süresinden sonra sıfıra ölçekler. 1'den N'ye ise bir HPA yönetir ve onu external metrics API üzerinden besler; ScaledObject referansı bunu anlatıyor.
apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
name: worker
spec:
scaleTargetRef:
name: worker
minReplicaCount: 0
maxReplicaCount: 50
triggers:
- type: rabbitmq
metadata:
queueName: orders
mode: QueueLength
value: "20"
hostFromEnv: RABBITMQ_HOST
Sıfıra ölçekleme bir cold start bedeli getirir; bu da dayanıklı bir kuyruğa uyar. HTTP için bir tampon katmanı gerekir, çünkü hiçbir pod hazır değilken Service'ler istekleri tutmaz. HPA sıfıra ölçekleme beta olduğundan, external metrik kullanan bir HPA artık tek başına sıfıra inebilir; ama KEDA yine de scaler'ları, trigger authentication'ı ve batch işler için ScaledJob'ları getirir. Olay güdümlü mimari diyagramı, bu tür worker'ların çevresindeki kuyrukları gösteriyor.
Döngüler nasıl etkileşir ve nerede çatışır
- Aynı metrik üzerinde HPA ve VPA. VPA CPU isteklerini artırır, kullanım oranı düşer, HPA replikaları kaldırır, kalan pod'lar daha sıcak çalışır ve VPA istekleri yine artırır. CPU üzerindeki bir HPA'yı yalnızca belleğe sınırlı bir VPA ile eşleştirin (
controlledResources: ["memory"]) ya da custom metriklerle ölçekleyin. - KEDA artı kendi HPA'nız. İki denetleyici tek bir replika sayısına yazmaya çalışır. Mevcut bir HPA'yı KEDA'nın
transfer-hpa-ownershipannotation'ıyla devredin. - DaemonSet'lerde VPA. Node otomatik ölçekleyicilerin yeni bir node'da neyin çalışacağına dair tahminini bozar; Kubernetes belgeleri buna karşı öneride bulunuyor.
- Yanlış istekler. Çok düşükse yeni node'lar işe yaramaz; çok yüksekse node'lar hiç az kullanılıyor görünmez.
Zamanlama da önemlidir. Bir CPU artışı, bir sonraki tarama için en fazla 15 saniye ve bir sonraki HPA eşitlemesi için 15 saniye daha geçtikten sonra karara ulaşır. Sığmayan pod'lar bir Cluster Autoscaler taraması için 10 saniyeye kadar, Karpenter'ın grubu için 1 ila 10 saniye daha bekler. Sonra VM açılır: AWS, Karpenter'ın kapasiteyi bir dakikanın altında başlattığını söylüyor; Cluster Autoscaler SSS'si Google Compute Engine'de üç ila dört dakika veriyor. Daha hızlı boş kapasite için, gerçek pod'ların önceliğiyle yerinden edeceği düşük öncelikli yer tutucu pod'lar çalıştırın; SSS bunu böyle anlatıyor.
Kubernetes otomatik ölçekleme diyagramı
Diyagram içeriği
- orders queue
- KEDA
- worker
- new pod
- metrics-server
- HPA: api
- api
- VPA: api memory
- Cluster Autoscaler
- Karpenter
- Cloud provider API
- New node
- queue length
- replicas 0–N
- CPU usage
- replicas
- memory usage
- memory requests
- new replica
- Unschedulable
- resize node group
- launch instances
- VM joins
Nasıl okunur:
- Üst sıra, turkuaz: KEDA orders kuyruğunu okur ve worker Deployment'ını sıfır ile N replika arasında ölçekler.
- Orta sıra, mavi: HPA, api Deployment'ını her 15 saniyede CPU kullanımına göre ölçekler.
- Alt kısım, mor: VPA, api üzerinde yalnızca bellek isteklerini ayarlar; bu yüzden HPA ile asla yarışmaz.
- Merkez: hiçbir node'a sığmayan bir replika Pending kalır. Node katmanı CPU'ya değil, bu pod'a tepki verir.
- Sağ, kehribar: Cluster Autoscaler bir node grubunu yeniden boyutlandırır ya da Karpenter instance'ları başlatır, ikisi de bulut API'si üzerinden; yeni VM katılır. Markdown bloğu varsayılanları listeler.
Otomatik ölçekleme diyagramlarını net çizmek
- Bir döngü, bir çizgi. Sinyal denetleyiciye girer; değiştirdiği şey çıkar.
- Her denetleyicinin yanına periyodu yazın. "Neden ölçeklenmedi" sorularının çoğunu yanıtlar.
- Her otomatik ölçekleyicinin sahip olduğu kaynağı adlandırın, böylece aynı iş yükündeki bir HPA ile VPA'nın çakışmadığı görünür olur.
- Pending pod'u çizin. Pod katmanı ile node katmanı arasındaki devir noktasıdır.
- Dışarıda bırakın: tek tek replikaları, kubelet'leri ve ek scaler'ları.
Sık yapılan hatalar, doğrudan node'lara giden bir HPA oku, birlikte çalışıyormuş gibi çizilen iki node otomatik ölçekleyici ve isteklerden hiç söz edilmemesidir. Döngülerin çevresindeki küme için Kubernetes mimari diyagramı nasıl çizilir yazısına bakın.
Archboard'da oluşturun
- Google veya GitHub ile giriş yapın ve bir diyagram oluşturun.
- Kubernetes paketinden worker ve api olmak üzere iki Deployment node'u, ayrıca api için bir HPA ve bir VPA ekleyin. VPA güncelleme modunu InPlaceOrRecreate yapın.
- metrics-server için DevOps paketinden bir Metrikler node'u ve Veri paketinden bir Kuyruk ekleyin.
- KEDA için Kubernetes paketinden, türü ScaledObject olan bir Custom Resource ve Deployment'ların arasına fazı Pending olan bir Pod ekleyin.
- Node katmanı için Cluster Autoscaler adına bir Deployment, Karpenter için türü NodePool olan bir Custom Resource, bulut API'si için Bulut paketinden bir Bulut kaynağı ve bir Node ekleyin.
- Bunları etiketli bağlantılarla (CPU usage, replicas, Unschedulable gibi) bağlayın, her döngüye bir renk verin ve periyodunu yazan bir Temel Metin etiketi ekleyin.
- Temel paketinden varsayılanları içeren bir Markdown bloğu ekleyin.
Kubernetes YAML'dan diyagrama aracı, mevcut manifest'leri iş yükleri için ilk taslağa dönüştürür; temizliği YAML'dan okunur bir diyagrama giden tekrarlanabilir yöntem yazısı anlatıyor. Daha fazlası için Kubernetes kullanım senaryosu sayfasına bakın.
Örnek 13 diagram node kullanıyor ve Free planın sınırları içinde kalıyor.
SSS
HPA ile VPA arasındaki fark nedir? HPA, CPU kullanımı gibi metriklere göre kaç pod çalışacağını değiştirir. VPA, kullanım geçmişine göre her pod'un CPU ve bellek isteklerini değiştirir.
HPA ve VPA'yı birlikte kullanabilir miyim? Evet, farklı metrikler üzerinde çalışıyorlarsa: CPU üzerinde HPA ile belleğe sınırlı VPA, ya da custom veya external metrikler üzerinde HPA ile her ikisinde VPA.
Cluster Autoscaler mı Karpenter mı kullanmalıyım? Bulutunuz destekliyorsa ve instance türlerini onun seçmesini, node'ları daha ucuzlarıyla değiştirmesini istiyorsanız Karpenter. Diğer sağlayıcılar ve sabit node grupları için Cluster Autoscaler. Aynı node'larda asla ikisi birden olmasın.
Kubernetes bir deployment'ı sıfıra ölçekleyebilir mi? Evet, KEDA ile ya da Kubernetes 1.37'den beri beta ve varsayılan olarak açık olan HPA sıfıra ölçekleme ile. İkisi de kuyruk uzunluğu gibi, çalışan pod olmadan da var olan bir metrik ister.
HPA neden bilinmeyen CPU hedefleri gösteriyor?
Genellikle metrics-server eksiktir ya da bir container'ın CPU isteği yoktur, bu yüzden kullanım oranı hesaplanamaz. Hatayı görmek için kubectl describe hpa çalıştırın.