- 当前位置：首页 >域名 >使用Linode引擎实现Kubernetes自动缩放的优秀实践
使用Linode引擎实现Kubernetes自动缩放的优秀实践
发布时间：2025-11-03 16:55:03 来源：技术快报 作者：域名
众所周知，使用实现缩放云服务架构可以随着应用的引擎需求实时扩展，而无需人工进行配置的自动更改或逐行增加代码。其中，秀实自动化缩放(Autoscaling)就保证了在无需人工干预的使用实现缩放情况下，自动增加或减少应用负载的引擎能力。显然，自动如果调整得当，秀实自动化缩放可以降低我们维护应用的使用实现缩放成本、以及项目实施的引擎难度。
对于Kubernetes而言，自动其自动化缩放的秀实过程通常是：首先确定一组何时需要为Kubernetes扩展应用容量的指标。接着，使用实现缩放设定一组被用来判定应用是引擎该扩展、还是自动缩容的规则。最后，使用各种kubernetes API，对应用程序的可用资源进行扩缩容，以满足程序执行和服务所需。
自动化缩放虽然是一个看似复杂的云南idc服务商过程，但是它能够比其他技术更好地服务于特殊类别的应用。例如，如果某个应用程序在容量需求上不会经常发生更改的话，那么我们最好为其调配至最大的流量资源。类似地，如果您能够可靠地预测到某个应用的负载，则可以通过手动、而非自动的方式来调整容量。
除了应对应用程序的负载变化，自动调整功能还能够有效地进行成本和容量管理。例如，集群的自动调整功能允许您通过调整集群中的节点数量，来节省在公共云上的租金。此外，如果您有一个静态的架构，那么自动化调整将使您能够动态地管理分配给流量负载的容量，以便您能够更好地利用自己的基础设施。
在实际应用中，自动化缩放主要分为如下两类：
1. 负载的服务器租用自动调整：动态地管理单个负载的容量，并进行自动分配。
2. 群集的自动缩放：动态地管理群集的容量。
让我们首先了解一下在Kubernetes中扩展负载的细节。目前，在Kubernetes上可被用于自动调整工作负载的标准化工具包括：水平Pod自动化缩放(Horizontal Pod Autoscaler，HPA)、垂直Pod自动化缩放(Vertical Pod Autoscaler，VPA)、以及集群比例自动化缩放(Cluster Proportional Autoscaler，CPA)。下面，让我们通过一个群集和简单的测试应用程序，来模拟Kubernetes的自动化缩放功能。
创建Linode-Kubernetes引擎集群由Linode提供的名为Linode kubernetes引擎(LKE)的托管式Kubernetes产品，非常容易入门。您可以注册一个免费的Linode帐户，然后按照LKE入门指南创建一个集群。
如下图所示，我创建了一个由两个节点(称为Linodes)组成的集群，每个节点都有2个CPU内核和4 GB内存：
LKE集群
为了使用该集群，您需要从集群的云服务器提供商概述部分下载kubeconfig文件。虽然有好几种策略可供我们合并kubeconfig文件，但是我更喜欢通过更新带有指向kubeconfig文件路径的KUBECONDIG环境变量的方式来实现。
下面，让我们来构建一个简单的应用程序，以用来测试各种自动化缩放。
Pressure APIPressure API应用运行在两个端点上。它属于.NET REST API，允许您通过如下两种途径，将CPU和内存的压力施加到pod上：
1. /memory/{numMegaBytes}/duration/{durationSec}：此端点将向内存添加指定数量的兆字节，并在指定的持续时间内保持压力。
2. /cpu/{threads}/duration/{durationSec}：此端点将在CPU上运行指定数量的线程，并在指定的持续时间内保持压力。
以下是该应用的完整源代码：
复制C#using System.Xml;
var builder = WebApplication.CreateBuilder(args);
builder.Services.AddEndpointsApiExplorer();
builder.Services.AddSwaggerGen();
var app = builder.Build();
if (app.Environment.IsDevelopment())
{
app.UseSwagger();
app.UseSwaggerUI();
}
app.MapPost("/memory/{numMegaBytes}/duration/{durationSec}", (long numMegaBytes, int durationSec) =>{
// ReSharper disable once CollectionNeverQueried.Local List<XmlNode> memList = new();
try{
while (GC.GetTotalMemory(false) <= numMegaBytes * 1000 * 1000)
{
XmlDocument doc = new();
for (var i = 0; i < 1000000; i++)
{
memList.Add(doc.CreateNode(XmlNodeType.Element, "node", string.Empty));
}
}
}
// Dont fail if memory is not available catch (OutOfMemoryException ex)
{
Console.WriteLine(ex);
}
Thread.Sleep(TimeSpan.FromSeconds(durationSec));
memList.Clear();
GC.Collect();
GC.WaitForPendingFinalizers();
return Results.Ok();
})
.WithName("LoadMemory");
app.MapPost("/cpu/{threads}/duration/{durationSec}", (int threads, int durationSec) =>{
CancellationTokenSource cts = new();
for (var counter = 0; counter < threads; counter++)
{
ThreadPool.QueueUserWorkItem(tokenIn =>{
#pragma warning disable CS8605 // Unboxing a possibly null value. var token = (CancellationToken)tokenIn;
#pragma warning restore CS8605 // Unboxing a possibly null value. while (!token.IsCancellationRequested)
{
}
}, cts.Token);
}
Thread.Sleep(TimeSpan.FromSeconds(durationSec));
cts.Cancel();
Thread.Sleep(TimeSpan.FromSeconds(2));
cts.Dispose();
return Results.Ok();
})
.WithName("LoadCPU");
app.Run();1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.31.32.33.34.35.36.37.38.39.40.41.42.43.44.45.46.47.48.49.50.51.52.53.54.55.56.57.58.59.60.61.62.63.64.65.66.67.68.69.70.71.72.您不必担心应用的细节。我已经在GitHub存储库(https://github.com/rahulrai-in/dotnet-pressure-api)上发布了可供下载的容器镜像、及其相关组件。您可以在K8s的各项规范中使用该镜像。同时，下文中使用到的Kubernetes各个规范，都被存放在代码存储库的spec文件夹中。在此，我们使用如下规范将应用部署到LKE集群中：
复制YAML
apiVersion:apps/v1
kind:Deployment
metadata: name:pressure-api-deployment
spec: selector: matchLabels: app:pressure-api
replicas: 1 template: metadata: labels: app:pressure-api
spec: containers: - name:pressure-api
image: ghcr.io/rahulrai-in/dotnet-pressure-api:latest
ports: - containerPort: 80 resources: limits: cpu:500m
memory:500Mi
---apiVersion:v1
kind:Service
metadata: name:pressure-api-service
labels: run:php-apache
spec: ports: - port: 80 selector: app: pressure-api1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.31.32.33.34.35.36.该应用目前虽然可以接受请求，但是只能在集群中被访问到。我稍后将使用一个临时的pod向API发送各种请求。不过，现在让我们先来讨论最常见的自动化缩放组件：水平Pod自动化缩放(HPA)。
水平Pod自动化缩放(HPA)水平Pod自动化缩放允许您根据当前的负载，动态调整集群中的pod数量。Kubernetes通过HorizontalPodAutoscaler资源和绑定到kube-controller-manager的控制器，来原生地支持其水平自动化缩放。而HPA主要依赖Kubernetes Metrics Server来提供PodMetrics。Metrics Server会从集群中的每个节点上收集CPU和内存的使用情况，并通过Metrics API提供出去。下图展示了该过程中涉及的各个组件：
水平Pod自动化缩放
Metrics Server会去轮询kubelet端点上的Summary API，以收集在pods中运行的容器资源的使用指标。在默认情况下，HPA控制器将代理Metrics Server，每15秒轮询一次Kubernetes API服务器的Metrics API端点。此外，HPA控制器也会持续监视HorizontalPodAutoscaler资源，以维持自动化缩放的配置。接着，HPA控制器会根据各种配置(或其他已配置的资源)去更新部署中的pod数量，以匹配相应的需求。最后，部署控制器通过更新复制集(ReplicaSet)来响应更改，完成pod数量的调整。
作为HPA和VPA的先决条件，您可以根据官方指南中提到的相关说明，在自己的集群上安装Metrics Server。如果您在安装时遇到TLS问题，那么请在代码库的spec目录下，按照如下方式使用metrics-server.yaml规范：
复制Shell
kubectl apply -f spec/metrics-server.yaml1.2.现在，让我们根据如下yaml内容，通过配置HorizontalPodAutoscaler对象，将部署扩展到五个副本，并根据内存资源的平均利用率，将其缩小至一个副本：
复制YAML
apiVersion:autoscaling/v2beta2
kind:HorizontalPodAutoscaler
metadata: name:pressure-api-hpa
spec: scaleTargetRef: apiVersion:apps/v1
kind:Deployment
name:pressure-api-deployment
minReplicas: 1 maxReplicas: 5 metrics: - type:Resource
resource: name:memory
target: type:Utilization
averageUtilization: 401.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.如果内存的平均利用率保持在40%以上，那么HPA将增加副本的数量，反之亦然。您也可以将该规则运用到CPU利用率上。在这种情况下，HPA控制器将根据规则的组合，来确定并使用副本的最大数量。
在开始之前，让我们通过如下命令，在两个不同的终端窗口中观察HPA及其部署，以实时查看到副本数量的变化。
复制Shell
kubectl get hpa pressure-api-hpa --watchkubectl get deployment pressure-api-deployment --watch1.2.3.4.为了触发HPA，我们将启动一个临时的pod，并让它向/memory/{numBytes}/duration/{durationSec}端点发送请求。下面的命令将触发HPA通过扩展pods来减少内存的压力。
复制Shell
kubectl run -i --tty mem-load-gen --rm --image=busybox --restart=Never -- /bin/sh -c "while sleep 0.01; do wget -q -O- --post-data= http://pressure-api-service/memory/1000/duration/180; done"1.2.您可以在终端窗口中观察到HPA更新部署的副本数量。下图展示了活动的利用率相对于目标的增长情况：
运行中的HPA
同时，您也可以从下图中看到复制副本的变化：
由HPA触发的副本数量的增加
在使用HPA时，请记住如下注意事项：
应用程序应当能够在不同的实例之间共享负载。集群应该有足够的容量，来容纳扩展的pod数量。这可以通过提前配置所需的容量，并使用警报来提示平台操作员向集群添加更多的容量来实现。当然，您也可以使用群集自动化缩放来实现，我们将在下文中讨论。CPU和内存可能并非应用程序做出缩放决策的正确指标。在这种情况下，您可以将HPA(或VPA)与自定义指标结合使用，并使用自定义的指标适配器而非Kubernetes Metrics Server，来实现自动化的缩放。其中，常用的自定义指标适配器有Prometheus适配器和Kubernetes事件驱动自动缩放器(Kubernetes Event-Driven Autoscaler，KEDA)。在继续讨论VPA之前，请删除掉刚才创建的HPA，并按照如下命令重置部署的副本数量：
复制Shell
kubectl delete hpa/pressure-api-hpa
kubectl scale --replicas=2 deployment/pressure-api-deployment1.2.3.4. 垂直Pod自动化缩放(VPA)垂直Pod自动化缩放允许您动态调整单个实例的资源容量。在pods的上下文环境中，这涉及到更改pod可以使用到的CPU和内存资源数量。与HPA不同，除了Metrics Server外，VPA还需要安装三个控制器组件。下图展示了Kubernetes组件、及其与VPA的交互：
垂直Pod自动化缩放
Recommender：根据pod资源的使用情况，确定最佳的CPU和内存值。Admission plug-in：在根据Recommender的建议创建pod时，更改pod的资源请求和限制。Updater：逐出pod，以便Admission plug-in拦截其重建请求。请跟随VPA指南中的安装说明准备您的集群。安装完成后，您可以通过运行如下命令，验证VPA组件的运行状况：
复制Shell
kubectl get pods -l "app in (vpa-recommender,vpa-admission-controller,vpa-updater)" -n kube-system1.2.
VPA Pod的健康状况
下面，让我们了解一下VPA缩放操作的工作原理。首先，资源请求会通过pod规范中的声明，以确保Kubernetes保留了pod所需的最少资源。接着，当VPA检测到pod接近其资源消耗的限制时，它将自动计算出一组新的、更合适的数值。如果您定义了资源请求、以及在pod规范中的资源限制，那么VPA将在更新数值的时候，保持请求限制(request:limit)的比率。而且，每当VPA更新资源请求时，它都会改变资源的限制。
如下YAML所示，我们将定义一个VPA的策略，来自动化调整CPU和内存的请求，而无需向处理负载添加更多的pod：
复制YAML
apiVersion: "autoscaling.k8s.io/v1"kind:VerticalPodAutoscaler
metadata: name:pressure-api-vpa
spec: targetRef: apiVersion: "apps/v1" kind:Deployment
name:pressure-api-deployment
updatePolicy: updateMode:Recreate
resourcePolicy: containerPolicies: - containerName: "*" minAllowed: cpu:0m
memory:0Mi
maxAllowed: cpu: 1 memory:2000Mi
controlledResources: ["cpu", "memory"] controlledValues: RequestsAndLimits1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.该规范将适用于部署中的所有容器，其最小和最大阈值将确保VPA在合理的范围内运行。其中，controlledResources字段指定了由VPA自动缩放的资源。
目前，VPA支持四种更新模式。其中，Recreate和Auto模式是激活自动化缩放的唯一方式。不过，它们的实际用例比较有限。Initial模式将在创建资源值时，对其实施许可控制，当然它也会阻止Updater逐出任何pod。而Off模式最为实用。在该模式下，VPA虽然不会缩放资源，但是会推荐资源值。因此，在应用程序进入生产环境之前，您可以使用该模式在应用的全面负载测试、以及分析期间，计算出最佳的资源值，以便将其应用于生产部署的规范中，以节省工程量。
对此，我们可以应用前面的规范，并通过执行如下命令，来监控自动化的缩放：
复制Shell
kubectl get vpa/pressure-api-vpa --watch1.2.然后，我们使用如下命令给CPU施加压力，以激活VPA：
复制Shell
kubectl run -i --tty mem-load-gen --rm --image=busybox --restart=Never -- /bin/sh -c "while sleep 0.01; do wget -q -O- --post-data= http://pressure-api-service/cpu/10/duration/180; done"1.2.一段时间后，您可以执行如下命令，以查看VPA所生成的建议。
复制Shell
kubectl describe vpa/pressure-api-vpa1.2.下图是上述命令的输出结果，其中显示了源于VPA的各项建议：
VPA的建议
可见，它建议使用Target值作为CPU和内存请求的基线。如果VPA规范中定义的上限和下限并非最优的话，它会使用Uncapped Target作为基线，以表示没有minAllowed和maxAllowed限制的目标估值。
此外，由于我们启用了垂直自动化缩放，因此新创建的pod将会由admission控制器执行VPA的各种注释。您可以通过如下命令查看pod的注释：
复制Shell
kubectl get pod <pod name> -o jsonpath={.metadata.annotations}1.2.下面便是上述命令的输出(来自K9s控制台，https://github.com/derailed/k9s)：
Pod的注释
在讨论下一种自动化缩放之前，让我们使用如下命令删除并重置当前部署。
复制Shell
kubectl delete vpa/pressure-api-vpa
kubectl scale --replicas=1 deployment/pressure-api-deployment1.2.3. 集群比例自动化缩放(CPA)集群比例自动化缩放(CPA)属于一种水平pod自动化缩放。它会根据群集中的节点数量来缩放副本。与其他自动化缩放不同的是，它既不依赖于Metrics API，也不需要Metrics Server。此外，CPA并不使用Kubernetes资源来实现缩放，而是使用各种标志，来标识目标负载和用于扩展配置的ConfigMap。下图展示了CPA的各个组件：
集群比例自动化缩放
CPA的用例比较有限。例如，CPA通常被用于诸如集群DNS的横向扩展平台服务。它们往往需要随着部署在集群上的负载而自动进行扩展。CPA的另一个用例是，由于不需要使用Metrics Server或Prometheus适配器，因此可以通过简单的机制，来扩展出各种负载。
您可以使用CPA的Helm图表，在集群上安装CPA，并使用如下命令添加cluster-proportional-autoscaler的Helm存储库：
复制Shell
helm repo add cluster-proportional-autoscaler https://kubernetes-sigs.github.io/cluster-proportional-autoscaler
helm repo update1.2.3.您可以在图表值文件中定义自动化缩放的规则，以便能够根据指定的配置，创建配置映射。据此，您可以进行后续的ConfigMap编辑，以更改自动化缩放的行为，而不必重新安装图表。
请创建一个名为cpa-values.yaml的文件，并添加如下内容：
复制YAML
config: ladder: nodesToReplicas: - [1, 3] - [2, 5]options: namespace:default
target: "deployment/pressure-api-deployment"1.2.3.4.5.6.7.8.9.我们可以指定CPA使用如下缩放方法中的一种：
Linear：按照与群集中节点或核心数量成正比的方式，缩放应用。Ladder：使用步进函数(step function)确定nodes:replicas和/或cores:replicas的比率。在上面的示例中，如果集群中有一个节点，那么CPA会将部署扩展为三个副本。您可以通过如下命令安装图表，并为其提供配置。
复制Shell
helm upgrade --installcluster-proportional-autoscaler \
cluster-proportional-autoscaler/cluster-proportional-autoscaler --values cpa-values.yaml1.2.3.一旦完成CPA的安装，您将会发现，由于我们的集群上有两个节点，因此它可以将pressure-api-deployment扩展到5个副本。
同样，在讨论集群自动化缩放之前，让我们使用如下命令来删除掉现有部署：
复制Shell
helm delete cluster-proportional-autoscaler1.2.我们已经讨论了如何使用核心Kubernetes、以及由社区构建的附加组件，来自动调整负载。下面，我们将讨论如何扩展Kubernetes集群本身。
群集自动化缩放(CA)手动增减Kubernetes集群的容量，会显著增加集群的管理成本和工程量，因此我们需要让CA与HPA配合使用。一旦HPA开始接近计算资源的极限，CA就可以计算出需要满足的节点数量，并向集群中添加新的节点。此外，当CA发现某些节点在较长的时间内未被充分利用时，它可以将pods重新调度到其他的节点处，进而将未充分利用的节点从集群中移除。
集群自动化缩放在具体实现上会因云服务提供商的不同而不尽相同。例如，Azure和AWS之类的云服务提供商，就能够支持Cluster API，并运用Kubernetes的operator去管理群集架构。群集自动化缩放也可以通过卸载的方式，为群集API的控制器调整节点的数量。在实施群集自动化调整之前，请认真考虑如下方面：
1. 确保能够掌握应用在负载下的行为，并消除那些阻碍应用进行水平扩展的瓶颈。
2. 了解云服务提供商可能强制实施的缩放上限。
3. 了解集群在按需扩展时的速度。
在LKE上启用群集自动化缩放，其实非常容易。首先，如下图所示，请导航到集群的概览页面，并单击Autoscale Pool按钮。
LKE集群的概览页面
然后，在下面的对话框中，输入LKE应维护的最小和最大节点数：
启用LKE的群集自动化缩放
LKE的集群自动化缩放既能够响应那些由于计算资源不足，而无法被调度的Pending pod，又可以通过监控未充分利用的节点，将其从集群中删除，以缩小集群的整体规模。
下面，我们来看一个被分配了2个CPU核和4 GB内存的双节点集群。为了触发群集的自动化缩放，我们可以通过如下命令，向应用添加更多的副本：
复制Shell
kubectl scale --replicas=15 deployment/pressure-api-deployment1.2.在命令执行完毕后，您将会在下图中看到那些被部署的pod已进入了挂起状态：
等待调度的pod
如下图所示，LKE不久会将更多的节点添加到集群中，并在新的节点上调度它们：
LKE扩展集群
由于我们指定了让LKE扩展至多四个节点，因此您会发现一些pod仍然处于挂起状态。最后，让我们同样以如下命令来清理环境。
复制Shell
kubectl delete deployment/pressure-api-deployment1.2. 小结综上所述，我们讨论了水平自动化缩放、垂直自动化缩放、以及集群自动化缩放的相关概念、用例和注意事项。以LKE为代表的托管式Kubernetes服务，能够通过内置的自动化调整工具，为您减少各种手动管理的工作量。总的说来：
如果您的应用经常受到容量需求变化的影响，那么可以使用HPA来水平扩展它们。VPA可以帮助您确定应用程序的最佳资源值。CPA则可以帮助您满足需要随着集群中的负载进行扩展的应用需求。如果负载可能会扩展到超过集群本身的容量，那么就需要使用CA来自动调整集群本身。译者介绍陈峻 (Julian Chen)，51CTO社区编辑，具有十多年的IT项目实施经验，善于对内外部资源与风险实施管控，专注传播网络与信息安全知识与经验;持续以博文、专题和译文等形式，分享前沿技术与新知;经常以线上、线下等方式，开展信息安全类培训与授课。
原文标题：Practical Introduction to Kubernetes Autoscaling Tools with Linode Kubernetes Engine，作者: Rahul Rai
- 如何选择正确的电脑显示接口（避免因接口选择错误而带来的问题和困扰）
- 戴尔i57200是如何满足用户需求的？（性能强劲、高效省电，戴尔i57200是最佳选择）
- 磁卡锁和电脑配套教程（一体化解决方案助您实现安全与便利的完美平衡）
- 电脑系统错误日志查看方法详解（轻松定位故障，解决电脑问题）
- 三星台式电脑装机教程（简单易懂的三星台式电脑装机教程，助你快速搭建个人工作站）
- 尼康A900（揭秘尼康A900的各种亮点和功能）
- 网络出现错误导致电脑开机问题（解决方法与技巧）
- 解决电脑重置密码错误的方法（忘记密码？别急，教你解决重置密码错误！）
- 电脑编程入门（用计算机创造无限可能的世界）
- 从零开始学习制作个性化字体，探索ttf电脑字体制作的奥秘
- 用电脑做系统XP教程光盘，轻松学习配置系统（自学成才，操作简单，教程详细易懂）
- 以和平金铂雅理疗（放松身心，迎接新生活）
- 以西沃电脑升级系统教程（简单易懂的升级系统指南，提升电脑性能）
- 解决ASUS电脑开机显示错误的方法（排除ASUS电脑开机黑屏、蓝屏等显示错误的问题）
- 苹果电脑wps更新域名错误问题解决方法（如何正确处理苹果电脑wps软件在更新过程中出现的域名错误）
- 电脑系统切换方案常见错误解析（如何避免系统切换过程中的常见问题）
- 联想电脑安装谷歌商店教程（详细指南及操作步骤）
- 华为mini电脑使用教程（掌握华为mini电脑的使用技巧与窍门）
- 电脑设计支架设计教程（让你的电脑工作更高效、更舒适、更健康）
- 小熊装机教程推荐电脑型号，打造个人定制电脑（为您推荐适合不同需求的小熊装机教程）
随便看看
- Copyright © 2025 Powered by 使用Linode引擎实现Kubernetes自动缩放的优秀实践,技术快报 滇ICP备2023006006号-46sitemap