自動スケーリングでのフラッピング

[アーティクル]
11/01/2024

この記事では、自動スケーリングでのフラッピングとその回避方法について説明します。

フラッピングとは、対立するスケールイベントが連続して発生するループ条件を指します。フラッピングは、スケールイベントが反対のスケールイベントをトリガーしたときに発生します。

自動スケーリングでは、保留中のスケールインアクションを評価して、フラッピングが発生するかどうかを確認します。フラッピングが発生する可能性がある場合は、自動スケーリングによってスケールアクションがスキップされ、次回の実行時に再評価されたり、自動スケーリングでスケーリングするリソースインスタンス数が指定された数よりも少なくなる場合があります。自動スケーリングの評価プロセスは、自動スケーリングエンジンが実行されるたび (リソースの種類に応じて 30 秒から 60 秒ごと) に発生します。

十分なリソースを確保するために、スケールアウトイベントでは潜在的なフラッピングのチェックは行われません。自動スケーリングでは、フラッピングを回避するためにスケールインイベントのみが延期されます。

たとえば、次のルールを想定してみます。

平均 CPU 使用率が 50% を超えた場合、インスタンス数が 1 増加するスケールアウトを行う。
平均 CPU 使用率が 30% 未満の場合、インスタンス数が 1 減少するスケールインを行う。

次の表では、T0 で使用量が 56% になったときに、スケールアウトアクションがトリガーされ、2 つのインスタンスでの CPU 使用率が 56% になります。これにより、スケールセットの平均は 28% になります。 28% はスケールインしきい値より小さいため、自動スケーリングはスケールインする必要があります。スケールインすると、スケールセットの CPU 使用率が 56% に戻り、スケールアウトアクションがトリガーされます。

Time	インスタンス数	CPU%	インスタンスあたりの CPU%	スケールイベント	結果のインスタンス数
T0	1	56%	56%	スケールアウト	2
T1	2	56%	28%	スケールイン	1
T2	1	56%	56%	スケールアウト	2
T3	2	56%	28%	スケールイン	1

制御していない状態の場合、スケールイベントが継続的に連続して発生します。ただし、この状況では、自動スケーリングエンジンは T1 でのスケールインイベントを延期し、次の自動スケーリング実行中に再評価します。スケールインは、平均 CPU 使用率が 30% を下回った場合にのみ発生します。

フラッピングは、多くの場合、次の原因で発生します。

しきい値間のマージンが小さいか、まったくない
複数のインスタンスによるスケーリング
異なるメトリックを使用したスケールインとスケールアウト

しきい値間のマージンが小さいか、まったくない

フラッピングを回避するには、スケーリングのしきい値の間に十分なマージンを確保します。

たとえば、しきい値間にマージンがない次のルールでは、フラッピングが発生します。

スレッド数 >= 600 の場合、スケールアウトする
スレッド数 < 600 の場合、スケールインする

スレッド数が 600 以上の場合にスケールアウトし、スレッド数が 600 未満の場合にスケールインする自動スケーリングルールを示すスクリーンショット。

次の表は、これらの自動スケーリングルールの想定される結果を示しています。

Time	インスタンス数	Thread count	インスタンスあたりのスレッド数	スケールイベント	結果のインスタンス数
T0	2	1250	625	スケールアウト	3
T1	3	1250	417	スケールイン	2

T0 時に、2 つのインスタンスで 1,250 スレッド、つまりインスタンスあたり 625 スレッドを処理しています。自動スケーリングにより 3 つのインスタンスにスケールアウトされます。
スケールアウト後、T1 では同じ 1,250 スレッドですが、インスタンス数は 3 であり、インスタンスあたり 417 スレッドしかありません。スケールインイベントがトリガーされます。
スケールインの前に、自動スケーリングでは、スケールインイベントが発生した場合の結果が評価されます。この例では、1250 / 2 = 625、つまりインスタンスあたり 625 スレッドです。自動スケーリングは、スケールイン後にすぐに再びスケールアウトする必要があります。もう一度スケールアウトした場合、プロセスが繰り返されてフラッピングループが発生します。
この状況を避けるために、自動スケーリングでスケールインは行われません。自動スケーリングでは、現在のスケールイベントがスキップされ、次の実行サイクルでルールが再評価されます。

この場合、スケールイベントが発生しないため、自動スケーリングが機能していないように見えます。 [自動スケーリング設定] ページの [実行履歴] タブで、フラッピングがあるかどうかを確認します。

しきい値間に十分なマージンを設定すると、上記のシナリオを回避できます。たとえば、次のように入力します。

スレッド数 >= 600 の場合、スケールアウトする
スレッド数 < 400 の場合、スケールインする

スレッド数が 600 以上の場合にスケールアウトし、スレッド数が 400 未満の場合にスケールインする自動スケーリングルールを示すスクリーンショット。

スケールインスレッド数が 400 の場合、スケールイベントが発生するには、スレッド数の合計が 1,200 を下回る必要があります。次の表を参照してください。

Time	インスタンス数	Thread count	インスタンスあたりのスレッド数	スケールイベント	結果のインスタンス数
T0	2	1250	625	スケールアウト	3
T1	3	1250	417	スケールイベントなし	3
T2	3	1180	394	スケールイン	2
T3	3	1180	590	スケールイベントなし	2

複数のインスタンスによるスケーリング

複数インスタンスでのスケールインまたはスケールアウト時のフラッピングを回避するために、自動スケーリングでスケーリングするインスタンス数が、ルールで指定された数よりも少なくなる場合があります。

たとえば、次のルールはフラッピングを引き起こす可能性があります。

要求数 >= 200 (インスタンスあたり) の場合、20 スケールアウトする。
または、CPU > が 70% (インスタンスあたり) の場合。
要求数 <= 50 (インスタンスあたり) の場合、10 スケールインする。

自動スケーリングの既定のスケーリング条件で例として構成されたルールを示すスクリーンショット。

次の表は、これらの自動スケーリングルールの想定される結果を示しています。

Time	インスタンスの数	CPU	要求数	スケールイベント	結果のインスタンス数	コメント
T0	30	65%	3,000 (インスタンスあたり 100)	スケールイベントなし	30
T1	30	65	1500	3 インスタンスのスケールイン	27	10 インスタンスのスケールインを行うと、推定 CPU が 70% を超えて上昇し、スケールアウトイベントが発生します。

T0 時に、アプリはインスタンス数 30、合計要求数 3,000、インスタンスあたりの CPU 使用率 65% で実行されています。

T1 で、要求数が 1,500 要求 (インスタンスあたり 50 要求) に減少すると、自動スケーリングは 10 インスタンスのスケールインを行い、20 インスタンスにしようと試みます。しかし、20 インスタンスの場合 CPU 負荷が 70% を超えるため、自動スケーリングはスケールアウトイベントの発生を推定します。

フラッピングを回避するために、自動スケーリングエンジンは、すべてのメトリックが定義されたしきい値内になるインスタンス数が見つかるまで、インスタンス数が 20 以上の CPU 使用率を推定します。

CPU を 70% 未満にする。
インスタンスあたりの要求数が 50 を超えないようにする。
インスタンス数を 30 未満に減らす。

このような状況では、ルールで減少数を 10 に指定している場合でも、自動スケーリングはルールを満たすために、30 から 27 インスタンスに、3 スケールインする場合があります。 "フラッピングを回避するために更新されたインスタンスカウントでスケールダウンが発生する" という説明を含むログメッセージがアクティビティログに書き込まれます。

自動スケーリングで適切な数のインスタンスが見つからない場合、スケールインイベントはスキップされ、次のサイクルで再評価されます。

Note

自動スケーリングエンジンは、インスタンスのターゲット数にスケーリングした結果として、フラッピングが発生する可能性があることを検出した場合、現在のインスタンス数とターゲット数との間でより少ないインスタンス数にスケーリングしようともします。この範囲内でフラッピングが発生しなかった場合、新しいターゲットで自動スケーリングによるスケール操作が続行されます。

ログファイル

次のクエリを使用して、アクティビティログでフラッピングを見つけます。

// Activity log, CategoryValue: Autoscale
// Lists latest Autoscale operations from the activity log, with OperationNameValue =="Microsoft.Insights/AutoscaleSettings/Flapping/Action
AzureActivity
|where CategoryValue =="Autoscale" and OperationNameValue =="Microsoft.Insights/AutoscaleSettings/Flapping/Action"
|sort by TimeGenerated desc

フラッピングのアクティビティログレコードの例を次に示します。

{
"eventCategory": "Autoscale",
"eventName": "FlappingOccurred",
"operationId": "1111bbbb-22cc-dddd-ee33-ffffff444444",
"eventProperties": 
    "{"Description":"Scale down will occur with updated instance count to avoid flapping. 
     Resource: '/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourcegroups/ed-rg-001/providers/Microsoft.Web/serverFarms/ScaleableAppServicePlan'.
     Current instance count: '6', 
     Intended new instance count: '1'.
     Actual new instance count: '4'",
    "ResourceName":"/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourcegroups/rg-001/providers/Microsoft.Web/serverFarms/ScaleableAppServicePlan",
    "OldInstancesCount":6,
    "NewInstancesCount":4,
    "ActiveAutoscaleProfile":{"Name":"Auto created scale condition",
    "Capacity":{"Minimum":"1","Maximum":"30","Default":"1"},
    "Rules":[{"MetricTrigger":{"Name":"Requests","Namespace":"microsoft.web/sites","Resource":"/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourceGroups/rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","ResourceLocation":"West Central US","TimeGrain":"PT1M","Statistic":"Average","TimeWindow":"PT1M","TimeAggregation":"Maximum","Operator":"GreaterThanOrEqual","Threshold":3.0,"Source":"/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","MetricType":"MDM","Dimensions":[],"DividePerInstance":true},"ScaleAction":{"Direction":"Increase","Type":"ChangeCount","Value":"10","Cooldown":"PT1M"}},{"MetricTrigger":{"Name":"Requests","Namespace":"microsoft.web/sites","Resource":"/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourceGroups/rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","ResourceLocation":"West Central US","TimeGrain":"PT1M","Statistic":"Max","TimeWindow":"PT1M","TimeAggregation":"Maximum","Operator":"LessThan","Threshold":3.0,"Source":"/subscriptions/aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e/resourceGroups/ed-rg-001/providers/Microsoft.Web/sites/ScaleableWebApp1","MetricType":"MDM","Dimensions":[],"DividePerInstance":true},"ScaleAction":{"Direction":"Decrease","Type":"ChangeCount","Value":"5","Cooldown":"PT1M"}}]}}",
"eventDataId": "dddd3333-ee44-5555-66ff-777777aaaaaa",
"eventSubmissionTimestamp": "2022-09-13T07:20:41.1589076Z",
"resource": "scaleableappserviceplan",
"resourceGroup": "RG-001",
"resourceProviderValue": "MICROSOFT.WEB",
"subscriptionId": "aaaa0a0a-bb1b-cc2c-dd3d-eeeeee4e4e4e",
"activityStatusValue": "Succeeded"
}

次の手順

自動スケーリングの詳細については、次のリソースを参照してください。

次の方法で共有

自動スケーリングでのフラッピング

しきい値間のマージンが小さいか、まったくない

複数のインスタンスによるスケーリング

ログファイル

次の手順

フィードバック

その他のリソース

次の方法で共有

自動スケーリングでのフラッピング

しきい値間のマージンが小さいか、まったくない

複数のインスタンスによるスケーリング

ログ ファイル

次の手順

フィードバック

その他のリソース

ログファイル