高スケールな負荷用に Azure Load Testing を構成する

[アーティクル]
06/19/2024

この記事では、Azure Load Testing を使用して高スケール用にロードテストを構成する方法について説明します。 Azure Load Testing は、大規模なトラフィックをシミュレートするためのインフラストラクチャのプロビジョニングの複雑さを抽象化します。ロードテストをスケールアウトするには、並列テストエンジンインスタンスの数を構成します。最適な負荷分散を実現するために、Azure Load Testing ダッシュボードでテストインスタンスの正常性メトリックを監視できます。

前提条件

アクティブなサブスクリプションが含まれる Azure アカウント。 Azure サブスクリプションをお持ちでない場合は、始める前に無料アカウントを作成してください。
既存の Azure Load Testing リソース。 Azure Load Testing リソースを作成するには、ロードテストの作成と実行に関するクイックスタートを参照してください。

ロードテストのロードパラメーターを構成する

アプリケーションのユーザートラフィックをシミュレートするには、ロードをシミュレートするロードパターンと仮想ユーザー数を構成できます。 Azure Load Testing では、多数の並列テストエンジンインスタンスでロードテストを実行することで、アプリケーションへのトラフィックをシミュレートする仮想ユーザーの数をスケールアウトできます。ロードパターンは、ロードテストの期間中に負荷をどのように分散するかを決定します。ロードパターンの例としては、リニア、ステップ、またはスパイクロードがあります。

ロードテストの種類 (URL ベースまたは JMeter ベース) に応じて、ターゲットの負荷とロードパターンを構成するさまざまなオプションがあります。次の表は、2 つのテストの種類の違いです。

テストの種類	仮想ユーザーの数	ロードパターン
URL ベース (基本)	ロードテスト構成で仮想ユーザーのターゲット数を指定します。	仮想ユーザーの増加時間と数に基づくリニアロードパターン。
URL ベース (詳細)	ロードテスト構成で、テストエンジンの数とインスタンスあたりの仮想ユーザー数を指定します。	ロードパターン (リニア、ステップ、スパイク) を構成します。
JMeter ベース	ロードテスト構成でテストエンジンの数を指定します。テストスクリプトで仮想ユーザーの数を指定します。	テストスクリプトでロードパターンを構成します。

URL ベーステストのロードパラメーターを構成する

URL ベースのロードテストのロードパラメーターを指定するには:

Azure Portal
Azure Pipelines / GitHub Actions

Azure portal の Azure Load Testing リソースに移動します。
左側のナビゲーションで、[テスト] を選択してすべてのテストを表示します。
一覧でロードテストを選択し、[編集] を選択します。

または、テストの詳細ページからテスト構成を編集することもできます。それを行うには、[構成] を選択してから [テスト] を選択します。
[基本] ページで、[詳細設定を有効にする] を選択します。
[テストの編集] ページで、[読み込み] タブを選択します。

URL ベースのテストでは、並列テストエンジンインスタンスの数とロードパターンを構成できます。
[エンジンインスタンス] のスライダーコントロールを使用して、並列テストエンジンインスタンスの数を更新します。または、入力ボックスにターゲット値を入力します。
[ロードパターン] の値を一覧から選択します。

パターンごとに、対応する構成設定を入力します。グラフには、ロードパターンとその構成パラメーターが視覚的に表示されます。

CI/CD ワークフローについては、要求 JSON ファイルで URL ベースのロードテストのロードパラメーターを testSetup プロパティに指定します。

ロードパターン (loadType) に応じて、さまざまなロードパラメーターを指定できます。

ロードパターン (`loadType`)	パラメーター
Linear	`virtualUsersPerEngine`、`durationInSeconds`、`rampUpTimeInSeconds`
ステップ	`virtualUsersPerEngine`、`durationInSeconds`、`rampUpTimeInSeconds`, `rampUpSteps`
スパイク	`virtualUsersPerEngine`、`durationInSeconds`、`spikeMultiplier`, `spikeHoldTimeInSeconds`

ロードテスト構成 YAML ファイルで、testType プロパティを URL に設定し、testPlan プロパティを、要求 JSON ファイルを参照するように設定します。

次のコードスニペットは、URL ベースのロードテストの要求 JSON ファイルの例を示しています。 testSetup は、テストエンジンごとに 30 秒のランプアップ時間と 5 人の仮想ユーザーで 300 秒間実行される線形ロードパターンを指定します。

{
    "version": "1.0",
    "scenarios": {
      "requestGroup1": {
        "requests": [
          {
            "requestName": "Request1",
            "requestType": "URL",
            "endpoint": "http://northwind.contoso.com",
            "queryParameters": [],
            "headers": {},
            "body": null,
            "method": "GET",
            "responseVariables": [
                {
                  "extractorType": "XPathExtractor",
                  "expression": "/note/body",
                  "variableName": "token"
                }
              ]
          },
          {
            "requestName": "Request2",
            "requestType": "CURL",
            "curlCommand": "curl --location '${domain}' --header 'Ocp-Apim-Subscription-Key: ${token}"
          }
        ],
        "csvDataSetConfigList": [
            {
              "fileName": "inputData.csv",
              "variableNames": "domain"
            }
          ]
      }
    },
    "testSetup": [
      {
        "virtualUsersPerEngine": 5,
        "durationInSeconds": 300,
        "loadType": "Linear",
        "scenario": "requestGroup1",
        "rampUpTimeInSeconds": 30
      }
    ]
}

JMeter ベースのテストのロードパラメーターを構成する

JMeter ベースのロードテストのロードパラメーターを指定するには:

Azure Portal
Azure Pipelines / GitHub Actions

Azure portal の Azure Load Testing リソースに移動します。
左側のナビゲーションで、[テスト] を選択してすべてのテストを表示します。
一覧でロードテストを選択し、[編集] を選択します。

または、テストの詳細ページからテスト構成を編集することもできます。それを行うには、[構成] を選択してから [テスト] を選択します。
[テストの編集] ページで、[読み込み] タブを選択します。[Engine instances] (エンジンインスタンス) スライダーコントロールを使用して、テストエンジンインスタンスの数を更新するか、入力ボックスに値を直接入力します。
[適用] を選択してテストを変更すると、テストを再実行するときに新しい構成が使用されます。

CI/CD ワークフローについて、YAML テスト構成ファイルでエンジンインスタンスの数を構成します。ロードテスト構成ファイルは、JMeter テストスクリプトファイルと共にソース管理リポジトリに格納します。

任意のエディターでロードテスト用の YAML テスト構成ファイルを開きます。
engineInstances 設定でテストエンジンインスタンスの数を構成します。

次の例では、10 個の並列テストエンジンインスタンスで実行されるロードテストを構成します。
```
version: v0.1
testId: SampleTestCICD
displayName: Sample test from CI/CD
testPlan: SampleTest.jmx
description: Load test website home page
engineInstances: 10
```
YAML 構成ファイルを保存し、ソース管理に変更をコミットします。

エンジンインスタンスのメトリックを監視する

テストエンジンインスタンス自体がパフォーマンスのボトルネックにならないように、テストエンジンインスタンスのリソースメトリックを監視できます。テストインスタンスのリソース使用率が高いと、ロードテストの結果に悪影響を及ぼす可能性があります。

Azure Load Testing では、インスタンスごとに 4 つのリソースメトリックがレポートされます。

CPU の割合。
メモリの割合。
1 秒あたりのネットワークバイト数。
仮想ユーザーの数。

テストの実行期間中の平均 CPU 使用率またはメモリの割合が 75% を下回っている場合、テストエンジンインスタンスは正常と見なされます。

エンジンのリソースメトリックを表示するには:

Load Testing リソースにアクセスします。左側のウィンドウで [テスト] を選択して、ロードテストの一覧を表示します。
一覧でロードテストを選択して、テスト実行の一覧を表示します。
テスト実行の一覧で、目的のテスト実行を選択します。
テスト実行ダッシュボードで [エンジンの状態] を選択して、エンジンのリソースメトリックを表示します。

必要に応じて、フィルターコントロールを使用して特定のテストエンジンインスタンスを選択します。

異常なエンジンインスタンスのトラブルシューティング

1 つまたは複数のインスタンスでリソースの使用状況が高い場合は、テスト結果に影響する可能性があります。この問題を解決するには、次の手順のうち 1 つ以上を試してください。

テストエンジンあたりのスレッド (仮想ユーザー) の数を減らす。仮想ユーザーの目標数を達成するために、ロードテストのエンジンインスタンスの数を増やすことが必要になる場合があります。
スクリプトが効果的で、冗長なコードが使用されていないことを確認する。
エンジンの正常性状態が不明な場合は、テストを再実行します。

1 秒あたりの要求数を測定する

Azure Load Testing でロードテスト用に生成できる "1 秒あたりの要求" (RPS: Requests Per Second) の最大数は、アプリケーションの "待ち時間" と "仮想ユーザー" (VU) の数によって異なります。アプリケーションの待ち時間は、テストエンジンによるアプリケーション要求の送信から応答の受信までの合計時間です。仮想ユーザー数は、Azure Load Testing が特定の時点で実行する並列要求の数です。

1 秒あたりの要求数を計算するには、RPS = (VU の数) * (1/待機時間の秒数) の数式を適用します。

たとえば、アプリケーションの待ち時間が 20 ミリ秒 (0.02 秒) で、2,000 VU の負荷を生成している場合、約 100,000 RPS (2000 x 1/0.02 秒) を実現できます。

1 秒あたりの要求の目標数を達成するには、ロードテストの仮想ユーザーの合計数を構成します。

Note

Apache JMeter では、サーバーに送信された要求が正常に戻ったかどうかのみが報告されます。 Apache JMeter からアプリケーションに接続できない場合、実際の 1 秒あたりの要求数は最大値よりも少なくなります。原因としては、サーバーがビジー状態で要求を処理できないこと、または TLS/SSL 証明書がないことが考えられます。接続の問題を診断するには、ロードテストのダッシュボードで [エラー] グラフを確認し、ロードテストのログファイルをダウンロードします。

テストエンジンインスタンスと仮想ユーザー

Apache JMeter スクリプトでは、並列スレッドの数を指定できます。各スレッドは、アプリケーションエンドポイントにアクセスする仮想ユーザーを表します。スクリプト内のスレッドの数は 250 以下に維持することをお勧めします。

Azure Load Testing では、"テストエンジン" インスタンスが Apache JMeter スクリプトの実行を担います。すべてのテストエンジンインスタンスは並列で実行されます。ロードテストのインスタンス数は構成可能です。

ロードテストの仮想ユーザーの合計数は、次のようになります: VU 数 = (スレッド数) * (テストエンジンインスタンスの数)。

目標数の仮想ユーザーをシミュレートするには、JMeter スクリプトで並列スレッドを構成し、それに応じてロードテスト用のエンジンインスタンスを構成します。テストエンジンのメトリックを監視して、インスタンスの数を最適化してください。

たとえば、1,000 人の仮想ユーザーをシミュレートするには、Apache JMeter スクリプトでスレッド数を 250 に設定します。次に、4 つのテストエンジンインスタンスでロードテストを構成します (つまり、4 x 250 スレッド)。

Azure Load Testing リソースの場所によって、テストエンジンインスタンスの場所が決定されます。ロードテストリソース内のすべてのテストエンジンインスタンスは、同じ Azure リージョンにホストされます。

Azure Load Testing でのサービス制限とクォータの詳細について説明します。

次の方法で共有

高スケールな負荷用に Azure Load Testing を構成する

前提条件