カスタムプラグインを使用した Azure Load Testing

[アーティクル]
02/01/2024

ソリューションのアイデア

この記事ではソリューションのアイデアについて説明します。クラウドアーキテクトはこのガイダンスを使用すると、このアーキテクチャの一般的な実装の主要コンポーネントを視覚化しやすくなります。ワークロードの特定の要件に適合する、適切に設計されたソリューションを設計するための出発点として、この記事を使用してください。

Azure Load Testing は、Apache JMeter スクリプトとカスタムプラグインを実行してユーザーとデバイスの動作をシミュレートできるサービスです。このソリューションでは、その使用方法についてガイダンスを提供します。このソリューションでは、Azure Functions と Azure Event Hubs を使用するサンプルアプリケーションでロードテストの結果を監視および分析するためのダッシュボードを開発する方法と、KPI (主要性能指標) を設計する方法についても説明します。この記事では、JMeter とそのプラグインおよびカスタムプラグインのほか、Azure Functions と Event Hubs に関する知識があることを前提としています。

Architecture

ロードテストを実行するには、テストプランが必要です。これは、テスト中の JMeter の動作を取り決めた一連の手順です。テストプランには、それぞれ設定と構成が異なる複数のテストシナリオを含めることができます。たとえば、1 人のユーザーによる Web アプリケーションへのアクセスをシミュレートするシナリオと、同じアプリケーションへの複数ユーザーによる同時アクセスをシミュレートするシナリオが考えられます。

テストプランには、それぞれ設定と構成が異なる複数のテストケースを含めることもできます。ここでは、一定期間中の温度と湿度を報告するデバイスがあることを想定しています。このデバイスは、Azure のイベントハブにデータを送信します。イベントハブは、データを処理したうえで Azure SQL Database などの他のダウンストリームサービスにデータを送信する Azure 関数をトリガーします。この Azure 関数が、テスト対象のサービスです。テストプランは、このデバイスの動作をシミュレートし、イベントハブにデータを送信するように設計されています。

このアーキテクチャの Visio ファイルをダウンロードします。

データフロー

この例のデータフローは次のようになります。

シミュレートされたデバイスが、Azure Load Testing エージェントを介してイベントハブにデータを送信します。デバイスの動作はすべて、JMeter のカスタムプラグインを使用してシミュレートできます。 Azure Load Test エージェントは、あらゆる種類のシミュレートされたデバイスに対応するカスタムプラグインを実行した後、イベントハブにデータを送信します。
イベントハブは、データを処理したうえで Azure SQL Database や Azure Digital Twins などの他のダウンストリームサービスにデータを送信する Azure 関数をトリガーします。
Azure 関数と Event Hubs を監視するために Azure Monitor サービスが使用されます。
Azure Load Testing サービスが、Azure Monitor サービスからデータを収集し、ダッシュボードに表示します。

コンポーネント

この例では、以下のコンポーネントを使用します。

Azure Load Testing: Azure Load Testing を使用すると、Apache JMeter スクリプトとカスタムプラグインを実行して、ユーザーとデバイスの動作をシミュレートできます。ロードテストを管理および実行するための Web ベースのインターフェイスと、プロセスの自動化に使用できる一連の API が提供されます。 Azure Load Testing はフルマネージドサービスです。したがって、サーバーやインフラストラクチャの管理について心配する必要はありません。 JMeter スクリプトとカスタムプラグインをアップロードすると、残りの部分は Azure Load Testing によって処理されます。
Azure Event Hubs: Azure Event Hubs はクラウドベースのイベント処理サービスであり、さまざまなソースからイベントおよびストリーミングデータをリアルタイムで収集、処理、分析するために使用できます。 Event Hubs では、AMQP (Advanced Message Queuing Protocol)、HTTPS、Kafka Protocol、MQTT (Message Queuing Telemetry Transport)、AMQP over WebSockets など、複数のプロトコルがサポートされています。適切なプロトコルを選択するには、扱うデータの種類、アプリケーション固有の要件、プロトコル自体の機能や制限など、いくつかの要因を考慮する必要があります。
Azure Functions: Azure Functions は、サーバーやインフラストラクチャを管理せずにコードを実行できる、サーバーレスコンピューティングサービスです。 C#、F#、Java、JavaScript、PowerShell、Python、TypeScript など、複数のプログラミング言語がサポートされています。 Azure Functions では、Event Hubs だけでなく、Azure Storage や Azure Cosmos DB など他のソースからのイベントやストリーミングデータも処理できます。
JMeter GUI: JMeter GUI は、主に Web アプリケーションのパフォーマンスをテストするために使用されるオープンソースのロードテストツールです。元は Web アプリケーションをテストするために開発されたものです。ただし、SOAP および REST Web サービス、FTP サーバー、データベースなど、他の種類のアプリケーションをテストするためにも使用できます。
Azure Monitor: Azure Monitor には、Azure リソースに対する監視とアラートの機能が用意されています。これにより、アプリケーションのパフォーマンスおよび正常性と、基になるインフラストラクチャも監視できます。 Azure Monitor を使用すると、Event Hubs と Azure Functions のほか、Azure Storage や Azure Cosmos DB などの他の Azure サービスも監視できます。

シナリオの詳細

Azure Load Testing では、既存の Apache JMeter スクリプトを使用し、任意の Azure リソースで、クラウド規模でのロードテストを実行できます。

JMeter により、テスト担当者はロードテスト、ストレステスト、機能テストを作成して実行できます。複数のユーザーによる Web アプリケーションへの同時アクセスをシミュレートすることで、潜在的なパフォーマンスのボトルネックや、高負荷時に発生する可能性のあるその他の問題を特定できます。 JMeter は、応答時間、スループット、エラー率など、さまざまなパフォーマンスメトリックの測定に使用できます。

ユーザーは、JMeter の GUI ベースのインターフェイスを使用してテストプランを作成できます。テストプランには、それぞれ設定と構成が異なる複数のテストシナリオを含めることができます。テスト担当者は、プラグインの使用またはカスタムコードの作成によって JMeter をカスタマイズし、独自に機能を追加できます。プラグインは、AMQP や Websocket など、HTTP 以外のプロトコルを使用するサービスを使用する場合に役立ちます。

JMeter にはロードテスト用に多様な機能が用意されていますが、組み込みの機能で対応していない特定のユースケースや要件が存在することもあります。カスタムプラグインを作成することで、テスト担当者は新たな機能を追加することも、ニーズに合わせて既存の機能をカスタマイズすることもできます。

たとえば、ユーザーの具体的な動作のシミュレートや、より現実的なテストデータの生成のために、カスタムプラグインを作成できます。さらに、カスタムプラグインを作成することで、ログ記録ツールやレポートツール、CI/CD (継続的インテグレーションおよび継続的デプロイ) パイプラインなど、他のツールやシステムに JMeter を統合することもできます。カスタムプラグインがあれば、テストプロセスを合理化し、ソフトウェア開発ワークフロー全体にロードテストを簡単に組み込むことができます。全体的には、具体的なニーズに合わせて JMeter を調整し、ロードテスト作業の精度と有効性を向上させるためには、カスタムプラグインが役立ちます。

ここでは、一定期間にわたって温度と湿度を報告するデバイスがあることを想定しています。この単純な動作は、カスタムの JMeter プラグインを使用してシミュレートできます。ここで提供されているカスタムプラグインの現在の実装では、提供されたテンプレートによりランダムデータが生成されます。ただしプラグインには、デバイスに関して考えられる、どのように複雑な動作も含めることができます。この例では、デバイスから Azure のイベントハブにデータが送信されます。イベントハブは、データを処理したうえで、Azure SQL Database などの他のダウンストリームサービスにデータを送信する Azure 関数をトリガーします。この Azure 関数が、テスト対象のサービスです。テストプランは、このデバイスの動作をシミュレートし、イベントハブにデータを送信するように設計されています。

考えられるユースケース

カスタムプラグインと共に Azure Load Testing を使用すると、以下のようなさまざまなシナリオに役立ちます。

AMQP や Websocket など、HTTP 以外のプロトコルを使用するアプリケーションのパフォーマンステスト。
カスタムプロトコルを使用するアプリケーションのパフォーマンステスト。
Microsoft 以外の SDK を使用するアプリケーションのパフォーマンステスト。
ユーザーまたはデバイスの具体的な動作のシミュレーションや、より現実的なテストデータの生成。

カスタムプラグイン

JMeter のコンテキストでのカスタムプラグインは、JMeter に追加して独自に機能を拡張するためのソフトウェアコンポーネントです。ユーザーまたは Microsoft 以外の開発者は、JMeter に新しい機能、関数、または統合を追加するためのカスタムプラグインを作成できます。カスタムプラグインは、Java プログラミング言語と JMeter プラグイン開発キット (PDK) を使用して開発できます。 PDK には、GUI 要素、リスナー、サンプラーなど、新しいプラグインを容易に作成するためのツールや API が用意されています。

カスタムプラグインを使用すると、JMeter に幅広い機能を追加できます。また、ログツールやレポートツールなど、他のシステムに JMeter を統合することも、テストデータに他のデータソースを使用することもできます。全体として、カスタムプラグインを使用すると、JMeter を拡張して具体的なニーズを満たし、ロードテスト作業の精度と有効性を向上させることができます。

JMeter に Event Hubs 用のカスタムサンプラーを実装するには、Azure Load Testing プラグインの説明に記載されている手順に従います。カスタムサンプラーを実装すると、他のサンプラーと同様、Azure Load Test で独自の JMeter テストプランに使用できます。

テストプランを実装するには、特定のシナリオを実行するスレッド (仮想ユーザーとデバイス) の数を制御するスレッドグループを使用します。スレッドグループごとに、スレッド数、ランプアップ期間、ループ数、期間を別々に設定できます。スレッドグループは、テストプランの構成とアプリケーションの要件に応じて、順次または並列に実行できます。サンプラーをスレッドグループに追加してパラメーターを設定し、必要に応じて構成できます。カスタムサンプラーは JMeter の強力なツールです。これを活用することにより、組み込みのサンプラーでサポートされていない複雑なシナリオや要求をシミュレートできます。

カスタムプラグインを使用して Apache JMeter スクリプトを作成する

このセクションでは、Event Hubs でアプリケーションのロードテストを行うためのサンプル JMeter テストスクリプトを作成します。

サンプル JMeter テストスクリプトを作成するには:

ローカルコンピューターに、LoadTest.jmx ファイルを作成します。
```
touch LoadTest.jmx
```

テキストエディターで LoadTest.jmx を開き、このファイル内に以下のコードスニペットを貼り付けます。このスクリプトは、36 台の仮想マシンのロードテストをシミュレートし、これらからのイベントを同時にイベントハブに送信します。完了には 10 分かかります。

<?xml version="1.0" encoding="UTF-8"?>
<jmeterTestPlan version="1.2" properties="5.0" jmeter="5.5">
    <hashTree>
    <TestPlan guiclass="TestPlanGui" testclass="TestPlan" testname="Test Plan" enabled="true">
        <stringProp name="TestPlan.comments"></stringProp>
        <boolProp name="TestPlan.functional_mode">false</boolProp>
        <boolProp name="TestPlan.tearDown_on_shutdown">true</boolProp>
        <boolProp name="TestPlan.serialize_threadgroups">false</boolProp>
        <elementProp name="TestPlan.user_defined_variables" elementType="Arguments" guiclass="ArgumentsPanel" testclass="Arguments" testname="User Defined Variables" enabled="true">
        <collectionProp name="Arguments.arguments"/>
        </elementProp>
        <stringProp name="TestPlan.user_define_classpath"></stringProp>
    </TestPlan>
    <hashTree>
        <ThreadGroup guiclass="ThreadGroupGui" testclass="ThreadGroup" testname="Thread Group" enabled="true">
        <stringProp name="ThreadGroup.on_sample_error">continue</stringProp>
        <elementProp name="ThreadGroup.main_controller" elementType="LoopController" guiclass="LoopControlPanel" testclass="LoopController" testname="Loop Controller" enabled="true">
            <boolProp name="LoopController.continue_forever">false</boolProp>
            <intProp name="LoopController.loops">-1</intProp>
        </elementProp>
        <stringProp name="ThreadGroup.num_threads">36</stringProp>
        <stringProp name="ThreadGroup.ramp_time">20</stringProp>
        <boolProp name="ThreadGroup.scheduler">true</boolProp>
        <stringProp name="ThreadGroup.duration">600</stringProp>
        <stringProp name="ThreadGroup.delay"></stringProp>
        <boolProp name="ThreadGroup.same_user_on_next_iteration">false</boolProp>
        </ThreadGroup>
        <hashTree>
        <com.microsoft.eventhubplugin.EventHubPlugin guiclass="com.microsoft.eventhubplugin.EventHubPluginGui" testclass="com.microsoft.eventhubplugin.EventHubPlugin" testname="Azure Event Hubs Sampler" enabled="true">
            <stringProp name="eventHubConnectionVarName">EventHubConnectionString</stringProp>
            <stringProp name="eventHubName">telemetry-data-changed-eh</stringProp>
            <stringProp name="liquidTemplateFileName">StreamingDataTemplate.liquid</stringProp>
        </com.microsoft.eventhubplugin.EventHubPlugin>
        <hashTree/>
        </hashTree>
    </hashTree>
    </hashTree>
</jmeterTestPlan>

com.microsoft.eventhubplugin.EventHubPluginGui および com.microsoft.eventhubplugin.EventHubPlugin の実装は、Azure Samples で入手できます。

このファイル内で、eventHubConnectionVarName ノードの値を、Event Hubs 接続文字列のホストを指定する変数名に設定します。たとえば、Event Hubs の接続文字列を格納する環境変数を EventHubConnectionString にする場合は、この変数を EventHubConnectionString に設定してから、この環境変数の値を設定します。

重要

ロードテストスクリプトを実行する前に、Azure ロードテスト作成プロセスの一環として値 EventHubConnectionString が設定されていることを確認してください。
このファイル内で、eventHubName ノードの値をイベントハブ名 (telemetry-data-changed-eh など) に設定します。
liquidTemplateFileName ノードの値を、イベントハブに送信するメッセージを含めるファイルの名前に設定します。たとえば、次のように、StreamingDataTemplate.liquid という名前のファイルを作成します。
```
{
    {% assign numberOfMachines = 36 %}
    {% assign machineId = dataGenerator.randomNaturalNumber | modulo: numberOfMachines %}
    "MachineId": "{{machineId | prepend: '0000000000000000000000000000000000000000' | slice: -27, 27 }}"
    "Temperature": {{dataGenerator.randomInt | modulo: 100 }},
    "Humidity": {{dataGenerator.randomInt | modulo: 100 }}
}
```
この例では、イベントハブメッセージのペイロードは、3 つのプロパティ MachineId、Temperature、Humidity が含まれる JSON オブジェクトです。MachineId は長さ 27 でランダムに生成された ID、Temperature および Humidity は 100 未満のランダムな整数です。このファイルは、Liquid テンプレートの構文です。 Liquid テンプレートは、さまざまな Web 開発フレームワークで使用される一般的なテンプレート言語です。 Liquid テンプレートを使用すると、開発者は簡単に更新および変更できる動的コンテンツを作成できます。これにより、変数、条件、ループ、およびその他の動的要素をイベントハブメッセージに挿入できます。構文は簡単で、作業を開始するために役立つ豊富なオンラインリソースが用意されています。総合的に見て、Liquid テンプレートは、動的でカスタマイズ可能なメッセージを作成するための強力かつ柔軟な手段として活用できます。
ファイルを保存して閉じます。

重要

JMeter スクリプトのサンプラー名に個人データを含めないでください。サンプラー名は、Azure Load Testing のテスト結果ダッシュボードに表示されます。 Liquid テンプレートのサンプルは、JMeter スクリプトファイルと共に、Azure サンプルのページからダウンロードできます。

新しいプラグインを使用してロードテストを実行する

Azure Load Testing でロードテストを開始する場合、JMeter スクリプトと他のすべてのファイルがテストエンジンインスタンスにデプロイされてから、ロードテストが開始されます (「Apache JMeter プラグインと Azure Load Testing を使用してロードテストをカスタマイズする」の手順を参照してください)。テストを実行する前に、パラメータータブに移動して EventHubConnectionString を定義し、接続文字列をイベントハブに指定します。

環境に応じたパフォーマンステストのセットアップ

どのようなパフォーマンステストにおいても、運用環境と同様の環境を使用することが重要になります。ここでは、システムのキャパシティとパフォーマンスを理解しやすくするために、以下の環境をパフォーマンステストに使用します。

サンプルアーキテクチャでは、以下に示すサービスをパフォーマンステストに使用できます。

Service	構成
Eventhub	Premium 構成、PU (処理装置) x 1。
Azure 関数	Linux、Premium プラン (EP1) - 210 ACU、3.5 GB メモリ、vCPU x 1 相当の Standard_D1_v2
リージョン	米国東部

Event Hubs や Azure Functions など、Azure サービスに適したサービスレベルの選択は複雑なプロセスであり、多くの要因に左右されます。詳細については、「Azure Event Hubs の価格」および「Azure Functions の価格」を参照してください。

パフォーマンステスト用の KPI の設計

パフォーマンステスト用の KPI (主要性能指標) を設計するには、事前にビジネス要件とシステムアーキテクチャの 2 つが必要になります。ビジネス要件は、応答時間、スループット、エラー率など、どのような KPI を測定する必要があるのかを知るために必要な情報です。システムアーキテクチャは、Web サーバー、データベース、API など、各コンポーネントのパフォーマンスをどのようにテストするのか、その方法を知るために必要な情報です。この情報は、ロードテスト、ストレステスト、耐久テストなど、最適なパフォーマンステスト戦略を選択するためにも役立ちます。

この例でのビジネス要件は、次のとおりです。

システムが、1 秒あたり 1,000 件の要求を処理できること。
システムの信頼性が 0.99 を上回ること。
システムが、個人データ情報を報告する 1,000 台のコンカレントデバイスを処理できること。
システムの最大キャパシティ (何台のデバイスをサポートできるか) を指定すること。たとえば、現在の 3 倍のキャパシティを持つシステムでは、1,000 台のコンカレントデバイスをサポートできるか、など。

これらの要件に従い、パフォーマンステスト用として次のような KPI が考えられます。

KPI	説明
RPS	イベントハブに対する 1 秒あたりの要求数
LOAD	パフォーマンステスト中にイベントハブに送信されたロードまたは要求の数
IR	関数の実行回数またはインジェスト率
RT	Azure 関数の実行時間の平均
AMU	Azure Functions でのメモリ平均使用量
SR	すべての関数実行回数に対する成功率
ARS	ダウンストリームサービスの平均応答時間 (SQL サーバーやマイクロサービスなど)
DF	依存関係エラーの数 (内部 Azure 関数エラーを含む)
MRPS	イベントハブにバックログがない最大 RPS (システムキャパシティ)

KPI の測定方法

KPI を測定するには、パフォーマンステスト戦略が必要になります。この戦略では、各コンポーネントのパフォーマンステストアプローチを定義します。この例では、以下のパフォーマンステスト戦略を使用しています。

イベントハブ: イベントハブのパフォーマンステストアプローチは、イベントハブに多数のメッセージを送信し、RPS と LOAD を測定することです。 RPS は、1 秒あたりにイベントハブに送信されたメッセージの数です。 LOAD は、パフォーマンステスト中にイベントハブに送信されたメッセージの合計数です。 Azure Load Testing サービスでは、RPS と LOAD を測定できます。
Azure Functions: Azure Functions のパフォーマンステストアプローチは、以下のメトリックを測定することです。
- IR は、関数の実行回数またはインジェスト率です。
- RT は、Azure 関数の実行時間の平均です。
- AMU は、Azure Functions でのメモリ平均使用量です。
- SR は、すべての関数実行回数に対する成功率です。
- ARS は、ダウンストリームサービスの平均応答時間です。
- DF は、内部 Azure 関数エラーを含む、依存関係エラーの数です。
- Azure Monitor サービスでは AMU、ARS、DF を測定できますが、IR、RT、SR は測定できません。

Azure Monitor サービスを使用して KPI を測定するには、Azure Functions について Application Insights を有効にする必要があります。詳細については、「Application Insights との統合を有効にする」を参照してください。

Azure Monitor サービスを有効にした後、以下のクエリを使用して KPI を測定できます。

IR: FunctionAppLogs | where Category startswith "name-space-of-your-function" and Message startswith "Executed" | summarize count() by FunctionName, Level, bin(TimeGenerated, 1h) | order by FunctionName desc
RT: FunctionAppLogs| where Category startswith "name-space-of-your-function" and Message startswith "Executed "| parse Message with "Executed " Name " (" Result ", Id=" Id ", Duration=" Duration:long "ms)"| project TimeGenerated, Message, FunctionName, Result, FunctionInvocationId, Duration
SR: FunctionAppLogs| where Category startswith "name-space-of-your-function" and Message startswith "Executed" | summarize Success=countif(Level == "Information" ), Total=count() by FunctionName| extend Result=Success*100.0/Total| project FunctionName, Result| order by FunctionName desc

Azure Monitor ダッシュボードのサンプル

クエリに基づいて Azure Functions の KPI を示す Azure Monitor ダッシュボードのサンプルを以下に示します。

まとめ

この記事では、Azure Load Test 用に KPI を設計し、ダッシュボードを開発する方法について説明しました。また、JMeter でカスタムプラグインを使用して、Event Hubs と統合された Azure Functions に対するロードテストを実行する方法についても学習しました。同じ方法を使用して、他の Azure サービスについてロードテストを実行することもできます。 Azure DevOps を使用して、ロードテストスクリプトに対する CI/CD (継続的インテグレーションおよび継続的デリバリー) パイプラインをセットアップすることもできます。

詳細については、Azure Load Testing のドキュメントを参照してください。

共同作成者

この記事は、Microsoft によって保守されています。当初の寄稿者は以下のとおりです。

プリンシパル作成者:

Mahdi Setayesh | プリンシパルソフトウェアエンジニア

パブリックでない LinkedIn プロファイルを表示するには、LinkedIn にサインインします。

次の方法で共有

カスタムプラグインを使用した Azure Load Testing

Architecture

データフロー

コンポーネント

シナリオの詳細

考えられるユースケース

カスタムプラグイン

カスタムプラグインを使用して Apache JMeter スクリプトを作成する

新しいプラグインを使用してロードテストを実行する

環境に応じたパフォーマンステストのセットアップ

パフォーマンステスト用の KPI の設計

KPI の測定方法

Azure Monitor ダッシュボードのサンプル

まとめ

共同作成者

次のステップ

フィードバック

その他のリソース

次の方法で共有

カスタム プラグインを使用した Azure Load Testing

Architecture

データフロー

コンポーネント

シナリオの詳細

考えられるユース ケース

カスタム プラグイン

カスタム プラグインを使用して Apache JMeter スクリプトを作成する

新しいプラグインを使用してロード テストを実行する

環境に応じたパフォーマンス テストのセットアップ

パフォーマンス テスト用の KPI の設計

KPI の測定方法

Azure Monitor ダッシュボードのサンプル

まとめ

共同作成者

次のステップ

関連リソース

フィードバック

その他のリソース

カスタムプラグインを使用した Azure Load Testing

考えられるユースケース

カスタムプラグイン

カスタムプラグインを使用して Apache JMeter スクリプトを作成する

新しいプラグインを使用してロードテストを実行する

環境に応じたパフォーマンステストのセットアップ

パフォーマンステスト用の KPI の設計