Měření výkonu služby Azure Cosmos DB for NoSQL s využitím architektury srovnávacích testů

Článek
08/15/2024

U typu databáze, kterou chcete použít s datovými úlohami, je teď více možností. Jedním z klíčových faktorů při výběru databáze je výkon databáze nebo služby, ale výkon srovnávacích testů může být těžkopádný a náchylný k chybám. Architektura srovnávacích testů pro Azure Database zjednodušuje proces měření výkonu pomocí oblíbených opensourcových nástrojů pro srovnávací testy s nízkými třeními, které implementují běžné osvědčené postupy. Ve službě Azure Cosmos DB for NoSQL architektura implementuje osvědčené postupy pro sadu Java SDK a používá opensourcový nástroj YCSB . V této příručce použijete tuto srovnávací architekturu k implementaci úlohy čtení, abyste se seznámili s architekturou.

Požadavky

Účet Azure s aktivním předplatným. Vytvoření účtu zdarma
Účet Služby Azure Cosmos DB for NoSQL Vytvořte účet rozhraní API pro NoSQL.
- Nezapomeňte si pro účet poznamenat identifikátor URI koncového bodu a primární klíč.
Účet služby Azure Storage. Vytvořte účet azure Storage.
- Nezapomeňte si poznamenat připojovací řetězec pro účet úložiště. Vies Azure Storage připojovací řetězec.
Druhá prázdná skupina prostředků Vytvořte skupinu prostředků.
Rozhraní příkazového řádku Azure (CLI)

Vytvoření prostředků účtu služby Azure Cosmos DB

Nejprve vytvoříte databázi a kontejner v existujícím účtu rozhraní API for NoSQL.

Azure Portal
Azure CLI

Na webu Azure Portal přejděte ke svému stávajícímu účtu API for NoSQL.
V nabídce prostředků vyberte Průzkumník dat.
Na stránce Průzkumník dat vyberte na panelu příkazů možnost Nový kontejner.
V dialogovém okně Nový kontejner vytvořte nový kontejner s následujícím nastavením:

Nastavení Hodnota

ID databáze ycsb

Typ propustnosti databáze Ruční

Velikost propustnosti databáze 400

ID kontejneru usertable

Klíč oddílu /id

Pokud jste to ještě neudělali, přihlaste se k Azure CLI pomocí az login příkazu.

Vytvořte proměnné prostředí pro následující hodnoty:

Název existujícího účtu Azure Cosmos DB for NoSQL s názvem cosmosAccountName.
Název první skupiny prostředků s názvem sourceResourceGroupNameprostředků .
Název druhé prázdné skupiny prostředků s názvem targetResourceGroupName.
Identifikátor URI koncového bodu účtu Azure Cosmos DB for NoSQL s názvem cosmosEndpoint
Existující primární klíč účtu Azure Cosmos DB for NoSQL s názvem cosmosPrimaryKey

# Variable for Azure Cosmos DB for NoSQL account name
cosmosAccountName="<cosmos-db-nosql-account-name>"

# Variable for resource group with Azure Cosmos DB and Azure Storage accounts
sourceResourceGroupName="<first-resource-group-name>"

# Variable for empty resource group
targetResourceGroupName="<second-resource-group-name>"

# Variable for API for NoSQL endpoint URI
cosmosEndpoint="<cosmos-db-nosql-endpoint-uri>"

# Variable for API for NoSQL primary key
cosmosPrimaryKey="<cosmos-db-nosql-primary-key>"

# Variable for Azure Storage account name
storageAccountName="<storage-account-name>"

# Variable for storage account connection string
storageConnectionString="<storage-connection-string>"

az cosmosdb sql database create Pomocí příkazu vytvořte novou databázi s následujícím nastavením:

Nastavení Hodnota

ID databáze ycsb

Typ propustnosti databáze Ruční

Velikost propustnosti databáze 400
```
az cosmosdb sql database create \
    --resource-group $sourceResourceGroupName \
    --account-name $cosmosAccountName \
    --name "ycsb" \
    --throughput 400
```

az cosmosdb sql container create Pomocí příkazu vytvořte nový kontejner s následujícím nastavením:

Nastavení	Hodnota
ID databáze	`ycsb`
ID kontejneru	`usertable`
Klíč oddílu	`/id`

az cosmosdb sql container create \
    --resource-group $sourceResourceGroupName \
    --account-name $cosmosAccountName \
    --database-name "ycsb" \
    --name "usertable" \
    --partition-key-path "/id"

Nasazení architektury srovnávacích testů do Azure

Teď pomocí šablony Azure Resource Manageru nasadíte rozhraní srovnávacích testů do Azure s výchozím receptem pro čtení.

Azure Portal
Azure CLI

Nasaďte architekturu srovnávacích testů pomocí šablony Azure Resource Manageru, která je k dispozici na tomto odkazu.
Na stránce Vlastní nasazení následující parametry
Vyberte Zkontrolovat a vytvořit a pak vytvořit a nasaďte šablonu.
Počkejte, až se nasazení dokončí.

Tip

Dokončení nasazení může trvat 5 až 10 minut.

Slouží az deployment group create k nasazení architektury srovnávacích testů pomocí šablony Azure Resource Manageru.

# Variable for raw template JSON on GitHub
templateUri="https://raw.githubusercontent.com/Azure/azure-db-benchmarking/main/cosmos/sql/tools/java/ycsb/recipes/read/try-it-read/azuredeploy.json"

az deployment group create \
    --resource-group $targetResourceGroupName \
    --name "benchmarking-framework" \
    --template-uri $templateUri \
    --parameters \
        adminPassword='P@ssw.rd' \
        resultsStorageConnectionString=$storageConnectionString \
        cosmosURI=$cosmosEndpoint \
        cosmosKey=$cosmosPrimaryKey

Počkejte, až se nasazení dokončí.

Tip

Dokončení nasazení může trvat 5 až 10 minut.

Zobrazení výsledků srovnávacího testu

Teď můžete pomocí existujícího účtu Azure Storage zkontrolovat stav úlohy srovnávacího testu a zobrazit agregované výsledky. Stav se uloží pomocí tabulky úložiště a výsledky se agregují do objektu blob úložiště pomocí formátu CSV.

Azure Portal
Azure CLI

Na webu Azure Portal přejděte ke svému existujícímu účtu Azure Storage.
Přejděte do tabulky úložiště s názvem ycsbbenchmarkingmetadata a vyhledejte entitu s klíčem oddílu ycsb_sql.
JobStatus Prohlédněte si pole entity tabulky. Na začátku je Started stav úlohy a obsahuje časové razítko ve JobStartTime vlastnosti, ale ne JobFinishTime vlastnost.
Počkejte, až má úloha stav Finished a zahrne do JobFinishTime vlastnosti časové razítko.

Tip

Dokončení úlohy může trvat přibližně 20 až 30 minut.
Přejděte do kontejneru úložiště ve stejném účtu s předponou ycsbbenchmarking-*. Prohlédněte si výstup a diagnostické objekty blob nástroje.
Otevřete aggregation.csv objekt blob a prohlédněte si obsah. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.
```
Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
READ,180000,299,706,448255,1079,1159,2867
```

Dotazování záznamu úlohy v tabulce úložiště pojmenované ycsbbenchmarkingmetadata pomocí az storage entity query.

az storage entity query \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --table-name ycsbbenchmarkingmetadata

Prohlédněte si výsledky tohoto dotazu. Výsledky by měly vrátit jednu úlohu se znakem , JobStatusa JobFinishTime vlastnostmiJobStartTime. Na začátku je Started stav úlohy a obsahuje časové razítko ve JobStartTime vlastnosti, ale ne JobFinishTime vlastnost.

{
  "items": [
    {
      "JobFinishTime": "",
      "JobStartTime": "2023-02-02T13:59:42Z",
      "JobStatus": "Started",
      "NoOfClientsCompleted": "0",
      "NoOfClientsStarted": {
        "edm_type": "Edm.Int64",
        "value": 1
      },
      "PartitionKey": "ycsb_sql",
      ...
    }
  ],
  ...
}

V případě potřeby spusťte az storage entity query několikrát, dokud úloha nemá stav Finished a zahrne do JobFinishTime vlastnosti časové razítko.
```
{
  "items": [
    {
      "JobFinishTime": "2023-02-02T14:21:12Z",
      "JobStartTime": "2023-02-02T13:59:42Z",
      "JobStatus": "Finished",
      ...
    }
  ],
  ...
}
```
Tip

Dokončení úlohy může trvat přibližně 20 až 30 minut.

Vyhledejte název naposledy upraveného kontejneru úložiště s předponou ycsbbenchmarking-* použití az storage container list a dotazem JMESPath.

az storage container list \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
    --output tsv

Uložte řetězec kontejneru do proměnné s názvem storageConnectionString.

storageContainerName=$( \
    az storage container list \
        --account-name $storageAccountName \
        --connection-string $storageConnectionString \
        --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
        --output tsv \
)

Pomocí [az storage blob query]/cli/azure/storage/blob#az-storage-blob-query) můžete dotazovat výsledky úlohy v objektu blob úložiště uloženém v dříve umístěném kontejneru.

az storage blob query \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --container-name $storageContainerName \
    --name aggregation.csv \
    --query-expression "SELECT * FROM BlobStorage"

Prohlédněte si výsledky tohoto dotazu. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.

Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
READ,180000,299,706,448255,1079,1159,2867

Návody

Architektura srovnávacích testů pro Azure Database zahrnuje recepty pro zapouzdření definic úloh, které se předávají základnímu nástroji pro srovnávací testy pro prostředí "1-Click". Definice úloh byly navrženy na základě osvědčených postupů publikovaných týmem služby Azure Cosmos DB a týmem nástroje pro srovnávací testy. Recepty byly testovány a ověřeny pro konzistentní výsledky.

U všech receptů pro čtení a zápis v úložišti GitHub můžete očekávat následující latence.

Latence čtení
Latence zápisu

Běžné problémy

Tato část obsahuje běžné chyby, ke kterým může dojít při spuštění nástroje pro srovnávací testy. Protokoly chyb pro nástroj jsou obvykle dostupné v kontejneru v rámci účtu azure Storage.

Snímek obrazovky s kontejnerem a objekty blob v účtu úložiště

Pokud protokoly nejsou v účtu úložiště dostupné, příčinou tohoto problému je obvykle nesprávná nebo chybějící připojovací řetězec úložiště. V tomto případě je tato chyba uvedená v souboru agent.out ve složce /home/benchmarking klientského virtuálního počítače.
```
Error while accessing storage account, exiting from this machine in agent.out on the VM
```
Tato chyba je uvedená v souboru agent.out jak v klientském virtuálním počítači, tak v účtu úložiště, pokud je identifikátor URI koncového bodu služby Azure Cosmos DB nesprávný nebo nedostupný.
```
Caused by: java.net.UnknownHostException: rtcosmosdbsss.documents.azure.com: Name or service not known 
```
Tato chyba je uvedená v souboru agent.out v klientském virtuálním počítači i v účtu úložiště, pokud je klíč služby Azure Cosmos DB nesprávný.
```
The input authorization token can't serve the request. The wrong key is being used….
```

Další kroky

Další informace o nástroji pro srovnávací testy najdete v příručce Začínáme.

Sdílet prostřednictvím