Vytváření úloh na spotových virtuálních počítačích

V tomto článku popisujeme osvědčené postupy pro vytváření spotových virtuálních počítačů Azure a zahrnuje nasaditelný ukázkový scénář. Spotové virtuální počítače poskytují přístup k výpočetní kapacitě za významné slevy na běžné virtuální počítače. Díky této slevě jsou atraktivní řešení pro organizace, které hledají optimalizaci nákladů, ale úspory mají podmínku. Spotové virtuální počítače můžou kdykoli přijít o přístup k výpočetním prostředkům. Tento proces nazýváme vyřazení. Úlohy spuštěné na spotových virtuálních počítačích musí být schopné zvládnout tato přerušení výpočetních prostředků. Správné úlohy a flexibilní mechanismus orchestrace jsou klíčem k úspěchu. Tady jsou naše doporučení pro vytváření na spotových virtuálních počítačích.

Principy spotových virtuálních počítačů

Na technické úrovni jsou spotové virtuální počítače stejné jako běžné virtuální počítače. Používají stejné image, hardware a disky, které se překládají na stejný výkon. Rozdíl mezi spotovými a běžnými virtuálními počítači se snižuje na prioritu a dostupnost. Spotové virtuální počítače nemají žádnou prioritu pro přístup k výpočetní kapacitě a po přístupu k této výpočetní kapacitě nemají žádné záruky dostupnosti. Podrobněji si probereme prioritu a dostupnost.

Žádný přístup s prioritou. Běžné virtuální počítače mají prioritní přístup k výpočetní kapacitě. Při každém vyžádání přistupují k výpočetní kapacitě. Spotové virtuální počítače se na druhou stranu nasazují jenom v případě, že je k dispozici šetřiná výpočetní kapacita, a zůstanou spuštěné jenom v případě, že běžný virtuální počítač nepotřebuje základní hardware.

Žádná záruka dostupnosti. Spotové virtuální počítače nemají žádné záruky dostupnosti. Nemají žádné smlouvy o úrovni služeb (SLA). Spotové virtuální počítače můžou okamžitě nebo kdykoli po nasazení ztratit přístup k výpočetní kapacitě (vyřazení). Spotové virtuální počítače jsou levnější kvůli možnosti vyřazení. Kdykoli Azure potřebuje zpět výpočetní kapacitu, odešle se oznámení o vyřazení a vyřadí spotový virtuální počítač. Azure poskytuje oznámení o minimálním 30sekundovém předstihu před skutečným vyřazením. Další informace najdete v tomto článku v nepřetržitém monitorování vyřazení.

Vysvětlení cen spotových virtuálních počítačů

Spotové virtuální počítače můžou být až o 90 procent levnější než běžné virtuální počítače s průběžnými platbami. Sleva se liší podle poptávky, velikosti virtuálního počítače, oblasti nasazení a operačního systému. K získání odhadu úspor nákladů doporučujeme použít cenový nástroj pro spotové virtuální počítače Azure. Další informace najdete tady:

• nástroji pro ceny spotových virtuálních počítačů Azure
• přehled cen spotových virtuálních počítačů

Můžete se také dotazovat rozhraní API maloobchodních cen Azure a získat tak prostřednictvím kódu programu spotové ceny pro libovolnou cenovou položku, která vás zajímá.

Vysvětlení přerušitelných úloh

Přerušitelné úlohy jsou nejlepším případem použití spotových virtuálních počítačů. Přerušitelné úlohy mají několik běžných charakteristik. Mají minimální až žádná časová omezení, nízkou prioritu organizace a krátkou dobu zpracování. Spouští procesy, které se najednou zastaví a obnoví později, aniž by poškodily základní organizační procesy. Příklady přerušitelných úloh jsou aplikace dávkového zpracování, analýzy dat a úlohy, které vytvářejí agenta průběžného nasazování kontinuální integrace pro neprodukční prostředí. Tyto funkce jsou v kontrastu s běžnými nebo kritickými úlohami, které mají smlouvy o úrovni služeb (SLA), rychlé relace a stavová data. Tabulka obsahuje příklady pro oba typy úloh.

Spotový virtuální počítač můžete použít v nerušitelných úlohách, ale neměly by to být jediný zdroj výpočetní kapacity. Používejte tolik běžných virtuálních počítačů, kolik potřebujete ke splnění požadavků na dobu provozu.

Vysvětlení vyřazení

Spotové virtuální počítače nemají po vytvoření smlouvy o úrovni služeb (SLA) a můžou kdykoli přijít o přístup k výpočetním prostředkům. Tuto výpočetní ztrátu nazýváme vyřazení. Vyřazení vyřazování výpočetních prostředků a poptávky Když poptávka po určité velikosti virtuálního počítače překročí určitou úroveň, Azure vyřadí spotové virtuální počítače, aby byly výpočetní prostředky dostupné pro běžné virtuální počítače. Poptávka je specifická pro umístění. Zvýšení poptávky v oblasti A nemá vliv na spotové virtuální počítače v oblasti B.

Spotové virtuální počítače mají dvě možnosti konfigurace, které ovlivňují vyřazení. Tyto konfigurace jsou typu vyřazení a zásady vyřazení spotového virtuálního počítače. Tyto konfigurace nastavíte při vytváření spotového virtuálního počítače. Typ vyřazení definuje podmínky vyřazení. Zásada vyřazení určuje, co dělá vyřazení spotového virtuálního počítače. Pojďme vyřešit obě možnosti konfigurace.

Typ vyřazení

Změny kapacity nebo změny cen způsobují vyřazení. Způsob, jakým změny kapacity a ceny ovlivňují spotové virtuální počítače, závisí na typu vyřazení zvoleném při vytvoření virtuálního počítače. Typ vyřazení definuje podmínky vyřazení. Typy vyřazení jsou "pouze vyřazení kapacity" a "cena nebo vyřazení kapacity".

Vyřazení pouze kapacity: Tento typ vyřazení aktivuje vyřazení, když zmizí nadbytečná výpočetní kapacita. Ve výchozím nastavení je cena omezena sazbou průběžných plateb. Tento typ vyřazení použijte, když jste ochotni zaplatit až na cenu virtuálního počítače s průběžným platbou.

Cena nebo vyřazení kapacity: Tento typ vyřazení má dva triggery. Azure vyřadí spotový virtuální počítač, když zmizí nadbytečná výpočetní kapacita nebo náklady na virtuální počítač překročí nastavenou maximální cenu. Tento typ vyřazení umožňuje nastavit maximální cenu pod cenou průběžných plateb. Tento typ vyřazení použijte k nastavení vlastního cenového limitu.

Zásady vyřazení

Zásada vyřazení zvolená pro spotový virtuální počítač má vliv na orchestraci. Orchestrace znamená proces zpracování vyřazení. Orchestraci probereme podrobněji později. Zásady vyřazení jsou "Stop/Deallocate policy" a "Delete policy".

zásady zastavení nebo zrušení přidělení: Zásada vyřazení stop/zrušení přidělení je nejvhodnější, když úloha může čekat na kapacitu uvolnění v rámci stejného umístění a typu virtuálního počítače. Zásady zastavení/zrušení přidělení zastaví virtuální počítač a ukončí jeho zapůjčení základním hardwarem. Zastavení a uvolnění spotového virtuálního počítače je stejné jako zastavení a uvolnění běžného virtuálního počítače. Virtuální počítač zůstane dostupný v Azure a později můžete stejný virtuální počítač restartovat. Se zásadami zastavení/zrušení přidělení virtuální počítač ztratí výpočetní kapacitu a nestatické IP adresy. Datové disky virtuálních počítačů ale zůstávají a stále se účtují poplatky. Virtuální počítač také zabírá jádra v předplatném. Virtuální počítače se nedají přesunout z oblasti ani zóny, ani když jsou zastavené nebo uvolněné. Další informace najdete v tématu stavy napájení virtuálních počítačů a fakturační.

odstranění zásad: Pokud úloha může změnit umístění nebo velikost virtuálního počítače, použijte zásadu odstranění. Změna umístění nebo velikosti virtuálního počítače umožňuje rychlejší nasazení virtuálního počítače. Zásada odstranění odstraní virtuální počítač a libovolný datový disk. Virtuální počítač nezabývá jádra v předplatných. Další informace o zásadách vyřazení najdete v tématu zásady vyřazení.

Návrh pro flexibilní orchestraci

Orchestrace je proces nahrazení spotového virtuálního počítače po vyřazení. Je základem vytvoření spolehlivě přerušitelné úlohy. Dobrý systém orchestrace má integrovanou flexibilitu. Díky flexibilitě chceme navrhnout orchestraci tak, aby měla možnosti, používat více velikostí virtuálních počítačů, nasazovat do různých oblastí, vyřazovat a počítat s různými scénáři vyřazení, aby se zlepšila spolehlivost a rychlost úloh.

Návrh pro rychlost

Pro úlohy běžící na spotových virtuálních počítačích je výpočetní kapacita pokladem. Bezprostřední potenciál vyřazení by měl zvýšit vaše uznání za přidělený výpočetní čas a měl by překládat na smysluplná rozhodnutí o návrhu, která upřednostňují rychlost úloh. Obecně byste měli optimalizovat výpočetní čas, který máte. Měli byste vytvořit image virtuálního počítače s předinstalovaným veškerým požadovaným softwarem. Předinstalovaný software pomáhá minimalizovat čas mezi vyřazením a plně spuštěnou aplikací. Chcete se vyhnout používání výpočetního času u procesů, které nepřispívají k účelu úlohy. Úloha pro analýzu dat by se například měla soustředit na většinu výpočetních časů na zpracování dat a co nejméně na shromažďování metadat vyřazení. Eliminujte žádné procesy z vaší aplikace.

Použití více velikostí a umístění virtuálních počítačů

Pokud chcete zvýšit flexibilitu, doporučujeme vytvořit orchestraci pro použití více typů a velikostí virtuálních počítačů. Cílem je poskytnout vašim možnostem orchestrace nahradit vyřazený virtuální počítač. Azure má různé typy a velikosti virtuálních počítačů, které poskytují podobné funkce pro stejnou cenu. Virtuální počítače byste měli filtrovat s minimálními virtuálními procesory/ jádry a/nebo minimální pamětí RAM a maximální cenou, abyste našli několik virtuálních počítačů, které mají výkon pro spouštění úloh a vyhovovaly vašemu rozpočtu.

Každý typ virtuálního počítače má míru vyřazení vyjádřenou v procentuálním rozsahu (0–5%, 5–10%, 10–15%, 15–20%, 20 +%). Míra vyřazení se může lišit v různých oblastech. Možná zjistíte lepší míru vyřazení pro stejný typ virtuálního počítače v jiné oblasti. Sazby vyřazení pro každý typ virtuálního počítače najdete na portálu na kartě Základy. Vyberte odkazy Velikost (Zobrazit historii cen nebo Zobrazit všechny velikosti). Data spotových virtuálních počítačů můžete získat také prostřednictvím kódu programu pomocí Azure Resource Graphu.

Zvažte také použití funkce Bodové skóre umístění k vyhodnocení pravděpodobnosti úspěchu jednotlivých spotových nasazení v rámci vašeho systému orchestrace. Další informace najdete tady:

• míra vyřazení
• Azure Resource Graphu
• skóre umístění spotových umístění (Preview)

Použití nejflexibilnější zásady vyřazení

Zásady vyřazení vyřazeného spotového virtuálního počítače ovlivňují proces nahrazení. Zásady vyřazení odstranění jsou flexibilnější než zastavené nebo uvolněné zásady vyřazení.

Nejprve zvažte zásadu odstranění: Pokud ji vaše úloha zvládne, doporučujeme použít zásadu vyřazení odstranění. Odstranění umožňuje orchestraci nasadit náhradní spotové virtuální počítače do nových zón a oblastí. Tato flexibilita nasazení může vaší úloze pomoct rychleji najít volnou výpočetní kapacitu než zastavený nebo uvolněný virtuální počítač. Zastavené nebo uvolněné virtuální počítače musí čekat na volnou výpočetní kapacitu ve stejné zóně, ve které byla vytvořena. Pro zásadu odstranění potřebujete proces pro monitorování vyřazení, který je externí pro aplikaci a orchestruje nasazení do různých oblastí nebo s různými skladovými položkami virtuálních počítačů.

vysvětlení zastavených a uvolněných zásad: Zastavená nebo uvolněná zásada má menší flexibilitu než zásada odstranění. Spotové virtuální počítače musí zůstat ve stejné oblasti a zóně. Zastavený nebo uvolněný virtuální počítač nejde přesunout do jiného umístění. Vzhledem k tomu, že virtuální počítače mají pevné umístění, potřebujete něco, co je potřeba k opětovnému přidělení virtuálního počítače, jakmile bude výpočetní kapacita dostupná. Neexistuje způsob, jak předpovědět dostupnost výpočetní kapacity. Proto byste měli použít automatizovaný kanál plánu k pokusu o opětovné nasazení po vyřazení. Vyřazení by mělo aktivovat plánový kanál a pokusy o opětovné nasazení by měly nepřetržitě kontrolovat výpočetní kapacitu, dokud nebude k dispozici.

Průběžné monitorování vyřazení

Monitorování je klíčem ke spolehlivosti úloh na spotových virtuálních počítačích. Spotové virtuální počítače nemají po vytvoření smlouvu SLA a je možné je kdykoli vyřadit. Nejlepším způsobem, jak zlepšit spolehlivost úloh na spotových virtuálních počítačích, je předvídat, kdy budou vyřazeny. S využitím těchto informací byste mohli pokusit o řádné vypnutí úloh a aktivovat automatizaci, která orchestruje nahrazení.

použít naplánované události: Pro každý virtuální počítač použijte službu Naplánované události. Azure odesílá virtuálním počítačům signály, když je údržba infrastruktury ovlivní. Vyřazení se kvalifikují jako údržba infrastruktury. Azure odešle signál Preempt všem virtuálním počítačům minimálně 30 sekund, než se vyřadí. Služba s názvem Schedule Events umožňuje zachytit tento Preempt signál dotazováním koncového bodu na statickou nesměrovatelnou IP adresu 169.254.169.254.

Používejte časté dotazy: Dotazování koncového bodu Plánování událostí často stačí k orchestraci řádného vypnutí. Koncový bod naplánovaných událostí můžete dotazovat až za sekundu, ale jedna sekunda nemusí být pro všechny případy použití nutná. Tyto dotazy musí pocházet z aplikace spuštěné na spotovém virtuálním počítači. Dotaz nemůže pocházet z externího zdroje. V důsledku toho dotazy spotřebovávají výpočetní kapacitu virtuálního počítače a ukradnou výpočetní výkon z hlavní úlohy. Abyste splnili svoji konkrétní situaci, musíte tyto konkurenční priority vyvážit.

Automatizovat orchestraci: Jakmile shromáždíte signál Preempt, měla by orchestrace na tento signál reagovat. Vzhledem k časovým omezením by se signál Preempt měl pokusit o řádné vypnutí úlohy a spustit automatizovaný proces, který nahradí spotový virtuální počítač. Další informace najdete tady:

• naplánovaných událostí
• typy naplánovaných událostí
• frekvence dotazování koncových bodů

Sestavení systému nasazení

Vaše orchestrace potřebuje automatizovaný kanál k nasazení nových spotových virtuálních počítačů při vyřazení. Kanál by se měl spustit mimo samotnou přerušitelnou úlohu, aby se zajistila trvalost. Způsob, jakým by měl kanál nasazení fungovat, závisí na zásadách vyřazení, které vyberete pro spotové virtuální počítače.

Pro zásady odstranění doporučujeme vytvořit kanál, který používá různé velikosti virtuálních počítačů a nasazuje do různých oblastí. Pro zásady zastavení/uvolnění potřebuje kanál nasazení dvě různé akce. Pro počáteční vytvoření virtuálního počítače musí kanál nasadit správné velikosti virtuálních počítačů do správného umístění. U vyřazeného virtuálního počítače se kanál musí pokusit restartovat virtuální počítač, dokud nebude fungovat. Kombinace upozornění služby Azure Monitor a Azure Functions je jedním z několika způsobů automatizace systému nasazení. Kanál může používat šablony bicep. Jsou deklarativní a idempotentní a představují osvědčený postup pro nasazení infrastruktury.

Příprava na okamžité vyřazení

Azure může okamžitě po vytvoření vyřadit spotový virtuální počítač a před spuštěním úloh. Jen proto, že k vytvoření spotového virtuálního počítače došlo k kapacitě, neznamená to, že se zachová. Spotové virtuální počítače nemají po vytvoření žádné záruky dostupnosti (SLA). Vaše orchestrace musí počítat s okamžitým vyřazením. Signál Preempt poskytuje oznámení o vyřazení minimálně 30 sekund předem.

Začleňte do orchestrace kontroly stavu virtuálního počítače, abyste se připravili na okamžité vyřazení. Orchestrace pro okamžité vyřazení se nemůže spoléhat na události plánování Preempt signálu. Pouze samotný virtuální počítač se může dotazovat na signál Preempt a není dostatek času na spuštění aplikace, dotazování koncového bodu Naplánovat události a řádné vypnutí. Kontrola stavu se proto musí nacházet mimo prostředí úloh. Kontroly stavu musí sledovat stav spotového virtuálního počítače a spustit kanál nasazení, který nahradí spotový virtuální počítač, když se stav změní na uvolnění nebo zastavení.

Plánování několika souběžných vyřazení

Pokud používáte cluster spotových virtuálních počítačů, měli byste úlohu navrhovat tak, aby vydržela několik souběžných vyřazení. Několik spotových virtuálních počítačů v úloze je možné současně vyřadit. Souběžné vyřazení několika virtuálních počítačů může ovlivnit propustnost aplikace. Aby se tomu zabránilo, kanál nasazení by měl být schopný shromáždit signály z více virtuálních počítačů a současně nasadit několik náhradních virtuálních počítačů.

Návrh pro řádné vypnutí

Procesy vypnutí virtuálního počítače by měly být kratší než 30 sekund a umožní vypnutí virtuálního počítače před vyřazením. Doba trvání vypnutí závisí na tom, jak často se vaše úloha dotazuje na koncový bod Naplánované události. Čím častěji se dotazujete na koncový bod, tím delší může být proces vypnutí. Proces vypnutí by měl uvolnit prostředky, vyprázdnění připojení a vyprázdnění protokolů událostí. Měli byste pravidelně vytvářet a ukládat kontrolní body, abyste uložili kontext a vytvořili efektivnější strategii obnovení. Kontrolní bod je jen informace o tom, jaké procesy nebo transakce musí další virtuální počítač začít. Měly by indikovat, jestli by měl virtuální počítač pokračovat tam, kde předchozí virtuální počítač přestal, nebo pokud by měl nový virtuální počítač vrátit změny zpět a spustit celý proces znovu. Kontrolní body byste měli uložit mimo prostředí spotového virtuálního počítače. Účet úložiště by fungoval.

Otestování orchestrace

Doporučujeme simulovat události vyřazení pro testování orchestrace v vývojových/testovacích prostředích. Další informace najdete v tématu simulace vyřazení.

Návrh idempotentní úlohy

Doporučujeme navrhnout idempotentní úlohu. Výsledek zpracování události více než jednou by měl být stejný jako zpracování jednou. Vyřazení může vést k vynuceným vypnutím, a to i přes úsilí o zajištění řádného vypnutí. Vynucené vypnutí může ukončit procesy před dokončením. Idempotentní úlohy mohou přijímat stejnou zprávu více než jednou a výsledek zůstane stejný. Další informace najdete v tématu idempotence.

Použití období zahřátí aplikace

Většina přerušitelných úloh spouští aplikace. Aplikace potřebují čas na instalaci a čas spuštění. Potřebují čas připojit se k externímu úložišti a shromáždit informace z kontrolních bodů. Před zahájením zpracování doporučujeme, abyste měli dobu zahřívání aplikace. Během období zahřívání by se měla aplikace spouštět, připojovat a připravovat na přispívání. Aplikaci byste měli povolit, aby začala zpracovávat data jenom po ověření stavu aplikace.

období zahřívání aplikace

Konfigurace spravovaných identit přiřazených uživatelem

Ke zjednodušení procesu ověřování a autorizace doporučujeme používat spravované identity přiřazené uživatelem. Spravované identity přiřazené uživatelem umožňují vyhnout se vkládání přihlašovacích údajů do kódu a nejsou svázané s jedním prostředkem, jako jsou spravované identity přiřazené systémem. Spravované identity přiřazené uživatelem obsahují oprávnění a přístupové tokeny z ID Microsoft Entra, které je možné během orchestrace znovu použít a přiřadit k spotovým virtuálním počítačům. Konzistence tokenů napříč spotovými virtuálními počítači pomáhá zjednodušit orchestraci a přístup k prostředkům úloh, které spotové virtuální počítače mají.

Při použití spravovaných identit přiřazených systémem může nový spotový virtuální počítač získat jiný přístupový token od Microsoft Entra ID. Pokud potřebujete používat spravované identity přiřazené systémem, doporučujeme, aby byly úlohy odolné vůči 403 Forbidden Error odpovědí. Vaše orchestrace potřebuje získat tokeny z ID Microsoft Entra se správnými oprávněními. Další informace najdete v tématu spravovaných identit.

Ukázkový scénář

Ukázkový scénář nasadí aplikaci pro zpracování fronty, která se kvalifikuje jako přerušitelná úloha. Skripty ve scénáři jsou ilustrativní. Tento scénář vás provede jednorázovým ručním odesláním nasazení prostředků. V této implementaci neexistuje kanál nasazení. Kanál nasazení je ale nezbytný k automatizaci procesu orchestrace. Diagram znázorňuje architekturu ukázkového scénáře.

Následující poznámky vysvětlují klíčové aspekty architektury:

1. definici aplikace virtuálního počítače: Definice aplikace virtuálního počítače se vytvoří v Galerii výpočetních prostředků Azure. Definuje název aplikace, umístění, operační systém a metadata. Verze aplikace je čísloovaná verze definice aplikace virtuálního počítače. Verze aplikace je instance aplikace virtuálního počítače. Musí být ve stejné oblasti jako spotové virtuální počítače. Verze aplikace odkazuje na zdrojový balíček aplikace v účtu úložiště.
2. Účet úložiště: Účet úložiště ukládá balíček zdrojové aplikace. V této architektuře se jedná o komprimovaný soubor tar s názvem worker-0.1.0.tar.gz. Obsahuje dva soubory. Jedním souborem je orchestrate.sh skript Bash, který nainstaluje pracovní aplikaci .NET.
3. spotového virtuálního počítače: nasadí spotové virtuální počítače. Musí být ve stejné oblasti jako verze aplikace. Stáhne worker-0.1.0.tar.gz do virtuálního počítače po nasazení. Šablona bicep nasadí image Ubuntu na virtuální počítač řady Standard. Tyto konfigurace splňují potřeby této aplikace a nejsou obecnými doporučeními pro vaše aplikace.
4. Fronta úložiště: druhá služba spuštěná v pracovním procesu .NET obsahuje logiku fronty zpráv. Microsoft Entra ID uděluje spotovým virtuálním počítačům přístup k frontě úložiště s identitou přiřazenou uživatelem pomocí RBAC.
5. pracovní aplikace .NET: Skript orchestrate.sh nainstaluje pracovní aplikaci .NET, která spouští dvě služby na pozadí. První služba se dotazuje koncového bodu Naplánovat události a vyhledá Preempt signál a odešle tento signál druhé službě. Druhá služba zpracovává zprávy z fronty úložiště a naslouchá Preempt signálu z první služby. Když druhá služba obdrží signál, přeruší zpracování fronty úložiště a začne se vypínat.
6. koncový bod naplánovaných událostí dotazu: požadavek rozhraní API se odešle na statickou nesměrovatelnou IP adresu 169.254.169.254. Požadavek rozhraní API se dotazuje koncového bodu naplánované události na signály údržby infrastruktury.
7. Application Insights: Architektura používá Application Insights jenom pro účely výuky. Nejedná se o základní součást orchestrace přerušitelných úloh. Je to způsob, jak ověřit telemetrii z pracovní aplikace .NET. Pracovní aplikace .NET odesílá telemetrii do Application Insights. Další informace najdete v tématu povolení živých metrik z aplikace .NET.

Nasazení tohoto scénáře

existuje úložiště GitHub označované jako přerušitelné úlohy na místě pomocí šablon, skriptů a podrobných pokynů k nasazení této architektury.

Další krok

Další informace o spotových virtuálních počítačích najdete v tématu azure Spot Virtual Machines.

Související prostředky

• přístupy architektury pro správu nákladů a přidělování ve víceklientských řešeních
• spuštění virtuálního počítače s Windows v Azure
• spuštění virtuálního počítače s Linuxem v Azure