Implementatieoptie voor AI in Azure-infrastructuur
Dit artikel bevat aanbevelingen voor implementaties voor organisaties die AI-workloads uitvoeren op Azure-infrastructuur (IaaS). Nadat u een Azure-landingszone hebt geïmplementeerd, kunt u de landingszone van de toepassing instellen met behulp van de CycleCloud-werkruimte voor Slurm. Azure CycleCloud Workspace voor Slurm biedt verschillende voordelen voor gebruikers die AI-workloads willen uitvoeren met de Slurm-planner.
Eenvoudig en snel cluster maken. Gebruikers kunnen snel Slurm-clusters in Azure maken via een eenvoudige GUI. Ze kunnen kiezen uit verschillende grootten en typen virtuele Azure-machines en clusterinstellingen aanpassen, zoals aantal knooppunten, netwerkconfiguratie, opslagopties (zoals Azure NetApp Files en Azure Managed Lustre Filesystem) en Slurm-parameters.
Flexibel en dynamisch clusterbeheer. Met Azure CycleCloud worden Slurm-clusters automatisch omhoog of omlaag geschaald. Gebruikers kunnen de clusterstatus, prestaties en het gebruik bewaken en logboeken en metrische gegevens bekijken via de GUI. Ze kunnen clusters verwijderen wanneer ze niet nodig zijn en alleen betalen voor de resources die ze gebruiken.
Volledige controle over de infrastructuur. Gebruikers hebben volledige controle over de geïmplementeerde infrastructuur, zodat ze hun eigen code, bibliotheken en pakketten kunnen meenemen en resources op aanvraag kunnen gebruiken.
Ontwerprichtlijnen
De volgende artikelen bevatten richtlijnen voor AI-workloads op Azure-infrastructuur (IaaS):
Architectuur
Afbeelding 1. AI-toepassing in Azure-infrastructuur in Azure-landingszone.
CycleCloud-werkruimte implementeren voor Slurm
De CycleCloud-werkruimte voor Slurm kan worden gebruikt als de eerste implementatie in de bedrijfsomgeving. U kunt de code ontwikkelen en aanpassen om de functionaliteit ervan uit te breiden en/of aan te passen aan uw Azure-landingszoneomgeving. Volg vervolgens de richtlijnen om een diffusiemodel van Hugging Face af te stemmen met behulp van Azure CycleCloud Workspace voor Slurm.