Opcja implementacji sztucznej inteligencji w infrastrukturze platformy Azure
Ten artykuł zawiera zalecenia dotyczące implementacji dla organizacji z obciążeniami sztucznej inteligencji w infrastrukturze platformy Azure (IaaS). Po wdrożeniu strefy docelowej platformy Azure możesz skonfigurować strefę docelową aplikacji przy użyciu obszaru roboczego CycleCloud dla programu Slurm. Usługa Azure CycleCloud Workspace for Slurm oferuje kilka korzyści dla użytkowników, którzy chcą uruchamiać obciążenia sztucznej inteligencji za pomocą harmonogramu Slurm.
Łatwe i szybkie tworzenie klastra. Użytkownicy mogą szybko tworzyć klastry Slurm na platformie Azure za pomocą prostego graficznego interfejsu użytkownika. Mogą wybierać różne rozmiary i typy maszyn wirtualnych platformy Azure oraz dostosowywać ustawienia klastra, takie jak liczba węzłów, konfiguracja sieci, opcje magazynu (takie jak Azure NetApp Files i Azure Managed Lustre Filesystem) i parametry Slurm.
Elastyczne i dynamiczne zarządzanie klastrami. Usługa Azure CycleCloud skaluje klastry Slurm w górę lub w dół automatycznie. Użytkownicy mogą monitorować stan klastra, wydajność i wykorzystanie oraz wyświetlać dzienniki i metryki za pomocą graficznego interfejsu użytkownika. Mogą usuwać klastry, gdy nie są potrzebne, i płacić tylko za używane zasoby.
Pełna kontrola nad infrastrukturą. Użytkownicy mają pełną kontrolę nad wdrożona infrastrukturą, umożliwiając im korzystanie z własnego kodu, bibliotek i pakietów oraz korzystanie z zasobów na żądanie.
Wytyczne dotyczące projektowania
Poniższe artykuły zawierają wskazówki dotyczące obciążeń sztucznej inteligencji w infrastrukturze platformy Azure (IaaS):
Architektura
Rysunek 1. Aplikacja sztucznej inteligencji w infrastrukturze platformy Azure w strefie docelowej platformy Azure.
Wdrażanie obszaru roboczego CycleCloud dla narzędzia Slurm
Obszar roboczy CycleCloud dla programu Slurm może być używany jako początkowe wdrożenie w środowisku przedsiębiorstwa. Możesz opracowywać i dostosowywać kod, aby rozszerzyć jego funkcjonalność i/lub dostosować go do środowiska strefy docelowej platformy Azure. Następnie postępuj zgodnie ze wskazówkami, aby dostosować model dyfuzji z funkcji Hugging Face przy użyciu obszaru roboczego usługi Azure CycleCloud dla slurm.