Zarządzanie koncentratorami, współpraca i organizowanie ich

Artykuł
11/24/2024

Centra to podstawowy zasób platformy Azure najwyższego poziomu dla usługi Azure AI Foundry i zapewniają centralny sposób zarządzania zasobami zabezpieczeń, łączności i obliczeń na placach zabaw i projektach. Po utworzeniu centrum deweloperzy mogą tworzyć na ich podstawie projekty i uzyskiwać dostęp do udostępnionych zasobów firmy bez konieczności wielokrotnej pomocy administratora IT.

Obszary robocze projektu utworzone przy użyciu centrum dziedziczą te same ustawienia zabezpieczeń i dostęp do zasobów udostępnionych. Zespoły mogą tworzyć obszary robocze projektu zgodnie z potrzebami, aby organizować swoją pracę, izolować dane i/lub ograniczać dostęp.

W tym artykule dowiesz się więcej o możliwościach centrum i sposobie konfigurowania centrum dla organizacji. Zasoby utworzone w witrynie Azure Portal i w usłudze Azure AI Foundry są widoczne.

Szybka eksploracja przypadków użycia sztucznej inteligencji bez wąskich gardeł IT

Pomyślne aplikacje i modele sztucznej inteligencji zwykle zaczynają się jako prototypy, w których deweloperzy testować możliwości pomysłu lub oceniać jakość danych lub model pod kątem określonego zadania. Prototyp jest krokiem w kierunku finansowania projektu lub wdrożenia na pełną skalę.

Gdy jeden zespół platformy jest odpowiedzialny za konfigurację zasobów w chmurze, przejście od udowodnienia możliwości pomysłu do finansowanego projektu może być wąskim gardłem w zakresie produktywności. Taki zespół może być jedynym autoryzowanym do konfigurowania zabezpieczeń, łączności lub innych zasobów, które mogą ponosić koszty. Taka sytuacja może spowodować ogromną listę prac, co skutkuje zablokowaniem zespołów programistycznych w zakresie innowacji przy użyciu nowego pomysłu. W portalu azure AI Foundry centra pomagają wyeliminować to wąskie gardło. It może skonfigurować wstępnie skonfigurowane środowisko wielokrotnego użytku (centrum) dla zespołu jednorazowo. Następnie zespół może użyć tego centrum, aby utworzyć własne projekty do tworzenia prototypów, tworzenia i obsługi aplikacji sztucznej inteligencji.

Konfigurowanie i zabezpieczanie centrum dla zespołu

Rozpocznij od utworzenia pierwszego centrum w portalu Azure AI Foundry lub użyj witryny Azure Portal lub szablonów , aby uzyskać zaawansowane opcje konfiguracji. Aby spełnić wymagania organizacji, można dostosować sieć, tożsamość, szyfrowanie, monitorowanie lub tagi.

Często projekty w domenie biznesowej wymagają dostępu do tych samych zasobów firmy, takich jak indeksy wektorowe, punkty końcowe modelu lub repozytoria. Jako lider zespołu możesz wstępnie skonfigurować łączność z tymi zasobami w centrum, aby deweloperzy mogli uzyskiwać do nich dostęp z dowolnego nowego obszaru roboczego projektu bez opóźnień w it.

Połączenia umożliwiają dostęp do obiektów w portalu usługi Azure AI Foundry zarządzanych poza centrum. Na przykład przekazane dane na koncie usługi Azure Storage lub wdrożenia modelu w istniejącym zasobie usługi Azure OpenAI. Połączenie może być współużytkowane dla każdego projektu lub udostępnione jednemu konkretnemu projektowi. Połączenia można skonfigurować przy użyciu dostępu opartego na kluczach lub identyfikatora Firmy Microsoft w celu autoryzowania dostępu do użytkowników w połączonym zasobie. Ponadto jako administrator możesz śledzić, przeprowadzać inspekcję i zarządzać połączeniami między projektami przy użyciu centrum.

Udostępnione zasoby i konfiguracje platformy Azure

Różne pojęcia związane z zarządzaniem są dostępne w centrach do obsługi potencjalnych klientów zespołu i administratorów w celu centralnego zarządzania środowiskiem zespołu.

Konfiguracja zabezpieczeń, w tym dostęp do sieci publicznej, sieć wirtualna, szyfrowanie kluczy zarządzanych przez klienta i uprzywilejowany dostęp, do którego można tworzyć projekty do dostosowywania. Ustawienia zabezpieczeń skonfigurowane w centrum są automatycznie przekazywane do każdego projektu. Zarządzana sieć wirtualna jest współdzielona między wszystkimi projektami, które współużytkuje ten sam koncentrator.
Połączenia są nazwane i uwierzytelnione odwołania do zasobów platformy Azure i spoza platformy Azure, takich jak dostawcy magazynu danych. Użyj połączenia jako środka, aby udostępnić zasób zewnętrzny grupie deweloperów bez konieczności uwidaczniania przechowywanych poświadczeń dla danej osoby.
Alokacja zasobów obliczeniowych i przydziałów jest zarządzana jako pojemność udostępniona dla wszystkich projektów w portalu usługi Azure AI Foundry, który współużytkuje to samo centrum. Ten limit przydziału obejmuje wystąpienie obliczeniowe jako zarządzaną stację roboczą opartą na chmurze dla danej osoby. Ten sam użytkownik może używać wystąpienia obliczeniowego w projektach.
Klucze dostępu usług sztucznej inteligencji do punktów końcowych dla wstępnie utworzonych modeli sztucznej inteligencji są zarządzane w zakresie centrum. Użyj tych punktów końcowych, aby uzyskać dostęp do modeli podstawowych z poziomu usług Azure OpenAI, Speech, Vision i Content Safety z jednym kluczem interfejsu API
Zasady wymuszane na platformie Azure w zakresie centrum mają zastosowanie do wszystkich zarządzanych w nim projektów.
Zasoby zależne platformy Azure są konfigurowane raz na koncentrator i skojarzone projekty oraz używane do przechowywania artefaktów generowanych podczas pracy w portalu usługi Azure AI Foundry, takim jak dzienniki lub podczas przekazywania danych. Aby uzyskać więcej informacji, zobacz Zależności sztucznej inteligencji platformy Azure.

Organizowanie pracy w projektach na potrzeby dostosowywania

Centrum udostępnia środowisko hostingu dla projektów w portalu usługi Azure AI Foundry. Projekt jest kontenerem organizacyjnym, który zawiera narzędzia do dostosowywania i orkiestracji sztucznej inteligencji. Umożliwia organizowanie pracy, zapisywanie stanu między różnymi narzędziami, takimi jak przepływ monitów i współpraca z innymi osobami. Można na przykład udostępniać przekazane pliki i połączenia ze źródłami danych.

Wiele projektów może używać centrum, a wielu użytkowników może używać projektu. Projekt pomaga również śledzić rozliczenia oraz zarządzać dostępem i zapewniać izolację danych. Każdy projekt używa dedykowanych kontenerów magazynu, aby umożliwić przekazywanie plików i udostępnianie ich tylko innym członkom projektu podczas korzystania z środowisk "danych".

Projekty umożliwiają tworzenie i grupowanie składników wielokrotnego użytku, które mogą być używane w różnych narzędziach w portalu azure AI Foundry:

Asset	opis
Dane	Zestaw danych, który może służyć do tworzenia indeksów, dostrajania modeli i oceniania modeli.
Przepływy	Zestaw instrukcji wykonywalnych, który może implementować logikę sztucznej inteligencji.
Oceny	Oceny modelu lub przepływu. Możesz uruchamiać oceny ręczne lub oparte na metrykach.
Indeksy	Indeksy wyszukiwania wektorowego generowane na podstawie danych.

Projekty mają również określone ustawienia, które przechowują tylko dla tego projektu:

Asset	opis
Połączenia projektu	Połączenia z zasobami zewnętrznymi, takimi jak dostawcy magazynu danych, których mogą używać tylko Ty i inni członkowie projektu. Uzupełniają one połączenia udostępnione w centrum dostępnym dla wszystkich projektów.
Monituj środowisko uruchomieniowe przepływu	Przepływ monitów to funkcja, która może służyć do generowania, dostosowywania lub uruchamiania przepływu. Aby użyć przepływu monitu, musisz utworzyć środowisko uruchomieniowe na podstawie wystąpienia obliczeniowego.

Uwaga

W portalu usługi Azure AI Foundry można również zarządzać ustawieniami języka i powiadomień, które mają zastosowanie do wszystkich projektów, do których można uzyskiwać dostęp niezależnie od centrum lub projektu.

Klucze dostępu interfejsu API usług Azure AI

Centrum umożliwia konfigurowanie połączeń z istniejącymi typami zasobów usługi Azure OpenAI lub Azure AI Services, które mogą służyć do hostowania wdrożeń modelu. Dostęp do tych wdrożeń modelu można uzyskać z połączonych zasobów w portalu azure AI Foundry. Klucze do połączonych zasobów można znaleźć w witrynie Azure AI Foundry Portal lub witrynie Azure Portal. Aby uzyskać więcej informacji, zobacz Znajdowanie zasobów usługi Azure AI Foundry w witrynie Azure Portal.

Sieć wirtualna

Centra, zasoby obliczeniowe i projekty współdzielą tę samą sieć wirtualną platformy Azure zarządzaną przez firmę Microsoft. Po skonfigurowaniu ustawień sieci zarządzanej podczas procesu tworzenia centrum wszystkie nowe projekty utworzone przy użyciu tego centrum będą dziedziczyć te same ustawienia sieci wirtualnej. W związku z tym wszelkie zmiany ustawień sieci są stosowane do wszystkich bieżących i nowych projektów w tym centrum. Domyślnie koncentratory zapewniają dostęp do sieci publicznej.

Aby ustanowić prywatne połączenie przychodzące ze środowiskiem centrum, utwórz punkt końcowy usługi Azure Private Link w następujących zakresach:

Koncentrator
Zależny Azure AI services zasób dostarczający
Każda inna zależność sztucznej inteligencji platformy Azure, taka jak azure storage

Projekty są wyświetlane jako własne zasoby śledzenia w witrynie Azure Portal, ale nie wymagają dostępu do własnych punktów końcowych łącza prywatnego. Nowe projekty tworzone po skonfigurowaniu koncentratora są automatycznie dodawane do środowiska izolowanego przez sieć.

Połączenia z zasobami platformy Azure i innych firm

Usługa Azure AI oferuje zestaw łączników, które umożliwiają łączenie się z różnymi typami źródeł danych i innymi narzędziami platformy Azure. Możesz wykorzystać łączniki do łączenia się z danymi, takimi jak indeksy w usłudze Azure AI Search, aby rozszerzyć przepływy.

Połączenia można skonfigurować jako udostępnione wszystkim projektom w tym samym centrum lub utworzyć wyłącznie dla jednego projektu. Aby zarządzać połączeniami za pośrednictwem usługi Azure AI Foundry, przejdź do projektu, a następnie wybierz pozycję Centrum zarządzania. Wybierz pozycję Połączone zasoby w sekcji Centrum lub Projekt , aby odpowiednio zarządzać połączeniami udostępnionymi dla projektu lub centrum. Jako administrator możesz przeprowadzać inspekcję połączeń współużytkowanych i opartych na projekcie na poziomie centrum, aby mieć jedno okienko łączności między projektami.

Zależności sztucznej inteligencji platformy Azure

Warstwy usługi Azure AI Foundry na podstawie istniejących usług platformy Azure, w tym usług Azure AI i Azure Machine Learning. Chociaż nazwy wyświetlane w witrynie Azure Portal, usłudze Azure AI Foundry lub w przypadku korzystania z zestawu SDK lub interfejsu wiersza polecenia mogą nie być widoczne, niektóre z tych szczegółów architektury stają się widoczne podczas pracy z interfejsami API REST platformy Azure, raportowania kosztów platformy Azure lub używania szablonów infrastruktury jako kodu, takich jak Azure Bicep lub Azure Resource Manager. Z perspektywy dostawcy zasobów platformy Azure typy zasobów usługi Azure AI Foundry są mapowe na następujące rodzaje dostawców zasobów:

Typ zasobu	Dostawca zasobów	Rodzaj
Centrum usługi Azure AI Foundry	`Microsoft.MachineLearningServices/workspace`	`hub`
Projekt rozwiązania Azure AI Foundry	`Microsoft.MachineLearningServices/workspace`	`project`
Usługi Azure AI lub Azure AI OpenAI Service	`Microsoft.CognitiveServices/account`	`AIServices` `OpenAI`

Podczas tworzenia nowego centrum wymagany jest zestaw zależnych zasobów platformy Azure do przechowywania danych przekazywanych lub generowanych podczas pracy w portalu azure AI Foundry. Jeśli te zasoby nie zostaną ci udostępnione i będą wymagane, zostaną one automatycznie utworzone.

Zależny zasób platformy Azure	Dostawca zasobów	Opcjonalnie	Uwaga
Wyszukiwanie AI platformy Azure	`Microsoft.Search/searchServices`	✔	Udostępnia możliwości wyszukiwania dla projektów.
Konto usługi Azure Storage	`Microsoft.Storage/storageAccounts`		Przechowuje artefakty dla projektów, takich jak przepływy i oceny. W przypadku izolacji danych kontenery magazynu są poprzedzone prefiksem przy użyciu identyfikatora GUID projektu i są warunkowo zabezpieczone przy użyciu usługi Azure ABAC dla tożsamości projektu.
Azure Key Vault	`Microsoft.KeyVault/vaults`		Przechowuje wpisy tajne, takie jak parametry połączenia dla połączeń zasobów. W przypadku izolacji danych wpisy tajne nie mogą być pobierane między projektami za pośrednictwem interfejsów API.
Azure Container Registry	`Microsoft.ContainerRegistry/registries`	✔	Przechowuje obrazy platformy Docker utworzone podczas korzystania z niestandardowego środowiska uruchomieniowego na potrzeby przepływu monitów. W przypadku izolacji danych obrazy platformy Docker są poprzedzone prefiksem przy użyciu identyfikatora GUID projektu.
aplikacja systemu Azure Szczegółowe informacje i Obszar roboczy usługi Log Analytics	`Microsoft.Insights/components` `Microsoft.OperationalInsights/workspaces`	✔	Używany jako magazyn dzienników w przypadku wybrania rejestrowania na poziomie aplikacji dla wdrożonych przepływów monitów.

Zarządzanie kosztami

Koszty sztucznej inteligencji platformy Azure są naliczane przez różne zasoby platformy Azure.

Ogólnie rzecz biorąc, centrum i projekt nie mają stałego miesięcznego kosztu, a opłaty są naliczane tylko za użycie w zakresie godzin obliczeniowych i używanych tokenów. Usługa Azure Key Vault, magazyn i usługa Application Insights pobierają transakcje i woluminy zależne od ilości danych przechowywanych w projektach.

Jeśli potrzebujesz grupować koszty tych różnych usług, zalecamy utworzenie centrów w co najmniej jednej dedykowanej grupie zasobów i subskrypcjach w środowisku platformy Azure.

Możesz użyć funkcji Cost Management i tagów zasobów platformy Azure, aby pomóc w szczegółowym podziale kosztów na poziomie zasobów lub uruchomić kalkulator cen platformy Azure na powyższych wymienionych zasobach, aby uzyskać oszacowanie cen. Aby uzyskać więcej informacji, zobacz Planowanie kosztów usług Azure AI i zarządzanie nimi.

Znajdowanie zasobów usługi Azure AI Foundry w witrynie Azure Portal

W witrynie Azure Portal można znaleźć zasoby odpowiadające projektowi w portalu azure AI Foundry.