Tworzenie sesji obliczeniowych przepływu monitów i zarządzanie nimi w portalu usługi Azure AI Foundry

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Aby uruchamiać przepływy monitów, potrzebna jest sesja obliczeniowa. Użyj usługi Azure AI Foundry, aby utworzyć sesje obliczeniowe przepływu monitów i zarządzać nimi.

Sesja obliczeniowa przepływu monitu zawiera zasoby obliczeniowe wymagane do uruchomienia aplikacji, w tym obraz platformy Docker zawierający wszystkie niezbędne pakiety zależności. Oprócz wykonywania przepływu usługa Azure AI Foundry używa sesji obliczeniowej, aby zapewnić dokładność i funkcjonalność narzędzi uwzględnionych w przepływie podczas wprowadzania aktualizacji do zawartości monitu lub kodu.

Wymagania wstępne

Zaloguj się do rozwiązania Azure AI Foundry i wybierz projekt.

Tworzenie sesji obliczeniowej

Po rozpoczęciu sesji obliczeniowej możesz użyć ustawień domyślnych lub dostosować ustawienia zaawansowane.

Uruchamianie sesji obliczeniowej z ustawieniami domyślnymi

Domyślnie sesja obliczeniowa używa środowiska zdefiniowanego w flow.dag.yaml folderze przepływu. Jest ona uruchamiana w środowisku obliczeniowym bezserwerowym z rozmiarem maszyny wirtualnej, dla którego masz wystarczający limit przydziału w obszarze roboczym.

1. Przejdź do projektu w portalu usługi Azure AI Foundry.
2. W okienku po lewej stronie wybierz pozycję Przepływ monituj , a następnie wybierz przepływ, który chcesz uruchomić.
3. Na górnym pasku narzędzi przepływu monitu wybierz pozycję Rozpocznij sesję obliczeniową.

Rozpoczynanie sesji obliczeniowej z ustawieniami zaawansowanymi

W ustawieniach zaawansowanych możesz wybrać typ obliczeniowy. Możesz wybrać między bezserwerową usługą obliczeniową i wystąpieniem obliczeniowym.

1. Przejdź do projektu w portalu usługi Azure AI Foundry.

2. W okienku po lewej stronie wybierz pozycję Przepływ monituj , a następnie wybierz przepływ, który chcesz uruchomić.

3. Na górnym pasku narzędzi przepływu monitu wybierz strzałkę listy rozwijanej po prawej stronie przycisku Rozpocznij sesję obliczeniową. Wybierz pozycję Rozpocznij od ustawień zaawansowanych, aby dostosować sesję obliczeniową.

   

   Możesz wybrać między bezserwerową usługą obliczeniową i wystąpieniem obliczeniowym.

   • Jeśli wybierzesz obliczenia bezserwerowe, możesz ustawić następujące ustawienia:

     • Dostosuj rozmiar maszyny wirtualnej używany przez sesję obliczeniową.
     • Dostosuj czas bezczynności, który zapisuje kod, usuwając sesję obliczeniową automatycznie, jeśli nie jest używany.
     • Ustaw tożsamość zarządzaną przypisaną przez użytkownika. Sesja obliczeniowa używa tej tożsamości do ściągania obrazu podstawowego i instalowania pakietów. Upewnij się, że tożsamość zarządzana przypisana przez użytkownika ma uprawnienie ściągnięcia usługi Azure Container Registry.

     Jeśli nie ustawisz tożsamości przypisanej przez użytkownika, przepływ monitu domyślnie używa tożsamości użytkownika. Dowiedz się więcej na temat tworzenia i aktualizowania tożsamości przypisanych przez użytkownika dla obszaru roboczego.

     

   • W przypadku wybrania wystąpienia obliczeniowego można ustawić tylko czas bezczynności zamknięcia.

     • Ponieważ jest to istniejące wystąpienie obliczeniowe, rozmiar maszyny wirtualnej jest stały i nie można go zmienić po stronie sesji obliczeniowej.

     • Tożsamość używana na potrzeby tej sesji obliczeniowej jest również definiowana w wystąpieniu obliczeniowym, domyślnie używa tożsamości użytkownika. Dowiedz się więcej o przypisywaniu tożsamości do wystąpienia obliczeniowego

     • Czas zamknięcia bezczynności służy do definiowania cyklu życia sesji obliczeniowej. Jeśli sesja obliczeniowa jest bezczynna przez ustawiony czas, zostanie ona automatycznie usunięta. Jeśli w wystąpieniu obliczeniowym włączono wyłączenie bezczynności, zostanie ono zamknięte, ale nie zostanie usunięte.

       

4. Wybierz przycisk Dalej , aby określić ustawienia obrazu podstawowego. Użyj domyślnego obrazu podstawowego lub podaj niestandardowy obraz podstawowy. Jeśli wybierzesz dostosowany obraz podstawowy, podaj adres URL obrazu i tag obrazu. Obsługiwane są tylko obrazy w publicznym rejestrze platformy Docker lub usłudze Azure Container Registry (ACR). Jeśli określisz obraz w usłudze ACR, upewnij się, że (lub przypisane przez użytkownika zarządzanie tożsamością) masz uprawnienie do ściągania usługi ACR.

5. Wybierz przycisk Dalej , aby przejrzeć ustawienia.

6. Wybierz pozycję Zastosuj i rozpocznij sesję obliczeniową, aby rozpocząć sesję obliczeniową.

Zarządzanie sesją obliczeniową

Aby zarządzać sesją obliczeniową, wybierz sesję obliczeniową uruchomioną na górnym pasku narzędzi strony przepływu.

• Zmień ustawienia sesji obliczeniowej otwiera stronę konfiguracji sesji obliczeniowej, na której można zdefiniować stronę maszyny wirtualnej i czas bezczynności dla sesji obliczeniowej.
• Zainstaluj pakiety z requirements.txt Otwiera requirements.txt się w interfejsie użytkownika przepływu monitu, aby można było dodawać pakiety.
• Widok zainstalowanych pakietów zawiera pakiety zainstalowane w sesji obliczeniowej. Zawiera on pakiety upieczone do obrazu podstawowego i pakiety określone w requirements.txt pliku w folderze przepływu.
• Resetowanie sesji obliczeniowej powoduje usunięcie bieżącej sesji obliczeniowej i utworzenie nowej sesji z tym samym środowiskiem. Jeśli wystąpi konflikt pakietu, możesz wypróbować tę opcję.
• Zatrzymaj sesję obliczeniową usuwa bieżącą sesję obliczeniową. Jeśli nie ma aktywnej sesji obliczeniowej w bazowym bezserwerowym środowisku obliczeniowym, zasób obliczeniowy zostanie również usunięty. Jeśli sesja obliczeniowa znajduje się w wystąpieniu obliczeniowym, zatrzymanie sesji umożliwi wystąpienie stanie się bezczynne.

Możesz dostosować środowisko używane do uruchamiania tego przepływu, dodając pakiety w requirements.txt pliku w folderze przepływu. Po dodaniu kolejnych pakietów w tym pliku wybierz jedną z następujących opcji:

• Zapisywanie i instalowanie wyzwalaczy pip install -r requirements.txt w folderze przepływu. Proces może potrwać kilka minut, w zależności od zainstalowanych pakietów.
• Zapisz tylko zapisuje requirements.txt plik. Pakiety można zainstalować samodzielnie.

Uwaga

Możesz zmienić lokalizację, a nawet nazwę requirements.txtpliku , ale pamiętaj, aby również zmienić ją w flow.dag.yaml pliku w folderze przepływu.

Nie przypinaj wersji promptflow elementu i promptflow-tools w requirements.txtprogramie , ponieważ są one już uwzględnione w obrazie podstawowym sesji obliczeniowej.

Dodawanie pakietów w prywatnym kanale informacyjnym w usłudze Azure DevOps

Jeśli chcesz użyć prywatnego źródła danych w usłudze Azure DevOps, wykonaj następujące kroki:

1. Utwórz tożsamość zarządzaną przypisaną przez użytkownika i dodaj tę tożsamość w organizacji usługi Azure DevOps. Aby dowiedzieć się więcej, zobacz Używanie jednostek usługi i tożsamości zarządzanych.

   Uwaga

   Jeśli przycisk Dodaj użytkowników nie jest widoczny, prawdopodobnie nie masz niezbędnych uprawnień do wykonania tej akcji.

2. Dodaj lub zaktualizuj tożsamości przypisane przez użytkownika do projektu.

3. Dodaj {private} do adresu URL kanału prywatnego źródła danych. Jeśli na przykład chcesz zainstalować z test_package test_feed usługi Azure devops, dodaj polecenie :requirements.txt-i https://{private}@{test_feed_url_in_azure_devops}

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Określ tożsamość zarządzaną przypisaną przez użytkownika w obszarze Rozpocznij od ustawień zaawansowanych, jeśli sesja obliczeniowa nie jest uruchomiona, lub użyj przycisku Edytuj , jeśli sesja obliczeniowa jest uruchomiona.

   

Zmienianie obrazu podstawowego

Domyślnie używamy najnowszego obrazu przepływu monitów jako obrazu podstawowego. Jeśli chcesz użyć innego obrazu podstawowego, musisz utworzyć własny obraz podstawowy. Obraz platformy Docker powinien zostać skompilowany na podstawie obrazu podstawowego przepływu monitu. mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version> Jeśli to możliwe, użyj najnowszej wersji obrazu podstawowego.

1. Otwórz przepływ monitu.

2. Na górnym pasku narzędzi wybierz pozycję Tryb nieprzetworzonego pliku, aby włączyć edycję w edytorze plików.

3. Otwórz sekcję Pliki i wybierz pozycję flow.dag.yaml.

   

4. Określ obraz w environment sekcji flow.dag.yaml pliku. Aby na przykład użyć obrazu <your-custom-image>, dodaj następujący kod:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Uaktualnianie środowiska uruchomieniowego wystąpienia obliczeniowego

Jeśli wcześniej utworzono środowisko uruchomieniowe wystąpienia obliczeniowego, przełącz je do sesji obliczeniowej, wykonując następujące kroki:

• requirements.txt Przygotuj plik w folderze przepływu. Aby uzyskać więcej informacji, zobacz Zarządzanie sesją obliczeniową.

• Jeśli utworzono środowisko niestandardowe, pobierz obraz ze strony szczegółów środowiska i określ go w flow.dag.yaml pliku w folderze przepływu. Aby dowiedzieć się więcej, zobacz Zmienianie obrazu podstawowego. Upewnij się, że masz acr pull uprawnienia do obrazu.

• Możesz nadal używać istniejącego wystąpienia obliczeniowego, jeśli chcesz ręcznie zarządzać cyklem życia.

Powiązane zasoby

• Dowiedz się więcej o przepływie monitów
• Opracowywanie przepływu
• Opracowywanie przepływu oceny