Využívání koncových bodů bezserverového rozhraní API z jiného projektu nebo centra Azure AI Foundry

V tomto článku se dozvíte, jak nakonfigurovat existující koncový bod bezserverového rozhraní API v jiném projektu nebo centru, než jaký byl použit k vytvoření nasazení.

Důležité

Modely, které jsou ve verzi Preview, jsou na kartách modelu v katalogu modelů označené jako náhled .

Některé modely v katalogu modelů je možné nasadit jako bezserverová rozhraní API. Tento druh nasazení poskytuje způsob, jak využívat modely jako rozhraní API bez jejich hostování ve vašem předplatném a současně udržovat podnikové zabezpečení a dodržování předpisů, které organizace potřebují. Tato možnost nasazení nevyžaduje kvótu z vašeho předplatného.

Potřeba využívat koncový bod bezserverového rozhraní API v jiném projektu nebo centru, než který byl použit k vytvoření nasazení, může nastat v situacích, jako jsou tyto:

• Chcete centralizovat nasazení v daném projektu nebo centru a využívat je z různých projektů nebo center ve vaší organizaci.
• Model musíte nasadit v centru v konkrétní oblasti Azure, kde je k dispozici bezserverové nasazení pro daný model. Musíte ho ale využívat z jiné oblasti, kde není pro konkrétní modely dostupné bezserverové nasazení.

Požadavky

• Předplatné Azure s platným způsobem platby. Bezplatná nebo zkušební předplatná Azure nebudou fungovat. Pokud nemáte předplatné Azure, vytvořte si placený účet Azure, abyste mohli začít.

• Centrum Azure AI Foundry

• Projekt Azure AI Foundry

• Model nasazený do koncového bodu bezserverového rozhraní API Tento článek předpokládá, že jste dříve nasadili model Meta-Llama-3-8B-Instruct . Informace o nasazení tohoto modelu jako bezserverového rozhraní API najdete v tématu Nasazení modelů jako bezserverových rozhraní API.

• Abyste mohli pracovat s Azure AI Foundry, musíte nainstalovat následující software:

  Portál Azure AI Foundry

  K navigaci v Azure AI Foundry můžete použít libovolný kompatibilní webový prohlížeč.

  Azure CLI

  Azure CLI a rozšíření ml pro Azure Machine Learning.

  az extension add -n ml
  

  Pokud už rozšíření máte nainstalované, ujistěte se, že je nainstalovaná nejnovější verze.

  az extension update -n ml
  

  Jakmile je rozšíření nainstalované, nakonfigurujte ho:

  az account set --subscription <subscription>
  az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
  

  Python SDK

  Nainstalujte sadu Azure Machine Learning SDK pro Python.

  pip install -U azure-ai-ml
  

  Po instalaci naimportujte potřebné obory názvů:

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
  

Vytvoření připojení koncového bodu rozhraní API bez serveru

Pokud chcete vytvořit připojení, postupujte takto:

1. Připojte se k projektu nebo centru, kde je koncový bod nasazen:

   Portál Azure AI Foundry

   Přejděte do Azure AI Foundry a přejděte do projektu, kde je nasazený koncový bod, ke kterému se chcete připojit.

   Azure CLI

   Nakonfigurujte rozhraní příkazového řádku tak, aby odkazovali na projekt:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK

   Vytvořte klienta připojeného k projektu:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

2. Získejte adresu URL a přihlašovací údaje koncového bodu pro koncový bod, ke kterému se chcete připojit. V tomto příkladu získáte podrobnosti o názvu koncového bodu meta-llama3-8b-qwerty.

   Portál Azure AI Foundry

   1. Na levém bočním panelu projektu na portálu Azure AI Foundry přejděte na Moje modely prostředků>a koncové body a zobrazte seznam nasazení v projektu.

   2. Vyberte nasazení, ke kterému se chcete připojit.

   3. Zkopírujte hodnoty pro cílový identifikátor URI a klíč.

   Azure CLI

   az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
   

   Python SDK

   endpoint_name = "meta-llama3-8b-qwerty"
   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

3. Teď se připojte k projektu nebo centru , kde chcete vytvořit připojení:

   Portál Azure AI Foundry

   Přejděte do projektu, do kterého je potřeba vytvořit připojení.

   Azure CLI

   Nakonfigurujte rozhraní příkazového řádku tak, aby odkazovali na projekt:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK

   Vytvořte klienta připojeného k projektu:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

4. Vytvořte připojení v projektu:

   Portál Azure AI Foundry

   1. V projektu na portálu Azure AI Foundry přejděte do dolní části levého bočního panelu a vyberte Centrum pro správu.

   2. Na levém bočním panelu centra pro správu vyberte Připojené prostředky.

   3. Vyberte Nové připojení.

   4. Vyberte bezserverový model.

   5. Jako cílový identifikátor URI vložte hodnotu, kterou jste zkopírovali dříve.

   6. Jako klíč vložte hodnotu, kterou jste zkopírovali dříve.

   7. Pojmenujte připojení, v tomto případě meta-llama3-8b-connection.

   8. Vyberte Přidat připojení.

   Azure CLI

   Vytvoření definice připojení:

   connection.yml

   name: meta-llama3-8b-connection
   type: serverless
   endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
   api_key: 1234567890qwertyuiop
   

   az ml connection create -f connection.yml
   

   Python SDK

   client.connections.create_or_update(ServerlessConnection(
       name="meta-llama3-8b-connection",
       endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
       api_key="1234567890qwertyuiop"
   ))
   

5. V tomto okamžiku je připojení k dispozici ke spotřebě.

6. Ověření, že připojení funguje:

   1. Vraťte se do projektu na portálu Azure AI Foundry.

   2. Na levém bočním panelu projektu přejděte do části Sestavení a přizpůsobení>toku výzvy.

   3. Výběrem možnosti Vytvořit vytvořte nový tok.

   4. V poli Tok chatu vyberte Vytvořit.

   5. Zadejte název toku výzvy a vyberte Vytvořit.

   6. Výběrem uzlu chatu v grafu přejděte do oddílu chatu.

   7. V části Připojení otevřete rozevírací seznam a vyberte připojení, které jste právě vytvořili, v tomto případě meta-llama3-8b-connection.

   8. Výběrem možnosti Spustit výpočetní relaci z horního navigačního panelu spusťte automatický modul runtime toku výzvy.

   9. Vyberte možnost Chat. Teď můžete odesílat zprávy a získávat odpovědi.

Související obsah

• Co je Azure AI Foundry?
• Článek s nejčastějšími dotazy k Azure AI