Consumir puntos de conexión de API sin servidor de un proyecto o centro de Azure AI Foundry diferente

En este artículo, aprenderá a configurar un punto de conexión de API sin servidor existente en un proyecto o centro diferente al que se usó para crear la implementación.

Importante

Los modelos que están en versión preliminar se marcan como versión preliminar en sus tarjetas de modelo en el catálogo de modelos.

Ciertos modelos del catálogo de modelos se pueden implementar como API sin servidor. Este tipo de implementación proporciona una forma de consumir modelos como API sin alojarlos en su suscripción, al tiempo que mantiene la seguridad y el cumplimiento empresarial que necesitan las organizaciones. Esta opción de implementación no requiere cuota de la suscripción.

La necesidad de consumir un punto de conexión de API sin servidor en un proyecto o centro diferente al que se usó para crear la implementación podría surgir en situaciones como las siguientes:

• Quiere centralizar las implementaciones en un proyecto o centro determinado y consumirlas de diferentes proyectos o centros de la organización.
• Debe implementar un modelo en un centro de conectividad en una región de Azure determinada donde esté disponible la implementación sin servidor para ese modelo. Sin embargo, debe consumirlo desde otra región, donde la implementación sin servidor no está disponible para los modelos concretos.

Requisitos previos

• Una suscripción de Azure con un método de pago válido. Las suscripciones gratuitas o de evaluación de Azure no funcionarán. Si no tiene una suscripción de Azure, cree una cuenta de Azure de pago para comenzar.

• Un centro de Azure AI Foundry.

• Un proyecto de Azure AI Foundry.

• Un modelo implementado en un punto de conexión de API sin servidor. En este artículo se supone que ha implementado previamente el modelo Meta-Llama-3-8B-Instruct. Para obtener información sobre cómo implementar este modelo como una API sin servidor, vea Implementación de modelos como API sin servidor.

• Necesita instalar el siguiente software para trabajar con Azure AI Foundry:

  portal de Azure AI Foundry

  Puede usar cualquier explorador web compatible para navegar por Azure AI Foundry.

  CLI de Azure

  La CLI de Azure y la extensión ml para Azure Machine Learning.

  az extension add -n ml
  

  Si ya tiene instalada la extensión, asegúrese de que está instalada la versión más reciente.

  az extension update -n ml
  

  Una vez instalada la extensión, configúrela:

  az account set --subscription <subscription>
  az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
  

  SDK de Python

  Instale el SDK de Azure Machine Learning para Python.

  pip install -U azure-ai-ml
  

  Una vez instalado, importe los espacios de nombres necesarios:

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
  

Creación de una conexión de punto de conexión de API sin servidor

Siga estos pasos para crear una conexión:

1. Conéctese al proyecto o al centro donde se implementa el punto de conexión:

   portal de Azure AI Foundry

   Vaya a Azure AI Foundry y vaya al proyecto donde se implementa el punto de conexión al que quiere conectarse.

   CLI de Azure

   Configure la CLI para que apunte al proyecto:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   SDK de Python

   Cree un cliente conectado al proyecto:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

2. Obtenga la dirección URL y las credenciales del punto de conexión al que desea conectarse. En este ejemplo, obtendrá los detalles de un nombre de punto de conexión meta-llama3-8b-qwerty.

   portal de Azure AI Foundry

   1. En la barra lateral izquierda del proyecto en el portal de Azure AI Foundry, vaya a Mis recursos>Modelos y puntos de conexión para ver la lista de implementaciones en el proyecto.

   2. Seleccione la implementación a la que desea conectarse.

   3. Copie los valores de URI de destino y Clave.

   CLI de Azure

   az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
   

   SDK de Python

   endpoint_name = "meta-llama3-8b-qwerty"
   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

3. Ahora, conéctese al proyecto o al centro donde desea crear la conexión:

   portal de Azure AI Foundry

   Vaya al proyecto en el que se debe crear la conexión.

   CLI de Azure

   Configure la CLI para que apunte al proyecto:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   SDK de Python

   Cree un cliente conectado al proyecto:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

4. Cree la conexión en el proyecto:

   portal de Azure AI Foundry

   1. En el proyecto en el portal de Azure AI Foundry, vaya a la parte inferior de la barra lateral izquierda y seleccione Centro de administración.

   2. En la barra lateral izquierda del centro de administración, seleccione Recursos conectados.

   3. Seleccione Nueva conexión.

   4. Seleccione Modelo sin servidor.

   5. Para el URI de destino, pegue el valor que copió anteriormente.

   6. Para la Clave, pegue el valor que copió anteriormente.

   7. Asigne un nombre a la conexión, en este caso meta-llama3-8b-connection.

   8. Seleccione Agregar conexión.

   CLI de Azure

   Cree una definición de conexión:

   connection.yml

   name: meta-llama3-8b-connection
   type: serverless
   endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
   api_key: 1234567890qwertyuiop
   

   az ml connection create -f connection.yml
   

   SDK de Python

   client.connections.create_or_update(ServerlessConnection(
       name="meta-llama3-8b-connection",
       endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
       api_key="1234567890qwertyuiop"
   ))
   

5. En este momento, la conexión está disponible para su consumo.

6. Para validar que la conexión funciona:

   1. Vuelva al proyecto en el portal de Azure AI Foundry.

   2. En la barra lateral izquierda del proyecto, vaya a Compilar y personalizar>Flujo de avisos.

   3. Seleccione Crear para crear un flujo.

   4. Seleccione Crear en el cuadro Flujo de chat.

   5. Asigne un nombre al Flujo de avisos y seleccione Crear.

   6. Seleccione el nodo de chat en el gráfico para ir a la sección de chat.

   7. Para Conexión, abra la lista desplegable para seleccionar la conexión que acaba de crear, en este caso meta-llama3-8b-connection.

   8. Seleccione Iniciar sesión de proceso en la barra de navegación superior para iniciar un tiempo de ejecución automático del flujo de avisos.

   9. Seleccione la opción chat. Ahora puede enviar mensajes y obtener respuestas.

Contenido relacionado

• ¿Qué es Azure AI Foundry?
• Artículo de preguntas más frecuentes sobre Azure AI