Mistral Small Azure Deployment Issue

Eliott ECCIDIO 0 Points de réputation
2025-01-20T16:39:14.15+00:00

Hi,

I have been trying to use the Mistral Small that I have deployed on Azure AI foundry. So I wanted to try to call it with a simple python script :

import os 
from azure.ai.inference import ChatCompletionsClient 
from azure.core.credentials import AzureKeyCredential 
from azure.ai.inference.models import SystemMessage, UserMessage 
from src.utils import load_api_keys 

if __name__ == "__main__": 
  load_api_keys() 
  endpoint_url = os.environ["AZUREAI_ENDPOINT_URL"] 
  endpoint_key = os.environ["AZUREAI_ENDPOINT_KEY"] 
  print(f"Endpoint URL : {endpoint_url}") 
  print(f"Endpoint KEY : {endpoint_key}") 
  client = ChatCompletionsClient( 
              endpoint=endpoint_url, 
              credential=AzureKeyCredential(endpoint_key), 
           ) 
  print(f"Created client of type `{type(client).__name__}

Unfortunately, I have the error : enter image description here I have the error, while using the URL & Key given on the second joint picture: enter image description here

If you have any clues on what I have done wrong you're more than welcome to share your opinion !

Thanks !

Azure
Azure
Plateforme et infrastructure de cloud computing pour la génération, le déploiement et la gestion d’applications et de services à travers un réseau mondial de centres de données gérés par Microsoft.
377 questions
0 commentaires Aucun commentaire
{count} votes

Votre réponse

Les réponses peuvent être marquées comme réponses acceptées par l’auteur de la question, ce qui aide les utilisateurs à savoir que la réponse a résolu le problème de l’auteur.