Servizio OpenAI di Azure e funzionalità in Azure per enti pubblici

In questo articolo vengono esaminate le differenze tra l'utilizzo di Azure OpenAI in Azure per enti pubblici e l'offerta cloud di tipo commerciale. Per altre informazioni sul Servizio OpenAI di Azure, vedere la documentazione relativa al Servizio OpenAI di Azure.

Modelli di Azure OpenAI

Per altre informazioni sulle funzionalità di ogni modello, vedere modelli del Servizio OpenAI di Azure. Per i clienti con considerazioni sulla continuità aziendale e sul ripristino di emergenza (BCDR), prendere nota attentamente dei tipi di distribuzione, delle aree e della disponibilità del modello qui di seguito, in quanto non tutte le combinazioni di modelli/tipi sono disponibili in entrambe le aree.

Le sezioni seguenti mostrano la disponibilità del modello in base all'area geografica e al tipo di distribuzione.

Disponibilità del modello di distribuzione standard

Area	gpt-4o, 2024-05-13	gpt-4o-mini, 2024-07-18	gpt-4, 1106-Preview	gpt-35-turbo, 0125	gpt-35-turbo, 1106	text-embedding-3-large, 1	text-embedding-ada-002, 2
usgovarizona	✅	✅	✅	✅	-	✅	✅
usgovvirginia	✅	-	✅	✅	✅	-	✅

Per richiedere aumenti di quota per questi modelli, inviare una richiesta all'indirizzo https://aka.ms/AOAIGovQuota. Si notino i limiti massimi di quota seguenti che verranno concessi tramite tale modulo:

gpt-4o	gpt-4o-mini	gpt-4	gpt-35-turbo	text-embedding-3-large	text-embedding-ada-002
300.000	600.000	200.000	500.000	700k	700k

Disponibilità del modello di distribuzione con provisioning

Area	gpt-4o, 2024-05-13	gpt-4o-mini, 2024-07-18	gpt-4, 1106-Preview	gpt-35-turbo, 0125	gpt-35-turbo, 1106
usgovarizona	✅	-	-	✅	-
usgovvirginia	✅	-	-	✅	-

[NOTA]

Le unità elaborate con provisioning (PTU) sono diverse dalla quota standard in Azure OpenAI e non sono disponibili per impostazione predefinita in Azure per enti pubblici. Per altre informazioni su questa offerta, contattare il team dell'account Microsoft.

Funzionalità di Azure OpenAI

Esistono le differenze di funzionalità seguenti quando si confronta Azure OpenAI in Azure per enti pubblici rispetto al cloud commerciale.

Funzionalità	Descrizione
Output strutturati	Attualmente non supportata.
Acquisti basati su prenotazioni	Attualmente non supportata.
Distribuzioni batch	Attualmente non supportata.
Connetti i dati	La rete virtuale e i collegamenti privati sono supportati. La distribuzione a un'app Web o a un copilota in Copilot Studio non è supportata.
Monitoraggio degli abusi	Non tutte le funzionalità di Monitoraggio abusi sono abilitate per Azure OpenAI in Azure per enti pubblici. Si è responsabili dell'implementazione di misure tecniche e operative ragionevoli per rilevare e mitigare qualsiasi uso del servizio in violazione delle Condizioni del prodotto. Classificazione e filtraggio dei contenuti automatizzati rimane abilitato per impostazione predefinita in Azure per enti pubblici. Se vengono richiesti dei filtri per il contenuto modificati, rivolgersi a https://aka.ms/AOAIGovModifyContentFilter
Archiviazione dati	Attualmente, in Azure per enti pubblici non sono abilitate funzionalità di Azure OpenAI che archiviano i dati inattivi dei clienti. Tuttavia, Chiave gestita dal cliente (CMK) può comunque essere abilitata in Azure per enti pubblici per supportarvi l'uso degli stessi criteri che si applicano al cloud pubblico. Si noti inoltre che se le funzionalità di Azure OpenAI che archiviano i dati dei clienti verranno abilitate in Azure per enti pubblici in futuro, qualsiasi distribuzione di CMK esistente verrà applicata a tali dati in quel momento. Informazioni sulla Privacy dei dati di Azure OpenAI.
Conformità	Visualizzare lo stato di conformità attuale di Azure OpenAI in Azure per enti pubblici alla pagina Ambito dell’audit per Servizi di Azure per enti pubblici
Endpoint di servizio	openai.azure.us
Portali della chiave	Azure OpenAI Studio - aoai.azure.us Portale di Azure - portal.azure.us

Distribuzioni con provisioning in Azure per enti pubblici

La guida seguente illustra come configurare una distribuzione con provisioning con la risorsa del Servizio OpenAI di Azure in Azure per enti pubblici.

Prerequisiti

• Sottoscrizione di Azure per enti pubblici
• Risorsa OpenAI di Azure
• Quota approvata per una distribuzione con provisioning e acquisto di un impegno

Gestione degli impegni di velocità effettiva con provisioning

Per Azure OpenAI in Azure per enti pubblici, le distribuzioni di velocità effettiva con provisioning richiedono impegni pre-acquistati creati e gestiti dalla vista Gestisci impegni in Azure OpenAI Studio. È possibile passare a questa vista selezionando Gestisci impegni nel riquadro Quota.

Nella vista Gestisci impegni, è possibile eseguire diverse operazioni:

• Acquistare nuovi impegni o modificare gli impegni esistenti.
• Monitorare tutti gli impegni nella sottoscrizione.
• Identificare e intervenire sugli impegni che potrebbero causare fatturazione imprevista.

Impostazione	Note
Selezionare una risorsa	Scegliere la risorsa in cui creare la distribuzione con provisioning. Dopo aver acquistato l'impegno, non è possibile usare la quota in un'altra risorsa fino alla scadenza dell'impegno corrente.
Selezionare un tipo di impegno	Selezionare Provisioning effettuato. (Il provisioning è equivalente a Gestito con provisioning)
Quota con provisioning senza commit corrente	Numero di PTU attualmente disponibili per il commit in questa risorsa.
Quantità da impegnare (PTU)	Scegliere il numero di PTU a cui si sta eseguendo il commit. È possibile aumentare tale cifra durante il periodo di impegno, ma non diminuirla. Immettere i valori in incrementi di 50 per il tipo di impegno Con provisioning.
Livello di impegno per il periodo corrente	Il periodo di impegno è impostato su un mese.
Impostazioni di rinnovo	Rinnova automaticamente alle PTU correnti Rinnova automaticamente alle PTU inferiori Non rinnovare automaticamente

Importante

Un nuovo impegno viene fatturato in anticipo per l'intero periodo. Se le impostazioni di rinnovo sono impostate sul rinnovo automatico, verrà fatturata di nuovo ad ogni data di rinnovo in base a tali impostazioni.

Importante

Quando si aggiungono PTU a un impegno, le suddette verranno fatturate immediatamente in base a un importo ripartito proporzionalmente dalla data corrente alla fine del periodo di impegno esistente. L'aggiunta di PTU non reimposta la durata dell'impegno.

Modifica delle impostazioni di rinnovo

Le impostazioni di rinnovo dell'impegno possono essere modificate in qualsiasi momento prima della data di scadenza dello stesso.

Importante

Se si consente a un impegno di scadere o diminuire le dimensioni in modo che le distribuzioni nella risorsa richiedano più PTU rispetto all'impegno della risorsa, si riceveranno addebiti per eccedenza oraria per eventuali PTU in eccesso. Ad esempio, una risorsa con distribuzioni che totalizza 500 PTU e un impegno per 300 PTU genererà addebiti per l'eccedenza oraria per 200 PTU.

Scenari comuni di gestione degli impegni

Interruzione dell'uso della velocità effettiva con provisioning

Per terminare l'uso della velocità effettiva con provisioning e impedire addebiti orari per eccedenza dopo la scadenza dell'impegno, è necessario eseguire due passaggi:

1. Impostare i criteri di rinnovo per tutti gli impegni su Non rinnovare automaticamente.
2. Eliminare le distribuzioni con provisioning usando la quota.

Spostare un impegno/una distribuzione in una nuova risorsa nella stessa sottoscrizione/area

In Azure OpenAI Studio non è possibile spostare direttamente una distribuzione o un impegno a una nuova risorsa. È invece necessario creare una nuova distribuzione nella risorsa di destinazione e spostare il traffico verso di essa. Questo processo richiede l'acquisto di un nuovo impegno nella nuova risorsa. Poiché gli impegni vengono addebitati in anticipo per un periodo di 30 giorni, è necessario eseguire questo spostamento con la scadenza dell'impegno originale per ridurre al minimo la sovrapposizione con il nuovo impegno e la "doppia fatturazione" durante la sovrapposizione.

Per implementare questa transizione, è possibile adottare due approcci.

Opzione 1: cambio senza sovrapposizione

Questa opzione richiede tempi di inattività, ma non necessita di alcuna quota aggiuntiva e non genera costi aggiuntivi.

Passaggi	Note
Impostare i criteri di rinnovo per l'impegno esistente in modo che scadano	Questa azione impedisce il rinnovo dell'impegno e la generazione di ulteriori addebiti
Prima della scadenza dell'impegno esistente, eliminare la distribuzione	Il tempo di inattività inizia a questo punto e dura fino a quando non viene creata la nuova distribuzione e il traffico viene spostato. È possibile ridurre al minimo la durata eseguendo l'eliminazione il più vicino possibile alla data/ora di scadenza.
Dopo la scadenza dell'impegno esistente, creare l'impegno per la nuova risorsa	Ridurre al minimo i tempi di inattività eseguendo questo passaggio e quello successivo non appena possibile dopo la scadenza.
Creare la distribuzione nella nuova risorsa e spostarvi il traffico

Opzione2: cambio con sovrapposizione

Questa opzione non prevede tempi di inattività, in quanto le distribuzioni esistenti e quelle nuove sono attive contemporaneamente. Questo metodo richiede la disponibilità della quota per creare la nuova distribuzione e genera costi aggiuntivi durante la sovrapposizione delle distribuzioni.

Passaggi	Note
Impostare i criteri di rinnovo per l'impegno esistente in modo che scadano	In questo modo si impedisce il rinnovo dell'impegno e la generazione di ulteriori addebiti.
Prima della scadenza dell'impegno esistente: 1. Creare l'impegno per la nuova risorsa. 2. Creare la nuova distribuzione. 3. Cambiare traffico 4. Eliminare la distribuzione esistente	Assicurarsi di lasciare tempo sufficiente per tutti i passaggi prima della scadenza dell'impegno esistente. In caso contrario, verranno generati addebiti per eccedenza (vedere la sezione successiva) per le opzioni.