Compartir vía

Azure OpenAI Service y características en Azure Government

  • Artículo

En este artículo se resaltan las diferencias al usar Azure OpenAI en Azure Government en comparación con la oferta de nube comercial. Obtenga más información sobre el propio Azure OpenAI Service en Documentación de Azure OpenAI Service.

Modelos de Azure OpenAI

Obtenga más información sobre las distintas funcionalidades de cada modelo en Modelos de Azure OpenAI Service. Para los clientes con consideraciones sobre continuidad empresarial y recuperación ante desastres (BCDR), tenga en cuenta detenidamente los tipos de implementación, las regiones y la disponibilidad del modelo a continuación, ya que no todas las combinaciones de modelos o tipos están disponibles en ambas regiones.

En las secciones siguientes se muestra la disponibilidad del modelo por región y tipo de implementación.


Disponibilidad del modelo de implementación estándar

Región gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106 text-embedding-3-large, 1 text-embedding-ada-002, 2
usgovarizona ✅ ✅ ✅ ✅ - ✅ ✅
usgovvirginia ✅ - ✅ ✅ ✅ - ✅

Para solicitar aumentos de cuota para estos modelos, envíe una solicitud en https://aka.ms/AOAIGovQuota. Tenga en cuenta los siguientes límites máximos de cuota que se concederán a través de ese formulario:

gpt-4o gpt-4o-mini gpt-4 gpt-35-turbo text-embedding-3-large text-embedding-ada-002
300 000 600 000 200 000 500 000 700 000 700 000

Disponibilidad del modelo de implementación aprovisionado

Región gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106
usgovarizona ✅ - - ✅ -
usgovvirginia ✅ - - ✅ -

[NOTA]

Las unidades de procesamiento aprovisionadas (PTU) son diferentes de la cuota estándar en Azure OpenAI y no están disponibles de forma predeterminada en Azure Government. Para más información sobre esta oferta, póngase en contacto con el equipo de su cuenta Microsoft.


Características de Azure OpenAI

Existen las siguientes diferencias de características cuando se compara Azure OpenAI en Azure Government frente a la nube comercial.

Característica Descripción
Salidas estructuradas No se admite actualmente.
Compras basadas en reservas No se admite actualmente.
Implementaciones por lotes No se admite actualmente.
Conectar los datos Se admiten redes virtuales y vínculos privados. No se admite la implementación en una aplicación web o un copiloto en Copilot Studio.
Supervisión de abusos No todas las características de la Supervisión de abusos están habilitadas para Azure OpenAI en Azure Government. Usted es responsable de implementar medidas técnicas y operativas razonables para detectar y mitigar cualquier uso del servicio en violación de los Términos del producto. La Automatización de clasificación y filtrado de contenido permanece habilitada de forma predeterminada para Azure Government. Si se requieren filtros de contenido modificados, aplique en https://aka.ms/AOAIGovModifyContentFilter
Almacenamiento de datos En Azure Government, no hay ninguna característica de Azure OpenAI habilitada actualmente que almacene los datos de los clientes en reposo. Sin embargo, las claves administradas por el cliente (CMK) todavía se pueden habilitar en Azure Government para admitir el uso de las mismas directivas de Azure Government que en la nube pública. Tenga en cuenta también que si las características de Azure OpenAI que almacenan los datos de los clientes están habilitadas en Azure Government en el futuro, cualquier implementación de CMK existente se aplicará a esos datos en ese momento. Obtenga más información en Privacidad de datos de Azure OpenAI.
Cumplimiento normativo Consulte el estado actual del cumplimiento de Azure OpenAI en Azure Government en Ámbito de auditoría de servicios de Azure Government
Puntos de conexión de servicio openai.azure.us
Portales de claves
  • Azure OpenAI Studio: aoai.azure.us
  • Azure Portal: portal.azure.us

Implementaciones aprovisionadas en Azure Government

La siguiente guía le lleva a través de la configuración de una implementación aprovisionada con el recurso de Azure OpenAI Service en Azure Government.

Requisitos previos

  • Una suscripción de Azure Government
  • Recurso de Azure OpenAI
  • Una cuota aprobada para una implementación aprovisionada y ha adquirido un compromiso

Administración de compromisos de rendimiento aprovisionado

En el caso de Azure OpenAI en Azure Government, las implementaciones de rendimiento aprovisionadas requieren compromisos adquiridos previamente creados y administrados a partir de la vista Administrar compromisos en Azure OpenAI Studio. Para ir a esta vista, seleccione Administrar compromisos en el panel Cuota.

En la vista Administrar compromisos, puede hacer varias cosas:

  • Compre nuevos compromisos o edite los compromisos existentes.
  • Supervise todos los compromisos de la suscripción.
  • Identifique y tome medidas sobre los compromisos que podrían provocar una facturación inesperada.
Configuración Notas
Selección de un recurso Elija el recurso donde cree la implementación aprovisionada. Una vez que haya adquirido el compromiso, no podrá usar la cuota en otro recurso hasta que expire el compromiso actual.
Seleccionar un tipo de compromiso Seleccione Aprovisionado. (Aprovisionado es equivalente a Administrado aprovisionado)
Cuota aprovisionada actual no confirmada Número de PTU disponibles actualmente para que se confirmen en este recurso.
Cantidad a confirmar (PTU) Elija el número de PTU a las que se va a comprometer. Este número se puede aumentar durante el período de compromiso, pero no se puede reducir. Escriba los valores en incrementos de 50 para el tipo de compromiso Aprovisionado.
Nivel de compromiso para el período actual El período de compromiso se establece en un mes.
Configuración de renovación Renovación automática en PTUs actuales
Renovación automática en PTU inferiores
No autorenovar

Importante

Se factura un nuevo compromiso por adelantado durante todo el plazo. Si la configuración de renovación se establece en renovación automática, se le facturará de nuevo en cada fecha de renovación en función de la configuración de renovación.

Importante

Al agregar PTU a un compromiso, se facturarán inmediatamente, en una cantidad prorrateada desde la fecha actual hasta el final del plazo del compromiso existente. La adición de PTU no restablece el término del compromiso.

Cambio de la configuración de renovación

La configuración de renovación del compromiso se puede cambiar en cualquier momento antes de la fecha de expiración del compromiso.

Importante

Si permite que un compromiso expire o disminuya en tamaño, de modo que las implementaciones en el recurso requieran más PTU de las que tiene en el compromiso del recurso, recibirá cargos por encima del límite por hora por cualquier cantidad de PTU excedente. Por ejemplo, un recurso que tenga implementaciones que sumen en total 500 PTU y un compromiso de 300 PTU generará cargos por encima del límite por hora para 200 PTU.

Escenarios comunes de administración de compromisos

Interrumpir el uso del procesamiento aprovisionado

Para finalizar el uso del rendimiento aprovisionado y evitar cargos por encima del límite por hora después de la expiración del compromiso, se deben realizar dos pasos:

  1. Establezca la directiva de renovación en todos los compromisos en No renovar automáticamente.
  2. Elimine las implementaciones aprovisionadas mediante la cuota.

Traslado de un compromiso o implementación a un nuevo recurso en la misma suscripción o región

En Azure OpenAI Studio, no es posible mover directamente una implementación o un compromiso a un nuevo recurso. En su lugar, es necesario crear una nueva implementación en el recurso de destino y trasladar el tráfico al mismo. Este proceso requiere una nueva compra de compromiso en el nuevo recurso. Dado que los compromisos se cobran por adelantado para un periodo de 30 días, es necesario hacer coincidir este movimiento con la expiración del compromiso original para minimizar la superposición con el nuevo compromiso y la "doble facturación" durante la superposición.

Hay dos enfoques que se pueden adoptar para implementar esta transición.

Opción 1: Cambio sin superposición

Esta opción requiere un tiempo de inactividad, pero no requiere cuota adicional y no genera ningún costo adicional.

Pasos Notas
Establecimiento de la directiva de renovación en el compromiso existente para expirar Esta acción impide que el compromiso se renueve y genere cargos adicionales
Antes de la expiración del compromiso existente, elimine su implementación El tiempo de inactividad comienza en este momento y durará hasta que se cree la nueva implementación y se mueva el tráfico. Puede minimizar la duración mediante la sincronización de la eliminación para que se produzca lo más cerca posible de la fecha y hora de expiración.
Después de la expiración del compromiso existente, cree el compromiso en el nuevo recurso Minimice el tiempo de inactividad ejecutando este paso y el paso siguiente lo antes posible después de la expiración.
Creación de la implementación en el nuevo recurso y traslado del tráfico al mismo

Opción 2: Cambio superpuesto

Esta opción no tiene tiempo de inactividad, ya que tanto las implementaciones existentes como las nuevas funcionan al mismo tiempo. Este método también requiere tener cuota disponible para crear la nueva implementación y generar costos adicionales durante las implementaciones superpuestas.

Pasos Notas
Establecimiento de la directiva de renovación en el compromiso existente para expirar Esto impide que el compromiso se renueve y genere cargos adicionales.
Antes de la expiración del compromiso existente:
1. Cree el compromiso en el nuevo recurso.
2. Cree la nueva implementación.
3. Cambie el tráfico
4. Elimine la implementación existente		 Asegúrese de dejar tiempo suficiente para realizar todos los pasos antes de que expire el compromiso existente, de lo contrario se generarán cargos por uso por encima del límite (consulte la siguiente sección) para las opciones.