Azure OpenAI 服務和 Azure Government 中的功能
本文醒目提示了與商業雲端供應項目相比，在 Azure Government 中使用 Azure OpenAI 時的差異。 在 [Azure OpenAI 服務文件] 中深入了解 Azure OpenAI 服務本身。
Azure OpenAI 模型
深入了解 [Azure OpenAI 服務模型] 中每個模型的不同功能。 對於具有商務持續性和災害復原 (BCDR) 考量的客戶，請仔細記下底下的部署類型、區域和模型可用性，因為並非所有的模型/類型組合都適用於兩個區域。
以下區段依區域和部署類型顯示了模型可用性。
標準部署模型可用性
| 區域 | gpt-4o，2024-05-13 | gpt-4o-mini, 2024-07-18 | gpt-4，1106-Preview | gpt-35-turbo，0125 | gpt-35-turbo，1106 | text-embedding-3-large，1 | text-embedding-ada-002，2 |
|---|---|---|---|---|---|---|---|
| usgovarizona | ✅ | ✅ | ✅ | ✅ | - | ✅ | ✅ |
| usgovvirginia | ✅ | - | ✅ | ✅ | ✅ | - | ✅ |
若要要求這些模型的配額增加，請在 https://aka.ms/AOAIGovQuota提交要求。 請注意下列將透過該窗體授與的最大配額限制：
| gpt-4o | gpt-4o-mini | gpt-4 | gpt-35-turbo | text-embedding-3-large | text-embedding-ada-002 |
|---|---|---|---|---|---|
| 300k | 600k | 200k | 500k | 700k | 700k |
佈建的部署模型可用性
| 區域 | gpt-4o，2024-05-13 | gpt-4o-mini, 2024-07-18 | gpt-4，1106-Preview | gpt-35-turbo，0125 | gpt-35-turbo，1106 |
|---|---|---|---|---|---|
| usgovarizona | ✅ | - | - | ✅ | - |
| usgovvirginia | ✅ | - | - | ✅ | - |
[注意]
佈建輸送量單位 (PTU) 不同於 Azure OpenAI 中的標準配額，預設在 Azure Government 中無法使用。 若要深入了解此供應項目，請連絡您的 Microsoft 帳戶小組。
Azure OpenAI 功能
比較 Azure Government 中的 Azure OpenAI 與商業雲端時，存在下列功能差異。
| 功能 | 描述 |
|---|---|
| 結構化輸出 | 目前不支援。 |
| 以保留為基礎的購買 | 目前不支援。 |
| 批次部署 | 目前不支援。 |
| 連線您的資料 | 支援虛擬網路和私人連結。 不支援在 Copilot Studio 中部署至 Web 應用程式或副手。 |
| 濫用監視 | 並非 Azure Government 中的 Azure OpenAI 都啟用了濫用監視的所有功能。 您有責任實作合理的技術和作業量值，以偵測和減輕任何違反產品條款使用服務的行為。 Azure Government 預設仍啟用 [自動化內容分類和篩選]。 如果需要修改內容篩選器，請於 https://aka.ms/AOAIGovModifyContentFilter 申請 |
| 資料儲存體 | 在 Azure Government 中，目前沒有已啟用 Azure OpenAI 功能來儲存客戶待用資料。 但是，仍然可以在 Azure Government 中啟用客戶自控金鑰 (CMK)，以支援在 Azure Government 和公用雲端中使用相同原則。 另請注意，如果將來在 Azure Government 中啟用了儲存客戶資料的 Azure OpenAI 功能，則届時任何現有 CMK 部署都將套用至該資料。 於 [Azure OpenAI 資料隱私權] 深入了解。 |
| 法規遵循 | 在 [Azure Government 服務稽核範圍] 檢視 Azure Government 中 Azure OpenAI 合規性的目前狀態 |
| 服務端點 | openai.azure.us |
| 金鑰入口網站 |
|
Azure Government 中的已佈建部署
以下指南將逐步解説您在 Azure Government 中使用 Azure OpenAI 服務資源設定佈建部署。
必要條件
- Azure Government 訂用帳戶
- Azure OpenAI 資源
- 佈建部署和購買承諾用量的核准配額
管理佈建輸送量承諾用量
對於 Azure Government 中的 Azure OpenAI，佈建輸送量部署需要從 Azure OpenAI Studio 中的 [管理承諾用量] 檢視建立和管理預先購買的承諾用量。 您可以從 [配額] 窗格選取 [管理承諾用量] 來瀏覽至此檢視。
您可以從 [管理承諾用量] 檢視執行幾個事項：
- 購買新的承諾用量或編輯現有承諾用量。
- 監視您訂用帳戶中的所有承諾用量。
- 識別可能造成非預期計費的承諾用量並採取行動。
| 設定 | 備註 |
|---|---|
| 選取資源 | 選擇您要在其中建立佈建部署的資源。 您購買了承諾用量後，在目前承諾用量過期之前，您將無法在其他資源上使用配額。 |
| 選取承諾用量類型 | 選取 [佈建]。 ([佈建] 相當於 [佈建受控]) |
| 目前未認可的佈建配額 | 目前可供您用來認可至此資源的 PTU 數目。 |
| 認可數量 (PTU) | 選擇您要認可的 PTU 數目。 您可以在承諾用量期限內增加此數目，但無法減少。 針對 [佈建] 承諾用量類型，以 50 為增量輸入值。 |
| 目前期間的承諾用量層 | 承諾用量期設定為一個月。 |
| 續約設定 | 依目前 PTU 自動續約 依較低 PTU 自動續約 請勿自動續約 |
重要
我們會預收整期的新承諾用量費用。 如果將續約設定設定為自動續約，則會根據續約設定，在每個續約日期再次向您收取費用。
重要
當您將 PTU 新增至承諾用量時，會立即根據從目前日期到現有承諾用量期限結束的數量，按比例計費。 新增 PTU 不會重設承諾用量期限。
變更續約設定
您可以在承諾用量到期日之前，隨時變更承諾用量續約設定。
重要
如果您允許承諾用量逾期或縮減大小，導致資源下的部署需要比資源承諾用量現有 PTU 更多的 PTU，則會針對任何額外的 PTU 向您收取每小時超額費用。 例如，若資源總共部署了 500 個 PTU，且承諾用量為 300 個 PTU，則會針對 200 個 PTU 產生每小時超額費用。
一般承諾用量管理案例
停用佈建輸送量
若要終止使用佈建輸送量，並防止承諾用量到期後的每小時超額費用，必須採取兩個步驟：
- 將所有承諾用量的續約原則設定為 [請勿自動續約]。
- 刪除使用配額的佈建部署。
將承諾用量/部署移至相同訂用帳戶/區域中的新資源
您無法在 Azure OpenAI Studio 中將部署或承諾用量直接 [移至] 新資源。 相反地，您必須在目標資源上建立新的部署，並將流量移至其中。 此流程需要對新資源進行新的承諾用量購買。 由於會預收 30 天的承諾用量費用，因此必須根據原始承諾用量的到期日來排程此移動，以將與新承諾用量的重疊時間及重疊期間的「重複計費」情況降到最低。
您可以採取兩種方法來實作此轉換。
[選項 1：無重疊的轉換]
此選項需要停機一段時間，但不需要額外配額，且不會產生額外費用。
| 步驟 | 備註 |
|---|---|
| 設定使現有承諾用量逾期的續約原則 | 此動作可防止承諾用量續約並產生進一步的費用 |
| 在現有的承諾用量到期之前，刪除其部署 | 停機從此時開始，並持續到建立新的部署並移動流量為止。 您可以排程在盡可能接近到期日/時間進行刪除，以將期間降到最低。 |
| 現有的承諾用量到期之後，請在新的資源上建立承諾用量 | 盡可能在到期後立即執行此步驟和下一個步驟，以將停機時間降到最低。 |
| 在新的資源上建立部署，並將流量移至其中 |
選項 2：重疊的轉換
此選項可讓現有部署和新部署同時上線，因此無須停機。 此方法還需要有配額來建立新部署，並在重疊部署期間產生額外的成本。
| 步驟 | 備註 |
|---|---|
| 設定使現有承諾用量逾期的續約原則 | 這樣做可防止續訂承諾用量而產生進一步的費用。 |
| 在現有的承諾用量到期之前： 1.在新的資源上建立承諾用量。 2.建立新的部署。 3.切換流量 4.刪除現有部署 |
確定您在現有的承諾用量到期之前留下足夠的時間來執行所有步驟，否則這些選項會產生超額費用 (請參閱下一節)。 |