共用方式為

布料消耗中的 Copilot

  • 發行項

此頁面包含網狀架構 Copilot 使用量如何計費和報告的資訊。 Copilot 使用量是由已處理的令牌數目來測量。 令牌可以視為單字片段。 大約 1,000 個令牌大約是 750 個字。 價格是每 1,000 個令牌計算，而輸入和輸出令牌會以不同的費率取用。

注意

網狀架構計費 Copilot 將於 2024 年 3 月 1 日生效，作為現有 Power BI Premium 或網狀架構容量的一部分。

耗用量率

要求 Copilot 取用網狀架構容量單位。 下表定義使用 Copilot 時，會取用多少容量單位（CU）。 例如，當使用者對 Power BI 使用Copilot，對 Data Factory 使用Copilot，或對資料科學和資料工程 使用Copilot 時。

在計量應用程式中的操作 描述 操作測量單位 耗用量率
Fabric 中的 Copilot 輸入提示 每 1,000 個代幣 100 CU 秒
Fabric 中的 Copilot 輸出完成 每 1,000 個令牌 400 CU 秒

監視使用量

布料容量計量應用程式 會以「Copilot in Fabric」名稱顯示 Copilot 作業的總容量使用量。此外，Copilot 使用者可以在發票項目「Copilot in Fabric」下檢視 Copilot 使用量的費用摘要。

網狀架構容量計量的螢幕快照。

容量使用率類型

Fabric Copilot 被歸類為「背景工作」，以在尖峰時段處理大量的 Copilot 要求。

Fabric 的設計目的是通過允許操作存取超出容量分配的 CU（容量單位）資源，以提供極快速的效能。 網狀架構會將「互動式工作」的 CU 使用量平滑或平均至至少 5 分鐘的時間範圍，而「背景作業」的 CU 使用量則平滑或平均至 24 小時的時間範圍。 根據 Fabric 限流政策，當容量在接下來的 10 分鐘內用完所有可用的 CU 資源時，就會開始第一階段的限流。

例如，假設每個 Copilot 要求都有 2,000 個輸入令牌和 500 個輸出令牌。 一個 Copilot 要求的價格計算如下：（2,000 * 100 + 500 * 400） / 1,000 = 700 CU 秒 = 11.66 CU 分鐘。

由於 Copilot 是背景工作，因此每個 Copilot 要求（約 24 個 CU 分鐘的作業）在每小時的容量中只會耗用一個 CU 分鐘。 對於每天具有 64 * 24 CU 小時（1,536）的 F64 客戶，每個 Copilot 工作會消耗（24 CU 分鐘 / 60 分鐘） = 0.4 CU 小時的情況下，客戶可以在耗盡容量之前執行超過 3,800 個請求。 不過，一旦容量用盡，所有作業都會關閉。

區域對應

網狀架構 Copilot 是由目前部署至 有限數據中心的 Azure OpenAI 大型語言模型所提供。 不過，客戶可以 啟用跨地理位置處理租用戶設定， 在 Azure OpenAI 服務可用的另一個區域中處理其數據，以使用 Copilots。 此區域可能不在使用者的地理區域、合規性界限或國家雲端實例之外。 在執行區域對應時，我們會優先考慮數據駐留，並儘可能嘗試將其對應至相同地理區域內的區域。

網狀架構容量單位的成本可能會因區域而異。 不論使用 GPU 容量的耗用量區域為何，客戶都會根據其計費區域中的網狀架構容量單位定價來計費。 例如，如果客戶的要求是從 region 1 對應到 region 2，且 region 1 是計費區域，而 region 2 為取用區域，則會根據 region 1中的定價向客戶收費。

網狀架構耗用量率中 Copilot 變更

消費率隨時可能會變更。 Microsoft 盡合理的努力，透過電子郵件或產品內通知提供通知。 變更應在Microsoft的版本資訊或Microsoft網狀架構部落格中所述的日期生效。 如果網狀架構耗用量率中 Copilot 的任何變更會大幅增加在 Fabric 中使用 Copilot 所需的容量單位（CU），客戶可以使用所選付款方式的取消選項。

相關內容