Copilot ve spotřebě Fabricu
Tato stránka obsahuje informace o tom, jak je účtováno a hlášeno využití Fabric Copilot. Copilot využití se měří podle počtu zpracovaných tokenů. Tokeny si lze představit jako části slov. Přibližně 1 000 tokenů je přibližně 750 slov. Ceny se počítají na 1 000 tokenů a vstupní a výstupní tokeny se spotřebovávají různými sazbami.
Poznámka
Fakturace Copilot pro Fabric bude platit od 1. března 2024 jako součást vaší stávající kapacity Power BI Premium nebo Fabric.
Míra spotřeby
Požadavky na Copilot spotřebovávají jednotky kapacity infrastruktury. Tato tabulka definuje, kolik jednotek kapacity se spotřebuje, když se použije Copilot. Například když uživatel používá Copilot proPower BI , Copilot prodata Factory nebo Copilot pro datové vědy a datové inženýrství.
Operace v aplikaci Metriky | popis | Operační měrná jednotka | míra spotřeby |
---|---|---|---|
Copilot ve Fabric | Vstupní výzva | Za 1 000 tokenů | 100 CU sekund |
Copilot ve Fabricu | Dokončení výstupu | Za 1 000 tokenů | 400 CU sekund |
Monitorování využití
Aplikace Fabric Capacity Metrics zobrazuje celkové využití kapacity pro operace Copilot pod názvem "Copilot v systému Fabric." Uživatelé Copilot mohou kromě toho zobrazit souhrn fakturačních poplatků za Copilot využití v položce fakturace "Copilot v systému Fabric."
Typ využití kapacity
Objekty Fabric Copilot se klasifikují jako "úlohy na pozadí", aby zvládly větší objem požadavků typu Copilot během špičkových hodin.
Fabric je navržen tak, aby poskytoval bleskově rychlý výkon tím, že umožňuje operacím přistupovat k více prostředkům CU (Capacity Units), než je alokováno pro kapacitu. "Fabric vyhlazuje nebo zprůměruje využití 'interaktivní úlohy' po dobu minimálně 5 minut a 'úlohy na pozadí' po dobu 24 hodin." Podle zásad omezování Fabric začne první fáze omezování, když kapacita spotřebovala všechny dostupné prostředky CU na následujících 10 minut.
Předpokládejme například, že každý požadavek Copilot má 2 000 vstupních tokenů a 500 výstupních tokenů. Cena za jednu Copilot požadavku se vypočítá takto: (2 000 × 100 + 500 × 400) / 1 000 = 700 CU sekund = 11,66 CU minut.
Vzhledem k tomu, že Copilot je úloha na pozadí, každý požadavek Copilot (přibližně 24minutová CU úloha) spotřebovává pouze jednu CU minutu v rámci každé hodiny kapacity. Pro zákazníka na F64, který má 64 × 24 CU hodin (1 536) za den, a každá úloha Copilot spotřebovává (24 minut CU / 60 minut) = 0,4 CU hodin, mohou zákazníci spustit přes 3 800 požadavků, než kapacitu vyčerpají. Jakmile se však kapacita vyčerpá, všechny operace se vypnou.
Mapování oblastí
Fabric Copilot využívá velké jazykové modely Azure OpenAI, které jsou aktuálně nasazeny do omezeného počtu datových center . Zákazníci ale mohou povolit nastavení tenanta pro zpracování dat napříč geografickými oblastmi, aby mohli používat Copilots zpracováním dat v jiném regionu, kde je dostupná služba Azure OpenAI. Tato oblast může být mimo geografickou oblast uživatele, hranici dodržování předpisů nebo národní instanci cloudu. Při mapování oblastí upřednostňujeme rezidenci dat jako nejvyšší prioritu a snažíme se namapovat do stejné geografické oblasti, kdykoli je to možné.
Náklady na jednotky kapacit maticové infrastruktury se mohou lišit podle regionu. Bez ohledu na oblast spotřeby, kde je kapacita GPU využívána, jsou zákazníci účtováni podle cen za jednotky kapacity Fabric ve své fakturační oblasti. Například pokud se požadavky zákazníka mapují z region 1
na region 2
, region 1
fakturační oblastí a region 2
oblastí spotřeby, zákazník se účtuje na základě cen v region 1
.
Změny Copilot ve spotřebě Fabric
Sazby spotřeby se můžou kdykoli změnit. Microsoft používá přiměřené úsilí k poskytování oznámení prostřednictvím e-mailu nebo prostřednictvím oznámení o produktu. Změny musí být platné k datu uvedené v poznámkách k verzi společnosti Microsoft nebo na blogu Microsoft Fabric. Pokud jakákoli změna Copilot v sazbě spotřeby v Fabric výrazně zvýší kapacitní jednotky (CU) potřebné k použití Copilot v Fabric, mohou zákazníci využít možnosti zrušení dostupné pro zvolený způsob platby.