Sdílet prostřednictvím

Rychlý start: Detekce chráněných materiálů pro text

  • Článek

Funkce Chráněný materiál pro text poskytuje komplexní řešení pro správu rizik spojených s obsahem vygenerovaným AI (pouze anglický obsah). Díky detekci a zabránění zobrazení chráněného materiálu můžou organizace zajistit dodržování zákonů duševního vlastnictví, zachovat originalitu obsahu a chránit jejich pověst. Chráněný materiál odkazuje na obsah, který odpovídá známému textu z autorských práv, jako jsou texty skladby, články, recepty nebo jiný vybraný webový obsah.

Klíčovými cíli funkce Detekce chráněných materiálů pro textovou funkci pro obsah vygenerovaný AI jsou:

  • Detekce a zabránění zobrazení chráněného obsahu generovaného modely AI
  • Aby organizace mohly spravovat rizika spojená s obsahem vygenerovaným AI.
  • Aby se zajistilo, že obsah generovaný AI splňuje právní, etické a zásady zásad obsahu.

Další informace o detekci chráněných materiálů najdete na stránce s konceptem detekce chráněných materiálů. Informace o limitech vstupu rozhraní API najdete v části Požadavky na vstup v části Přehled.

Požadavky

  • Předplatné Azure – Vytvoření předplatného zdarma
  • Jakmile budete mít předplatné Azure, vytvořte na webu Azure Portal prostředek zabezpečení obsahu, abyste získali svůj klíč a koncový bod. Zadejte jedinečný název vašeho prostředku, vyberte své předplatné a vyberte skupinu prostředků, podporovanou oblast (viz Dostupnost oblastí) a podporovanou cenovou úroveň. Pak vyberte Vytvořit.
    • Nasazení prostředku trvá několik minut. Po dokončení vyberte přejít k prostředku. V levém podokně v části Správa prostředků vyberte Klíč předplatného a koncový bod. Koncový bod a jeden z klíčů se používají k volání rozhraní API.
  • Nainstalovaný cURL

Analýza textu pro detekci chráněných materiálů

Následující část vás provede ukázkovým požadavkem s cURL. Vložte následující příkaz do textového editoru a proveďte následující změny.

  1. Nahraďte <endpoint> adresou URL koncového bodu přidruženou k vašemu prostředku.
  2. Nahraďte <your_subscription_key> jedním z klíčů, které jsou součástí vašeho prostředku.
  3. Volitelně můžete pole v textu nahradit "text" vlastním textem, který chcete analyzovat.

    Tip

    Viz Požadavky na vstup pro omezení maximální délky textu. Detekce chráněných materiálů je určená ke spuštění při dokončování LLM, nikoli při zobrazování výzev uživatelů.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Následující pole musí být zahrnuta v adrese URL:

Název Povinný? Popis Typ
Verze rozhraní API Požaduje se Toto je verze rozhraní API, která se má zkontrolovat. Aktuální verze je: api-version=2024-09-01. Příklad: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 String

Parametry v textu požadavku jsou definovány v této tabulce:

Název Povinný? Popis Typ
text Požaduje se Jedná se o nezpracovaný text, který se má zkontrolovat. Můžete zahrnout i jiné znaky, které nejsou ascii. String

Podívejte se na následující text ukázkové žádosti:

{
  "text": "string"
}

Otevřete okno příkazového řádku a spusťte příkaz cURL.

Interpretace odpovědi rozhraní API

Ve výstupu konzoly by se měly zobrazit výsledky detekce chráněných materiálů jako data JSON. Příklad:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Pole JSON ve výstupu jsou definována tady:

Název Popis Typ
protectedMaterialAnalysis Každá výstupní třída, kterou rozhraní API predikuje. String
zjištěný Zda byl zjištěn chráněný materiál, nebo ne. Logická hodnota

Vyčištění prostředků

Pokud chcete vyčistit a odebrat předplatné služeb Azure AI, můžete odstranit prostředek nebo skupinu prostředků. Odstraněním skupiny prostředků se odstraní také všechny ostatní prostředky, které jsou k ní přidružené.

Související obsah