Delen via

Quickstart: Beveiligde materiaaldetectie voor tekst

  • Artikel

De functie Beveiligd materiaal voor tekst biedt een uitgebreide oplossing voor het beheren van risico's die zijn gekoppeld aan door AI gegenereerde inhoud (alleen Engelse inhoud). Door de weergave van beschermd materiaal te detecteren en te voorkomen, kunnen organisaties ervoor zorgen dat ze voldoen aan de intellectuele eigendomsrechten, de originaliteit van inhoud behouden en hun reputatie beschermen. Beschermd materiaal verwijst naar inhoud die overeenkomt met bekende tekst uit auteursrechtelijk beschermde bronnen, zoals liedteksten, artikelen, recepten of andere geselecteerde webinhoud.

De belangrijkste doelstellingen van de functie Beveiligde materiaaldetectie voor tekst voor door AI gegenereerde inhoud zijn:

  • Het detecteren en voorkomen van de weergave van beveiligde inhoud die door AI-modellen wordt gegenereerd.
  • Organisaties in staat stellen risico's te beheren die zijn gekoppeld aan door AI gegenereerde inhoud.
  • Om ervoor te zorgen dat door AI gegenereerde inhoud voldoet aan wettelijke, ethische en beleidsrichtlijnen voor inhoud.

Zie de conceptpagina voor de detectie van beveiligde materialen voor meer informatie over de detectie van beveiligde materialen. Zie de sectie Invoervereisten van het overzicht voor API-invoerlimieten.

Vereisten

  • Een Azure-abonnement - Een gratis abonnement maken
  • Zodra u uw Azure-abonnement hebt, maakt u een Content Safety-resource in Azure Portal om uw sleutel en eindpunt op te halen. Voer een unieke naam in voor uw resource, selecteer uw abonnement en selecteer een resourcegroep, ondersteunde regio (zie Beschikbaarheid van regio) en ondersteunde prijscategorie. Selecteer vervolgens Maken.
    • Het implementeren van de resource duurt enkele minuten. Nadat deze is voltooid, gaat u naar de resource. Selecteer in het linkerdeelvenster onder Resourcebeheer de optie Abonnementssleutel en Eindpunt. Het eindpunt en een van de sleutels worden gebruikt om API's aan te roepen.
  • cURL geïnstalleerd

Tekst analyseren voor detectie van beveiligde materialen

In de volgende sectie wordt een voorbeeldaanvraag met cURL beschreven. Plak de onderstaande opdracht in een teksteditor en breng de volgende wijzigingen aan.

  1. Vervang door <endpoint> de eindpunt-URL die is gekoppeld aan uw resource.
  2. Vervang door <your_subscription_key> een van de sleutels die bij uw resource worden geleverd.
  3. Vervang desgewenst het "text" veld in de hoofdtekst door uw eigen tekst die u wilt analyseren.

    Tip

    Zie de invoervereisten voor maximale tekstlengtebeperkingen. Detectie van beveiligde materialen is bedoeld om te worden uitgevoerd op LLM-voltooiingen, niet op gebruikersprompts.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

De onderstaande velden moeten worden opgenomen in de URL:

Naam Vereist? Beschrijving Type
API-versie Vereist Dit is de API-versie die moet worden gecontroleerd. De huidige versie is: api-version=2024-09-01. Voorbeeld: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 String

De parameters in de aanvraagbody worden gedefinieerd in deze tabel:

Naam Vereist? Beschrijving Type
tekst Vereist Dit is de onbewerkte tekst die moet worden gecontroleerd. Andere niet-ascii-tekens kunnen worden opgenomen. String

Zie de volgende voorbeeldtekst van de aanvraag:

{
  "text": "string"
}

Open een opdrachtpromptvenster en voer de cURL-opdracht uit.

Het API-antwoord interpreteren

U ziet nu de resultaten van de beveiligde materiaaldetectie die worden weergegeven als JSON-gegevens in de console-uitvoer. Voorbeeld:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

De JSON-velden in de uitvoer worden hier gedefinieerd:

Name Omschrijving Type
protectedMaterialAnalysis Elke uitvoerklasse die de API voorspelt. String
Gedetecteerd Of er al dan niet beveiligd materiaal is gedetecteerd. Booleaanse waarde

Resources opschonen

Als u een Azure AI-servicesabonnement wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

Gerelateerde inhoud