Wat is er nieuw in Azure AI Content Safety?
Meer informatie over nieuwe functies in de service. Deze items kunnen releaseopmerkingen, video's, blogberichten en andere soorten informatie zijn. Maak een bladwijzer voor deze pagina om up-to-date te blijven met nieuwe functies, verbeteringen, fixes en documentatie-updates.
Oktober 2024
Geplande afschaffingen
Om af te stemmen op het beleid voor versiebeheer van Content Safety en levenscyclusbeheer, worden de volgende versies gepland voor afschaffing:
-
Vanaf 1 maart 2025: Alle versies behalve
2024-09-01,2024-09-15-previewen2024-09-30-previewworden afgeschaft en worden niet meer ondersteund. We raden gebruikers aan om over te stappen naar de nieuwste beschikbare versies om volledige ondersteuning en updates te blijven ontvangen. Neem contact op met ons ondersteuningsteam als u vragen hebt over dit proces of hulp nodig hebt bij de overgang.
September 2024
Multimodale analyse (preview)
De Multimodale API analyseert materialen die zowel afbeeldingsinhoud als tekstinhoud bevatten om toepassingen en services veiliger te maken tegen schadelijke door de gebruiker gegenereerde of DOOR AI gegenereerde inhoud. Het analyseren van een afbeelding en de bijbehorende tekstinhoud kan context behouden en een uitgebreider begrip van de inhoud bieden. Volg de quickstart om aan de slag te gaan.
Detectie van beveiligde materiaal voor code (preview)
De API voor beveiligde materiaalcode markeert beveiligde code-inhoud (van bekende GitHub-opslagplaatsen, waaronder softwarebibliotheken, broncode, algoritmen en andere bedrijfseigen programmeerinhoud) die mogelijk wordt uitgevoerd door grote taalmodellen. Volg de quickstart om aan de slag te gaan.
Let op
De codescanner/indexeerfunctie van de inhoudsveiligheidsservice is alleen actueel tot en met 6 november 2021. Code die na deze datum is toegevoegd aan GitHub, wordt niet gedetecteerd. Gebruik uw eigen discretie bij het gebruik van beveiligd materiaal voor code om recente codeteksten te detecteren.
Aardingscorrectie (preview)
De groundedness detection-API bevat een correctiefunctie waarmee alle gedetecteerde niet-geaardheid in de tekst automatisch wordt gecorrigeerd op basis van de opgegeven grondbronnen. Wanneer de correctiefunctie is ingeschakeld, bevat het antwoord een corrected Text veld waarin de gecorrigeerde tekst wordt weergegeven die is uitgelijnd met de grondbronnen. Volg de quickstart om aan de slag te gaan.
Augustus 2024
Nieuwe functies zijn algemeen beschikbaar
De Prompt Shields-API en het beveiligde materiaal voor tekst-API zijn nu algemeen beschikbaar (GA). Volg een quickstart om ze uit te proberen.
Juli 2024
Openbare preview van aangepaste categorieën (standaard) API
Met de API voor aangepaste categorieën (standaard) kunt u uw eigen aangepaste inhoudscategorieën maken en trainen en tekst scannen op overeenkomsten. Zie Aangepaste categorieën voor meer informatie.
Mei 2024
Openbare preview van aangepaste categorieën (snelle) API
Met de aangepaste categorieën (snelle) API kunt u snel opkomende schadelijke inhoudspatronen definiëren en tekst en afbeeldingen scannen op overeenkomsten. Zie Aangepaste categorieën voor meer informatie.
Maart 2024
Openbare preview van Prompt Shields
Voorheen bekend als Jailbreak-risicodetectie, detecteert deze bijgewerkte functie promptaanvallen, waarbij gebruikers opzettelijk misbruik maken van systeemproblemen om onbevoegd gedrag van een groot taalmodel op te lossen. Prompt Shields analyseert zowel directe aanvallen van gebruikersprompts als indirecte aanvallen die zijn ingesloten in invoerdocumenten of afbeeldingen. Zie Prompt Shields voor meer informatie.
Openbare preview van geaardheidsdetectie
De Groundedness Detection-API detecteert of de tekstreacties van grote taalmodellen (LLM's) worden geaard in de bronmaterialen die door de gebruikers worden geleverd. Niet-geaardheid beschrijft instanties waarbij de LLM's informatie produceren die niet feitelijk of onnauwkeurig is volgens wat aanwezig was in de bronmaterialen. Zie Groundedness-detectie voor meer informatie.
Januari 2024
Algemene beschikbaarheid van Content Safety SDK
De Azure AI Content Safety-service is nu algemeen beschikbaar via de volgende clientbibliotheek-SDK's:
- C#: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
- Python: Pakket-API-referentievoorbeelden | | | Quickstarts: Tekst, Afbeelding
- Java: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
- JavaScript: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
Belangrijk
De openbare preview-versies van de Azure AI Content Safety SDK's worden afgeschaft op 31 maart 2024. Werk uw toepassingen bij om de GA-versies te gebruiken.
November 2023
Jailbreak-risico en beveiligde materiaaldetectie (preview)
Met de nieuwe jailbreakrisicodetectie en beveiligde materiaaldetectie-API's kunt u enkele van de risico's beperken bij het gebruik van generatieve AI.
- De detectie van jailbreakrisico's scant tekst op het risico van een jailbreak-aanval op een large language model. Snelstartgids
- Met detectie van beveiligde materiaaltekst worden door AI gegenereerde tekst gescand op bekende tekstinhoud (bijvoorbeeld liedteksten, artikelen, recepten, geselecteerde webinhoud). Snelstartgids
Jailbreakrisico en beveiligde materiaaldetectie zijn alleen beschikbaar in bepaalde regio's. Zie beschikbaarheid van regio's.
Oktober 2023
Azure AI Content Safety is algemeen beschikbaar (GA)
De Azure AI Content Safety-service is nu algemeen beschikbaar als een cloudservice.
- De service is beschikbaar in veel meer Azure-regio's. Zie het overzicht voor een lijst.
- De retourindelingen van de Analyze-API's zijn gewijzigd. Zie de quickstarts voor de nieuwste voorbeelden.
- De namen en retourindelingen van verschillende andere API's zijn gewijzigd. Zie de migratiehandleiding voor een volledige lijst met belangrijke wijzigingen. Andere handleidingen en quickstarts weerspiegelen nu de GA-versie.
Azure AI Content Safety Java- en JavaScript SDK's
De Azure AI Content Safety-service is nu beschikbaar via Java- en JavaScript-SDK's. De SDK's zijn respectievelijk beschikbaar op Maven en npm . Volg een snelstart om aan de slag te gaan.
Juli 2023
Azure AI Content Safety C# SDK
De Azure AI Content Safety-service is nu beschikbaar via een C#-SDK. De SDK is beschikbaar op NuGet. Volg een snelstart om aan de slag te gaan.
Mei 2023
Openbare preview van Azure AI Content Safety
Azure AI Content Safety detecteert materiaal dat mogelijk aanstootgevend, riskant of anderszins ongewenst is. Deze service biedt geavanceerde tekst- en afbeeldingsmodellen waarmee problematische inhoud wordt gedetecteerd. Azure AI Content Safety helpt toepassingen en services veiliger te maken tegen schadelijke door de gebruiker gegenereerde en DOOR AI gegenereerde inhoud. Volg een snelstart om aan de slag te gaan.