Co je nového v Azure AI Content Safety
Zjistěte, co je nového ve službě. Tyto položky můžou být poznámky k verzi, videa, blogové příspěvky a další typy informací. Přidejte si tuto stránku do záložek, abyste zůstali v aktualizovaném stavu s novými funkcemi, vylepšeními, opravami a aktualizacemi dokumentace.
Října 2024
Nadcházející vyřazení
Pro zajištění souladu se zásadami správy verzí zabezpečení obsahu a životního cyklu jsou naplánované vyřazení následujících verzí:
- Platnost od 28. října 2024: Všechny verze s výjimkou
2024-09-01,2024-09-15-previewa budou zastaralé a2024-09-30-previewjiž nebudou podporovány. Doporučujeme uživatelům přejít na nejnovější dostupné verze, aby mohli dál dostávat plnou podporu a aktualizace. Pokud máte nějaké dotazy k tomuto procesu nebo potřebujete pomoc s přechodem, obraťte se prosím na náš tým podpory.
Září 2024
Multimodální analýza (Preview)
Multimodální rozhraní API analyzuje materiály obsahující obsah obrázků i textový obsah, aby aplikace a služby byly bezpečnější před škodlivým uživatelem generovaným nebo vygenerovaným obsahem AI. Analýza obrázku a souvisejícího textového obsahu společně může zachovat kontext a poskytnout komplexnější porozumění obsahu. Začněte podle tohoto rychlého startu .
Detekce chráněných materiálů pro kód (Preview)
Rozhraní API chráněného kódu materiálu označuje chráněný obsah kódu (ze známých úložišť GitHubu, včetně softwarových knihoven, zdrojového kódu, algoritmů a dalšího proprietárního programovacího obsahu), které můžou být výstupem velkých jazykových modelů. Začněte podle tohoto rychlého startu .
Upozornění
Skener kódu/indexer služby content safety je aktuální pouze do 6. listopadu 2021. Kód, který byl přidán do GitHubu po tomto datu, se nerozpozná. Při použití chráněného materiálu pro kód použijte vlastní uvážení k detekci nedávných těl kódu.
Oprava uzemnění (Preview)
Rozhraní API pro detekci uzemnění zahrnuje funkci opravy, která automaticky opravuje veškerou zjištěnou neuzemnění v textu na základě zadaných zemských zdrojů. Pokud je povolená funkce opravy, odpověď obsahuje corrected Text pole, které zobrazuje opravený text zarovnaný se zdroji zemnění. Začněte podle tohoto rychlého startu .
Srpen 2024
Nové funkce jsou obecně dostupné
Rozhraní API příkazového štítu a chráněný materiál pro textové rozhraní API jsou nyní obecně dostupné (GA). Vyzkoušejte si je pomocí rychlého startu.
Červenec 2024
Custom categories (Standard) API Public Preview
Rozhraní API vlastních kategorií (standard) umožňuje vytvářet a trénovat vlastní kategorie obsahu a prohledávat shody textu. Další informace najdete v tématu Vlastní kategorie .
Květen 2024
Vlastní kategorie (rychlé) rozhraní API ve verzi Public Preview
Vlastní kategorie (rychlé) rozhraní API umožňuje rychle definovat vznikající škodlivé vzory obsahu a kontrolovat shody textu a obrázků. Další informace najdete v tématu Vlastní kategorie .
Březen 2024
Zobrazení výzvy ke stínění ve verzi Public Preview
Dříve označovaná jako detekce rizika jailbreaku tato aktualizovaná funkce detekuje útoky na výzvy, ve kterých uživatelé záměrně zneužívají ohrožení zabezpečení systému k vyvolání neoprávněného chování z rozsáhlého jazykového modelu. Prompt Shields analyzuje přímé útoky na výzvy uživatelů i nepřímé útoky, které jsou vložené do vstupních dokumentů nebo obrázků. Další informace najdete v tématu Výzvy štítů .
Detekce uzemnění ve verzi Public Preview
Rozhraní API pro detekci základnosti zjišťuje, jestli jsou textové odpovědi velkých jazykových modelů (LLM) uzemněny ve zdrojových materiálech poskytovaných uživateli. Neuzemněnost popisuje případy, kdy LLM vytváří informace, které nejsou faktické nebo nepřesné podle toho, co bylo přítomné ve zdrojových materiálech. Další informace najdete v tématu Detekce uzemnění.
Leden 2024
Obecná dostupnost sady CONTENT Safety SDK
Služba Azure AI Content Safety je teď obecně dostupná prostřednictvím následujících sad SDK klientské knihovny:
- C#: Ukázky referenčních informací | k rozhraní API balíčků | | Rychlé starty: Text, Obrázek
- Python: Ukázky referenčních informací | k rozhraní API balíčků | | Rychlé starty: Text, Obrázek
- Java: Ukázky referenčních informací | k rozhraní API balíčků | | Rychlé starty: Text, Obrázek
- JavaScript: Ukázky referenčních informací | k rozhraní API balíčků | | Rychlé starty: Text, Obrázek
Důležité
Verze Public Preview sad AZURE AI Content Safety SDK se do 31. března 2024 přestanou používat. Aktualizujte své aplikace tak, aby používaly verze ga.
Listopad 2023
Riziko jailbreaku a detekce chráněných materiálů (Preview)
Nová rozhraní API pro detekci rizik jailbreaku a chráněná rozhraní API pro detekci materiálů umožňují zmírnit některá rizika při používání generující umělé inteligence.
- Detekce rizika jailbreaku prohledává text za riziko útoku jailbreaku na rozsáhlý jazykový model. Rychlý start
- Detekce textu chráněného materiálu kontroluje text vygenerovaný pomocí umělé inteligence pro známý textový obsah (například text skladby, články, recepty, vybraný webový obsah). Rychlý start
Riziko jailbreaku a detekce chráněných materiálů jsou dostupné jenom ve vybraných oblastech. Viz Dostupnost oblastí.
Říjen 2023
Obecná dostupnost azure AI Content Safety (GA)
Služba Azure AI Content Safety je teď obecně dostupná jako cloudová služba.
- Služba je dostupná v mnoha dalších oblastech Azure. Podívejte se na přehled seznamu.
- Návratové formáty rozhraní API pro analýzu se změnily. Nejnovější příklady najdete v rychlých startech .
- Názvy a návratové formáty několika dalších rozhraní API se změnily. Úplný seznam zásadních změn najdete v průvodci migrací. Další příručky a rychlá zprovoznění teď odrážejí verzi GA.
Azure AI Content Safety Java a javascriptové sady SDK
Služba Azure AI Content Safety je teď dostupná prostřednictvím sad Java a JavaScript SDK. Sady SDK jsou k dispozici v Mavenu a npm . Začněte podle rychlého startu .
Červenec 2023
Azure AI Content Safety C# SDK
Služba Azure AI Content Safety je teď dostupná prostřednictvím sady C# SDK. Sada SDK je k dispozici na NuGetu. Začněte podle rychlého startu .
Květen 2023
Azure AI Content Safety Public Preview
Azure AI Content Safety detekuje materiál, který je potenciálně urážlivý, rizikový nebo jinak nežádoucí. Tato služba nabízí nejmodernější modely textu a obrázků, které detekují problematický obsah. Azure AI Content Safety pomáhá lépe zabezpečit aplikace a služby před škodlivým uživatelem generovaným a generovaným obsahem AI. Začněte podle rychlého startu .