Udostępnij za pośrednictwem

Omówienie pojęć dotyczących moderowania obrazów

  • Artykuł

Moderowanie obrazów wspomagane maszynowo przez usługę Content Moderator umożliwia moderowanie obrazów dla dorosłych i treści erotycznych. Skanuj obrazy pod kątem zawartości tekstowej i wyodrębniaj ten tekst oraz wykrywaj twarze. Obrazy można dopasować do list niestandardowych i podjąć dalsze działania.

Ocenianie zawartości dla dorosłych i rasistowskich

Operacja Evaluate zwraca współczynnik ufności z zakresu od 0 do 1. Zwraca również dane logiczne równe true lub false. Te wartości przewidują, czy obraz zawiera potencjalną zawartość dla dorosłych, czy rasistowskią. Po wywołaniu interfejsu API za pomocą obrazu (pliku lub adresu URL) zwrócona odpowiedź zawiera następujące informacje:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Uwaga

  • Obiekt isImageAdultClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Obiekt isImageRacyClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za potencjalnie seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Wyniki mają od 0 do 1. Im wyższy wynik, tym wyższy model przewiduje, że kategoria może mieć zastosowanie. Ta wersja zapoznawcza opiera się na modelu statystycznym, a nie na ręcznie zakodowanych wynikach. Zalecamy testowanie z własną zawartością, aby określić, jak każda kategoria jest zgodna z wymaganiami.
  • Wartości logiczne są prawdziwe lub fałszywe w zależności od wewnętrznych progów oceny. Klienci powinni ocenić, czy używać tej wartości, czy zdecydować o progach niestandardowych na podstawie ich zasad zawartości.

Wykrywanie tekstu za pomocą optycznego rozpoznawania znaków (OCR)

Operacja optycznego rozpoznawania znaków (OCR) przewiduje obecność zawartości tekstowej na obrazie i wyodrębnia ją do moderowania tekstu, między innymi. Możesz określić język. Jeśli nie określisz języka, wykrywanie jest domyślnie ustawione na angielski.

Odpowiedź zawiera następujące informacje:

  • Oryginalny tekst.
  • Wykryte elementy tekstowe z ich współczynnikami ufności.

Przykład wyodrębniania:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Wykrywanie twarzy

Wykrywanie twarzy pomaga wykrywać dane osobowe, takie jak twarze na obrazach. Wykrywasz potencjalne twarze i liczbę potencjalnych twarzy na każdym obrazie.

Odpowiedź zawiera następujące informacje:

  • Liczba twarzy
  • Lista lokalizacji wykrytych twarzy

Przykład wyodrębniania:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Tworzenie list niestandardowych i zarządzanie nimi

W wielu społecznościach online po przekazaniu przez użytkowników obrazów lub innego typu zawartości obraźliwe elementy mogą być udostępniane wiele razy w ciągu następnych dni, tygodni i miesięcy. Koszty wielokrotnego skanowania i filtrowania tego samego obrazu, a nawet nieco zmodyfikowane wersje obrazu z wielu miejsc mogą być kosztowne i podatne na błędy.

Zamiast moderować ten sam obraz wielokrotnie, można dodać obraźliwe obrazy do niestandardowej listy zablokowanej zawartości. Dzięki temu system con tryb namiotu ration porównuje obrazy przychodzące z listami niestandardowymi i zatrzymuje dalsze przetwarzanie.

Uwaga

Istnieje maksymalny limit wynoszący 5 list obrazów, a poszczególne listy nie mogą przekraczać 10 000 obrazów.

Pakiet Content Moderator udostępnia kompletny interfejs API zarządzania listami obrazów z operacjami do zarządzania listami obrazów niestandardowych. Zapoznaj się z przewodnikiem Szybki start lista obrazów platformy .NET, jeśli znasz programy Visual Studio i C#.

Dopasowywanie do list niestandardowych

Operacja Dopasowywanie umożliwia rozmyte dopasowywanie obrazów przychodzących do dowolnych list niestandardowych, utworzonych i zarządzanych przy użyciu operacji Listy.

W przypadku znalezienia dopasowania operacja zwraca identyfikator i tagi moderowania dopasowanego obrazu. Odpowiedź zawiera następujące informacje:

  • Wynik dopasowania (od 0 do 1)
  • Dopasowany obraz
  • Tagi obrazów (przypisane podczas poprzedniego moderowania)
  • Etykiety obrazów

Przykład wyodrębniania:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Następne kroki

Przetestuj przewodnik Szybki start i użyj przykładów kodu interfejsu API REST.