Azure AI Content Safety の危害カテゴリ

このガイドでは、Azure AI Content Safety でコンテンツにフラグを設定するために使用される危害カテゴリと評価について説明します。 テキストと画像の両方のコンテンツで同じフラグ セットが使用されます。

危害カテゴリ

Content Safety により、不快なコンテンツの 4 つの異なるカテゴリが認識されます。

カテゴリ	説明	API 用語
ヘイトと公平性	ヘイトと公平性の危害とは、そのグループの特定の差別化属性に基づいて個人または ID グループを攻撃する、あるいはそのグループに関して差別的な言葉を使用するコンテンツを指します。 たとえば、次のようなものが挙げられます。 人種、民族、国籍 性別のアイデンティティ グループと表現 性的指向 宗教 個人の外観、身体のサイズ 障碍の状態 嫌がらせといじめ	Hate
性的	性的とは、解剖学的臓器や生殖器、恋愛関係、性行為、性愛的または情愛的な用語で描写された行為 (暴行または意志に反した強制的な性的暴力行為として描写されたものを含む) に関連する言葉を表します。   たとえば、次のようなものが挙げられます。 低俗なコンテンツ 売春 ヌードおよびポルノ 迷惑行為 児童搾取、児童虐待、チャイルド グルーミング	Sexual
暴力	暴力は、人や何かに苦痛を与える、傷つける、損傷を与える、殺害することを意図した物理的行為に関連する言葉、武器、銃器などを表します。 たとえば、次のようなものが挙げられます。 武器 いじめと脅迫 テロリスト、暴力的な過激主義 ストーカー行為	Violence
自傷行為	自傷行為とは、故意に自分の体に苦痛を与える、傷つける、損傷を与える、または自殺を意図した物理的な行為に関連する言葉を表します。 たとえば、次のようなものが挙げられます。 摂食障害 いじめと脅迫	SelfHarm

分類には複数のラベルを付けることができます。 たとえば、テキスト サンプルがテキスト モデレーション モデルを通過すると、性的コンテンツと暴力の両方として分類される可能性があります。

セキュリティ レベル

サービスで適用されるすべての危害カテゴリには、重大度レベルも含まれます。 重大度レベルは、フラグが設定されたコンテンツを表示した結果の重大度を示すためのものです。

テキスト: テキスト モデルの現在のバージョンでは、完全な 0 から 7 の重大度スケールがサポートされています。 この分類子は、このスケールに沿ってすべての重大度の中から検出します。 ユーザーが指定した場合、0、2、4、6 へとトリミングしたスケールで重大度を返すことができます。2 つの隣接するレベルはそれぞれ、1 つのレベルにマップされます。

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

画像: 画像モデルの現在のバージョンでは、完全な 0 から 7 の重大度スケールをトリミングしたバージョンがサポートされています。 分類子は重大度 0、2、4、6 のみを返します。

• 0
• 2
• 4
• 6

テキスト付きの画像: マルチモーダル モデルの現在のバージョンでは、完全な 0 から 7 の重大度スケールがサポートされています。 この分類子は、このスケールに沿ってすべての重大度の中から検出します。 ユーザーが指定した場合、0、2、4、6 へとトリミングしたスケールで重大度を返すことができます。2 つの隣接するレベルはそれぞれ、1 つのレベルにマップされます。

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

テキスト コンテンツ

警告

警告

このドキュメントの [重大度の定義] タブには、一部の読者が不快に感じる可能性のある有害なコンテンツの例が含まれています。

重大度の定義

ヘイトと公平性の重大度レベル

重大度レベル	説明	文章の例
レベル 0	子どもを含むすべての対象ユーザーに適している、一般的な意味で使用されるヘイトと公平性に関する用語を含むコンテンツ。 これには、次のものが含まれます。 アイデンティティ グループに対する嫌悪感を表す一般的で軽蔑的な言語 歴史的、地理的、医療的文脈、および、感情を伴わないその他の類似文脈における、民族、民族、宗教などのアイデンティティ グループ属性に関する一般的な言及 文脈外において攻撃的意図の人種的含意を持たない一般的な用語	I hate cats.
レベル 1	一般的な意味で使用されるヘイトと公平性に関連する用語を含むが、文脈によっては異なる意味を獲得する可能性があり、アイデンティティ グループと他者を偏見的または否定的に差別化しないコンテンツ。 これには、次のものが含まれます。 公式の統計、法律、またはドキュメント ニュース/メディアの報道 多様性の認識を高める、またはヘイト スピーチに対処ための教育リソース 美白製品・トリートメント広告 インドユーラシア スワスティカ、コンフェデレート旗 (南軍旗)、KKK と視覚的に類似した非 KKK グループへの言及	Black people should not be killed by police or mistreated just because of their skin color.
レベル 2	アイデンティティ グループについての、好ましく感情的な反応を引き起こすような肯定的な描写または擁護を含むコンテンツ。 これには、次のものが含まれます。 研究論文、辞書、またはメディアにおいて、直接引用され完全な形で記述された中傷 あるアイデンティティ グループに属する話者による、同じアイデンティティ グループを対象にする意図のない発言・声明 アイデンティティ グループを対象としていない罵りの言葉、卑語、言葉による侮辱 アイデンティティ グループを対象とせず、非特定の個人/グループを対象とする一般的なヘイト スピーチ 不快な用語のブロックリストを作成するというユーザーの意図 映画、ビデオゲーム、衣装、おもちゃ、再現、またはオンライン スラングにおけるナチス ドイツ、ヒトラー、コンフェデレート旗 (南軍旗)、Ku Klux Klanの象徴化の表現	I hate you.
レベル 3	偏見、判断、固定観念に基づく描写または否定的な感情を含むコンテンツ。 これには、次のものが含まれます。 固定観念または否定的な感情に基づく意見 偏見、判断、または独断的な意見の表明 アイデンティティ グループと他の アイデンティティ グループを区別する肯定的または否定的な比較。 架空の世界での言及 求人における雇用差別 ナチス ドイツ、コンフェデレート旗 (南軍旗)、または Ku Klux Klan に関連する歴史的事実や歴史的遺物	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
[レベル 4]	個人の属性に基づいて個人を傷つける意図を持って、アイデンティティ グループを標的とする記述として使用される、口頭での直接的な感情に動機付けられた暴言、否定的なコメント、人種的な中傷を含むコンテンツ。 これには、次のものが含まれます。 個人の人種、皮膚の色を標的にするために用いられる言及 社会的回避と孤立の推進 アイデンティティ グループ属性を嘲るような真似や模倣	All [identity group] are ugly.
レベル 5	非人間化、暴力、出来事の否定、いじめ、または脅迫行為により否定的な感情をさらに強めるような、個人またはグループの非人間化または品位を貶める内容を含むコンテンツ。 これには、次のものが含まれます。 ホロコーストなどのような歴史的な、十分に文書化された暴力事件を拒否する文章 アイデンティティ グループのメンバーシップに基づいて、個人またはグループを物理的または精神的に劣っていると記述する文章 アイデンティティ グループの存在を疑問視する、拒否する、または貶める文章 好ましい属性または期待される属性の強制 アイデンティティ グループを標的とする優生思想と「人種改善」理論 ナチス、コンフェデレート旗 (南軍旗)、またはKKKのシンボルを含む現代の商品	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
レベル 6	アイデンティティ グループに対する否定的感情とヘイト スピーチに基づくコンテンツ。 アイデンティティ グループと他のアイデンティティ グループを差別化するようなグループの特徴に言及し、その属性に基づいてアイデンティティ グループに対して行動を起こすよう訴えかけることによる。 次の事柄が関係します。 アイデンティティ グループに対する直接的な脅威または暴力の要請として認識される可能性があるヘイト スピーチ のプロパガンダ 煽動的、攻撃的で、下品なヘイト スピーチ 差別、隔離、または排除を正当化するために、そのアイデンティティ グループの属性を持つグループよりもあるグループが優位であると主張する文章 あるアイデンティティ グループを標的にした暴力事件に関する喜びを記述した文章	Send [identity group] back to the gas chambers.
レベル 7	否定的な感情に基づくコンテンツ。ヘイト犯罪やストーカーの意図を示し、敵対的な感情的反応を引き起こし、アイデンティティ グループやその他のユーザーを差別化し犯罪へとつながるようなコンテンツ。 これには、次のものが含まれます。 ヘイト犯罪の準備、賞賛、およびアイデンティティ グループに対する暴力の美化 至上主義団体の採用資料を含む文章 アイデンティティ グループに対するヘイト スピーチを過激化して奨励する目的の文章	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

性的な重大度レベル

重大度レベル	説明	文章の例
レベル 0	子どもを含むすべての対象ユーザーにとって無害な、一般的な意味で使用される性的な内容に関する用語を含むコンテンツ。 家族関係に関する言及 すべての対象ユーザー (子どもを含む) にとって無害なコンテンツ	The sports bra and yoga pants were too tight for comfort.
レベル 1	一般的な意味で使用される性的な内容に関する用語を含むが、文脈により異なる意味を得る可能性があるコンテンツ。 これには次のものが含まれます セックス関連の内容に関する公式統計とドキュメント ニュース/メディアの報道 解剖学的用語、性的解剖学、医療 セックス、性的健康、自覚などに関する教育リソース。 生物学的性または生殖の説明に関する言及 描写的ではない言葉を用いて恋愛関係を記述する文章	Fewer young adults are having sex than in previous generations.
レベル 2	架空または現実世界での経験における、性的な内容に関する極端に描写的ではない用語を含むコンテンツ。 これには次のものが含まれます 限定的な猥談や、短くあからさまではないヌードシーンを含む文学/芸術的文章、映画、彫刻などについての言及 セックス全般、性的な問題やトラウマ、そのような問題に対処するための対処メカニズムと情報源の共有に関する個人的な経験 性的コンテンツのブロックリストを作成するというユーザーの意図 露骨ではない性的行為とヌードへの言及	My husband and I introduced a vibrator to our sex life and it has really made a difference.
レベル 3	性的内容に関する用語を含むコンテンツ。性的関連の問題に関する具体的描写のあるコンテンツ、偏見、先入観、批判、または独断的な意見が含まれている場合。 これには次のものが含まれます 具体的描写のあるコンテンツを含む、過去または現在の個人的な性的体験	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
[レベル 4]	性的なファンタジー、プロのセックス業界と広告、動物の有性生殖について記述するコンテンツ。 これには次のものが含まれます 現実のヌードや架空のヌードを想像することを含む、さまざまな種類のセックスについてのファンタジー セックス シーンの説明のないプロのセックス業界 コンドーム、潤滑剤、大人のおもちゃ、衣類などの広告 具体的描写のあるコンテンツを含む、動物や動物のようなキャラクター間の生殖活動についての記述 性的行為とヌードに関する露骨ではない言及	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
レベル 5	個人的な経験として、性愛的内容の番組や経験、明確な同意のある性的嗜好行為、そして性愛ストーリーやウェブサイトについて記述するコンテンツ。 これには次のものが含まれます 個人的な経験として (プロのサービスとしてではなく)、性的、性愛的または扇情的なマッサージ、ストリップ クラブ、性愛ショーへの言及 一般的な性的嗜好の属性と実践に関連する、または性的嗜好の慣習についての明確な文脈における状況に関連する個人的な経験と記述 性的欲求や快楽に関連する非商業的な性愛コンテンツへの言及	We both climaxed at the same time.
レベル 6	性的な商業サービスへの勧誘を記述したコンテンツ。性的行為、暴力による性的虐待とレイプ、合意のない権力の交換、虐待、のぞきについての詳細な描写が含まれるもの。 これには次のものが含まれます 手や他の物品による性器の刺激、自慰行為などへの言及 体液に関連するフェチまたは下品なコンテンツ、性支配の状況、または明確な同意のない BDSM 活動 性的暴力、性的暴行、強かん、または虐待を詳細な描写で記述する文章 性的暴行に肯定的な性質を付与する文章 性的暴行を行うための指示を求める、指示を与える文章 以前に記録された、同意のない性的な画像や動画を公開すると恐喝、脅迫する行為	I love forced sex, it's so much hotter.
レベル 7	性的奴隷の過激な形態を推奨、是認、美化するために使用されるコンテンツ。 過激または違法なコンテンツ。 これには次のものが含まれます 動物、死体などとのセックス 小児性愛 子供のグルーミングを行うための指示を求める、指示を与えるもの 近親相姦への明示的または潜在的な言及 性目的の人身売買の募集	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

暴力の重大度レベル

重大度レベル	説明	文章の例
レベル 0	子どもを含むすべての対象ユーザーにとって無害な、一般的な意味で使用される非暴力行為または暴力関連の用語を含むコンテンツ。 これには、次のものが含まれます。 武器として使用されなければ一般的な物品 おもちゃの銃、非現実的または仮装用の銃 吊り輪として使用しないロープへの言及	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
レベル 1	一般的な意味で使用される暴力に関連する用語または行為を含むが、文脈により異なる意味を得る可能性があるコンテンツ。 これには、次のものが含まれます。 文章の一部分であって、暴力行為の描写を含むもので、文章全体の文脈を考慮すると暴力の意図がないもの 銃、武器、家庭内暴力、戦争、軍事などに関する公式の統計とドキュメント。 暴力に関連する教育リソース ニュース/メディアの報道 医療用語とコンテンツ 狩猟または射撃スポーツと銃の技術仕様 戦闘練習 ISIS/アルカイダとは無関係のテロ対策とテロリストのシンボル	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
レベル 2	架空または現実世界での経験における、暴力に関する極端に描写的ではない用語や行動を含むコンテンツで、悪意の美化や是認がないもの。 これには、次のものが含まれます。 ビデオ ゲームでの一人称、二人称、三人称のナレーション、暴力的で生々しいシーンを表す文学的/芸術的文章 ゲームのヒントと推奨事項 個人的な経験において、個人が何らかの種類の暴力にさらされた様子についての記述 対象となる人間がいない状況で吊り輪として使用される場合、または吊り輪と無関係な場合でのロープへの言及 暴力コンテンツのブロックリストを作成するというユーザーの意図	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
レベル 3	暴力に関する用語や行動を含むコンテンツ。暴力に関する具体的描写のあるコンテンツ、偏見、先入観、批判、または独断的な意見が含まれている場合。 これには、次のものが含まれます。 一部の動物に残酷な行為を許可すること 一部の種類の暴力の肯定的な影響を主張する文章	Some people just need to be slapped.
[レベル 4]	被害者が身体虐待を受けている理由についての根拠のない正当化、虐待者に対する根拠のない肯定的な性質の付与、他の人に危害を加える方法に関連する暴力行為やファンタジーの脅迫に関して記述したコンテンツで、中程度の流血のあるもの。 これには、次のものが含まれます。 被害者に落ち度があると非難したり、加害者を肯定的な見方で表現したりする文章 暴力と死の詳細な描写で、中程度の流血のあるもの 解剖報告書、法医学調査、犯罪または死亡現場 肉処理場、養鶏場、宗教上の動物生贄 歴史的または最近のジェノサイドや、多数の死傷者を出した既知の発砲事件への言及で、美化や是認がないもの テロリストや暴力的な過激派による出来事への言及で、美化や是認がないもの	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
レベル 5	特定の個人またはグループに危害を与える方法に関する直接的な指示を提供し、暴力をさらに促すこと目的としたコンテンツ。 これには、次のものが含まれます。 標的にされた個人やグループに対する物理的な暴力を扇動する文章 個人に対する身体的暴力や動物への虐待を引き起こす方法に関する指示 動物、個人、またはグループに対して暴力行為を行う方法に関するアドバイスを求める文章 いじめと脅迫	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
レベル 6	過激派グループやテロ組織、大量殺害、明らかな物理的損害について、また、テロとそのプロパガンダに対する推奨が記述されたコンテンツで、流血の多い表現のもの。 これには、次のものが含まれます。 インターネット上の、テロリストまたは過激派の公式なプロパガンダ資料および暴力イデオロギー 暴力的行為への扇動	We must kill them all. God wills it, and society will be better for it.
レベル 7	過激な形態の暴力を記述、賞賛、支持、推奨、是認、美化するために使用されるコンテンツ。 テロ組織を支援し、過激化、指導、または訓練を行うコンテンツ。 これには、次のものが含まれます。 子どもを含む強制労働、家庭内での隷属、医学的治療 テロ活動の一環として殺害を美化し、テロ組織やテロ目的への支援を補助する、テロリストおよび暴力的過激派のオンライン プロパガンダ資料 テロリストや暴力的な過激派グループとの提携に関する指示を求める文章。主義のために人々を募集、影響力、訓練する方法に関するもの ストーカー行為や迷惑な監視などの違法な嫌がらせ行為 個人または人のグループに対する攻撃を計画および調整する文章 食人習慣について是認、美化、指示を提供する文章	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

自傷の重大度レベル

重大度レベル	説明	文章の例
レベル 0 – 安全	子どもを含むすべての対象ユーザーにとって無害な、一般的な意味で使用される自傷行為に関する用語を含むコンテンツ。 これには、次のものが含まれます。 健康に関する文脈で、体脂肪, 年齢と性別別の肥満指数の言及	I appreciate your hard work, but you don't need to keep killing yourself over this project.
レベル 1	一般的な意味で使用される自傷行為に関する用語を含むが、文脈により異なる意味を得る可能性があるコンテンツ。 これには、次のものが含まれます。 自殺以外の自傷行為 (NSSI)、自殺などに関する公式統計とドキュメント 自傷行為に関する教育リソース ニュース/メディアの報道 医療用語とコンテンツ 偶発的な自傷行為、応急処置のヒントなどを記述する行為。	Binging and purging may be a warning sign for people with a history of extreme weight loss.
レベル 2	架空または現実世界での経験における、自傷行為に関する極端に描写的ではない用語や行動を含むコンテンツ。 これには、次のものが含まれます。 登場人物が自殺を計画または実行したり、自傷行為や摂食障害に関与する様子を描写した文学的/芸術的な文章、映画などで、美化や是認がないもの 自傷行為や自殺行為が流血の少ない形で描写されている文章 自傷行為の用語のブロックリストを作成するというユーザーの意図	Oedipus stabbed his eyes in despair.
レベル 3	自傷行為に関する用語や行動を含むコンテンツ。自傷行為に関する具体的描写のあるコンテンツ、偏見、先入観、批判、または独断的な意見が含まれている場合。 これには、次のものが含まれます。 自分自身を傷つける前に助けを求めたり、自殺未遂などの自傷行為に関連する個人的な経験	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
[レベル 4]	自殺行為または自傷行為の被害者または生存者を嘲笑するコンテンツ。自傷行為、ファンタジー、または自傷行為の願望に対して、根拠なく肯定的な性質を付与するもの。また、死、解剖、犯罪、または死亡シーンに関する、あからさまに描写的なコンテンツが含まれているもの。 これには、次のものが含まれます。 問題、感情的な苦痛、痛み/苦しみからの脱出の解決策として提示された自傷行為 自傷行為や自殺に中程度の流血が含まれており、ナイフ、ピストルなどのツールの描写がある文章	It's hilarious when [identity group] kill themselves.
レベル 5	自傷行為を行う方法や、被害者をいじめる方法に関する直接的な指示を提供して、自傷行為のさらに促すことを目的としたコンテンツ。 これには、次のものが含まれます。 自傷行為を行う方法に関するアドバイスや推奨事項を求める文章 (自殺を除く) 過去および現在の個人的な自傷行為の経験を記述する文章で、あからさまな詳細を含むもの 自傷行為を扇動し助長するいじめ、脅迫、押し付け	Go kill yourself, you are worthless.
レベル 6	自殺する方法に関する詳細かつ明示的な指示を説明するコンテンツ。 これには、次のものが含まれます。 家族に別れのメッセージを書く方法を指示する文章	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
レベル 7	自殺やその他の重大な自傷行為を是認し美化するために使用されるコンテンツ。 これには、次のものが含まれます。 自己断首 火炙り	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

画像コンテンツ

警告

警告

このドキュメントの [重大度の定義] タブには、一部の読者が不快に感じる可能性のある有害なコンテンツの例が含まれています。

重大度の定義

ヘイトと公平性の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、以下のような文脈またはそれに類似の文脈において、非差別的な非攻撃的な形で、感情を伴わない、または中立的な感情を持つような、ヘイトと公平性に関連する画像が含まれている可能性があります。 ジャーナリズム 履歴 医療 法的情報 教育 地理	コンフェデレート旗 (南軍旗) 以外の旗 (たとえば、クロスを特徴とする国または州の旗) 英国のユニオンジャック旗の画像 歴史的な写真における米国の奴隷化された人々が解放された様子の描写
低	肯定的な感情、誤りの肯定的な感情、または否定的な偏った感情のいずれかを含むコンテンツで、アイデンティティ グループ間での差別化を行うもの。 このコンテンツは、感情的な反応を引き起こすことを目的としています。 これには、次のものが含まれます。 保護 ナチスの象徴化、コンフェデレート旗 (南軍旗)、Ku Klux Klan の象徴化 固定観念の押し付け 雇用差別	「ヘイトスピーチ反対」運動の表現 採用面接を受ける障碍者など、優先されない求職者に関する表現
Medium	アイデンティティ グループや他者に対する否定的な感情を含むコンテンツで、あるアイデンティティ グループに対する行動の推奨と優越感の感情につながりるもの。 これには、次のものが含まれます。 侮辱、分断、あざけり ナチスの旗、コンフェデレート旗 (南軍旗)、各種の LGBTQIA+ および関連商品	「アイデンティティグループ」を社会的避けることを推奨する画像 人種改善論と優生学を描写する画像
高	アイデンティティ グループに対する否定的な感情とヘイト スピーチを含み、ヘイト スピーチやヘイト犯罪の発生につながるコンテンツ。 これには、次のものが含まれます。 人種差別 LGBTQIA+ に対する攻撃 障碍者差別 性に基づく差別 美化されたナチスの象徴化、コンフェデレート旗 (南軍旗)、Ku Klux Klan の象徴化 暴力的なコンフェデレート旗 (南軍旗)	反ユダヤ主義の画像 明らかな暴力 (銃の誇示、使用など) に関係づけられた、青い格子 (斜めの十字模様) を特徴とする「南十字」旗が描かれた画像

性的な重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、一般的な意味で使用される性的に関連する画像が含まれています。 これには、次のものが含まれます。 家族と恋愛関係 非性的ヌード Clothing 一般的な物品 非性的なポーズまたは活動 動物の交配 性的健康	抱きしめたり、性的でない物理的接触を行ったりする表現 舌を使わないキスやヌードを伴わないキスなどの愛情の物理的な表示を示す表現
低	性的に示唆的な行動や行為を含むコンテンツ。 これには、次のものが含まれます。 個人の経験 ファッション モデリング 芸術におけるヌード ボディ アート 挑発的な展示	人の描写
Medium	性的興奮を意図した性的なシーンに関与する、視覚的に露骨な挿入を伴わずヌードまたは半ヌードの参加者のない、商用およびアマチュアによる性愛コンテンツおよび/またはポルノコンテンツを含むコンテンツ。 これには、次のものが含まれます。 性的モデル 芸術における露骨でないヌード セックス業やセックス ショップ ボカシの入った性行為 ポルノ制作のバックステージ ポールダンス	部分的に隠されている可能性があるが、画像内で依然として明確に判別できる性交の描写
高	違法行為を含む、生殖器や性的行為の明らさまで詳細な表現を含むコンテンツ。 これには、次のものが含まれます。 アマチュアによるソフトコアとハードコアのポルノ 性的誘惑 のぞき 芸術におけるセックス 同意のない性的嗜好行為またはレイプ 児童の性的搾取と虐待 子供のグルーミング 近親相姦	動物や死体との性行為に関する描写

暴力の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、一般的な意味で使用される暴力関連の画像が含まれています。 これには、次のものが含まれます。 寝ている、または横たわっているポーズ 一般的な物品 非暴力活動 吊り輪の状態でないロープ キッチン/縫製で使用される刃物 傷、傷跡および外科処置 狩猟および射撃スポーツ 玩具および仮装用の銃 戦闘練習 物品の損傷と破壊行為 ブランド化されていないテロリストの象徴化	非現実的な武器や刃物の描写
低	現実世界または架空の文脈における暴力関連の画像や行為を含む、流血の少ないコンテンツ。 これには、次のものが含まれます。 銃、武器、刃物の誇示および使用 非現実的な死体 非現実的な暴力 アニメ内の武器 軽傷と個人的経験 吊り輪状態のロープ 歴史的、教育的、または葬儀の場での死 非現実的なテロリスト象徴化 闘牛	ISIS/al-Qaeda の旗の図
Medium	特定の標的を狙った中程度の具体的描写のある暴力と暴力行為を含むコンテンツ。 これには、次のものが含まれます。 検死 犯罪や死のシーン 動物の死 (自然死または狩猟による)、動物の生贄、動物虐待 奴隷 歴史的、教育的な環境におけるジェノサイドと大量殺害 屠殺場 家庭内暴力と身体的虐待 いじめ 標的に対して使用されている銃と武器	個人を積極的に支配または威嚇するための力と強制の使用についての描写
高	暴力と暴力行為についての明示的で詳細な、流血の多い表現を含むコンテンツ。 これには、次のものが含まれます。 負傷と死亡についての露骨な記述 切断、断首、火炙り 死体の分解 テロ、テロリスト集団、テロリストの旗 強制労働と奴隷、強制医療処置 ストーカー行為 テロと戦争犯罪における死体 発砲事件 その他の過激行為	ISIS の旗とシンボルによって識別可能なテロリスト グループによって実行された死の描写

自傷の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、一般的な意味で使用される自傷関連の画像が含まれています。 これには、次のものが含まれます。 低体脂肪 自傷以外の行為 偶発的な身体損傷	平面からパラシュートで飛び降りる様子
低	現実の世界または架空の文脈における自傷行為に関連する画像や行為を含む、流血の少ないコンテンツ。 これには、次のものが含まれます。 傷あと 回復中の自傷行為による負傷 非現実的な自傷行為 痩せ衰えた個人または動物	自傷行為に関連する、道具、傷害および感情的状態の表現
Medium	自傷行為や自傷行為に関連する中程度の具体的描写のある画像を含むコンテンツ。 これには、次のものが含まれます。 検死 犯罪や死のシーン いじめ	力や威圧を用いて暴力的に支配または脅迫することにより個人に自傷行為をさせることの表現
高	自傷行為と自殺の明示的な詳細な表現を含む流血の多いコンテンツ。 これには、次のものが含まれます。 自傷行為が切迫している状況 自傷行為 自殺	人が高い建物から飛び降りて自殺した、意図的な自殺の描写

マルチモーダル (テキスト付きの画像) コンテンツ

警告

警告

このドキュメントの [重大度の定義] タブには、一部の読者が不快に感じる可能性のある有害なコンテンツの例が含まれています。

重大度の定義

ヘイトと公平性の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、次のように一般的で安全なコンテキストで使用される、ヘイトや公平性に関連するテキストやビジュアルが含まれる場合があります。 教育 Media 公式統計 [履歴] 医療 科学 その他の類似コンテキスト	シナリオ: テキスト オーバーレイ付きの画像 画像: 問題のない人物写真 テキスト: Attends rally wearing sneakers
低	アイデンティティ グループの肯定的な特性や保護を含み、ヘイト スピーチやアイデンティティ グループを標的にした発言に関連する、差別、ステレオタイプ、偏見、判断、独断的な意見、または態度を表示するコンテンツ。 これには次のものが含まれます 研究論文、辞書、またはメディアにおいて、直接引用された中傷 オブジェクト、個人、または団体を対象としたヘイト スピーチ全般 フィクションのコンテキスト (ゲーム、映画、文学など) におけるヘイト スピーチや否定的感情の描写の制限	シナリオ: テキスト オーバーレイ付きの画像 画像: 問題のない人物写真 テキスト: Everyone assumes that I got high grades in math because I’m Asian. I did. 理論的根拠: 人種的固定観念を示唆しています。
Medium	個人または団体を侮辱、いじめ、脅迫、非人間化、または品位を貶める内容を含むコンテンツ。 これには次のものが含まれます 研究論文、辞書、またはメディアにおいて、直接引用された中傷 オブジェクト、個人、または団体を対象としたヘイト スピーチ全般 フィクションのコンテキスト (ゲーム、映画、文学など) におけるヘイト スピーチや否定的感情の描写の制限	シナリオ: テキスト オーバーレイ付きの画像 画像: 問題のないパーキンソン病患者の写真 テキスト: This guy just Friended and Unfriended me 45 times in 15 seconds. Does anyone know him? 理論的根拠: 障碍による嘲笑を示唆
高	アイデンティティ グループに対する暴力をそそのかし、または呼びかけるプロパガンダとしてのヘイト スピーチを含むコンテンツ、過激派の活動に参加するよう過激化を勧誘し、扇動するコンテンツ、またはヘイト スピーチを広めるコンテンツ。 これには次のものが含まれます 特定の個人やアイデンティティ グループを標的にした煽動的、攻撃的、下品な内容 差別、隔離、排除を正当化するための優越性の主張 歴史的、教育的、芸術的な設定以外で、ナチスやナチス親衛隊の象徴、KKK や南部連合旗を賛美する内容 ヘイト クライムの準備、アイデンティティ グループに対する暴力の賛美、美化、または大量虐殺の賛美、美化、是認の表示	シナリオ: 画像とテキストのインターリーブ Never forget that everything [image of Adolf Hitler] did in Germany was legal.

性的な重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、次のように一般的で安全なコンテキストで使用される、性に関連する用語やビジュアルが含まれる場合があります。 教育 メディア 公式統計 履歴 医療 科学 家族や恋愛関係についての言及	シナリオ: テキスト オーバーレイ付きの画像 画像: スカンク テキスト: Looks aren’t everything, be careful who you marry, and check your mirrors too.
低	性的な話題に関する偏見、判断、意見を表明する内容や、極端に生々しくないフィクションや実体験の中で性的な用語に言及する内容。 これには次のものが含まれます フィクションや芸術のコンテキストにおける、性的な解剖やセックス シーンに関する言及 医療上の処方と診断 個人的な体験、性的な問題、トラウマ (性的な対処法やリソースなど、生々しい内容を含む)	シナリオ: 画像とテキストのインターリーブ I hope they debate social issues I want [image of a person cupping their ear, representing "to hear"] about how a representative wants to regulate female sexual organs.
Medium	露骨で生々しい言葉やビジュアルで性的興奮や行為を描写する内容で、セックスや性的虐待に関する妄想を含む内容。 これには次のものが含まれます 性的刺激や自慰行為に関する描写 セックス シーンのない職業として、ビジネスや売春、同伴などに限定されたポルノグラフィ 性玩具などのアダルト商品の広告 性的、性愛的または扇情的なマッサージ、ストリップ クラブ、性愛ショー、BDSM の属性や実践に関する個人的な経験や記述	シナリオ: 画像とテキストのインターリーブ There is so much [image containing the phrase "Sex and Violence"] in that book it could use a warning label in the cover.
高	性的な商業サービスへの勧誘を記述したコンテンツ。性的行為、暴力による性的虐待とレイプ、合意のない権力の交換、虐待、のぞきについての詳細な描写が含まれるもの。 これには、過激または違法な性行為を促進、推奨、賛美するために使用される内容も含まれます。 これには次のものが含まれます 未成年の性行為に関する明示的または潜在的な言及を含む、児童性的虐待資料 (CSAM) の描写 チャイルド グルーミング、児童虐待、その他の児童搾取 近親相姦、動物性愛、屍姦などに関する明示的または潜在的な言及。 被害者工作などの人身売買の勧誘	シナリオ: 画像とテキストのインターリーブ Can too much [image of graphic pornography] actually kill you? Evidently not, because you are still with us.

暴力の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、次のように一般的で安全なコンテキストで使用される、暴力に関連する用語やビジュアルが含まれる場合があります。 教育 メディア 公式統計 [履歴] 医療 科学 武器として使用されなければ一般的な物品 狩猟または射撃スポーツと銃の技術仕様	シナリオ: 画像とテキストのインターリーブ [Image of lawnmower] can easily throw a [image of rock] to a distance well over 50 feet.
低	フィクションのコンテキスト (ゲーム、文学、芸術など) において、美化、推奨、悪意なく暴力的または生々しいシーンを描写する内容。 これには次のものが含まれます 個人的な暴力体験 (暴力的意図がない場合) 暴力に対するバイアスがかかった、偏見、判断、または独断的な意見の表明 低強度の暴力行為と死に関する言及	シナリオ: テキスト オーバーレイ付きの画像 画像: 問題のない "秀才" の写真 テキスト: Runs suicides at basketball practice. Dies. 理論的根拠: その人物の身体能力が劣っていることによる極度の疲労を示唆しています。
Medium	中強度の暴力や死の描写があり、暴力的な行為や脅迫に関する妄想が含まれる内容。 これには次のものが含まれます 被害者に落ち度があると非難したり、加害者を肯定的な見方で表現したりする内容 大量虐殺やホロコーストに関する歴史的な言及 (美化や賛美は含まない) 既知の銃乱射事件への言及 (美化や賛美は含まない) テロリストや暴力的な過激派グループや出来事への言及で、美化や是認がないもの いじめと脅迫	シナリオ: 画像とテキストのインターリーブ She needs [image of a graphic that reads "to die"] already
高	テロ活動の一環としての殺人を記述、賞賛、支援、承認、または賛美する、インターネット上のテロリストまたは暴力的過激派のプロパガンダや暴力的イデオロギーなどの内容、テロ組織または思想への提供を支援する内容。 これには次のものが含まれます テロリストや暴力的過激派グループとの関係について手順を求める内容 信者を勧誘する方法、テロリストの大義や過激派イデオロギーで人々に影響を与える方法、過激な意見を採用する方法、テロリストや暴力的過激派集団の活動に関するトレーニングを提供する方法、または指導者やメンバーに関する情報を提供する方法について説明した内容 非戦闘員または非テロリストが行う銃撃事件、民間インフラへの爆弾や爆発物の使用、刃物による攻撃を含む、個人または団体への攻撃を計画し調整する内容 児童を含む強制労働、家事労働、ストーカー行為、強制医療行為に言及する内容	シナリオ: 画像とテキストのインターリーブ I can’t wait for this [image of ISIS kafir beheading].

自傷の重大度レベル

重大度レベル	説明	画像の例
Safe	コンテンツは安全ですが、次のように一般的で安全なコンテキストで使用される、自傷に関連する用語やビジュアルが含まれる場合があります。 公式統計 教育 メディア 医療 偶発的な自傷行為、応急処置のヒントなどを記述する行為。	シナリオ: 画像とテキストのインターリーブ How do I tie a [image of a rope]?
低	フィクションの文脈 (文学、映画など) において、自殺を計画または実行する登場人物への言及を含む内容、または自傷行為や自殺の描写が低強度で含まれる内容 これには次のものが含まれます 自傷に対する個人的なバイアスがかかった、偏見、判断、または独断的な意見の表明 摂食障害との関連、急激で不健康な減量の手順を求め、または提供すること 自傷行為に関する個人的な経験 (専門家による支援を求めることなど)	シナリオ: テキスト オーバーレイ付きの画像 画像: カエルのカーミット テキスト: Life ain’t no good for a frog. Even tried to Kermit suicide.
Medium	摂食障害や自殺などの自傷行為の被害者や生存者をばかにする内容や、自傷行為を扇動し、助長するいじめや脅迫。 これには次のものが含まれます 問題のソリューションとして提示される自傷行為: 自傷/自殺に関する空想、願望、希望、個人的な経験 自傷行為の方法に関する助言、手順、推奨を求める、または提示する内容 自傷行為を誘発し助長するいじめや脅迫	シナリオ: テキストのインターリーブ付きの画像 I will [image of a knife] myself soon. But until then, how do I tame my pain?
高	死に至る自傷行為や自殺の方法に関するアドバイスや手順、方法の研究を含む内容、自殺やその他の深刻な種類の自傷行為を美化し、推奨する内容。 これには次のものが含まれます 家族に別れのメッセージを書く方法を指示する内容 自己断首 火炙り	シナリオ: 画像とテキストのインターリーブ Black Friday [image of self-harm with text "My self-harm cuts have nearly faded completely so they won’t scar"] and [image of a kitchen mixer] deals.

次のステップ

クイックスタートに従って、アプリケーションで Azure AI Content Safety の使用を開始します。

Content Safety のクイックスタート