損害の評価の基礎

[アーティクル]
07/11/2023

損害のモデル化は、損害が生じる可能性を予測し、ユーザーを危険にさらす可能性のある製品のギャップを特定し、最終的には、損害を事前予防的に対処するアプローチを作成するための手法です。

損害をモデル化する理由

テクノロジビルダーとしての仕事はグローバルです。信頼できる AI を設計するには、時代を超えた重要な価値に深く根ざした倫理的原則を反映するソリューションの作成が求められます。テクノロジを設計、構築する過程では、理想的な結果を評価するだけでなく、考えられるマイナス面での結果も評価することが不可欠です。

テクノロジと人権

デジタルテクノロジが人権に及ぼす可能性のある影響を認識しておくことが、依然として重要です。引き続きプライバシーとセキュリティを保護することに加え、AI やその他の新しいテクノロジ (顔認識など) のリスクにも対処する必要があります。人権侵害は、テクノロジの不正使用によってもたらされるだけでなく、善意の人々の中で認識が欠落していることによっても起こることを歴史が証明しています。 Microsoft は、自社の人権保護の取り組みの一環として、国際連合 (UN) を含め、業界外部の重要な利害関係者とのパートナーシップを構築しています。

Microsoft が強く支持する重要な UN の原則に、250 を超える国によって批准された世界人権宣言 (UDHR) があります。 UDHR はマイルストーン文書です。法律と文化の専門家から成る多様なグローバルグループによって策定されたこの宣言は、1948 年の国際連合総会によって、すべての人々およびすべての国が達成すべき共通の基準として布告されました。これは、世界中で保護されるべき基本的人権を初めて打ち出したものです。これは 500 を超える言語に翻訳されています。さらに、Microsoft は、国連グローバルコンパクト (責任ある企業市民を促進するために策定された国際ビジネスイニシアチブ) に署名している 4,700 社のうちの 1 社でもあります。

この表の Microsoft Word ファイルをダウンロードする

人を理解する

信頼できるシステムを構築するには、人権の重要性を認識することに加え、多くの人々のものの見方を考慮する必要があります。利害関係者がだれであり、どのような価値観を持っているか、その利害関係者はどのようにメリットを得られるか、そして Microsoft のテクノロジによってどのような損害を受ける可能性があるかを質すことが、Microsoft がより良い製品を設計および構築するための優れたステップになります。

テクノロジがだれに影響するか。

だれがお客様であるか。

何を重視するか。
どのようにメリットを得るべきか。
テクノロジがどのような損害をもたらす可能性があるか。

お客様以外の利害関係者はだれか。

何を重視するか。
どのようにメリットを得るべきか。
テクノロジがどのような損害をもたらす可能性があるか。

これらの質問を質すことは、バリューセンシティブデザインの 1 つの手法であり、利害関係者にとって何が重要であるか、そのことが製品と利害関係者との関係にどのように関連するかを深く理解するための最初の 1 歩です。

利害関係者の種類

プロジェクトスポンサー

このカテゴリは、後援者、意思決定者、所有者によって構成されます。彼らの価値は、プロジェクトの戦略と目標で明確に示されます。

テクニカルビルダー

このグループは、設計者、開発者、プロジェクトマネージャー、システム設計に直接取り組む人々で構成されます。独自の倫理的基準と職業固有の価値観をシステムに組み込みます。

直接的および間接的な利害関係者

これらの利害関係者は、システムによって大きな影響を受けます。影響を受ける人々には、エンドユーザー、ソフトウェアスタッフ、顧客、第三者、接続する機関、さらには過去または将来の世代も含まれます。場所 (たとえば、歴史的建造物や神聖な空間) のような人間以外の要素もこれに含まれる場合があります。

社会的弱者

このカテゴリは、多くの場合、少数派、攻撃の対象となりやすい、または汚名が着せられたと見なされている人々で構成されます。このカテゴリには、子供、高齢者、LGBTQ+ コミュニティのメンバー、少数民族や、特異で不適切な結果を被ることが多いその他の人々が含まれます。