Identifiera riktlinjer för att använda AI ansvarsfullt

  • 12 minuter

I den senaste lektionen diskuterade vi några av de samhälleliga konsekvenserna av AI. Vi berörde företagens, regeringarnas, de icke-statliga organisationernas och de akademiska forskarnas ansvar att förutse och mildra oavsiktliga konsekvenser av AI-teknik. När organisationer överväger dessa ansvarsområden skapar fler interna principer och metoder för att vägleda sina AI-insatser.

På Microsoft har vi insett sex principer som vi anser bör vägleda AI-utveckling och ai-användning: rättvisa, tillförlitlighet och säkerhet, sekretess och säkerhet, inkludering, transparens och ansvarsskyldighet. För oss är dessa principer hörnstenen i ett ansvarsfullt och pålitligt förhållningssätt till AI, särskilt när intelligent teknik blir vanligare i de produkter och tjänster vi använder varje dag.

Rättvisa

Ikon som representerar rättvisa.

AI-system bör behandla alla rättvist och undvika att påverka grupper av personer på liknande platser på olika sätt. När AI-system till exempel ger vägledning om medicinsk behandling, låneansökningar eller anställning bör de ge samma rekommendationer till alla med liknande symtom, ekonomiska omständigheter eller yrkeskvalifikationer.

För att säkerställa rättvisa i ditt AI-system bör du:

  • Förstå omfånget, andan och den potentiella användningen av AI-systemet genom att ställa frågor som, hur är systemet avsett att fungera? Vem är systemet utformat för att fungera för? Kommer systemet att fungera för alla lika mycket? Hur kan det skada andra?
  • Locka en mångfald av talanger. Se till att designteamet återspeglar den värld där vi lever genom att inkludera teammedlemmar som har olika bakgrunder, erfarenheter, utbildning och perspektiv.
  • Identifiera bias i datauppsättningar genom att utvärdera var data kom ifrån, förstå hur de organiserades och testa för att säkerställa att de representeras. Bias kan introduceras i varje steg i skapandet, från samling till modellering till drift. Instrumentpanelen för ansvarsfull AI, som finns i avsnittet Resurser, innehåller en funktion som hjälper dig med den här uppgiften.
  • Identifiera bias i maskininlärningsalgoritmer genom att använda verktyg och tekniker som förbättrar modellernas transparens och begriplighet. Användare bör aktivt identifiera och ta bort bias i maskininlärningsalgoritmer.
  • Utnyttja mänsklig granskning och domänexpertis. Utbilda anställda för att förstå innebörden och konsekvenserna av AI-resultat, särskilt när AI används för att informera följdbeslut om människor. Beslut som använder AI bör alltid paras ihop med mänsklig granskning. Ta med relevanta ämnesexperter i designprocessen och i distributionsbeslut. Ett exempel skulle vara att inkludera en expert på konsumentkreditämnen för ett AI-system för kreditbedömning. Du bör använda AI som andrepilot, dvs. ett hjälpverktyg som hjälper dig att göra ditt jobb bättre och snabbare, men som kräver viss grad av övervakning.
  • Undersöka och använda metodtips, analystekniker och verktyg från andra institutioner och företag för att identifiera, förebygga och åtgärda fördomar i AI-system.

Tillförlitlighet och säkerhet

Ikon som representerar tillförlitlighet.

För att skapa förtroende är det viktigt att AI-system fungerar tillförlitligt, säkert och konsekvent under normala omständigheter och under oväntade förhållanden. Dessa system bör kunna fungera som de ursprungligen utformades, svara på oväntade förhållanden på ett säkert sätt och motstå skadlig manipulering. Det är också viktigt att kunna verifiera att dessa system fungerar som de är avsedda under faktiska driftsförhållanden. Hur de beter sig och de olika förhållanden som de kan hantera på ett tillförlitligt och säkert sätt återspeglar till stor del de olika situationer och omständigheter som utvecklare förväntar sig under design och testning.

För att säkerställa tillförlitlighet och säkerhet i ditt AI-system bör du:

  • Utveckla processer för granskning av AI-system för att utvärdera datas och modellers kvalitet och lämplighet, övervaka pågående prestanda och kontrollera att systemen fungerar som de är avsedda baserat på etablerade prestandamått.
  • Ge en detaljerad förklaring av systemåtgärden , inklusive designspecifikationer, information om träningsdata, träningsfel som inträffat och potentiella brister i träningsdata samt de slutsatser och viktiga förutsägelser som genereras.
  • Utforma för oavsiktliga omständigheter , till exempel oavsiktliga systeminteraktioner, införandet av skadliga data eller cyberattacker.
  • Involvera domänexperter i design- och implementeringsprocesserna, särskilt när du använder AI för att fatta följdbeslut om människor.
  • Utför rigorösa tester under UTVECKLING och distribution av AI-system för att säkerställa att systemen kan svara på oväntade omständigheter på ett säkert sätt, inte har oväntade prestandafel och inte utvecklas på oväntade sätt. AI-system som är involverade i scenarier med höga insatser som påverkar människors säkerhet eller stora populationer bör testas både i labb- och verkliga scenarier.
  • Utvärdera när och hur ett AI-system ska söka mänsklig input för beslut som påverkar eller under kritiska situationer. Fundera på hur ett AI-system ska överföra kontroll till en människa på ett sätt som är meningsfullt och begripligt. Utforma AI-system för att säkerställa att människor har den nödvändiga indatanivån för beslut med stor påverkan.
  • Utveckla en robust feedbackmekanism för användare för att rapportera prestandaproblem så att du kan lösa dem snabbt.

Sekretess och säkerhet

Ikon som representerar sekretess.

I takt med att AI blir vanligare blir det allt mer kritiskt och komplext att skydda sekretessen och skydda viktig personlig information och affärsinformation. Med AI kräver integritets- och datasäkerhetsproblem särskilt noggrann uppmärksamhet eftersom åtkomst till data är avgörande för att AI-system ska kunna göra korrekta och välgrundade förutsägelser och beslut om människor.

För att säkerställa sekretess och säkerhet i ditt AI-system bör du:

  • Följ relevanta dataskydds-, sekretess- och transparenslagar genom att investera resurser i att utveckla efterlevnadstekniker och processer eller arbeta med en teknikledare under utvecklingen av AI-system. Utveckla processer för att kontinuerligt kontrollera att AI-systemen uppfyller alla aspekter av dessa lagar.
  • Utforma AI-system för att upprätthålla integriteten för personliga data så att de bara kan använda personuppgifter under den tid det krävs och för de definierade syften som har delats med kunder. Ta bort oavsiktligt insamlade personuppgifter eller data som inte längre är relevanta för det definierade syftet.
  • Skydda AI-system från dåliga aktörer genom att utforma AI-system i enlighet med säkra utvecklings- och driftgrunder, använda rollbaserad åtkomst och skydda personliga och konfidentiella data som överförs till tredje part. Utforma AI-system för att identifiera onormala beteenden och för att förhindra manipulering och skadliga attacker.
  • Utforma AI-system med lämpliga kontroller för kunder för att göra val om hur och varför deras data samlas in och används.
  • Se till att DITT AI-system upprätthåller anonymitet genom att ta hänsyn till hur systemet tar bort personlig identifiering från data.
  • Genomför sekretess- och säkerhetsgranskningar för alla AI-system.
  • Undersöka och implementera branschtips för att spåra relevant information om kunddata, komma åt och använda dessa data samt granska åtkomst och användning.

Inkludering

Ikon som representerar inkludering.

På Microsoft är vi övertygade om att alla bör dra nytta av intelligent teknik, vilket innebär att den måste införliva och ta itu med ett brett spektrum av mänskliga behov och erfarenheter. För de 1 miljard personer med funktionsnedsättningar runt om i världen kan AI-teknik vara en spelväxlare. AI kan förbättra tillgången till utbildning, statliga tjänster, sysselsättning, information och en mängd andra möjligheter. Intelligenta lösningar som tal till textranskription i realtid, tjänster för visuell igenkänning och prediktiva textfunktioner ger redan personer med hörsel, visuella objekt och andra funktionsnedsättningar.

Microsofts principer för inkluderande design:

  • Identifiera undantag
  • Lös för skojs skull, utöka till många
  • Lär dig från mångfald

För att säkerställa inkludering i AI-systemet bör du:

  • Följ lagar om tillgänglighet och inkludering som kräver upphandling av tillgänglig teknik.
  • Använd inkluderande 101-guideboken, som finns i resursavsnittet i den här modulen, för att hjälpa systemutvecklare att förstå och åtgärda potentiella hinder i en produktmiljö som oavsiktligt kan utesluta personer.
  • Låt personer med funktionshinder testa dina system för att hjälpa dig att ta reda på om systemet kan användas som avsett av bredast möjliga målgrupp.
  • Överväg vanliga tillgänglighetsstandarder för att säkerställa att systemet är tillgängligt för personer med alla förmågor.

Transparency

Ikon som representerar transparens.

Bakom de föregående värdena finns två grundläggande principer som är viktiga för att säkerställa restens effektivitet: öppenhet och ansvarsskyldighet. Det är viktigt att människor förstår hur AI-system kommer fram till slutsatser när de används för att informera beslut som påverkar människors liv. En bank kan till exempel använda ett AI-system för att avgöra om en person är kreditvärdig, eller om ett företag kan använda ett AI-system för att fastställa de mest kvalificerade kandidaterna att anställa.

En viktig del av transparensen är vad vi kallar begriplighet, eller den användbara förklaringen av beteendet hos AI-system och deras komponenter. För att förbättra begripligheten måste intressenterna förstå hur och varför de fungerar så att de kan identifiera potentiella prestandaproblem, säkerhets- och sekretessproblem, fördomar, exkluderingsmetoder eller oavsiktliga resultat. Vi anser också att personer som använder AI-system bör vara ärliga och tillmötesgående om när, varför och hur de väljer att distribuera dem.

För att säkerställa transparens i AI-systemet bör du:

  • Dela viktiga egenskaper för datauppsättningar för att hjälpa utvecklare att förstå om en specifik datauppsättning är lämplig för deras användningsfall.
  • Förbättra modellens begriplighet genom att använda enklare modeller och generera begripliga förklaringar av modellens beteende. För den här uppgiften kan du använda instrumentpanelen för ansvarsfull AI, som är tillgänglig i avsnittet resurser.
  • Utbilda anställda om hur de ska tolka AI-utdata och se till att de förblir ansvariga för att fatta efterföljande beslut baserat på resultaten.

Ansvar

Ikon som representerar ansvarsskyldighet.

De personer som utformar och distribuerar AI-system måste vara ansvariga för hur deras system fungerar. Organisationer bör utnyttja branschstandarder för att utveckla ansvarsnormer. Dessa normer kan säkerställa att AI-system inte är den slutliga auktoriteten för beslut som påverkar människors liv och att människor behåller meningsfull kontroll över annars mycket autonoma AI-system.

För att säkerställa ansvarsskyldighet i DITT AI-system bör du:

  • Konfigurera interna granskningstavlor för att tillhandahålla tillsyn och vägledning om ansvarsfull utveckling och distribution av AI-system. De kan också hjälpa till med uppgifter som att definiera metodtips för att dokumentera och testa AI-system under utveckling eller ge vägledning för känsliga fall.
  • Se till att dina anställda är utbildade för att använda och underhålla lösningen på ett ansvarsfullt och etiskt sätt och förstå när lösningen kan kräva extra teknisk support.
  • Håll människor med nödvändiga kunskaper i loopen genom att rapportera till dem och involvera dem i beslut om modellkörning. När beslutsautomatisering krävs kontrollerar du att de kan inspektera, identifiera och lösa problem med modellutdata och -körning.
  • Införa ett tydligt system för ansvarsskyldighet och styrning för att utföra reparations- eller korrigeringsaktiviteter om modeller anses bete sig på ett orättvist eller potentiellt skadligt sätt.

Vi inser att varje individ, företag och region har sina egna övertygelser och standarder som bör återspeglas i deras AI-resa. Vi delar vårt perspektiv med dig när du överväger att utveckla dina egna vägledande principer.

Dricks

Ta en stund att brainstorma andra exempel för var och en av de ansvarsfulla AI-principerna.
Foto som visar människor som arbetar och pratar runt ett bord.

Dessa principer ger en allmän uppfattning om vad vi bör göra när vi utvecklar och använder AI. De måste dock återspeglas på en mer praktisk nivå. Nu ska vi utforska hur dessa principer kan säkerställas med ett AI-styrningssystem.