Vastuulliset tekoälynäkökohdat älykkäiden sovellusten työkuormille

Älykkäiden sovellusten työkuormien on noudatettava vastuullisia tekoälyn periaatteita oikeudenmukaisuuden, vastuullisuuden, läpinäkyvyyden ja eettisen käyttäytymisen varmistamiseksi.

Suunnittele tekoälyjärjestelmä kohtelemaan kaikkia käyttäjiä oikeudenmukaisesti, pitämään kehittäjät ja käyttäjät vastuussa sen suorituskyvystä, varmistamaan tekoälytoimintojen läpinäkyvyys ja noudattamaan eettisiä normeja.

Olemme Microsoft sitoutuneet edistämään tekoälyä, jota ohjaavat periaatteet, jotka asettavat ihmiset etusijalle. Generatiivisilla malleilla on merkittäviä mahdollisia etuja, mutta ilman huolellista suunnittelua ja harkittuja lievennyksiä tällaiset mallit voivat tuottaa virheellistä tai jopa haitallista sisältöä. Microsoft on tehnyt merkittäviä investointeja suojautuakseen väärinkäytöksiltä ja tahattomilta haitoilta, mukaan lukien tekoälyn vastuullisen käytön Microsoft periaatteiden sisällyttäminen , käytännesääntöjen hyväksyminen , sisältösuodattimien rakentaminen asiakkaiden tukemiseksi ja vastuullisen tekoälytiedonja -ohjeiden tarjoaminen, jotka asiakkaiden tulisi ottaa huomioon käyttäessään generatiivista tekoälyä.

Power Platform copilotit ja generatiiviset tekoälyominaisuudet noudattavat keskeisiä tietoturva- ja tietosuojakäytäntöjä sekä Responsible AI -standardia Microsoft . Power Platform Tiedot on suojattu kattavilla, alan johtavilla vaatimustenmukaisuuden, turvallisuuden ja yksityisyyden hallintatoiminnoilla.

Lisätietoja:

• Microsoft Tekoälyn periaatteet
• Microsoft vastuulliset tekoälyresurssit
• Microsoft Azure Vastuullisen tekoälyn oppimiskurssit
• Vastuullisen tekoälyn usein kysytyt kysymykset Copilot Studio
• Yleiskatsaus Azure-mallien OpenAI vastuullisiin tekoälykäytäntöihin

Vastuullisen tekoälyn perusperiaatteet

Vastuullisen tekoälyn keskeisiä periaatteita ovat oikeudenmukaisuus, vastuuvelvollisuus, läpinäkyvyys ja etiikka. Näiden perusperiaatteiden mukaisesti rakennetun Power Platform älykkään sovelluksen työmäärän varmistaminen sisältää useita keskeisiä käytäntöjä:

• Oikeudenmukaisuus: Käytä monipuolisia ja edustavia koulutustietoja vinoumien minimoimiseksi. Päivitä koulutustiedot säännöllisesti ja värvää tilintarkastajia vahvistamaan oikeudenmukaisuus ja tasapuolisuus.
• Vastuullisuus: Määritä selkeät roolit ja vastuut tekoälyprojektiin osallistuville tiimin jäsenille. Luo ja noudata eettisiä standardeja, jotka asettavat etusijalle oikeudenmukaisuuden ja vastuullisuuden.
• Läpinäkyvyys: Varmista, että käyttäjät tietävät käyttävänsä työmäärää, joka käyttää generatiivisia tekoälyominaisuuksia. Kerro selkeästi, miksi tekoälyratkaisu valittiin, miten se suunniteltiin ja miten sitä valvotaan ja päivitetään.
• Etiikka: Edistä osallistavaa työvoimaa ja pyydä palautetta erilaisilta yhteisöiltä kehitysprosessin varhaisessa vaiheessa. Arvioi ja testaa säännöllisesti eettisiä huolenaiheita ja suorituskyvyn eroja koskevia malleja. Luo hallintokehys, joka sisältää säännölliset tarkastukset.

Sisällytä nämä käytännöt kehitys- ja käyttöönottoprosesseihisi luodaksesi älykkään sovellusten työmäärän, joka noudattaa vastuullisen tekoälyn perusperiaatteita.

Tietosuoja ja tietoturva

Tietosuojan varmistaminen on kriittistä, varsinkin kun älykäs sovelluskuormitus voi käsitellä arkaluonteisia tietoja. Kun suunnittelet älykkään sovelluksen kuormitusta Power Platform, on tärkeää puuttua useisiin keskeisiin riskeihin ja toteuttaa tehokkaita lieventämisstrategioita:

• Alustan ominaisuudet: Ymmärrä alkuperäiset ohjaimet ja alustan ominaisuudet, jotka suojaavat tietojasi. Microsoft Copilot Microsoft Azure OpenAI perustuu palveluun ja toimii täysin Azure-pilvessä. Copilot käyttää OpenAI -malleja ja kaikkia Microsoft Azuren tietoturvaominaisuuksia. Copilot on integroitu Dynamics 365 kaltaisiin Microsoft palveluihin ja Power Platform perii niiden tietoturva-, tietosuoja- ja vaatimustenmukaisuuskäytännöt ja -prosessit, kuten monimenetelmäisen todennuksen ja vaatimustenmukaisuusrajat.
• Tietojen salaus: Palvelupuolen tekniikat salaavat organisaation sisällön levossa ja siirron aikana vankan suojauksen takaamiseksi. Yhteydet on suojattu Transport kerros Security (TLS) -salauksella, ja tiedonsiirto Dynamics 365, Power Platform:n ja Azuren OpenAI välillä tapahtuu runkoverkon kautta, mikä takaa sekä luotettavuuden Microsoft että turvallisuuden. Lue lisää salauksesta pilvessä Microsoft .
• Käyttöoikeuksien hallinta: Tiedot toimitetaan Copilotille nykyisen käyttäjän käyttöoikeustason perusteella. Ota käyttöön roolipohjainen käyttöoikeuksien hallinta (RBAC) tunnuksen avulla Microsoft Entra varmistaaksesi, että vain valtuutetut käyttäjät voivat käyttää tietoja. Sovelletaan pienimmän etuoikeuden periaatetta rajoittaaksesi pääsyn vain välttämättömään.
• Seuranta ja auditointi: Havaitse mahdolliset tietoturvahäiriöt ja reagoi niihin seuraamalla säännöllisesti tekoälyjärjestelmään pääsyä ja sen käyttöä. Ylläpidä yksityiskohtaisia valvontalokeja seurataksesi tietojen käyttöä ja muutoksia.
• Vaatimustenmukaisuus ja hallinta: Varmista asiaankuuluvien tietosuojasäännösten, kuten GDPR (yleinen tietosuoja-asetus), HIPAA:n (Health Insurance Portability and Accountability Act) ja CCPA:n (Kalifornian kuluttajien yksityisyyttä koskeva laki), noudattaminen. Toteutetaan eettisiä tekoälykäytäntöjä vinoumien välttämiseksi ja tekoälyn tuotosten oikeudenmukaisuuden varmistamiseksi.
• Käyttäjien koulutus ja sade: Kouluta käyttäjiä tietoturvan parhaista käytännöistä ja tietosuojan tärkeydestä. Pidä käyttäjät ajan tasalla tietoturvakäytäntöjen ja -menettelyjen päivityksistä ja muutoksista.

Lue lisää: Usein kysyttyjä kysymyksiä Copilotin tietoturvasta ja tietosuojasta Dynamics 365 ja Power Platform

Tietoisuus ennakkoluuloista ja niiden lieventäminen

Tunnista järjestelmän vinoumiin puuttumisen tärkeys ja varmista oikeudenmukaisuus, jotta vältetään vinoumat tekoälyn vastauksissa.

• Monipuoliset ja edustavat tiedot: Varmista, että harjoitustiedot ovat monipuolisia ja edustavat eri demografisia tietoja luontaisten vinoumien minimoimiseksi. Tarkasta tiedot säännöllisesti vinoumien ja epätasapainojen varalta ja ryhdy tarvittaessa korjaaviin toimiin.
• Vinoumien havaitsemis- ja lieventämistyökalut: Käytä työkaluja ja tekniikoita tekoälymallien vinoumien, kuten tilastollisen analyysin ja oikeudenmukaisuusmittareiden, havaitsemiseen. Ota käyttöön vääristymien poistotekniikoita, mukaan lukien uudelleennäytteenotto, uudelleenpainotus tai kontradiktorinen puolueellisuus, mallien vinoumien vähentämiseksi.
• Ihminen silmukassa: Sisällytä ihmisen suorittama tarkastelu ja palautesilmukat tekoälyn mahdollisesti aiheuttamien ennakkoluulojen tunnistamiseksi ja korjaamiseksi. Perustetaan eettinen komitea tai hallintolautakunta valvomaan tekoälyn kehittämistä ja käyttöönottoa ja varmistamaan, että eettiset standardit täyttyvät.
• Läpinäkyvyys ja luottamus: Varmista, että käyttäjät tietävät käyttävänsä työmäärää, joka käyttää generatiivisia tekoälyominaisuuksia. Kerro selkeästi, miksi tekoälyratkaisu valittiin, ja kerro, miten se on suunniteltu ja miten sitä valvotaan ja päivitetään.
• Jatkuva valvonta ja parantaminen: Tarkkaile jatkuvasti tekoälyjärjestelmää vinoumien ja suorituskykyongelmien varalta ja päivitä malleja tarpeen mukaan. Varmista, että mallit pysyvät oikeudenmukaisina ja puolueettomina uudelleenkouluttamalla malleja säännöllisesti päivitetyillä ja monipuolisemmilla tiedoilla.

Jatkuva seuranta ja arviointi

Jatka älykkään sovelluksen kuormituksen parantamista. Luodaan puitteet jatkuvalle seurannalle ja arvioinnille ja sisällytetään käyttäjien palaute ja kehittyvät eettiset standardit päivityksiin.

• Palautesilmukat: Luo palautemekanismeja, joissa käyttäjät voivat ilmoittaa epätarkkuuksista, joita voidaan sitten käyttää mallien tarkentamiseen ja parantamiseen.
• Seuranta ja auditointi: Havaitse mahdolliset tietoturvahäiriöt ja reagoi niihin seuraamalla säännöllisesti tekoälyjärjestelmään pääsyä ja sen käyttöä. Ylläpidä yksityiskohtaisia valvontalokeja seurataksesi tietojen käyttöä ja muutoksia.