Älykkäiden sovellusten työkuormien suunnitteluperiaatteet

Artikkeli
10/16/2024

Älykkäiden sovellusten työkuormien suunnittelua, kehittämistä ja ylläpitoa koskevat ohjeet perustuvat Power Platform Well-Architectediin ja sen viiteen arkkitehtonisen huippuosaamisen pilariin.

Hyvin suunniteltu pilari	Yhteenveto
Luotettavuus	Älykkään sovelluksen kuormitus vaatii arkkitehtuurin kerros joustavuutta, jotta voidaan varmistaa, että tekoälymallit ja työnkulut ovat hyvin saatavilla ja voivat toipua nopeasti vikaantumisesta. Ota käyttöön vankat virheenkäsittelymekanismit. Resilientti arkkitehtuuri säilyttää myös tekoälymallien käyttämän datan eheyden ja varmistaa johdonmukaiset ja tarkat tuotokset.
Arvopaperi	Älykäs sovelluskuormitus käsittelee usein arkaluonteisia tietoja. Suojaa tekoälymallien käyttämät ja luomat arkaluonteiset tiedot. Ota käyttöön salaus, käyttöoikeuksien hallinta ja säännölliset tietoturvatarkastukset. Varmista, että työmäärä noudattaa asiaankuuluvia sääntelystandardeja, kuten GDPR (yleinen tietosuoja-asetus) ja HIPAA: ta (Health Insurance Portability and Accountability Act), käyttäjien yksityisyyden ja tietojen suojata.
Suorituskyvyn tehokkuus	Älykäs sovelluskuormitus on suunniteltava skaalautumaan saumattomasti kasvavien tietomäärien ja käyttäjien vaatimusten mukaan. Tunnista tärkeimmät suorituskykymittarit ja toteuta seuranta, jotta voit seurata edistymistä työmäärän suorituskykytavoitteiden saavuttamisessa. Älykkäiden sovellusten työkuormien yhteydessä suorituskyky ottaa huomioon myös niiden pyyntöjen ja vuorovaikutusten määrän, jotka voidaan suorittaa itsepalvelun kautta, mikä muuten edellyttäisi ihmisen osallistumista.
Toiminnan laadukkuus	Älykäs sovellusten kuormitus edellyttää kattavaa seurantaa ja kirjaamista, jotta voidaan seurata tekoälymallien, työnkulkujen ja keskustelujen suorituskykyä ja kuntoa. Seuranta auttaa tunnistamaan ja ratkaisemaan ongelmat nopeasti. Operational Excellence -pilari suosittelee automaation käyttöä toimintojen virtaviivaistamiseksi, manuaalisten toimenpiteiden vähentämiseksi ja inhimillisten virheiden riskin minimoimiseksi.
Koe optimointi	Älykkään sovelluksen kuormituksen tulisi priorisoida keskustelun suunnittelu, jotta varmistetaan käyttäjäystävällinen kokemus, jonka avulla käyttäjät voivat saavuttaa tavoitteensa pienellä vaivalla. Suunnittelussa tulisi ottaa huomioon aiheet, joita generatiivinen tekoäly ei pysty käsittelemään, ja sisällyttää varamekanismeja. Ota myös käyttöön mekanismeja käyttäjäpalautteen keräämiseksi ja tekoälymallien ja työmäärän jatkuvaksi tarkentamiseksi tämän palautteen perusteella.

Luotettavuus

Kun suunnittelet älykästä sovelluksen kuormitusta Power Platform, keskity resilienssiin ja käytettävyyteen.

Resilienssi on järjestelmän kyky toipua epäonnistumisista ja jatkaa toimintaansa.
Käytettävyys takaa keskeytymättömän käytettävyyden. Hyvä käytettävyys minimoi sovellusten seisokit ja parantaa häiriöistä palautumista.

Luotettavuus on tärkeää minkä tahansa työmäärän kehittämisessä, eikä generatiivinen tekoäly ole poikkeus. Itse asiassa on olemassa ainutlaatuisia tekijöitä, jotka on otettava huomioon suunniteltaessa generatiivisia tekoälykuormia. Resilienssin tunnistaminen ja korostaminen on välttämätöntä generatiivisten tekoälytyökuormien kannalta, jotta voidaan varmistaa organisaation saatavuus ja ylläpitää liiketoiminnan jatkuvuutta.

Virheitä voi tapahtua pilvessä. Sen sijaan, että yrittäisit estää vikoja kokonaan, tavoitteesi tulisi olla minimoida yksittäisen viallisen komponentin vaikutukset. Seuraavien tietojen avulla voit minimoida käyttökatkokset ja varmistaa, että suositellut käytännöt korkeaa käytettävyyttä varten on sisäänrakennettu älykkään sovelluksen kuormitukseen:

Varmista, että työmäärä pystyy käsittelemään vikoja ja jatkamaan toimintaansa, vaikka sen toiminnot olisivat heikentyneet. Tunnista mahdolliset viat ja tee järjestelmästä joustava, sietää näitä vikoja ja toipua niistä.
Tee työmäärä havaittavaksi, jotta kehitystiimit oppivat epäonnistumisista. Tunnista ja ratkaise ongelmat nopeasti ottamalla käyttöön valvonta-, kirjaamis- ja hälytysmekanismeja.
Varmista, että työmäärä voi skaalautua käsittelemään erilaisia kuormia, mikä on erityisen tärkeää tekoälyn työkuormille, joilla voi olla vaihtelevia vaatimuksia.
Ota käyttöön vankat virheenkäsittely- ja palautusmekanismit. Määritä automaattiset hälytykset järjestelmävirheistä ja laadi selkeä suunnitelma nopeaa palautusta varten.
Vahvista kohdearkkitehtuuri ja skaalaus ymmärtämällä chat-viestien tai keskustelujen tavoitemäärät. Kohdemäärät auttavat myös vahvistamaan älykkään sovelluksen lisensointinäkökohdat ja mahdolliset vaikutukset Dataverse keskustelutranskriptioiden tallennustilaan.

Generatiivisia tekoälyominaisuuksia käyttävissä älykkäissä sovelluksissa on otettava huomioon joustavuuden ja käytettävyyden lisäksi myös älykkään työmäärän tarjoamien vastausten luotettavuus ja tarkkuus. Harkitse seuraavia suosituksia jokaiselle suunnittelunäkökohdalle:

Optimoi Retrieval Augmented Generation (RAG) -toimintoa varten: Varmista, että tietosi ovat puhtaita ja hyvin jäsenneltyjä, luo tehokkaita upotuksia ja indeksejä nopeaa hakua varten ja ota käyttöön vankat valvonta- ja palautemekanismit työmäärän suorituskyvyn parantamiseksi jatkuvasti.
Tehokkaat kehotteet: Suunnittele tarkkoja ja asiayhteyteen liittyviä kehotteita, jotka ohjaavat tekoälyä tuottamaan tarkkoja vastauksia.
Säännöllinen arviointi: Toteuta tekoälyn tuotosten jatkuva seuranta ja testaus tarkkuuden, merkityksellisyyden ja eettisen noudattamisen arvioimiseksi.
Palautesilmukat: Luo palautemekanismeja, joissa käyttäjät voivat ilmoittaa epätarkkuuksista, joita voidaan sitten käyttää mallien tarkentamiseen ja parantamiseen. Microsoft Copilot Studio tarjoaa asiakastyytyväisyysanalytiikkaa, joka tarjoaa käytännöllisiä oivalluksia tyytyväisyyden tai tyytymättömyyden aiheuttajista Copilotin vastauksiin.
Toimialuekohtainen koulutus: Hienosäädä toimialuekohtaisten tietojen malleja tarkkuuden parantamiseksi tietyissä konteksteissa.
Säännölliset päivitykset: Päivitä mallit säännöllisesti uusilla tiedoilla, jotta niiden osuvuus ja tarkkuus säilyvät.
Tunnistamattomat tarkoitukset: Käsittele tunnistamattomia aikomuksia käyttämällä generatiivisia vastauksia vastausten etsimiseen käytettävissä olevista tietolähteistä ja integroimalla vara-aihe muihin järjestelmiin.

Suojaus

Jaetun vastuun mallissa:

Organisaatiot ovat ensisijaisesti vastuussa työmäärien hallinnasta ja käytöstä.
Microsoft Hallitsee taustalla olevan infrastruktuurin turvallisuutta, mukaan lukien datakeskukset, verkon suojaus ja fyysiset turvatoimet sekä sisäänrakennetut suojausominaisuudet, kuten salaus, identiteetin hallinta ja alan standardien noudattaminen. Lue lisää kohdasta Turvallisuus Microsoft Power Platform ja Copilot Studio turvallisuus sekä hallinto.

Suosittelemme, että arvioit palveluita ja tekniikoita säännöllisesti varmistaaksesi, että tietoturvasi mukautuu muuttuvaan uhkaympäristöön. Selkeän ymmärryksen luominen jaetun vastuun mallista toimittajien kanssa on välttämätöntä, kun tehdään yhteistyötä turvatoimien toteuttamiseksi.

Voit käyttää useita menetelmiä älykkäiden sovellusten työkuormien turvaamiseksi:

Käyttäjien todennus ja käyttöoikeuksien hallinta: Ota käyttöön vankat todennus- ja pääsynhallintatoimenpiteet varmistaaksesi, että vain valtuutetut käyttäjät voivat käyttää älykästä sovelluskuormitusta. Älykkään sovelluksen työmäärän luvaton käyttö voi johtaa tietomurtoihin, resurssien väärinkäyttöön ja arkaluonteisten tietojen mahdolliseen paljastumiseen. Heikot tai tehottomat todennusmekanismit voivat myös johtaa käyttäjätilien vaarantumiseen.
Vaatimustenmukaisuus: Varmista, että tiedot suojataan ja niitä hallitaan lakisääteisten vaatimusten mukaisesti. Ymmärrä paikalliset säädökset, pysy ajan tasalla paikallisista tietosuojalaeista ja varmista, että tietojen sijaintistrategiasi noudattaa näitä määräyksiä.
Integrointi: Suojaa kaikki integroinnit palvelun päänimillä. Valvo ja suojata sisäisten ja ulkoisten päätepisteiden verkon eheyttä suojausominaisuuksien ja -laitteiden, kuten palomuurien tai verkkosovellusten palomuurien, avulla.
Jatkuva seuranta ja auditointi: Seuraa ja tarkasta jatkuvasti työmäärän toimintoja havaitaksesi ja reagoidaksesi ennakoivasti.
Azuren suojaustyökalut: Käytä Azuren sisäänrakennettuja suojaustyökaluja, kuten Microsoft Defender for Cloudia ja Azure-käytäntöä, tietoturvakäytäntöjen valvontaan ja täytäntöönpanoon.
Työntekijöiden koulutus: Kouluta työntekijöitä tietosuojan parhaista käytännöistä ja tietojen sijaintivaatimusten noudattamisen tärkeydestä.

Suorituskyvyn tehokkuus

Suorituskyvyn tehokkuus on työmääräsi kyky skaalautua tehokkaasti vastaamaan käyttäjien sille asettamia vaatimuksia.

Paranna suorituskykyä seuraavasti:

Kohdemäärien ymmärtäminen kohdearkkitehtuurin ja mittakaavan validoimiseksi. Kohdemäärät auttavat myös validoimaan copilotin lisensointinäkökohdat ja mahdollisen vaikutuksen Dataverse keskustelutranskriptioiden tallennukseen.
Alustan rajojen ymmärtäminen. Kun integroit älykkään sovelluksen kuormituksen ulkoisiin järjestelmiin esimerkiksi HTTP-pyyntöjen avulla Power Automate , on tärkeää varmistaa, että jokainen komponentti pystyy käsittelemään kuorman.
Suorituskyvyn jatkuva seuranta ja poikkeamien havaitseminen Azure Monitorin, Log Analyticsin Application Insights ja hälytysten kaltaisilla työkaluilla.
Odotettujen vastaus aikojen ymmärtäminen:
- Ensimmäinen chat-lataus ja ensimmäinen viesti vastaus
- Copilotin suurin viive käyttäjien kyselyihin vastaamisessa
- Lähestymistapa pitkäkestoisten toimintojen käsittelyyn (esimerkiksi ulkoisen järjestelmän tietojen palauttamisen odottaminen)
Poikkeamisprosentin optimointi tai pyyntöjen valmistumisnopeus itsepalveluperiaatteella automaation ansiosta (vähentää live-asiakaspalvelija apua tarvitsevien pyyntöjen määrää). Lue lisää kohdasta Suorituskyvyn optimointi älykkäille sovellusten kuormituksille.

Kaikkien näiden näkökohtien huomioon ottaminen auttaa sinua rakentamaan älykkään sovelluksen työmäärän johdonmukaisella ja yhtenäisellä käyttökokemuksella.

Toiminnan korkea laatu

Toiminnan erinomaisuuteen kuuluu tehokkaiden prosessien kehittäminen tukemaan sovellusten älykästä kuormitusta.

Toiminnalliset viat voivat vaikuttaa muihin suunnittelualueisiin sekä älykkään sovelluksen työmäärän yleiseen onnistumiseen. On tärkeää räätälöidä toimintaprosessit tukemaan älykästä sovelluksen kuormitusta tuotannossa. Seuraavat suositukset edistävät toiminnan tehostamista:

Automatisoi koonti- ja julkaisuprosessit. Täysin automatisoidut koonti- ja julkaisuprosessit vähentävät kitkaa ja nopeuttavat päivitysten käyttöönottoa, mikä tuo toistettavuutta ja yhdenmukaisuutta eri ympäristöihin. Automaatio lyhentää palautesilmukka kehittäjien ajamista muutoksista oivallusten saamiseen koodin laadusta, testien kattavuudesta, joustavuudesta, turvallisuudesta ja suorituskyvystä, jotka kaikki edistävät kehittäjien tuottavuutta.
Ylläpidä hallintoa ja vaatimustenmukaisuutta.
Analysoi ympäristösi suorituskykyä ja tuotannon terveyttä.
Ylläpidä dokumentaatiota, joka tallentaa seuraavat:
- Vianetsintämenettelyt
- Palautumissuunnitelmat
Anna korjausohjeita ongelmien ratkaisuprosessin nopeuttamiseksi.
Hyödynnä toiminnan jatkuvaa parantamista. Priorisoi järjestelmän ja käyttökokemuksen rutiininomainen parantaminen. Käytä terveysmallia toiminnan tehokkuuden ymmärtämiseen ja mittaamiseen sekä palautemekanismeja, joiden avulla sovellustiimit voivat ymmärtää ja korjata puutteita iteratiivisella tavalla.

Nämä suositukset voivat auttaa tiimiäsi tekemään yhteistyötä tehokkaalla ja läpinäkyvällä tavalla.

Koe optimointi

Älykkään sovelluksen kuormituksen tulisi priorisoida keskustelun suunnittelu, jotta varmistetaan käyttäjäystävällinen kokemus, jonka avulla käyttäjät voivat saavuttaa tavoitteensa pienellä vaivalla. Suunnittelussa tulisi käsitellä aiheita, joita generatiivinen tekoäly ei pysty käsittelemään, ja sisällyttää varamekanismeja. Ota myös käyttöön mekanismeja käyttäjäpalautteen keräämiseksi ja tekoälymallien ja työmäärän jatkuvaksi tarkentamiseksi tämän palautteen perusteella.

Käyttökokemuksen optimointi älykkään sovelluksen kuormituksen vuoksi sisältää useita keskeisiä näkökohtia:

Keskustelujen suunnittelu: Suunnittele keskusteluja, jotka ovat intuitiivisia ja helppoja navigoida. Käytä selkeää ja ytimekästä kieltä ja varmista, että tekoäly pystyy käsittelemään yleisiä käyttäjäkyselyjä tehokkaasti. Keskity auttamaan käyttäjiä saavuttamaan tavoitteensa pienellä vaivalla. Ymmärrä käyttäjien aikomukset ja anna asiaankuuluvia vastauksia nopeasti saumattoman ja tehokkaan käyttökokemuksen varmistamiseksi.
Käsittelyrajoitukset: Ota käyttöön varamekanismeja aiheille, joita generatiivinen tekoäly ei pysty käsittelemään, kuten käyttäjien uudelleenohjaaminen ihmisagentteihin tai vaihtoehtoisten resurssien tarjoaminen. Suunnittele vankat virheenkäsittelyprosessit, jotta voit hallita odottamattomia syötteitä sulavasti. Ilmoita käyttäjille, kun tekoäly ei pysty käsittelemään heidän pyyntöään, ja tarjoa vaihtoehtoja.
Käyttäjäpalaute: Integroi mekanismeja käyttäjäpalautteen keräämiseksi jatkuvasti. Microsoft Copilot Studio Tarjoaa asiakastyytyväisyysanalytiikkaa , joka tarjoaa käytännöllisiä oivalluksia tyytyväisyyden tai tyytymättömyyden aiheuttajista Copilotin vastauksiin. Käytä kerättyä palautetta tekoälymallien ja yleisen työmäärän tarkentamiseen ja parantamiseen. Säännölliset päivitykset käyttäjän palautteen perusteella voivat parantaa käyttökokemusta merkittävästi.
Mukauttaminen ja mukauttaminen: Mukauta kehotteita ja ohjeita vastaamaan erityisiä käyttötapauksiasi ja käyttäjien tarpeita, jotta saat tarkempia ja osuvampia vastauksia. Dynaamisen ketjutuksen avulla voit automatisoida käynnistimiä ja hallita aihe työnkulkuja tehokkaasti, jotta voit vähentää manuaalisesti ennalta määritettyjen aiheiden tarvetta ja parantaa tekoälyn kykyä tunnistaa käyttäjän aikomukset. Lisätietoja on kohdassa Kehotteiden ja aihe määritysten optimointi.

Seuraavat vaiheet

Well-Architected Framework -suunnitteluperiaatteet sisällytetään älykkäiden sovellusten työmäärän suunnittelualueisiin. Jokainen suunnittelualue tarjoaa kohdennettuja ohjeita, joiden avulla voit nopeasti käyttää tietoja, joita tarvitset tuottavuuden tehokkaaseen parantamiseen.

Aloita tarkastelemalla suunnittelunäkökohtia, joita tarvitaan työmäärän tukemiseen:

Jaa