Del via

Designprincipper for intelligente arbejdsbelastninger i applikationer

  • Artikel

Vejledning i planlægning, udvikling og vedligeholdelse af intelligente arbejdsbelastninger i applikationer er baseret på Power Platform Well-Architected og dens fem søjler for arkitektonisk ekspertise.

Well-Architected søjle Opsamling
Pålidelighed En intelligent arbejdsbelastning i programmer kræver robusthed i arkitekturlaget for at sikre, at AI-modeller og arbejdsprocesser er yderst tilgængelige og hurtigt kan gendannes efter fejl. Implementer robuste fejlhåndteringsmekanismer. En robust arkitektur bevarer også integriteten af de data, der bruges af AI-modellerne, hvilket sikrer konsistente og nøjagtige output.
Sikkerhed En intelligent applikationsarbejdsbyrde håndterer ofte følsomme data. Beskyt følsomme data, der bruges og genereres af AI-modeller. Implementer kryptering, adgangskontrol og regelmæssige sikkerhedsrevisioner. Sørg for, at arbejdsbelastningen overholder relevante lovgivningsstandarder, f.eks. GDPR (generel forordning om databeskyttelse) og HIPAA (Health Insurance Portability and Accountability Act), for at beskytte brugernes privatliv og data.
Ydeevneeffektivitet En intelligent arbejdsbelastning i applikationen skal designes til at skaleres problemfrit i takt med stigende datamængder og brugerkrav. Identificer vigtige målepunkter for ydeevne, og implementer overvågning for at spore fremskridt i retning af at nå mål for arbejdsbelastningens ydeevne. I forbindelse med intelligente applikationsarbejdsbelastninger tager ydeevnen også højde for antallet af anmodninger og interaktioner, der kan gennemføres via selvbetjening, hvilket ellers ville kræve menneskelig indgriben.
Driftsmæssige præstationer En intelligent arbejdsbelastning i programmer kræver omfattende overvågning og logføring for at spore ydeevnen og tilstanden af AI-modeller, arbejdsprocesser og samtaler. Overvågning hjælper med hurtigt at identificere og løse problemer. Søjlen Driftsekspertise anbefaler, at du bruger automatisering til at strømline driften, reducere manuelle indgreb og minimere risikoen for menneskelige fejl.
Optimering af oplevelse En intelligent applikationsarbejdsbyrde bør prioritere samtaledesign for at sikre en brugervenlig oplevelse, der gør det muligt for brugerne at nå deres mål med minimal indsats. Designet skal tage højde for emner, som den generative AI ikke kan håndtere, og inkorporere fallback-mekanismer. Du kan også implementere mekanismer til at indsamle brugerfeedback og løbende forbedre AI-modellerne og arbejdsbelastningen på baggrund af denne feedback.

Pålidelighed

Når du designer en intelligent arbejdsbelastning i programmet Power Platform, skal du fokusere på robusthed og tilgængelighed.

  • Modstandsdygtighed er et systems evne til at komme sig efter fejl og fortsætte med at fungere.
  • Tilgængelighed sikrer uafbrudt oppetid. Høj tilgængelighed minimerer nedetid i programmer og forbedrer gendannelse efter hændelser.

Pålidelighed er vigtig i udviklingen af enhver arbejdsbelastning, og generativ AI er ingen undtagelse. Der er faktisk unikke faktorer, du skal overveje, når du udvikler generative AI-arbejdsbelastninger. Anerkendelse og fremhævelse af modstandsdygtighed er afgørende for generative AI-arbejdsbelastninger for at sikre organisatorisk tilgængelighed og opretholde forretningskontinuitet.

Der kan opstå fejl i skyen. I stedet for at forsøge at forhindre fejl helt, bør dit mål være at minimere virkningerne af en enkelt svigtende komponent. Brug følgende oplysninger til at minimere nedetid og sikre, at anbefalede fremgangsmåder for høj tilgængelighed er indbygget i din intelligente programbelastning:

  • Sørg for, at arbejdsbelastningen kan håndtere fejl og fortsætte driften, selvom den er ved reduceret funktionalitet. Identificer potentielle fejl, og gør systemet modstandsdygtigt, så det kan tåle og komme sig efter disse fejl.
  • Gør arbejdsbelastningen observerbar, så udviklingsteams lærer af fejl. Identificer og løs hurtigt problemer ved at implementere overvågnings-, logførings- og advarselsmekanismer.
  • Sørg for, at arbejdsbelastningen kan skaleres til at håndtere forskellige belastninger, hvilket især er vigtigt for AI-arbejdsbelastninger, der kan have svingende behov.
  • Implementer robuste fejlhåndterings- og gendannelsesmekanismer. Konfigurer automatiske advarsler om systemfejl, og hav en klar plan for hurtig gendannelse.
  • Valider destinationsarkitekturen, og skaler den ved at forstå målmængden af chatbeskeder eller samtaler. Målvolumener hjælper også med at validere licensaspekterne af den intelligente applikation og den potentielle effekt på Dataverse lager for samtaleafskrifter.

I forbindelse med intelligente programmer, der bruger generative AI-funktioner, skal du ikke kun overveje robustheden og tilgængeligheden, men også pålideligheden og nøjagtigheden af de svar, der leveres af den intelligente arbejdsbelastning. Overvej følgende anbefalinger for hver designovervejelse:

  • Optimer til hentning Augmented Generation (RAG): Sørg for, at dine data er rene og velstrukturerede, opret effektive indlejringer og indekser til hurtig hentning, og implementer robuste overvågnings- og feedbackmekanismer for løbende at forbedre arbejdsbelastningens ydeevne.
  • Effektive prompter: Design præcise og kontekstrelevante prompter til at guide AI til at producere nøjagtige svar.
  • Regelmæssig evaluering: Implementer løbende overvågning og test af AI-output for at vurdere nøjagtighed, relevans og etisk overholdelse.
  • Feedbackløkker: Opret feedbackmekanismer, hvor brugerne kan rapportere unøjagtigheder, som derefter kan bruges til at forfine og forbedre modellerne. Microsoft Copilot Studio leverer kundetilfredshedsanalyser, som giver handlingsrettet indsigt i drivkræfter for tilfredshed eller utilfredshed med din agents svar.
  • Domænespecifik træning: Finjuster modeller på domænespecifikke data for at forbedre nøjagtigheden i specifikke sammenhænge.
  • Regelmæssige opdateringer: Opdater jævnligt modeller med nye data for at bevare deres relevans og nøjagtighed.
  • Ikke-genkendte hensigter: Håndter ikke-genkendte hensigter ved at bruge generative svar til at finde svar fra tilgængelige datakilder og ved at bruge reserveemnet til at integrere med andre systemer.

Sikkerhed

I en model med delt ansvar:

  • Organisationer er primært ansvarlige for administration og drift af arbejdsbelastninger.
  • Microsoft administrerer sikkerheden i den underliggende infrastruktur, herunder datacentre, netværkssikkerhed og fysiske sikkerhedsforanstaltninger og indbyggede sikkerhedsfunktioner såsom kryptering, identitetsstyring og overholdelse af industristandarder. Få mere at vide i Sikkerhed i Microsoft Power Platform og Copilot Studio sikkerhed og styring.

Vi anbefaler, at du regelmæssigt vurderer tjenesterne og teknologierne for at sikre, at din sikkerhedsstilling tilpasser sig det skiftende trusselsbillede. Det er vigtigt at etablere en klar forståelse af modellen med delt ansvar med leverandører, når man samarbejder om at implementere sikkerhedsforanstaltninger.

Du kan anvende flere metoder til at sikre dine intelligente applikationsarbejdsbelastninger:

  • Brugergodkendelse og adgangskontrol: Implementer robuste godkendelses- og adgangskontrolforanstaltninger for at sikre, at kun autoriserede brugere kan få adgang til arbejdsbelastningen i intelligente programmer. Uautoriseret adgang til arbejdsbelastningen i intelligente applikationer kan resultere i brud på datasikkerheden, misbrug af ressourcer og potentiel eksponering af følsomme oplysninger. Svage eller ineffektive godkendelsesmekanismer kan også resultere i kompromitterede brugerkonti.
  • Overholdelse: Sørg for, at data beskyttes og administreres i overensstemmelse med lovkrav. Forstå lokale regler, og hold dig informeret om lokale databeskyttelseslove, og sørg for, at din dataopbevaringsstrategi overholder disse regler.
  • Integration: Beskyt alle integrationer med tjenesteprincipaler. Overvåg og beskyt netværksintegriteten af interne og eksterne slutpunkter ved hjælp af sikkerhedsfunktioner og apparater, f.eks. firewalls eller firewalls til webprogrammer.
  • Løbende overvågning og revision: Overvåg og revidere løbende aktiviteterne i arbejdsbelastningen i det intelligente program for at registrere og reagere proaktivt.
  • Azure-sikkerhedsværktøjer: Brug Azure's indbyggede sikkerhedsværktøjer, såsom Microsoft Defender for Cloud og Azure Policy, til at overvåge og håndhæve sikkerhedspolitikker.
  • Oplæring af medarbejdere: Oplære medarbejdere i bedste praksis i forbindelse med databeskyttelse og betydningen af at overholde krav til dataopbevaring.

Ydeevneeffektivitet

Ydeevneeffektivitet er din arbejdsbelastnings evne til at skalere effektivt for at imødekomme de krav, som brugerne stiller til den.

Forøg effektiviteten ved at:

  • Forståelse af måldiskenheder for at validere målarkitekturen og skaleringen. Målvolumener hjælper også med at validere licensaspekterne af den generative AI (agent) og den potentielle effekt på Dataverse lager for samtaleafskrifter.
  • Forstå platformens begrænsninger. Når du integrerer din intelligente programbelastning med eksterne systemer, f.eks. via Power Automate eller HTTP-anmodninger, er det vigtigt at validere, at alle komponenter kan håndtere belastningen.
  • Overvåg løbende ydeevnen, og registrer uregelmæssigheder ved hjælp af værktøjer som Azure Monitor, Log Analytics, Application Insights og beskeder.
  • Forstå de forventede svartider for:
    • Første chatindlæsning og første meddelelsessvar
    • Maksimal ventetid for agent til at besvare brugerforespørgsler
    • Fremgangsmåde til håndtering af langvarige handlinger (f.eks. ventetid på, at et eksternt system returnerer data)
  • Optimering af afbøjningshastigheden eller den hastighed, hvormed anmodninger fuldføres på en selvbetjeningsmåde på grund af automatisering (reducerer antallet af anmodninger, der kræver menneskelig assistance). Få mere at vide i Ydelseoptimering for intelligente applikationsarbejdsbelastninger.

Hvis du overvejer hvert af disse aspekter, kan du opbygge en intelligent arbejdsbelastning i applikationen med en ensartet og sammenhængende brugeroplevelse.

Driftsmæssige præstationer

Operationel fremragenhed omfatter udvikling af effektive processer, der understøtter din intelligente applikationsarbejdsbelastninger.

Operationelle fejl kan påvirke andre designområder samt den samlede succes for den intelligente applikationsarbejdsbelastninger. Det er vigtigt at skræddersy dine driftsprocesser, så de understøtter en intelligent arbejdsbelastning i produktionen. Følgende anbefalinger fremmer driftsoptimering:

  • Automatiser build- og udgivelsesprocesser. Fuldautomatiske build- og releaseprocesser reducerer friktion og øger hastigheden af udrulning af opdateringer, hvilket giver repeterbarhed og ensartethed på tværs af miljøer. Automatisering forkorter feedbackløkken, lige fra udviklere skubber til ændringer, til du får indsigt i kodekvalitet, testdækning, robusthed, sikkerhed og ydeevne, hvilket alt sammen bidrager til udviklernes produktivitet.
  • Vedligeholdelse af styring og overholdelse.
  • Analysér miljøets ydeevne og tilstand i produktionen.
  • Vedligehold dokumentation, der registrerer:
    • Fejlfinding af procedurer
    • Detailplaner for it-katastrofeberedskab
  • Giv afhjælpningsvejledning i, hvordan du kan fremskynde processen med at løse problemer.
  • Omfavn løbende driftsforbedringer. Prioriter rutinemæssig forbedring af systemet og brugeroplevelsen. Brug en tilstandsmodel til at forstå og måle driftseffektiviteten sammen med feedbackmekanismer, der gør det muligt for programteams at forstå og håndtere mangler på en iterativ måde.

Disse anbefalinger kan hjælpe dit team med at samarbejde på en måde, der er effektiv og gennemsigtig.

Optimering af oplevelse

En intelligent applikationsarbejdsbyrde bør prioritere samtaledesign for at sikre en brugervenlig oplevelse, der gør det muligt for brugerne at nå deres mål med minimal indsats. Designet skal behandle emner, som den generative kunstig intelligens ikke kan håndtere, og omfatte reservemekanismer. Du kan også implementere mekanismer til at indsamle brugerfeedback og løbende forbedre AI-modellerne og arbejdsbelastningen på baggrund af denne feedback.

Optimering af brugeroplevelsen til en intelligent programbelastning involverer flere vigtige overvejelser:

  • Samtaledesign: Design af samtaler, der er intuitive og nemme at navigere i. Brug et klart og præcist sprog, og sørg for, at AI kan håndtere almindelige brugerforespørgsler effektivt. Fokuser på at hjælpe brugerne med at nå deres mål med minimal indsats. Forstå brugernes hensigter, og giv relevante svar hurtigt for at sikre en problemfri og effektiv brugeroplevelse.

  • Håndteringsbegrænsninger: Implementer fallback-mekanismer for emner, som den generative kunstig intelligens ikke kan håndtere, f.eks. omdirigering af brugere til kundeservicemedarbejdere eller levering af alternative ressourcer. Design robuste fejlhåndteringsprocesser til at administrere uventede input på en elegant måde. Informer brugerne, når AI ikke er i stand til at behandle deres anmodning, og tilbyd alternativer.

  • Brugerfeedback: Integrer mekanismer til løbende indsamling af brugerfeedback. Microsoft Copilot Studio leverer kundetilfredshedsanalyser, som giver handlingsrettet indsigt i drivkræfter for tilfredshed eller utilfredshed med din agents svar. Brug den indsamlede feedback til at finjustere og forbedre AI-modellerne og den samlede arbejdsbelastning. Regelmæssige opdateringer baseret på brugerinput kan forbedre brugeroplevelsen betydeligt.

  • Tilpasning og personalisering: Tilpas prompter og instruktioner, så de passer til dine specifikke brugssager og brugerbehov, for at sikre mere nøjagtige og relevante svar. Brug dynamisk sammenkædning til at automatisere udløsere og administrere emneforløb effektivt for at reducere behovet for manuelt foruddefinerede emner og forbedre AI'ens evne til at genkende brugerens hensigt. Få mere at vide i Optimere prompter og emnekonfiguration.

Næste trin

De velforberedte rammer for designprincipper indarbejdes i designområder i intelligent applikationsarbejdsbelastning. Hvert designområde indeholder målrettet vejledning, der hjælper dig med hurtigt at få adgang til de oplysninger, du skal bruge for at forbedre produktiviteten effektivt.

Start med at gennemgå de designovervejelser, der er nødvendige for at understøtte en arbejdsbelastning: