Vanlige spørsmål om bruk av generativ iverksetting
Disse vanlige spørsmålene beskriver KI-virkningen av modusen for generativ iverksetting for egendefinerte agenter bygd i Copilot Studio.
Hva er generativ iverksetting?
Generativ iverksetting lar den egendefinerte agenten svare på brukerspørsmål med relevante emner eller handlinger. Generativ iverksetting muliggjør mer naturlige diskusjoner ved å fylle inn inndata ved hjelp av detaljer fra diskusjonsloggen. Hvis du for eksempel spør om nærmeste butikk i Kirkland, og deretter spør etter været der, konkluderer iverksetting med at du vil spørre om været i Kirkland. Systemet kan også kjede sammen flere handlinger eller emner. Det kan for eksempel svare på «Jeg trenger åpningstider og finne min nærmeste butikk». Når agenten er usikker på detaljer, kan den be om oppfølgingsspørsmål for å unngå tvetydighet.
Hva kan generativ iverksetting gjøre?
Med generativ iverksetting oppretter systemet først en plan for å svare på brukerspørringen ved hjelp av navn, beskrivelse, inndata og utdata for emnene og handlingene som er tilgjengelige. Det refererer også til de siste 10 rundene av diskusjonsloggen. Deretter prøver det å gjennomføre planen ved å fylle inn nødvendige inndata fra samtalen og følge opp med brukeren for eventuelle manglende eller tvetydige detaljer. Systemet kontrollerer om det har funnet et svar på brukerens spørsmål før det gir brukeren et svar. Hvis ikke går det gjennom prosessen på nytt. Til slutt genererer systemet et svar basert på utdataene i planen fra emnene og/eller handlingene. Det bruker også eventuelle egendefinerte instruksjoner for agenten ved generering av det endelige svaret.
Hva er tiltenkt bruk av generativ iverksetting?
Du kan bruke denne modusen i agenten til å opprette en agent som kan svare på brukerspørringer basert på samtaleloggen, navn og beskrivelser for emner og navn, beskrivelser, inndata og utdata for handlinger.
Hvordan evalueres generativ iverksetting? Hvilke målinger brukes til å måle ytelse?
Generativ iverksetting evalueres for ende-til-ende-kvaliteten på hvert trinn i prosessen. Kvalitet måles i forhold til hvor godt systemet oppretter og kjører en plan som tar hånd om brukerspørringen. Teamet vårt merker kvalitetspoeng manuelt under finjustering. Vi evaluerer kvalitet over ulike brukerspørringer, ledetekster og handlinger. Vi evaluerer også hvor bra systemet er til å ignorere skadelig innhold fra brukere og forfattere, og hvor godt systemet unngår å produsere skadelig innhold.
Hva er begrensningene til generativ iverksetting? Hvordan kan brukere minimere innvirkningen av begrensningene ved generativ iverksetting når de bruker systemet?
For best resultater må du sørge for at emnene og handlingene inneholder beskrivelser av høy kvalitet. Vi tilbyr veiledning om hvordan du skriver beskrivelser av høy kvalitet i Copilot Studio-dokumentasjonen.
Hvilke driftsfaktorer og innstillinger gjør at generativ iverksetting kan brukes effektivt og ansvarlig?
Generativ iverksetting er for øyeblikket kun tilgjengelig på engelsk. Når du har aktivert generativ modus i agenten, kan du teste systemet for å se hvor godt det fungerer ved hjelp av testpanelet. Du kan også legge til egendefinerte instruksjoner for agenten for å generere det endelige svaret.
Hva er handlinger, og hvordan bruker agenten, med generativ modus aktivert, dem?
Du kan legge til handlinger i den egendefinerte agenten for å svare på brukerspørringer. Du kan bruke handlinger som er utviklet av Microsoft eller tredjeparter, eller du kan opprette dine egne handlinger. Du konfigurerer hvilke handlinger som skal konfigureres for bruk av den egendefinerte agenten. Du kan også redigere navnet, beskrivelsen, inndataene og utdataene som brukes av systemet.
Hvilke data kan Copilot Studio levere til handlinger? Hvilke tillatelser har Copilot Studio-handlinger?
Når agenten kaller en handling, mottar handlingen inndataverdiene som er angitt av handlingen. Inndataverdiene kan inkludere noe av samtaleloggen med brukeren.
Hvilke typer problemer kan oppstå når du bruker Copilot Studio aktivert med handlinger?
Handlinger fungerer kanskje ikke alltid etter hensikten. Det kan oppstå feil når du klargjør inndata for handlingen, eller når du genererer et svar basert på handlingens utdata. Agenten kan også kalle feil handling for brukerspørringen. For å redusere risikoen for slike feil når du bruker handlinger må du sørge for at du har relevante og entydige beskrivelser av høy kvalitet konfigurert for handlingene i den egendefinerte agenten.
Hvilke beskyttelser har Copilot Studio på plass for ansvarlig kunstig intelligens?
Det er mange avbøtende funksjoner på plass for å beskytte agentene dine. Du kan konfigurere agenten med et sett med kunnskap, handlinger og emner. Agenter utfører aldri en handling som ikke er en del av konfigurasjonen. Administratorer kan forby handlinger for agenter i organisasjonen. Hvis du er bekymret for at en handling skal utløses uten bekreftelse, kan du konfigurere en handling til bare å kalles opp når en bruker godtar å kalle den.
Vi har i tillegg klassifiseringer som ser på inndata til systemet for å finne skadelig innhold og jailbreak-angrep. Ifølge testene våre har disse klassifiseringene en høy suksessfrekvens når det gjelder å blokkere skadelig innhold og jailbreak-angrep, og de blokkerer også sjelden innhold som ikke er skadelig eller ikke er et jailbreak-angrep. Klassifiseringer er imidlertid ikke perfekte, så det er en viss risiko for at en agent produserer skadelig innhold eller svarer på et jailbreak-angrep. Disse risikoene omfatter spørringsinjeksjonsangrep på tvers av domener, der instruksjoner kan legges til utdataene for en handling eller en kunnskapskilde som agent deretter prøver å følge.
Til slutt er det en god praksis å kommunisere til brukerne at agenten bruker kunstig intelligens, derfor informerer følgende standardmelding brukerne: «Bare så du er klar over det, bruker jeg noen ganger kunstig intelligens for å svare på spørsmålene dine.»