Ofte stillede spørgsmål om brug af generativ orkestrering
Disse ofte stillede spørgsmål beskriver AI-påvirkningen af den generative orkestreringstilstand for brugerdefinerede agenter i Copilot Studio.
Hvad er generativ orkestrering?
Generativ orkestrering giver din agent mulighed for at besvare brugerforespørgsler med relevante emner og/eller handlinger. Den generative orkestrering muliggør mere naturlige samtaler ved at udfylde input med detaljer fra samtalehistorikken. Hvis du f.eks. spørger om den nærmeste butik i Kirkland og derefter spørger om vejret der, udleder orkestreringen, at du vil bede om vejret i Kirkland. Systemet kan også kæde flere handlinger eller emner sammen. Den kan f.eks. svare "Jeg har brug for åbningstider og finde den nærmeste butik". Når agenten er usikker på detaljer, kan den stille spørgsmål til opfølgning for at få entydigt svar.
Hvad kan generativ orkestrering udføre?
Med generativ orkestrering opretter systemet først en plan for at besvare brugerforespørgslen ved hjælp af navn, beskrivelse, input og output for de tilgængelige emner og handlinger. Den henviser også til de sidste ti skift i samtalehistorikken. Derefter forsøger den at udføre planen ved at udfylde de påkrævede input fra samtalen og derefter følge op med brugeren for eventuelle manglende eller tvetydige detaljer. Systemet kontrollerer, om der blev fundet svar på brugerens spørgsmål, inden brugeren svares. Hvis ikke, gennemgås processen igen. Til sidst oprettes der et svar på baggrund af outputtet fra planen ud fra emnerne og/eller handlingerne. Den bruger også eventuelle brugerdefinerede instruktioner til agenten, når det endelige svar oprettes.
Hvad er hensigten med generativ orkestrering?
Du kan bruge denne tilstand i din agent til at oprette en agent, der kan besvare brugerforespørgsler baseret på samtalehistorikken, navne og beskrivelser af emner samt navne, beskrivelser, input og output for handlinger.
Hvordan er generativ orkestrering evalueret? Hvilke metrikværdier bruges til at måle ydeevnen?
Generativ orkestrering evalueres for samlet kvalitet på hvert trin af processen. Kvaliteten måles ud fra, hvor godt systemet opretter og udfører en plan, der adresserer brugerforespørgslen. Pointtal for kvaliteten mærkes manuelt af vores team under finjustering. Vi evaluerer kvalitet i forhold til forskellige brugerforespørgsler, prompter og handlinger. Vi vurderer også, hvor godt systemet er til at ignorere ondsindet indhold fra brugere og forfattere, og hvor godt systemet undgår at producere skadeligt indhold.
Hvad er begrænsningerne for generativ orkestrering? Hvordan kan brugerne minimere effekten af begrænsninger for generativ orkestrering, når de bruger systemet?
Hvis du vil opnå de bedste resultater, skal du sikre dig, at emnerne og handlingerne omfatter beskrivelser af høj kvalitet. Vi giver dig en vejledning i, hvordan du indsætter beskrivelser af høj kvalitet i Copilot Studio-dokumentationen.
Hvilke driftsmæssige faktorer og indstillinger gør det muligt at bruge generativ orkestrering på en effektiv og ansvarlig måde?
Generativ orkestrering er i øjeblikket kun på engelsk. Når du har aktiveret generativ tilstand i din agent, kan du teste systemet for at se, hvor godt det fungerer, ved hjælp af testpanelet. Du kan også tilføje brugerdefinerede instruktioner til din agent for at hjælpe med at oprette det endelige svar.
Hvad er handlinger, og hvordan bruger din agent dem med aktiveret generativ tilstand?
Du kan føje handlinger til din brugerdefinerede agent for at besvare brugerforespørgsler. Du kan bruge handlinger udviklet af Microsoft eller tredjepart, eller du kan oprette dine egne handlinger. Du konfigurerer, hvilke handlinger der skal konfigureres til brug i den brugerdefinerede agent. Du kan også redigere det navn, den beskrivelse, de input og output, der bruges af systemet.
Hvilke data kan Copilot Studio levere til handlinger? Hvilke tilladelser har Copilot Studio-handlinger?
Når din agent kalder en handling, modtager handlingen de inputværdier, der er angivet af handlingen. Inputværdierne kan omfatte en del af samtalehistorikken med brugeren.
Hvilke typer problemer kan opstå, når du bruger Copilot Studio aktiveret med handlinger?
Handlinger fungerer muligvis ikke altid efter hensigten. Der kan opstå fejl under forberedelse af input til handlingen eller ved generering af et svar baseret på handlingens output. Din agent kan også kalde den forkerte handling for brugerforespørgslen. Hvis du vil afhjælpe risikoen for sådanne fejl ved brug af handlinger, skal du sikre dig, at der er konfigureret relevante og entydige beskrivelser af høj kvalitet til handlingerne i din brugerdefinerede agent.
Hvilke beskyttelsesforanstaltninger har Copilot Studio for ansvarlig kunstig intelligens?
Der er mange afhjælpningsfunktioner på plads for at beskytte dine agenter. Du kan konfigurere din agent med et sæt viden, handlinger og emner. Agenter udfører aldrig en handling, der ikke er en del af deres konfiguration. Administratorer kan forbyde handlinger for agenter i din organisation. Hvis du er bekymret for, at en handling udløses uden bekræftelse, kan du konfigurere en handling til kun at blive kaldt, når en bruger accepterer at kalde den.
Derudover har vi klassifikatorer, der ser på input til systemet for at opdage skadeligt indhold og jailbreak-angreb. Ifølge vores tests har disse klassifikatorer en høj succesrate med at blokere skadeligt indhold og jailbreak-angreb, samtidig med at de har stor succes med ikke at blokere indhold, der ikke er skadeligt eller et jailbreak-angreb. Klassificeringer kan dog ikke være perfekte, så der er risiko for, at en agent producerer skadeligt indhold eller reagerer på et jailbreak-angreb. Disse risici omfatter angreb på tværs af domæner, hvor instruktioner kan føjes til outputtet af en handling eller en videnkilde, som agenten derefter forsøger at følge.
Endelig er det en bedste praksis at kommunikere til brugerne, at agenten bruger kunstig intelligens, derfor informerer følgende standardmeddelelse brugerne: "Bare så du er opmærksom, bruger jeg nogle gange AI til at besvare dine spørgsmål."