Skapa generativa AI-upplevelser med Microsoft Cloud: En guide för ISV:er

Välkommen till din guide för att skapa unika Generative AI-upplevelser (GenAI) med Microsoft Cloud. Som oberoende programvaruleverantör (ISV) är du i ett utmärkt läge för att utnyttja GenAI:s förmåga att förnya och leverera fängslande lösningar till dina kunder.

Vad är Microsoft Cloud?
Microsoft Cloud är en omfattande och integrerad plattform som erbjuder ett brett utbud av funktioner och tjänster. Den innehåller Azure AI, Microsoft 365, Microsoft Fabric med mera, vilket placerar det i framkant i den globala generativa AI-revolutionen.

Med den här plattformen kan du visa upp dina egna data och funktioner inom olika områden, inklusive Microsoft 365, ett nav för produktivitet och samarbete som miljontals användare kan komma åt.

Den här guiden hjälper dig att navigera i de stora möjligheter som finns i Microsoft Cloud-ekosystemet.

Vad är andrepiloter?
Vi refererar till en andrepilot som en AI-driven virtuell assistent som förbättrar användarproduktiviteten genom att hjälpa människor med komplexa kognitiva uppgifter, ge kontextuella förslag och driva datarika insikter. Dessa andrepiloter kan baseras på specifika kund- eller ISV-data och kontexter, vilket ger ISV:er möjlighet att skapa generativa AI-upplevelser som förstår affärsspecifika data.

Scenarier och metoder

Ett diagram som visar de tre ISV-metoderna för utökningsbarhet för copilot. För det första kan du utöka Copilot så att du kan visa dina data och tjänster i Microsofts Copilots. För det andra kan du skapa andrepiloter var som helst med minimal kodning och valfri Microsoft-datainmatning. För det tredje kan du med fullständig kontroll skapa dina egna AI-upplevelser från slutpunkt till slutpunkt. Vart och ett av de tre alternativen innehåller mer information som beskrivs i följande text.

Den här guiden ger scenarioledd vägledning för att hjälpa ISV:er att navigera i det omfattande området GenAI i Microsoft Cloud. Vårt mål är att hjälpa dig att välja de lämpligaste mönstren och teknikerna för dina unika krav, ordnade i tre övergripande metoder för att skapa AI-upplevelser.

Våra metoder är indelade i mönster baserat på scenarier som hjälper dig att navigera i den lämpligaste vägen för ditt scenario och dina krav.

Viktigt!

Observera att dessa metoder och deras mönster inte utesluter varandra. De kan kombineras för att skapa en skräddarsydd lösning som bäst passar dina unika krav och scenarier.

Metod 1: Surface your data and services into Microsoft's Copilots:

Den här metoden är utformad för ISV:er som vill integrera sina data och tjänster i Microsofts Copilots. Fokus ligger på att använda plugin-program och Graph-anslutningsappar för att förbättra användarupplevelsen.

Scenario: Jag är en ISV där mina slutanvändare utför arbete i Microsoft-appar som Teams, Word, Outlook och de behöver...

... komma åt information med hjälp av gränssnitt för naturligt språk och jag har en befintlig tjänst som jag vill göra tillgänglig via dessa Microsoft 365-appar.

Mönster A: Skapa plugin-program för att utöka Copilots funktioner med ISV-data och -funktioner

... hämta insikter från våra ISV-datakällor i kombination med användarcentrerade Microsoft Graph-data och organisationens verksamhetsspecifika data.

Mönster B: Använd Graph-anslutningsappar för att göra ISV-data tillgängliga för Copilot-upplevelser.

Metod 2: Skapa andrepiloter var som helst, med minimal kodning och valfri Microsoft-dataintegrering:

Den här metoden är avsedd för ISV:er som syftar till att berika sina appar med Microsofts data och verktyg, eller som vill skapa egna AI-assistenter med Azure. Det handlar om att använda Microsoft Graph API, Copilot Studio-plugin-program, Teams AI-bibliotek eller att göra det möjligt för kunder att skapa egna copilot-upplevelser med dina data via anslutningsappar.

Scenario: Jag är en ISV där mina slutanvändare arbetar var som helst...

... och jag vill göra det möjligt för dem att skapa sina egna copilot-upplevelser med hjälp av våra data och tjänster.

Mönster C: Utveckla Power Platform-anslutningsappar för att aktivera kunddrivna andrepiloter i Copilot Studio

Scenario: Jag är en ISV där mina slutanvändare arbetar i mina befintliga program och användargränssnitt, som vill att vi ska...

... införliva Microsofts användarcentrerade Graph-data i min copilot.

Mönster D: Använda Microsoft Graph API i dina andrepiloter

... ge en konversationsupplevelse i mitt befintliga program, som kan besvara frågor och omvandla konversationer till åtgärder.

Mönster E: Skapa egna AI-assistenter med Azure

Scenario: Jag är en ISV som har Copilot-erfarenhet som mål för Microsoft Teams och som innehåller krav på...

... skapa smarta Teams-robotar som integreras med GenAI, kör robotar i Teams och har kontextmedvetna konversationer eller använder Teams chattupplevelse och jag som ISV fokuserar på komplex affärslogik.

Mönster F: Använd Teams AI-bibliotek för att skapa din egen andrepilot

Metod 3: Fullständig kontroll: Skapa dina egna (BYO) AI-upplevelser från slutpunkt till slutpunkt:

Den här metoden är inriktad på ISV:er som försöker skapa helt nya AI-upplevelser eller medpiloter med hjälp av verktyg som Azure AI Foundry och Semantic Kernel. Det ger maximal kontroll och anpassning, vilket ger obegränsade möjligheter.

Scenario: Jag är en ISV som vill utveckla banbrytande samverkande AI-upplevelser som...

... kräver specialiserad hantering av invecklade, multimodala data, vilket kan omfatta finjustering av AI-modeller för att uppfylla specifika noggrannhetsbehov.

... använd ISV:s anpassade AI-modeller och -tjänster för skräddarsydda lösningar.

... ge fullständig kontroll över konversationsupplevelsen, inklusive systemprompter, temperatur, ton och anpassade säkerhetskrav.

Pattern G: Skapa nya interoperabla AI-upplevelser eller co-piloter med dina befintliga API:er med hjälp av Azure AI Foundry

Mönster H: Skapa en egen andrepilot med semantisk kernel

Dricks

För en djupare förståelse rekommenderar vi att du utforskar det detaljerade innehåll som finns i de Kom igång länkarna i varje mönster.

Microsoft Copilot-stacken består av tre distinkta nivåer: serverdelen (med data i respektive lagringsplatser), en AI-orkestreringsnivå i mitten och klientdelen (användargränssnittsupplevelsen för din andrepilot). Inom varje nivå finns det rekommenderade lager som bör beaktas när du skapar en andrepilot.

När ISV:er går från metod 1 till metod 3 engagerar de sig djupare med varje nivå och tar på sig ett större utvecklingsansvar. Att till exempel skapa ett plugin-program under Metod 1 innebär att Microsoft hanterar AI-orkestrering, inklusive dataintegrering och ansvarsfull AI. Omvänt kan utveckling av en anpassad andrepilot kräva fullständig kontroll över användarupplevelsen, orkestreringslagret, datahantering och ansvarsfull AI.

Ett kvadratdiagram som visar komponenterna i Microsoft Copilot Stack. Att omsluta blocken är etiketten "AI-säkerhet och säkerhet". I rutan finns det två avsnitt avgränsade med en anslutningsapp. Den översta rutan staplar Copilot Studio, Microsoft Copilot, dina andrepiloter och Microsoft-program tillsammans och ansluter sedan till den mellersta anslutningsappen med etiketten "AI-orkestrering". Den nedre rutan staplar dina data, grundmodeller och AI-verktygskedja och AI-infrastruktur, med pilar som pekar tillbaka till den mellersta anslutningsappen märkt "AI-orkestrering". Längst ned i hela stacken sträcker sig Microsoft Cloud över hela produkten.

Kommentar

Medan "copilot" refererar till det allmänna begreppet generativ AI-assistent refererar "Copilot" till specifika Microsoft-produkter, till exempel Microsoft 365 Copilot eller Dynamics 365 Copilot som ISV:er kan integreras med.

Varje alternativ varierar i komplexitet och ansträngning. Det är enkelt att använda befintliga Microsoft Copilots, att utöka dem med plugin-program kräver minimal ansträngning, och att skapa en ny copilot-upplevelse kan behöva design, vetenskap och teknik.

Det är viktigt att komma ihåg att en AI-lösning är lika bra som de data som du jordar dina modeller på och använder som kontext. Färdiga Microsoft Copilots stöder redan en rad scenarier och kan utökas med dina data, funktioner och processer. Användargränssnittet kan dock inte utökas. Därför är det viktigt att noga överväga ditt specifika scenario, hur du kan använda GenAI-algoritmer och hur din användare ("piloten") kan dra nytta av din copilot-funktion.

Metod 1: Surface your data and services into Microsoft's Copilots

ISV:er som vill visa upp sina befintliga tjänster, data och processer i Microsofts Copilots- eller Microsoft 365-program kan göra det genom att skapa plugin-program och anslutningsappar.

Med den här metoden kan till exempel Microsoft 365 Copilot interagera med API:er från andra program och tjänster, visa uppdaterad information, köra åtgärder och utföra nya typer av beräkningar.

Mönster A: Skapa plugin-program för att förbättra en befintlig Copilot-funktion

Plugin-program är tillägg som utökar funktionerna i en befintlig Copilot, så att den kan interagera med ISV-appar och -tjänster. De kan utöka en användares funktioner genom att aktivera interaktionen med dina API:er via konversation med naturligt språk. Ett plugin-program kan till exempel göra det möjligt för Copilot att hämta användbar information, utföra nya beräkningar eller utföra åtgärder på ett säkert sätt för användarens räkning.

Ett diagram som visar fyra komponenter i Microsoft Copilot och deras anslutna vävnad. Först pekar Microsoft Graph-data på Microsoft Copilot. Microsoft Copilot har sedan en dubbelriktad pilpunkt till och tar emot från en plugin-komponent som ansluter till ISV-programmet. ISV-programmet är anslutet till en ISV-datakälla.

ISV:er kan skapa plugin-program med hjälp av olika verktyg, inklusive Teams-meddelandetillägg och Power Platform-plugin-program via Copilot Studio. Nya plugin-program kan publiceras till Microsofts Copilot-ekosystem via Partnercenter, där IT-administratörer kan godkänna dem för användning av slutanvändare.

ISV-scenarier:

• ISV:er som vill visa upp sina befintliga tjänster i Microsoft 365-klientappar
• Användare kan söka, uppdatera och utföra åtgärder i ett ISV-program eller externa system från Microsoft 365-klientappar, till exempel Teams, Outlook, Word osv.
• En användare i Teams kan hitta relevant information från ett externt biljett- eller CRM-system som dina kunder använder, eventuellt inklusive att utföra åtgärder för användarens räkning, i systemet

Partnerfördel:

• Betjäna de miljontals användare och företag som använder Microsoft 365-klientappar och träffa användare där de arbetar just nu.
• Öka synligheten för lösningstjänsten genom att visa dem i Microsoft 365-klientappar.
• Minska användarnas friktion genom att eliminera behovet av att navigera mellan flera appar och arbetsytor.
• En konsekvent användarupplevelse i Microsoft 365-appar med universell integrering och kontinuitet i Microsoft 365-appar.
• En Contoso-användare upptäcker till exempel det senaste kundkontot som sammanfattas med data från Outlook, SharePoint och Fabrikams externa system, utan att lämna Teams.

Var du ska börja:

• Skapa meddelandetillägg för Microsoft Copilot för Microsoft 365 | Microsoft Learn
• Skapa copilot-plugin-program – översikt (förhandsversion) – Microsoft Copilot Studio | Microsoft Learn

Nyckelinsikter:

• Plugin-program är ett sätt att visa ISV-tjänster och -appar på Microsoft Copilots så att slutanvändarna kan interagera med ISV-appar och -tjänster från Microsoft 365-klientappar.
• ISV:er kan skapa plugin-program med hjälp av verktyg som Teams-meddelandetillägg och Copilot Studio-plugin-program.
• Plugin-program kan öka din lösnings synlighet och upptäckbarhet via Partnercenter

Mönster B: Använd Graph Connecters för att föra dina data till Copilot-upplevelser

Graph-anslutningsappar gör det möjligt för ISV:er att ansluta sina data till Microsoft 365 Semantic Index. Deras data blir sökbara och användbara för användare, direkt från Microsoft 365-klientappar som Teams, Outlook och Word. Microsoft Copilot blir grundad i ISV-data, oavsett om de är molnbaserade eller lokala, via Microsoft Graph. Dessutom kan ISV:er använda Microsoft Fabric, en enhetlig dataplattform som levereras som en SaaS-produkt, för att föra in sina data i Microsoft Cloud och enkelt ansluta dem till Microsoft Graph.

ISV:er kan skapa Graph-anslutningsappar med hjälp av Api:et för Microsoft Graph Connectors, som stöder en rad olika datakällor, filsystem, webbsidor, företagsprogram med mera.

Graph-anslutningsappar kan också utöka data med AI-baserade funktioner, till exempel bearbetning av naturligt språk, entitetsextrahering och bildanalys. Med hjälp av Graph-anslutningsappar kan ISV:er utöka Microsoft Copilot med sina egna data, förbättra användarupplevelsen och möjliggöra mer personliga och säkra interaktioner.

Det finns redan hundratals Graph-anslutningsappar. Till exempel kan Jira Cloud Graph-anslutningsappen höja Jira-objekt till samma nivå som Microsoft 365 Graph-data, vilket möjliggör omfattande resonemang och universell integrering, vilket leder till förbättrade och rikare insikter. Med anslutningsappen kan slutanvändarna söka efter Jira-objekt från Microsoft 365 Copilot med hjälp av gränssnittet för naturligt språk.

ISV-scenarier:

• ISV:er vars kunder arbetar i Microsoft 365 och vill göra det möjligt för slutanvändare att hämta insikter från ISV-datakällor i kombination med användarcentrerade Microsoft Graph-data.
• Användare kan hämta, sammanfatta och resonera över data från ISV-program, kombinerat med andra Microsoft 365-grafdata, till exempel e-postmeddelanden, orddokument osv.
• Kommunikationschefen måste hitta och rita om PR-e-postmeddelanden i Outlook som är berikade med innehåll som kommer från ett ISV-grafikdesignprogram

Partnerfördel:

• Träffa användare där de arbetar. En stor användarbas använder Microsoft 365-klientprogram och kan nu komma åt dina egna data och tjänster i en enhetlig upplevelse.
• Berikade insikter genom att kombinera ISV-data med Microsoft Graph-data.
• Universell integrering med Microsoft 365-appar och Microsoft Search, Context IQ och Viva, med en anslutningsapp.
• Expanderade kanaler för att visa ISV-data, vilket kan öka användarbasen.

Var du ska börja:

• Läs mer om diagramanslutningar på aka.ms/graph-connectors
• Skapa en egen grafanslutning på Skapa Microsoft Graph-anslutningsappar för Microsoft Copilot för Microsoft 365 | Microsoft Learn

Nyckelinsikter:

• Graph-anslutningsappar gör det möjligt för ISV:er att föra in sina data i Microsoft Copilot-ekosystemet, vilket förbättrar användarupplevelsen med personliga och säkra interaktioner.
• ISV:er kan använda Microsoft Fabric för att föra in sina data i Microsoft Cloud och ansluta dem till Microsoft Graph.
• Med hjälp av Graph-anslutningsappar kan ISV:er kombinera sina data med Microsoft 365-grafdata för att ge berikade insikter och uppnå universell integrering med Microsoft 365-appar.

Metod 2: Skapa andrepiloter var som helst med minimal kodning och valfri Microsoft-dataintegrering

ISV:er kan föra in kraften i verktyg och data som sitter i Microsoft Graph i sina egna appar, vilket förbättrar deras funktioner och användarupplevelse.

Mönster C: Utveckla Power Platform-anslutningsappar för att aktivera kunddrivna andrepiloter i Copilot Studio

Copilot Studio gör det möjligt för kunder att skapa AI-appar med låg kod som kan svara på vanliga användarfrågor med hjälp av data från organisationen och Microsoft och partnerdatakällor. Copilot Studio använder Power Platform-anslutningsappar för att hämta data från potentiellt alla källor, där det finns fler än 500 anslutningsappar idag. Som ISV kan du skapa anslutningsappar till dina data och tjänster för att ge dina kunder möjlighet att skapa egna interna andrepiloter och AI-appar med isv-data som grund.

Ett diagram som visar komponenter i Plugin-programmet Microsoft Copilot Studio. Tre källor ansluter till Plugin-programmet Copilot Studio, inklusive Microsoft Graph-data, Power Platform-anslutningsappar och andra datakällor. Plugin-programmet Copilot Studio ansluter sedan till ISV-program via ett plugin-program.

Dessa AI-appar kan visas för slutanvändare på olika plattformar, inklusive webbplatser, mobilappar, Microsoft Teams eller någon kanal som stöds av Azure Bot Framework.

Exempelscenarier:

• ISV:er som vill tillhandahålla en chattrobotupplevelse till sina kunder, i sina befintliga program, som kan svara på frågor och omvandla konversationer till åtgärder.
• Användare som ställer frågor i ditt program och får svar som baseras på ISV, Microsoft eller kunddatakällor.
• Skapa en kundanslutning från dina befintliga API:er och konvertera den till plugin-program med Copilot Studio så att dessa API:er kan anropas från en chattrobot med naturligt språkgränssnitt.
• Konvertera befintliga Power Automate-flöden till plugin-program som kan anropas från Microsoft copilot chat för att utföra åtgärder och hämta information.
• Få åtkomst till data via naturligt språkgränssnitt från företagssystem som Zendesk, GitHub och Salesforce via dessa anslutningsappar i Power Platform.

Partnerfördel:

• Utnyttja kraften hos befintliga Microsoft- och icke-Microsoft-anslutningsappar för att förbättra och berika ditt program utan problem.
• Påskynda utvecklingen av plugin-program genom att tillämpa en anpassad anslutningsmetod för Power Platform för snabb och effektiv integrering.
• Förbättra tid till värde genom funktionerna med låg kod i Copilot Studio.
• Få en konkurrensfördel genom att integrera AI-funktioner i din app med minimal kodning.

Var du ska börja:

• Plugin-arkitektur för Microsoft Copilot Studio – Microsoft Copilot Studio | Microsoft Learn
• Bädda in en Power Virtual Agents-kontroll med hjälp av chattrobotkontroll | Microsoft Learn

Nyckelinsikter:

• Copilot Studio erbjuder en plattform för att skapa AI-appar med låg kod som kan förbättra befintliga program med chattrobotfunktioner som baseras på ISV-data eller -funktioner.
• Plattformen stöder både befintliga Power Platform-anslutningsappar och anpassade anslutningsappar, vilket ger flexibilitet när det gäller att integrera ISV-tjänster och datakällor.
• Integreringen av AI-funktioner kan avsevärt förbättra användarupplevelsen och ge din app en konkurrensfördel.

Mönster D: Utnyttja Microsoft Graph API i dina andrepiloter

Microsoft Graph-API:et erbjuder en kraftfull slutpunkt för åtkomst till användarcentrerade data från Microsoft 365-program, som inkluderar Kalender, Bokningar, Outlook, Teams, OneDrive, SharePoint med mera. Med det här API:et kan du utöka dina appar med data från Microsoft 365, så att användarna kan härleda bättre insikter och analyser.

Ett diagram som visar fyra komponenter i Microsoft Copilot och deras anslutna vävnad. Först pekar Microsoft Graph-data på Microsoft Copilot. Microsoft Graph-data har också en pil som ansluter den till ISV-programmet, med pilen som symboliserar Graph-API:et. ISV-programmet är anslutet till en ISV-datakälla.

ISV-scenarier:

• Kunder och partner som använder ett befintligt ISV-program som vill kamma Microsofts användarcentrerade Graph-data i sin copilot.
• En ISV med en projekthanteringsapp vill införliva Microsoft 365-kalenderdata och projektdokumentdata för att hjälpa användare att spåra tidsgränser och milstolpar i appen.
• En ISV med en CRM-app vill införliva Kontakt- och e-postdata från Microsoft 365 för att förbättra kundprofiler och kommunikationsloggar.

Överväg Fabrikam, en mångsidig HCM-programvara (Human Capital Management) som är utrustad med en flexibel HR-svit, vilket ger smidig automatisering av olika arbetsflöden som förvärv av talanger, hantering av medarbetarbelöningar och feedbackprocesser. I sin kontinuerliga strävan efter innovation introducerar Fabrikam en banbrytande andrepilotfunktion ovanpå sin HR-svit. Nu vill de höja programmet ytterligare genom att integrera användarcentrerade grafdata. Den här förbättringen omfattar användning av Graph API för att införliva anställdas kalendrar, inklusive information som schemalagda 1:1s för feedbackprocesser osv.

Partnerfördel:

• Upptäck berikade insikter genom att kombinera dina data med Microsoft 365 Graph.
• Sömlös integrering: Standardiserad åtkomst till Microsoft 365-data för enklare integrering med dina appar.
• Förbättrad användarupplevelse: Ge en smidigare användarupplevelse med åtkomst till relevanta Microsoft 365-data och funktioner i din app.
• Förbättrade funktioner: Lägg till nya funktioner i din app med hjälp av Microsoft 365-data.
• Skalbarhet och effektivitet: Fokusera på att skapa och förbättra dina appar medan Graph API hanterar datahämtning.

Var du ska börja:

• Använd Graph Explorer för att prova Microsoft Graph-API:er – Microsoft Graph | Microsoft Learn
• Snabbstart – Microsoft Graph

Nyckelinsikter:

• Med Microsoft Graph API kan ISV:er utöka sina appar med användarcentrerade data från Microsoft 365.
• Via Graph-API:er kan du använda Microsoft 365 Semantic Index, en mer avancerad sökupplevelse som skapats för Copilots era.
• Med hjälp av Graph-API:et kan ISV:er förbättra sina appar med bättre insikter och analyser.

Mönster E: Ta med en copilot-upplevelse till dina appar med Azure OpenAI Assistants

ISV:er kan använda den här lågkodsmetoden i Azures AI-tjänster för att få copilot-liknande upplevelser till sina egna program. Den erbjuder en snabb väg för att tillämpa GPT:s funktionsanrop för att anropa dina egna API:er genom att bara beskriva funktionens struktur i JSON och tillhandahålla en sandbox-pythonmiljö för att köra och köra kod för att hjälpa till att formulera svar på användarens frågor.

Båda dessa funktioner kan vara användbara för att avlasta icke-språkbaserade utmaningar till konventionell kod eller befintliga system som är bättre lämpade för uppgiften, till exempel enkla matematiska uppgifter.

Även om du inte har direkt åtkomst till systemprompten och temperaturen kan du på liknande sätt påverka beteendet för din assistent via anpassade instruktioner som har stor inverkan på personligheten hos din copilot-liknande upplevelse.

Partnerfördel:

• Azure OpenAI Assistants tillhandahåller en lågkodsmetod som gör det möjligt för ISV:er att snabbt integrera Generative AI-funktioner i sina program utan omfattande utvecklingsarbete.

Var du ska börja:

• Snabbstart – Komma igång med Azure OpenAI Assistants (förhandsversion) – Azure OpenAI | Microsoft Learn
• Så här skapar du assistenter med Azure OpenAI Service – Azure OpenAI | Microsoft Learn

Nyckelinsikter:

• ISV:er kan använda Azure OpenAI Assistants för att skapa interaktiva gränssnitt med naturligt språk som förbättrar användarengagemanget. Dessa assistenter kan anropa API:er via helt enkelt genom att beskriva dem via JSON.
• En Azure OpenAI-assistent kan skriva och köra kod i en sandbox-miljö, baserat på en användares uppmaning, för att lösa ett icke GenAI-problem.

Mönster F: Använd Teams AI-bibliotek för att skapa en egen andrepilot

ISV:er kan också använda Teams AI-bibliotek för att lägga till funktioner för naturligt språk i sin befintliga Teams-chattrobot. Det här biblioteket gör det möjligt för ISV:er att fokusera på sin affärslogik, samtidigt som de använder Teams-byggnadsställningar för att hantera konversationsinteraktioner. ISV:er kan visa upp sina chattrobotar i Teams och erbjuda användarna ett mer naturligt och intuitivt sätt att interagera med sina appar.

Ett diagram som visar flödet i Microsoft Teams AI-biblioteksmönster. Frist, fråga tekniska flöden till Teams AI-bibliotek. Data flödar sedan ut från Teams AI-bibliotek till två källor: ISV-programmet och Azure OpenAI Service. Dessa två platser flödar data dubbelriktat.

ISV-scenario:

• Slutanvändarna använder Teams och ISV-partnern vill visa upp sina tjänster eller funktioner i Teams med robotliknande funktioner.
• Ingen integrering krävs med Graph-data och ISV-partnern vill fokusera på tjänst- och affärslogik utan att integrera med Teams Copilot-funktioner.
• Med fördefinierade Teams-appmallar och inbyggda säkerhetsfunktioner för moderering kan ISV-partner enkelt lägga till LLM-funktioner i sin befintliga chattrobot.

Partnerfördel:

• Lägg till ChatGPT som konversationsupplevelser, med kontroll över prompt-teknik till din robot och återanvända inbyggda säkerhetsfunktioner.
• Byggt på topp redo att återanvända funktioner som
  • Konversationssessionshistorik som erbjuds av Teams AI-mekanism.
  • Stöd för flera språk.
  • Stöd för fler stora språkmodeller utöver OpenAI-modeller.
  • Åtgärdsplanerare som kan hjälpa till att mappa till åtgärder baserat på användarens avsikt.
  • Redo att använda förhöjdhetsmekanism för att ändra hur modellen svarar genom parametrar eller systempromptändring.
  • Extra resonemang som kan grunda svaren från modellen på dina data.

Var du ska börja:

• Introduktion till Teams AI-bibliotek: Teams AI-bibliotek – Teams | Microsoft Learn
• Lista över tekniska funktioner: Teams AI-biblioteksfunktioner – Teams | Microsoft Learn

Nyckelinsikter:

• Team AI-biblioteket är ett enkelt sätt att lysa upp en ISV-utvecklad robot i Teams med kraften hos LLM:er.
• Det kräver inte integrering med aktuella Microsoft Copilot-funktioner, kan ge en uppgiftsorienterad upplevelse.
• Det erbjuder många möjligheter ur ett tekniskt perspektiv men också redo att använda funktioner out of the box, vilket gör hela utvecklingsprocessen enklare.

Om du vill driva din robot i Teams med LLM:er är Teams AI-bibliotek rätt väg för dig.

Metod 3: Fullständig kontroll: Skapa egna AI-upplevelser (BYO) från slutpunkt till slutpunkt

ISV:er kan använda Microsoft Copilot Stack för att skapa helt nya AI-upplevelser, som andrepiloter eller intelligenta assistenter. En ISV-byggnad i den här delen av stacken tar ansvar för AI Orchestration – där Microsoft erbjuder olika alternativ, som alla tillämpar Microsofts grundläggande modeller, AI-verktygskedja och AI-infrastruktur.

Semantisk kernel kan användas för att skapa samma AI-orkestreringsmönster som driver Microsoft Copilots i dina andrepiloter. Den är tillgänglig som en SDK som du kan utveckla direkt mot.

Ett kvadratdiagram som visar komponenterna i Microsoft Copilot-stackorkestreringen. Den första rutan är märkt "Appar och Copilot Frontend" och är ansluten med en dubbelriktad pil till en större ruta med etiketten "AI-orkestrering", som är fylld med stackkomponenter. I Copilot Studio, Azure AI Foundry, promptflöde, utvärderingar, experiment, modellkatalog, finjustering, semantisk kernel och maskininlärning. "AI-orkestreringsstacken" är ansluten till en annan ruta med etiketten "grundmodeller och data". Längst ned i hela stacken sträcker sig Microsoft Cloud över hela produkten.

Med de flesta investeringar som skapar en copilot-tjänst mitt i stacken har ISV:er friheten att ansluta den här andrepilottjänsten till olika ytor, inklusive Teams, Microsoft 365 Copilot, Microsoft Copilot, dina egna programytor, webbplatser, chattrobotar – eller allt. När det gäller integrering med en programyta – toppen av vår stack – är alla andra mönster som beskrivs här också ett alternativ.

Mönster G: Bygg din egen assistent med Azure AI Foundry

Azure AI Foundry är en allt-i-ett-plattform för ISV:er för att skapa anpassade, intelligenta assistenter eller andrepiloter. Den kombinerar funktioner från olika Azure AI-tjänster, vilket ger en enhetlig arbetsyta för utveckling och distribution av generativa AI-program. Det är en samarbetsplattform där dataforskare, utvecklare och andra intressenter kan konvergera och arbeta tillsammans.

Med Azure AI Foundry får ISV:er full kontroll över sin andrepilots beteende, personlighet och funktioner. Oavsett om du använder befintliga förtränade modeller från vår omfattande katalog, finjusterar modeller på dina data eller tränar dina egna anpassade AI-modeller, påskyndar Azure AI Foundry utvecklingen av upplevelser inom AI som hanterar komplexa och multimodala data.

En framstående funktion i Azure AI Foundry är dess olika typer av modeller, som tillgodoser olika branscher och användningsfall. Det gör att ISV:er kan kombinera olika modeller i en enda lösning för att uppfylla deras unika krav.

Integrering med Azure AI Search- gör det möjligt för ISV:er att implementera ett RAG-mönster (Retrieval Augmented Generation) för ostrukturerade data direkt från Azure AI Foundry, med den extra fördelen med AI Searchs funktion för integrerad vektorisering. Det innebär att alla data som din andrepilot behöver automatiskt kan hållas uppdaterade i en vektordatabas, vilket underlättar snabb och effektiv hämtning under utvärdering av användarfrågor, vilket sparar uppgiften att implementera ett indexerings-, segmenterings-, inbäddnings- och vektoriseringsmönster själv.

Prompt Flow, en funktion i Azure AI Foundry-portalen, erbjuder ett visualiserat diagram för hantering av körbara flöden med stora språkmodeller (LLM), prompter och Python-verktyg. Det underlättar felsökning, delning och iterering av dina flöden med lätthet genom teamsamarbete.

För ISV-team som föredrar en kod först-metod erbjuder Azure AI SDK en uppsättning paket för åtkomst till Azure AI-tjänster, inklusive installation av Azure AI Foundry-projekt och relaterade resurser. Detta gör det möjligt för utvecklare och dataforskare att hantera AI-komponenter, konfigurera AI-modeller, pipelines och tjänster direkt från kod, samtidigt som det grafiska gränssnittet blir tillgängligt för dem som föredrar det.

Det är enkelt att skapa prototyper i Azure AI Foundry-portalen via playground-portalen. En typisk resa för ett team som arbetar med ett projekt i Azure AI Foundry kan börja med att en person validerar en idé i Playground. När attraktiva resultat har skapats kan de uppmanas från Playground till Prompt Flow som ett versionshanterat och anpassat flöde. Nu när en versionerad artefakt finns i AI-projektet, kan den bredare gruppen bidra där flödet är tillgängligt både via Azure AI Foundry-portalens användargränssnitt och endast via kod. Flera grenar av logik till olika LLM:er kan testas och utvärderas i det här läget.

Utöver utvecklingsfasen tillhandahåller Azure AI Foundry även en LLMOps-verktygskedja som hanterar din promptdesign från utveckling till produktion samt löpande underhåll.

Azure AI Foundry stöder integrering med Azure AI Search, Azure Open AI Service och andra Azure AI-tjänster, vilket förenklar resurshanteringen för ISV:er. Den tillhandahåller också en projektorienterad arbetsyta som främjar samarbete mot delad beräkning, modelldistributioner och tjänster.

ISV-scenarier:

• En sjukvårds-ISV som bygger en telemedicinplattform vill ha en andrepilot som förstår medicinsk jargong, hjälper läkare att diagnostisera patienter och ger relevanta behandlingsrekommendationer.
• En leverantör av finansiella tjänster behöver en andrepilot som kan analysera marknadstrender, besvara kundfrågor om investeringsalternativ och generera anpassade finansiella rapporter.
• En e-utbildningsplattform vill ha en andrepilot som handleder studenter, förklarar komplexa begrepp och anpassar sin undervisningsstil baserat på individuella inlärningspreferenser.
• Ett försäkringsbolag påskyndar dokumentanalysen under anspråksprocessen genom att validera om aktuell fordran kan omfattas av avtalet.
• Flygbolagspilot kan hjälpa dig att planera resan, leta efter biljetter och hotell och boka dem när du är nöjd med erbjudandet.
• En kedja av restauranger skapar en copilot-app för att hjälpa nya anställda att bli registrerade genom att vägleda dem genom hela processen.
• En ISV erbjuder sina kunder ett VS Code-tillägg som hjälper utvecklare att bygga integreringen med sina API:er.

Partnerfördel:

• Anpassning och kontroll: Skapa en skräddarsydd andrepilot som exakt överensstämmer med programmets krav.
• Scenarioflexiering: Tillgodose en mängd olika scenarier, från domänspecifika andrepiloter till uppgiftsautomation och innehållsgenerering.
• Integrering med befintliga system: Anslut till databaser, API:er och andra tjänster för att förbättra din andrepilots funktioner.
• Varumärkesidentitet och användarupplevelse: Forma din andrepilots personlighet för att anpassa dig till din varumärkesröst och förbättra användarupplevelsen.
• Byggupplevelse: Med öppen källkod och mycket utökningsbar SDK kan du med semantisk kernel skapa intelligenta agenter som kan anropa dina befintliga API:er. Med Semantic Kernel kan du använda samma AI-orkestreringsmönster som driver Microsofts andrepiloter i våra egna appar.
• Skalbarhet och distribution: Distribuera din andrepilot över flera klienter eller program och betjäna tusentals användare samtidigt.

Var du ska börja:

• Vad är AI Foundry? – Azure AI Foundry | Microsoft Learn
• Skapa en anpassad RAG-app (Knowledge Retrieval) med Azure AI Foundry SDK-

Nyckelinsikter:

• Azure AI Foundry erbjuder en kraftfull plattform för att skapa anpassade, intelligenta assistenter eller andrepiloter.
• ISV:er kan forma sin andrepilots beteende, personlighet och funktioner, vilket skapar en verkligt skräddarsydd lösning.
• Azure AI Foundry stöder en mängd olika scenarier och integreras sömlöst med befintlig infrastruktur.
• Att skapa en anpassad andrepilot med Azure AI Foundry-portalen kan förbättra användarupplevelsen och tillhandahålla skräddarsydda lösningar för specifika användningsfall.
• AI Foundry ger dig en copilot-tjänst (eller backend), som visas som en enda skalad endpoint.
• En ISV har sedan alternativ för att ansluta tjänsten till en app, klientdel eller konversationsyta, inklusive något av de tidigare mönstren ovan.
• Kom ihåg att det här mönstret kan kombineras med andra baserat på dina specifika behov. Du kanske till exempel vill koppla det här mönstret med Mönster A och plugin-program till en Microsoft Copilot eller Pattern F för att visa din egen andrepilotrobot i Teams.

Mönster H: Skapa en egen andrepilot med semantisk kernel

Semantisk kernel är en SDK med öppen källkod som gör det möjligt för utvecklare att skapa avancerade andrepiloter i sina program. Det stöder en rad olika programmeringsspråk, inklusive C#, Java och Python, vilket gör det tillgängligt för en bred utvecklarcommunity. Semantisk kernel möjliggör orkestrering av AI-plugin-program, vilket möjliggör integrering med olika AI-modeller, bland annat från Azure OpenAI och Hugging Face.

Semantisk kernel kapslar in kärnan i Microsoft Copilots AI-orkestreringsmönster, vilket ger utvecklare verktyg för att skapa agenter och andrepiloter.

Agenter är AI-system som kan besvara frågor och automatisera processer för användare. De sträcker sig från enkla chattrobotar till helt automatiserade AI-assistenter. Copilots, en särskild typ av agent, arbetar tillsammans med användare. Till skillnad från helt automatiserade agenter ger andrepiloter förslag och rekommendationer, så att användarna kan behålla kontrollen.

Plugin-program: Dessa ger din agent kunskaper. Du kan skapa plugin-program för uppgifter som att skicka e-postmeddelanden, hämta information från databaser eller be om hjälp.

Planerare: Agenter använder planerare för att generera planer för att slutföra uppgifter. En andrepilot som hjälper en användare att skriva ett e-postmeddelande skulle till exempel skapa en plan med steg som att samla in mottagarinformation och skriva e-postmeddelandet.

SDK levereras med VS Code-tillägget, exempel på Chat Copilot-appen men även med förrätter för att erbjuda dig en byggnadsställning för att få dina idéer att leva.

När du bestämde dig för att börja arbeta med semantisk kernel föreslår vi att du definierar några funktioner innan du börjar koda:

• Börja med att definiera en andrepilots persona och beteende.
• Skapa plugin-program för vanliga uppgifter som din andrepilot hjälper till med.
• Använd planerare för att generera planer för copilot-åtgärder.
• Planera att testa noggrant för att säkerställa en förfinad användarupplevelse.
• Se till att du kan samla in feedback från dina användare och implementera detta i agentens eller andrepilotens beteende.

ISV-scenarier:

• Du skapar en andrepilot som är en del av ditt eget program (kundutvecklingsverktyg eller HR-system) och du vill att personer ska stanna kvar i samma användargränssnitt.
• Du behöver fullständig kontroll över orkestreringsmotorn, RAG-implementeringen, modellval och modellparametrar.
• Med din copilot-tjänst vill du att dina kunder ska kunna bygga tillägg ovanpå din lösning via plugin-program.
• Din lösning använder arbetsytor och andra medier än bara text.

Partnerfördel:

• Fullständig kontroll över ditt copilot-beteende med åtkomst till den åsiktsstyrda orkestreringsmotorn som används av Microsoft för att skapa copiloter från första part.
• Slipa modeller sömlöst på dina egna företagsdata och integrera strukturerade, ostrukturerade data och realtidsdata med Hjälp av Microsoft Fabric OneLake. Detta gör det möjligt för utvecklare att använda avancerad hybrid- och semantisk sökning till RAG-program (power retrieval augmented generation).
• Åtkomst till överlägsna verktyg för att förfina AI-svar med hjälp av prompt engineering och LLMOps-verktyg som prompt flow.

Var du ska börja:

• GitHub – microsoft/semantisk kernel: Integrera den senaste LLM-tekniken snabbt och enkelt i dina appar
• Byggagenter och andrepiloter med semantisk kernel | Microsoft Learn
• Förstå AI-plugin-program i Semantic Kernel och senare | Microsoft Learn

Nyckelinsikter:

• Semantisk kernel är ett åsiktsbaserat ramverk med öppen källkod som hjälper utvecklare att skapa GenAI-funktioner i sina appar enklare
• Den underhålls och utvecklas av Microsoft och används av förstapartsteam för att skapa Microsoft Copilot-lösningar.
• Med en uppsättning exempel hjälper det dig att enkelt börja din GenAI-resa i din egen programstack.
• Kom ihåg att det här mönstret kan kombineras med andra baserat på dina specifika behov. Du kanske till exempel vill koppla det här mönstret med Mönster A och plugin-program till en Microsoft Copilot eller Pattern F för att visa din egen andrepilotrobot i Teams.

Slutsats

Vi har börjat med scenarier och köpt dig till ett eller flera intressanta mönster, som vi har samlat in i någon av tre metoder. Även om varje mönster har viss varians finns det några vanliga funktioner för varje metod:

	Metod 1: Surface your data and services into Microsoft's Copilots	Metod 2: Skapa andrepiloter var som helst med minimal kodning och valfri Microsoft-dataintegrering	Metod 3: Fullständig kontroll: Skapa egna AI-upplevelser (BYO) från slutpunkt till slutpunkt
Utvecklingsarbete	Låg (ingen/låg kod)	Medel (minimal kod)	Hög (Pro-kod)
Datakällor	Microsoft Graph (Microsoft/M365 eller icke-Microsoft via anslutningsappar)	Olika. Power Platform-anslutningsappar, Microsoft Graph, Dina API:er.	Kan sträcka sig över flera datakällor, tjänster och appar i eller utanför Microsoft-klientorganisationen
Användargränssnitt eller konversationsyta	Tillhandahålls av att Copilot utökas, till exempel Teams, Microsoft 365 osv.	Varierar per metod från Tillhandahålls av Microsoft, för att ta med din egen.	Ta med din egen. Flera möjliga ytor med samma andrepilot
Påverkan över copilots ton-, beteende- och modellparametrar	Ingen direkt kontroll. Modellparametrar ansvarar för att Copilot utökas.	Vissa påverkar särskilt beteende och ton, via anpassade instruktioner som utgör en del av metaprompten. Med Teams AI-bibliotek kan du styra modellparametrar.	Direkt kontroll av modellparametrar som temperatur, systemprompter, maxtoken osv. Anpassat copilot-beteende.
Flermodellskompatibel	Nej	Nej	Ja Flera anrop till olika modeller i samma flöde
Modellstöd	Tillhandahålls av systemet	Val av OpenAI-modeller	Val av valfri modell OpenAI och fullständig modellkatalog
Ansvarsfull AI	Tillhandahålls av systemet	Antingen tillhandahålls av system- eller hävstångsalternativ i varje mönster	ISV-ansvar med plattformsalternativ i varje mönster.
Stöd för chatthistorik	Tillhandahålls av systemet	Antingen tillhandahålls av system- eller hävstångsalternativ i varje mönster	ISV-ansvar med plattformsalternativ i varje mönster.
Exempelscenarier	Användare i Microsoft Copilots kan utföra åtgärder på eller få insikter från ISV-data och -tjänster.	Introducera en GenAI-assistent i befintlig ISV-programyta för att resonera över kund- eller ISV-data. Presentera din egen andrepilot eller chattrobot på en befintlig Microsoft-yta, till exempel Teams, med en separat identitet och upplevelse för Microsoft Copilots.	Dina kunder och användare interagerar med en helt anpassad andrepilot till ditt varumärke och beteende, vilket kan bero på flera datauppsättningar och anslutna system från ett flervalsgränssnitt eller konversationsytor.

Dessa metoder är i ordning för att öka möjligheterna att anpassa, vilket också kräver att en ISV tar mer ansvar via den kontroll som vunnits och ökar den övergripande utvecklingsinsatsen.

Vi rekommenderar därför starkt att du börjar från metod 1, vilket mycket väl kan vara det snabbaste sättet att marknadsföra för dina initiala krav. Microsoft släpper ofta nya förstaparts-Copilots. Kontrollera kontinuerligt om en ny Copilot kan hantera dina användares behov mer effektivt genom att utöka dina data och tjänster till dem.

Flytta till metoder 2 och sedan 3 gradvis, eftersom dina krav leder dig till behovet av mer kontroll och anpassning.

Ett undantag här är kanske där en ISV redan har en befintlig AI-funktion i huset med befintliga tillgångar. Till exempel kan en ISV som redan har ett GenAI-team med befintliga AIOps-processer och redan har IP som skapats i till exempel Python eller LangChain, vara naturligt bättre inriktad på metod 3.

En sista viktig pratbubblan är att den här listan med mönster inte är fullständig eller ömsesidigt uteslutande. Vi har här valt ut mönster där vi ser synergieffekter för ISV:er och det är viktigt att förstå att de kan kombineras på olika sätt för att skapa en lösning som passar dina behov perfekt. När du till exempel arbetar med Metod 3 (Mönster G eller H) kan du behöva en klientdel. I det här fallet kan du använda plugin-program (Mönster A) eller Teams AI-bibliotek (Pattern F) tillsammans med det. Tänk alltid på synergieffekterna mellan olika mönster när du planerar din AI-strategi.