Delen via


Generatieve AI-ervaringen maken met de Microsoft Cloud: een handleiding voor ISV's

Welkom bij uw handleiding voor het maken van unieke Ative AI-ervaringen (GenAI) met de Microsoft Cloud. Als onafhankelijke softwareleverancier (ISV) bent u in een uitstekende positie om de kracht van GenAI te benutten om te innoveren en boeiende oplossingen te leveren aan uw klanten.

Wat is Microsoft Cloud?
De Microsoft Cloud is een uitgebreid en geïntegreerd platform dat een breed scala aan mogelijkheden en services biedt. Het bevat Azure AI, Microsoft 365, Microsoft Fabric en meer, waardoor deze vooraan staat voor de wereldwijde Generatieve AI-revolutie.

Met dit platform kunt u uw eigen gegevens en functionaliteit op verschillende gebieden weergeven, waaronder Microsoft 365, een hub van productiviteit en samenwerking die door miljoenen mensen wordt geopend.

Deze handleiding helpt u bij het navigeren door de uitgebreide mogelijkheden die beschikbaar zijn in het Microsoft Cloud-ecosysteem.

Wat zijn copiloten?
We verwijzen naar een copilot als een door AI aangedreven virtuele assistent die de productiviteit van gebruikers verbetert door mensen te helpen bij complexe cognitieve taken, contextuele suggesties te bieden en gegevensrijke inzichten te stimuleren. Deze copilots kunnen worden geaard in specifieke klant- of ISV-gegevens en -context, waardoor ISV's een kans bieden om generatieve AI-ervaringen te creëren die inzicht krijgen in zakelijke specifieke gegevens.

Scenario's en benaderingen

Diagram met Microsoft Copilot-onderdelen, AI-indeling en de onderliggende Microsoft Cloud-infrastructuur.

Een diagram met de drie ISV-benaderingen voor copilot-uitbreidbaarheid. Breid eerst Copilot uit, zodat u uw gegevens en services kunt weergeven in De Copilots van Microsoft. Ten tweede kunt u copilots maken, zodat u overal copilots kunt maken met minimale codering en optionele Gegevensopname van Microsoft. Ten derde kunt u met volledige controle uw eigen end-to-end AI-ervaringen bouwen. Elk van de drie opties bevat meer details die in de volgende tekst worden beschreven.

Deze handleiding bevat richtlijnen voor scenario's om ISV's te helpen bij het navigeren in het uitgebreide veld van GenAI in Microsoft Cloud. Ons doel is om u te helpen bij het selecteren van de meest geschikte patronen en technologieën voor uw unieke vereisten, gerangschikt in drie benaderingen op hoog niveau voor het maken van AI-ervaringen.

Onze benaderingen worden onderverdeeld in patronen op basis van scenario's om u te helpen het meest geschikte pad voor uw scenario en vereisten te navigeren.

Belangrijk

Houd er rekening mee dat deze benaderingen en hun patronen elkaar niet uitsluiten. Ze kunnen worden gecombineerd om een op maat gemaakte oplossing te maken die het beste past bij uw unieke vereisten en scenario's.

Benadering 1: Uw gegevens en services weergeven in De Copilots van Microsoft:

Deze benadering is ontworpen voor ISV's die hun gegevens en services willen integreren in Copilots van Microsoft. De focus ligt op het gebruik van invoegtoepassingen en Graph-connectors om gebruikerservaringen te verbeteren.

Scenario: Ik ben een ISV waar mijn eindgebruikers werk uitvoeren in Microsoft-apps zoals Teams, Word, Outlook en ze moeten...

... krijg toegang tot informatie met behulp van interfaces in natuurlijke taal en ik heb een bestaande service die ik beschikbaar wil maken via deze Microsoft 365-apps.

... maak inzichten uit onze ISV-gegevensbronnen in combinatie met gebruikersgerichte Microsoft Graph-gegevens en de line-of-business-gegevens van hun organisatie.

Benadering 2: Overal copilots maken, met minimale codering en optionele Microsoft-gegevensintegratie:

Deze aanpak is bedoeld voor ISV's die hun apps willen verrijken met de gegevens en hulpprogramma's van Microsoft, of die hun eigen AI-assistenten willen maken met Azure. Het omvat het gebruik van de Microsoft Graph API, Copilot Studio-invoegtoepassingen, Teams AI-bibliotheek of het in staat stellen van klanten hun eigen copilot-ervaringen met uw gegevens te maken via connectors.

Scenario: Ik ben een ISV waar mijn eindgebruikers overal werken...

... en ik wil hen in staat stellen hun eigen copilot-ervaringen te creëren met behulp van onze gegevens en services.

Scenario: Ik ben een ISV waar mijn eindgebruikers werken in mijn bestaande toepassingen en gebruikersinterface, die ons willen...

... Microsoft-gebruikersgerichte Graph-gegevens opnemen in mijn copilot.

... een gesprekservaring bieden binnen mijn bestaande toepassing, waarmee vragen kunnen worden beantwoord en gesprekken kunnen worden omgezet in acties.

Scenario: Ik ben een ISV die copilot-ervaring is gericht op Microsoft Teams en bevat vereisten voor...

... slimme Teams-bots maken die zijn geïntegreerd met GenAI, bots uitvoeren in Teams en contextbewuste gesprekken voeren of Teams-chatervaring gebruiken en ik als isV zich richten op complexe bedrijfslogica.

Benadering 3: Volledig beheer: End-to-end AI-ervaringen (Your Own, BYO) bouwen:

Deze benadering is gericht op ISV's die volledig nieuwe AI-ervaringen of copiloten willen maken met behulp van hulpprogramma's zoals Azure AI Studio en Semantic Kernel. Het biedt maximale controle en aanpassing en biedt onbeperkte mogelijkheden.

Scenario: Ik ben een ISV die geavanceerde, interoperabele AI-ervaringen wil ontwikkelen die...

... vereisen een gespecialiseerde verwerking van complexe, multimodale gegevens, waaronder mogelijk ai-modellen verfijnen om te voldoen aan specifieke nauwkeurigheidsbehoeften.

... gebruik de aangepaste AI-modellen en -services van ISV voor op maat gemaakte oplossingen.

... bieden volledige controle over de gesprekservaring, waaronder systeemprompts, temperatuur, toon en aangepaste veiligheidsvereisten.

Tip

Voor een dieper begrip raden we u aan om de gedetailleerde inhoud te verkennen die beschikbaar is in de aan de slag-koppelingen in elk patroon.

De Microsoft Copilot-stack bestaat uit drie verschillende lagen: de back-end (met de gegevens die zich in de respectieve opslagplaatsen bevinden), een AI-indelingslaag in het midden en de front-end (UI-ervaring van uw copilot). Binnen elke laag zijn er aanbevolen lagen die moeten worden overwogen bij het bouwen van een copilot.

Naarmate ISV's overstappen van benadering 1 naar benadering 3, nemen ze meer contact op met elke laag, uitgaande van grotere ontwikkelingsverantwoordelijkheden. Het maken van een invoegtoepassing onder Benadering 1 betekent bijvoorbeeld dat Microsoft AI-indeling verwerkt, inclusief gegevensintegratie en verantwoorde AI. Omgekeerd vereist het ontwikkelen van een aangepaste copilot mogelijk volledige controle over de gebruikerservaring, indelingslaag, gegevensbeheer en verantwoorde AI.

Notitie

Hoewel 'copilot' verwijst naar het algemene concept van een generatieve AI-assistent, verwijst Copilot naar specifieke Microsoft-producten, zoals Microsoft 365 Copilot of Dynamics 365 Copilot waarmee ISV's kunnen integreren.

Elke optie varieert in complexiteit en inspanning. Het implementeren van bestaande Microsoft Copilots is eenvoudig, het uitbreiden ervan met invoegtoepassingen vereist minimale inspanning en het maken van een nieuwe copilot-ervaring heeft mogelijk ontwerp, wetenschap en engineering nodig.

Het is belangrijk om te onthouden dat een AI-oplossing net zo goed is als de gegevens waarop u uw modellen hebt geaard en als context gebruikt. Kant-en-klare Microsoft Copilots ondersteunen al een aantal scenario's en kunnen worden uitgebreid met uw gegevens, functies en processen. De gebruikersinterface kan echter niet worden uitgebreid. Daarom is het belangrijk om zorgvuldig na te denken over uw specifieke scenario, hoe u GenAI-algoritmen kunt toepassen en hoe uw gebruiker (de 'pilot') kan profiteren van uw copilot-functionaliteit.

Benadering 1: Uw gegevens en services in Copilots van Microsoft weergeven

ISV's die hun bestaande services, gegevens en processen willen weergeven in de Copilots- of Microsoft 365-toepassingen van Microsoft, kunnen dit doen door invoegtoepassingen en connectors te bouwen.

Met deze benadering kan Microsoft 365 Copilot bijvoorbeeld communiceren met API's van andere software en services, actuele informatie weergeven, acties uitvoeren en nieuwe typen berekeningen uitvoeren.

Patroon A: Invoegtoepassingen maken om de functionaliteit van een bestaande Copilot te verbeteren

Invoegtoepassingen zijn extensies die de mogelijkheden van een bestaande Copilot uitbreiden, zodat deze kan communiceren met ISV-apps en -services. Ze kunnen de mogelijkheden van een gebruiker uitbreiden door de interactie met uw API's mogelijk te maken via een gesprek in natuurlijke taal. Een invoegtoepassing kan bijvoorbeeld toestaan dat Copilot nuttige informatie ophaalt, nieuwe berekeningen uitvoert of namens de gebruiker acties veilig uitvoert.

ISV's kunnen invoegtoepassingen maken met behulp van verschillende hulpprogramma's, waaronder Teams Message Extensions en Power Platform-invoegtoepassingen via Copilot Studio. Nieuwe invoegtoepassingen kunnen worden gepubliceerd naar het Copilot-ecosysteem van Microsoft via partnercentrum, waar IT-beheerders ze kunnen goedkeuren voor gebruik door eindgebruikers.

ISV-scenario's:

  • ISV's die hun bestaande services willen weergeven in Microsoft 365-client-apps
  • Gebruikers kunnen acties zoeken, bijwerken en uitvoeren in een ISV-toepassing of externe systemen, vanuit Microsoft 365-client-apps, zoals Teams, Outlook, Word, enzovoort.
  • Een gebruiker in Teams kan relevante informatie vinden uit een extern ticketing- of CRM-systeem dat uw klanten gebruiken, eventueel inclusief het uitvoeren van acties namens de gebruiker binnen het systeem

Partnervoordeel:

  • Service de miljoenen gebruikers en bedrijven die gebruikmaken van Microsoft 365-client-apps en ontmoet gebruikers waar ze nu werken.
  • Vergroot de zichtbaarheid van uw oplossingsservice door deze zichtbaar te maken in Microsoft 365-client-apps.
  • Verminder de wrijving van uw gebruikers door te voorkomen dat u tussen meerdere apps en canvassen hoeft te navigeren.
  • Een consistente gebruikerservaring in Microsoft 365-apps met universele integratie en continuïteit in Microsoft 365-apps.
  • Een Contoso-gebruiker detecteert bijvoorbeeld het meest recente klantaccount dat is samengevat met gegevens die afkomstig zijn van het externe systeem van Outlook, SharePoint en Fabrikam, zonder Teams te verlaten.

Waar te beginnen:

Belangrijkste conclusies:

  • Invoegtoepassingen zijn een manier om ISV-services en -apps op Microsoft Copilots aan te bieden, zodat eindgebruikers kunnen communiceren met ISV-apps en -services vanuit Microsoft 365-client-apps.
  • ISV's kunnen invoegtoepassingen maken met behulp van hulpprogramma's zoals Teams Message Extensions en Copilot Studio-invoegtoepassingen.
  • Invoegtoepassingen kunnen de zichtbaarheid en zichtbaarheid van uw oplossing vergroten via partnercentrum

Patroon B: Graph Connecters gebruiken om uw gegevens naar Copilot-ervaringen te brengen

Met Graph-connectors kunnen ISV's hun gegevens verbinden met de Semantische Index van Microsoft 365. Hun gegevens worden doorzoekbaar en kunnen worden uitgevoerd voor gebruikers, rechtstreeks vanuit Microsoft 365-client-apps zoals Teams, Outlook en Word. Microsoft Copilot wordt geaard in ISV-gegevens, cloud of on-premises, via Microsoft Graph. Bovendien kunnen ISV's Gebruikmaken van Microsoft Fabric, een geïntegreerd gegevensplatform dat als SaaS-product wordt geleverd, om hun gegevens in de Microsoft Cloud te brengen en deze eenvoudig te verbinden met Microsoft Graph.

Een diagram met Copilot dat is verbonden met 'Microsoft Graph-gegevens' en een 'ISV-app', die is gekoppeld aan een 'ISV-gegevensbron' via een Graph-connector.

ISV's kunnen Graph-connectors bouwen met behulp van de Microsoft Graph Connectors-API, die ondersteuning biedt voor een reeks gegevensbronnen, bestandssystemen, webpagina's, bedrijfstoepassingen en meer.

Grafiekconnectors kunnen de gegevens ook verrijken met ai-mogelijkheden, zoals verwerking van natuurlijke taal, entiteitextractie en afbeeldingsanalyse. Door Graph-connectors te gebruiken, kunnen ISV's Microsoft Copilot uitbreiden met hun eigen gegevens, de gebruikerservaring verbeteren en meer persoonlijke en veilige interacties mogelijk maken.

Er bestaan al honderden Graph-connectors. De Jira Cloud Graph-connector kan bijvoorbeeld Jira-objecten uitbreiden naar hetzelfde niveau als Microsoft 365 Graph-gegevens, waardoor uitgebreide redenering en universele integratie mogelijk zijn, wat leidt tot verbeterde en uitgebreidere inzichten. Met de connector kunnen eindgebruikers zoeken naar Jira-objecten van Microsoft 365 Copilot met behulp van de interface voor natuurlijke taal.

ISV-scenario's:

  • ISV's van wie klanten werken in Microsoft 365 en eindgebruikers in staat stellen inzichten te verkrijgen uit ISV-gegevensbronnen in combinatie met gebruikersgerichte Microsoft Graph-gegevens.
  • Gebruikers kunnen gegevens uit ISV-toepassingen ophalen, samenvatten en er reden voor hebben, in combinatie met andere Microsoft 365-grafiekgegevens, bijvoorbeeld e-mailberichten, word-documenten, enzovoort.
  • Communications Director moet e-mailberichten voor pull-aanvragen zoeken en opnieuw ontwerpen in Outlook die zijn verrijkt met inhoud die afkomstig is van een ISV-grafische ontwerptoepassing

Partnervoordeel:

  • Vergader gebruikers waar ze werken. Een uitgebreide gebruikersbasis maakt gebruik van Microsoft 365-clienttoepassingen en heeft nu toegang tot uw eigen gegevens en service in één uniforme ervaring.
  • Verrijkte inzichten door ISV-gegevens te combineren met Microsoft Graph-gegevens.
  • Universele integratie met Microsoft 365-apps en Microsoft Search, Context IQ en Viva, met één connector.
  • Uitgebreide kanalen om ISV-gegevens weer te geven, waardoor het gebruikersbestand mogelijk toeneemt.

Waar te beginnen:

Belangrijkste conclusies:

  • Met Graph-connectors kunnen ISV's hun gegevens overbrengen naar het Microsoft Copilot-ecosysteem, waardoor de gebruikerservaring wordt verbeterd met persoonlijke en veilige interacties.
  • ISV's kunnen Microsoft Fabric gebruiken om hun gegevens naar de Microsoft Cloud te brengen en deze te verbinden met Microsoft Graph.
  • Met behulp van Graph-connectors kunnen ISV's hun gegevens combineren met Microsoft 365-grafiekgegevens om verrijkte inzichten te bieden en universele integratie met Microsoft 365-apps te realiseren.

Benadering 2: Copilots overal maken met minimale codering en optionele Microsoft-gegevensintegratie

ISV's kunnen de kracht van hulpprogramma's en gegevens in Microsoft Graph in hun eigen apps brengen, waardoor hun functionaliteit en gebruikerservaring worden verbeterd.

Patroon C: Power Platform-connectors ontwikkelen om klantgestuurde copilots in Copilot Studio mogelijk te maken

Met Copilot Studio kunnen klanten AI-apps met weinig code maken die kunnen reageren op algemene gebruikersquery's, met behulp van gegevens uit hun organisatie en Microsoft en partnergegevensbronnen. Copilot Studio maakt gebruik van Power Platform-connectors om gegevens op te halen uit mogelijk elke bron, waar momenteel meer dan 500 connectors zijn. Als ISV kunt u connectors voor uw gegevens en services maken, zodat uw klanten hun eigen interne copilots en AI-apps kunnen maken, op basis van ISV-gegevens.

Deze AI-apps kunnen worden weergegeven voor eindgebruikers op verschillende platforms, waaronder websites, mobiele apps, Microsoft Teams of elk kanaal dat wordt ondersteund door het Azure Bot Framework.

Voorbeeldscenario's:

  • ISV's die een chatbot-ervaring willen bieden aan hun klanten, binnen hun bestaande toepassingen, die kunnen reageren op vragen en gesprekken kunnen omzetten in acties.
  • Gebruikers die vragen stellen binnen uw toepassing en antwoorden ontvangen op basis van ISV-, Microsoft- of klantgegevensbronnen.
  • Maak een klantconnector op basis van uw bestaande API's en converteer deze naar de invoegtoepassing met behulp van Copilot Studio, zodat deze API's kunnen worden aangeroepen vanuit een chatbot met natuurlijke taalinterface.
  • Converteer bestaande Power Automate-stromen naar invoegtoepassingen die kunnen worden aangeroepen vanuit De Copilot-chat van Microsoft om acties uit te voeren en informatie op te halen.
  • Toegang tot gegevens via de interface voor natuurlijke taal van bedrijfssystemen zoals Zendesk, GitHub en Salesforce via deze connectors in Power Platform.

Partnervoordeel:

  • Maak gebruik van de kracht van bestaande Microsoft- en niet-Microsoft-connectors om uw toepassing moeiteloos te verbeteren en te verrijken.
  • Versnel de ontwikkeling van invoegtoepassingen door de aangepaste connectorbenadering van Power Platform toe te passen voor snelle en efficiënte integratie.
  • Verbeter de time-to-value via de mogelijkheden met weinig code van Copilot Studio.
  • Krijg een concurrentievoordeel door AI-mogelijkheden in uw app te integreren met minimale codering.

Waar te beginnen:

Belangrijkste conclusies:

  • Copilot Studio biedt een platform voor het maken van AI-apps met weinig code die bestaande toepassingen kunnen verbeteren met chatbotmogelijkheden die zijn geaard in ISV-gegevens of -functies.
  • Het platform ondersteunt zowel bestaande Power Platform-connectors als aangepaste connectors, die flexibiliteit bieden bij het integreren van ISV-services en gegevensbronnen.
  • De integratie van AI-mogelijkheden kan de gebruikerservaring aanzienlijk verbeteren en uw app een concurrentievoordeel geven.

Patroon D: Microsoft Graph API gebruiken in uw copilots

De Microsoft Graph API biedt een krachtig eindpunt voor toegang tot gebruikersgerichte gegevens uit Microsoft 365-toepassingen, waaronder Agenda, Bookings, Outlook, Teams, OneDrive, SharePoint en meer. Met deze API kunt u uw apps verrijken met gegevens van Microsoft 365, zodat gebruikers uitgebreidere inzichten en analyses kunnen afleiden.

ISV-scenario's:

  • Klant en partners die bestaande ISV-toepassing gebruiken om Microsoft-gebruikersgerichte Graph-gegevens te combineren in hun copilot.
  • Een ISV met een projectmanagement-app wil microsoft 365-agendagegevens en projectdocumentengegevens opnemen om gebruikers te helpen deadlines en mijlpalen in de app bij te houden.
  • Een ISV met een CRM-app wil Microsoft 365-contact- en e-mailgegevens opnemen om klantprofielen en communicatielogboeken te verbeteren.

Overweeg Fabrikam, een veelzijdige HCM-software (Human Capital Management) die is uitgerust met een flexibele HR-suite, waardoor naadloze automatisering van verschillende werkstromen mogelijk is, zoals talentwerving, werknemersbeloningsbeheer en feedbackprocessen. In hun continue streven naar innovatie introduceert Fabrikam een geavanceerde copilot-functie bovenaan hun HR-suite. Nu willen ze hun toepassing nog verder uitbreiden door gebruikersgerichte grafiekgegevens te integreren. Deze uitbreiding omvat het gebruik van Graph API om de agenda's van werknemers op te nemen, waaronder details zoals geplande verloftijden en 1:1s voor feedbackprocessen, enzovoort.

Partnervoordeel:

  • Ontdek verrijkte inzichten door uw gegevens te combineren met Microsoft 365 Graph.
  • Naadloze integratie: gestandaardiseerde toegang tot Microsoft 365-gegevens voor een eenvoudigere integratie met uw apps.
  • Verbeterde gebruikerservaring: bied een naadlozere gebruikerservaring met toegang tot relevante Microsoft 365-gegevens en -functies in uw app.
  • Verbeterde functionaliteit: voeg nieuwe functies en mogelijkheden toe aan uw app met behulp van Microsoft 365-gegevens.
  • Schaalbaarheid en efficiëntie: richt u op het bouwen en verbeteren van uw apps terwijl de Graph API het ophalen van gegevens afhandelt.

Waar te beginnen:

Belangrijkste conclusies:

  • Met de Microsoft Graph API kunnen ISV's hun apps verrijken met gebruikersgerichte gegevens van Microsoft 365.
  • Via Graph API's kunt u gebruikmaken van de Microsoft 365 Semantic Index, een geavanceerdere zoekervaring die is gebouwd voor het tijdperk van Copilots.
  • Met behulp van de Graph API kunnen ISV's hun apps verbeteren met uitgebreidere inzichten en analyses.

Patroon E: Breng een copilot-ervaring naar uw apps met Azure OpenAI-assistenten

ISV's kunnen deze benadering met weinig code in AI Services van Azure gebruiken om copilot-achtige ervaringen naar hun eigen toepassingen te brengen. Het biedt een snel pad om de functieaanroepen van GPT toe te passen om uw eigen API's aan te roepen door de structuur van uw functie in JSON te beschrijven en een python-omgeving in de sandbox te bieden om code uit te voeren en uit te voeren om antwoorden op vragen van de gebruiker te formuleren.

Beide functies kunnen nuttig zijn bij het offloaden van niet-taalgerelateerde uitdagingen voor conventionele code of bestaande systemen die beter geschikt zijn voor de taak, bijvoorbeeld eenvoudige wiskundige taken.

Hoewel u geen directe toegang hebt tot de systeemprompt en -temperatuur, kunt u op dezelfde manier het gedrag van uw assistent beïnvloeden via aangepaste instructies die een zware invloed hebben op de persoonlijkheid van uw copilot-achtige ervaring.

Partnervoordeel:

  • Azure OpenAI-assistenten bieden een benadering met weinig code, waardoor ISV's snel Generatieve AI-mogelijkheden kunnen integreren in hun toepassingen zonder uitgebreide ontwikkelingsinspanningen.

Waar te beginnen:

Belangrijkste conclusies:

  • ISV's kunnen Azure OpenAI-assistenten gebruiken om interactieve, natuurlijke taalinterfaces te maken die de betrokkenheid van gebruikers verbeteren. Deze assistenten kunnen API's aanroepen via simpelweg door ze te beschrijven via JSON.
  • Een Azure OpenAI Assistant kan code schrijven en uitvoeren in een sandbox, op basis van de prompt van een gebruiker, om een niet-GenAI-probleem op te lossen.

Patroon F: De Teams AI-bibliotheek gebruiken om uw eigen copilot te bouwen

ISV's kunnen ook de Teams AI-bibliotheek gebruiken om natuurlijke taalmogelijkheden toe te voegen in hun bestaande Teams-chatbot. Met deze bibliotheek kunnen ISV's zich richten op hun bedrijfslogica, terwijl ze de Teams-scaffolding gebruiken om gespreksinteracties af te handelen. ISV's kunnen hun chatbots in Teams weergeven, zodat gebruikers een natuurlijkere en intuïtievere manier kunnen gebruiken om met hun apps te communiceren.

ISV-scenario:

  • Eindgebruikers gebruiken Teams en ISV-partner is op zoek naar hun service of functionaliteit op Teams met botachtige mogelijkheden.
  • Er is geen integratie nodig met Graph-gegevens en de ISV-partner is op zoek naar de service en bedrijfslogica zonder integratie met Teams Copilot-mogelijkheden.
  • Met vooraf samengestelde Teams-app-sjablonen en ingebouwde beheerveiligheidsfuncties kan DE ISV-partner eenvoudig LLM-functionaliteit toevoegen aan hun bestaande chatbot.

Partnervoordeel:

  • Voeg ChatGPT toe, zoals gesprekservaringen, met controle over prompt-engineering aan uw bot en ingebouwde veiligheidsfuncties opnieuw gebruiken.
  • Gebouwd aan de bovenkant klaar om mogelijkheden opnieuw te gebruiken, zoals
    • Gesprekssessiegeschiedenis aangeboden door teams AI-mechanisme.
    • Ondersteuning voor meerdere talen.
    • Ondersteuning voor multi-large language-modellen, naast OpenAI-modellen.
    • Actieplanner die kan helpen bij het toewijzen aan acties op basis van de intentie van de gebruiker.
    • Klaar om het uitbreidingsmechanisme te gebruiken om de manier te wijzigen waarop het model reageert via parameters of systeempromptwijziging.
    • Extra redenering waarmee de antwoorden van het model op uw gegevens kunnen worden gebaseerd.

Waar te beginnen:

Belangrijkste conclusies:

  • Team AI-bibliotheek biedt een eenvoudige manier om een ISV-ontwikkelde bot in Teams op te lichten met de kracht van LLM's.
  • De integratie met de huidige Mogelijkheden van Microsoft Copilot is niet vereist, maar kan een taakgerichte ervaring bieden.
  • Het biedt veel mogelijkheden vanuit technisch perspectief, maar is ook klaar voor gebruik van mogelijkheden Out Of the Box, waardoor het hele ontwikkelingsproces eenvoudiger wordt.

Als u uw bot in Teams wilt aandrijven met LLM's, is Teams AI Library de manier waarop u kunt gaan.

Benadering 3: Volledig beheer: End-to-end AI-ervaringen bouwen (Your Own ( BYO)

ISV's kunnen de Microsoft Copilot Stack gebruiken om volledig nieuwe AI-ervaringen te bouwen, als copilots of intelligente assistenten. Een ISV-gebouw in dit middelste deel van de stack neemt verantwoordelijkheid voor AI Orchestration, waarbij Microsoft verschillende opties biedt, die allemaal de basismodellen van Microsoft, AI-hulpprogrammaketen en AI-infrastructuur toepassen.

Semantische kernel kan worden gebruikt om dezelfde AI-indelingspatronen te bouwen die Microsoft Copilots in uw copilots mogelijk maken. Het is beschikbaar als een SDK die u rechtstreeks kunt ontwikkelen.

Met de meeste investeringen die een copilot-service in het midden van de stapel maken, hebben ISV's de vrijheid om deze copilot-service te verbinden met verschillende oppervlakken, waaronder Teams, Microsoft 365 Copilot, Microsoft Copilot, uw eigen toepassingsoppervlakken, websites, chatbots of alle. In wezen is elk ander patroon dat hier wordt beschreven, ook een optie als het gaat om integratie met een toepassingsoppervlak , de bovenkant van onze stack.

Patroon G: Uw eigen copilot bouwen met Azure AI Studio

Azure AI Studio is een alles-in-één-platform voor ISV's om aangepaste, intelligente assistenten of copiloten te bouwen. Het combineert mogelijkheden van verschillende Azure AI-services en biedt een uniforme werkruimte voor het ontwikkelen en implementeren van generatieve AI-toepassingen. Het is een samenwerkingsplatform waar gegevenswetenschappers, ontwikkelaars en andere belanghebbenden kunnen convergeren en samenwerken.

Met Azure AI Studio krijgen ISV's volledige controle over hun gedrag, persoonlijkheid en mogelijkheden van copilot. Ongeacht of u bestaande vooraf getrainde modellen uit onze uitgebreide catalogus, verfijningsmodellen op uw gegevens gebruikt of uw eigen aangepaste AI-modellen traint, versnelt Azure AI Studio de ontwikkeling van AI-ervaringen die complexe multimodale gegevens verwerken.

Een opvallende functie van Azure AI Studio is het diverse scala aan modellen, geschikt voor verschillende branches en use cases. Hiermee kunnen ISV's verschillende modellen in één oplossing combineren om te voldoen aan hun unieke vereisten.

Dankzij integratie met Azure AI Search kunnen ISV's een RAG-patroon (Retrieval Augmented Generation) implementeren voor ongestructureerde gegevens rechtstreeks vanuit Azure AI Studio, met het extra voordeel van de functie Integrated Vectorization van AI Search. Dit betekent dat alle gegevens die uw copilot nodig heeft, automatisch up-to-date kunnen worden gehouden in een vectordatabase, waardoor u snel en efficiënt kunt ophalen tijdens de evaluatie van de gebruikersprompt, zodat u zelf een indexerings-, segmenterings-, insluitings- en vectoriseringspatroon kunt implementeren.

Prompt Flow, een functie van Azure AI Studio, biedt een gevisualiseerde grafiek voor het organiseren van uitvoerbare stromen met LLM's (Large Language Models), prompts en Python-hulpprogramma's. Het vereenvoudigt foutopsporing, delen en herhalen van uw stromen met gemak door teamsamenwerking.

Voor ISV-teams die de voorkeur geven aan een code-first benadering, biedt de Azure AI SDK een pakket pakketten voor toegang tot Azure AI-services, waaronder de installatie van Azure AI Studio-projecten en gerelateerde resources. Hierdoor kunnen ontwikkelaars en gegevenswetenschappers AI-onderdelen beheren, AI-modellen, pijplijnen en services rechtstreeks vanuit code configureren en tegelijkertijd de grafische interface beschikbaar maken voor degenen die er de voorkeur aan geven.

Prototypen zijn eenvoudig in Azure AI Studio via de playground. Een typische reis voor een team dat aan een project in Azure AI Studio werkt, kan beginnen met een persoon die een idee valideert in de speeltuin. Zodra aantrekkelijke resultaten zijn geproduceerd, kunnen ze worden gevraagd vanuit de Playground om Flow te vragen als een versieversie en aangepaste stroom. Nu kan een versie van een artefact in het AI-project het bredere team bijdragen waar de stroom toegankelijk is via de gebruikersinterface van Azure AI Studio en via alleen code. Op dit moment kunnen meerdere vertakkingen van logica op verschillende LLM's worden getest en geëvalueerd.

Naast de ontwikkelingsfase biedt Azure AI Studio ook een LLMOps-hulpprogrammaketen, die uw end-to-end prompt-engineering afhandelt van ontwikkeling tot productie en doorlopend onderhoud.

Azure AI Studio ondersteunt integratie met Azure AI Search, Azure Open AI Service en andere Azure AI-services, waardoor resourcebeheer voor ISV's wordt vereenvoudigd. Het biedt ook een projectgerichte werkruimte, ter bevordering van samenwerking met gedeelde rekenkracht, modelimplementaties en services.

ISV-scenario's:

  • Een gezondheidszorg ISV bouwt een telemedicineplatform wil een copilot die medische jargon begrijpt, artsen helpt bij het diagnosticeren van patiënten en biedt relevante aanbevelingen voor de behandeling.
  • Een financiële dienstverlener heeft een copilot nodig die markttrends kan analyseren, klantquery's over investeringsopties kan beantwoorden en gepersonaliseerde financiële rapporten kan genereren.
  • Een e-learning-platform wil een copilot die leerlingen/studenten begeleidt, complexe concepten uitlegt en de leerstijl aanpast op basis van individuele leervoorkeuren.
  • Een verzekeringsmaatschappij versnelt de analyse van documenten tijdens het claimproces door te valideren of de huidige claim kan worden gedekt door het contract.
  • Luchtvaartmaatschappij copilot kan u helpen de reis te plannen, te zoeken naar de tickets en hotels en deze te boeken zodra u tevreden bent met de aanbieding.
  • Een keten van restaurants is het maken van een copilot-app om nieuwe werknemers te helpen aan de slag te gaan door hen door het hele proces te begeleiden.
  • Een ISV biedt hun klanten een VS Code-extensie om ontwikkelaars te helpen de integratie met hun API's te bouwen.

Partnervoordeel:

  • Aanpassing en beheer: bouw een op maat gemaakte copilot die precies overeenkomt met de vereisten van uw toepassing.
  • Scenarioflexibiliteit: Geschikt voor een breed scala aan scenario's, van domeinspecifieke copilots tot taakautomatisering en het genereren van inhoud.
  • Integratie met bestaande systemen: verbinding maken met databases, API's en andere services om de mogelijkheden van uw copilot te verbeteren.
  • Merkidentiteit en gebruikerservaring: vorm te geven aan de persoonlijkheid van uw copilot om te passen aan uw merkstem en de gebruikerservaring te verbeteren.
  • Build-ervaring: Met opensource en zeer uitbreidbare SDK, Semantische kernel kunt u intelligente agents bouwen die uw bestaande API's kunnen aanroepen. Met Semantic Kernel kunt u dezelfde AI-indelingspatronen gebruiken die copilots van Microsoft in onze eigen apps mogelijk maken.
  • Schaalbaarheid en implementatie: implementeer uw copilot voor meerdere clients of toepassingen, zodat duizenden gebruikers tegelijk worden bediend.

Waar te beginnen:

Belangrijkste conclusies:

  • Azure AI Studio biedt een krachtig platform voor het maken van aangepaste, intelligente assistenten of copiloten.
  • ISV's kunnen het gedrag, de persoonlijkheid en mogelijkheden van hun copilot vormgeven, waardoor een echt op maat gemaakte oplossing ontstaat.
  • Azure AI Studio ondersteunt een breed scala aan scenario's en integreert naadloos met bestaande infrastructuur.
  • Het maken van een aangepaste copilot met Azure AI Studio kan de gebruikerservaring verbeteren en op maat gemaakte oplossingen bieden voor specifieke use cases.
  • AI Studio biedt u een copilot-service (of back-end), die wordt weergegeven als één geschaald eindpunt
  • Een ISV heeft vervolgens opties om de service te verbinden met een app, front-end of gespreksoppervlak van hun keuze, inclusief een van de bovenstaande patronen.
  • Onthoud dat dit patroon kan worden gecombineerd met anderen op basis van uw specifieke behoeften. U kunt dit patroon bijvoorbeeld koppelen aan Patroon A en een invoegtoepassing voor Microsoft Copilot, of Pattern F om uw eigen copilot-bot in Teams weer te geven.

Patroon H: Uw eigen copilot bouwen met Semantische kernel

Semantic Kernel is een opensource-SDK waarmee ontwikkelaars geavanceerde copilots in hun toepassingen kunnen maken. Het ondersteunt een reeks programmeertalen, waaronder C#, Java en Python, waardoor deze toegankelijk is voor een brede ontwikkelaarscommunity. Semantic Kernel maakt de indeling van AI-invoegtoepassingen mogelijk, waardoor integratie met verschillende AI-modellen mogelijk is, waaronder van Azure OpenAI en Hugging Face.

Semantische kernel bevat de essentie van de AI-indelingspatronen van Microsoft Copilots, waarmee ontwikkelaars hulpprogramma's kunnen ontwikkelen om agents en copilots te bouwen.

Agents zijn AI-systemen die vragen kunnen beantwoorden en processen voor gebruikers kunnen automatiseren. Ze variëren van eenvoudige chatbots tot volledig geautomatiseerde AI-assistenten. Copilots, een speciaal type agent, werken samen met gebruikers. In tegenstelling tot volledig geautomatiseerde agents bieden copilots suggesties en aanbevelingen, zodat gebruikers de controle kunnen behouden.

Invoegtoepassingen: Deze bieden vaardigheden aan uw agent. U kunt invoegtoepassingen maken voor taken zoals het verzenden van e-mailberichten, het ophalen van informatie uit databases of het vragen om hulp.

Planners: Agents gebruiken planners om plannen te genereren voor het voltooien van taken. Een copilot die een gebruiker helpt bij het schrijven van een e-mailbericht, zou bijvoorbeeld een plan maken met stappen zoals het verzamelen van details van geadresseerden en het opstellen van de e-mail.

De SDK wordt geleverd met de VS Code-extensie, voorbeeld-App Chat Copilot , maar ook met starters om u een scaffolding te bieden om uw ideeën tot leven te brengen.

U hebt besloten om met Semantische kernel te gaan werken. We raden u aan een aantal mogelijkheden te definiëren voordat u begint met code:

  • Begin met het definiëren van de persona en het gedrag van een copilot.
  • Maak invoegtoepassingen voor algemene taken waarmee uw copilot zal helpen.
  • Planners gebruiken om plannen voor copilot-acties te genereren.
  • Plan om grondig te testen om een verfijnde gebruikerservaring te garanderen.
  • Zorg ervoor dat u feedback van uw gebruikers kunt verzamelen en dit kunt implementeren in het gedrag van de agent of copilot.

ISV-scenario's:

  • U bouwt een copilot die deel uitmaakt van uw eigen toepassing (hulpprogramma voor klantontwikkeling of HR-systeem) en u wilt dat mensen binnen dezelfde gebruikersinterface blijven.
  • U hebt een volledig beheer nodig over de orchestration-engine, RAG-implementatie, modelkeuzen en modelparameters.
  • Met uw copilot-service wilt u uw klanten toestaan om uitbreidingen op uw oplossing te bouwen via invoegtoepassingen.
  • Uw oplossing maakt gebruik van canvassen en andere media dan alleen tekst.

Partnervoordeel:

  • Volledige controle over uw copilot-gedrag met toegang tot adviesindelingsengine die door Microsoft wordt gebruikt om first party Copilots te bouwen.
  • U kunt naadloos modellen maken op uw eigen bedrijfsgegevens en gestructureerde, ongestructureerde en realtime gegevens integreren met Behulp van Microsoft Fabric OneLake. Hierdoor kunnen ontwikkelaars geavanceerde hybride en semantische zoekopdrachten gebruiken om rag-toepassingen (Augmented Generation) op te halen.
  • Toegang tot superieure hulpprogramma's voor het verfijnen van AI-antwoorden met behulp van prompt engineering- en LLMOps-hulpprogramma's zoals promptstroom.

Waar te beginnen:

Belangrijkste conclusies:

  • Semantische kernel is een bevooroordeeld opensource-framework dat ontwikkelaars helpt genAI-mogelijkheden in hun apps te bouwen
  • Het wordt onderhouden en ontwikkeld door Microsoft en wordt gebruikt door teams van eerste partijen om Microsoft Copilot-oplossingen te bouwen.
  • Met een set voorbeelden kunt u eenvoudig uw GenAI-reis binnen uw eigen toepassingsstack starten.
  • Onthoud dat dit patroon kan worden gecombineerd met anderen op basis van uw specifieke behoeften. U kunt dit patroon bijvoorbeeld koppelen aan Patroon A en een invoegtoepassing voor Microsoft Copilot, of Pattern F om uw eigen copilot-bot in Teams weer te geven.

Conclusie

We zijn begonnen met scenario's en hebben u gekocht voor een of meer interessante patronen, die we hebben verzameld in een van de drie benaderingen. Hoewel elk patroon een variantie heeft, zijn er enkele algemene functies voor elke benadering:

Benadering 1: Uw gegevens en services in Copilots van Microsoft weergeven Benadering 2: Copilots overal maken met minimale codering en optionele Microsoft-gegevensintegratie Benadering 3: Volledig beheer: End-to-end AI-ervaringen bouwen (Your Own ( BYO)
Ontwikkelingsinspanning Laag (geen/lage code) Gemiddeld (minimale code) Hoog (Pro-code)
Gegevensbronnen Microsoft Graph (Microsoft/M365 of niet-Microsoft via connectors) Verschillend. Power Platform-connectors, Microsoft Graph, uw API's. Kan meerdere gegevensbronnen, services en apps binnen of buiten de Microsoft-tenant omvatten
Gebruikersinterface of gespreksoppervlak Geleverd door Copilot wordt uitgebreid, bijvoorbeeld Teams, Microsoft 365, enzovoort. Verschilt per benadering van Geleverd door Microsoft om uw eigen methode te gebruiken. Neem je eigen mee. Meerdere oppervlakken mogelijk met dezelfde copilot
Invloed op de toon, het gedrag en de modelparameters van copilot Geen directe controle. Modelparameters zijn de verantwoordelijkheid van Copilot die wordt uitgebreid. Sommige invloeden met name voor gedrag en toon, via aangepaste instructies die deel uitmaken van de metaprompt. Met Teams AI Library kunt u modelparameters beheren. Directe controle van modelparameters, zoals temperatuur, systeemprompts, maximumtokens, enzovoort. Aangepast copilot-gedrag.
Geschikt voor meerdere modellen Nee Nr. Ja Meerdere aanroepen naar diverse modellen binnen dezelfde stroom
Modelondersteuning Geleverd door systeem Keuze uit OpenAI-modellen Keuze uit elk model OpenAI en volledige modelcatalogus
Verantwoorde AI Geleverd door systeem Geleverd door het systeem of gebruiksopties in elk patroon ISV-verantwoordelijkheid met platformopties in elk patroon.
Ondersteuning voor chatgeschiedenis Geleverd door systeem Geleverd door het systeem of gebruiksopties in elk patroon ISV-verantwoordelijkheid met platformopties in elk patroon.
Voorbeeldscenario's Gebruikers in Microsoft Copilots kunnen acties uitvoeren op of inzichten verkrijgen uit ISV-gegevens en -services. Introduceer een GenAI-assistent in bestaande ISV-toepassingsoppervlak om redeneren over klant- of ISV-gegevens. Presenteer uw eigen copilot of chatbot in een bestaand Microsoft-oppervlak, zoals Teams, met een afzonderlijke identiteit en ervaring voor Microsoft Copilots. Uw klanten en gebruikers communiceren met een volledig aangepaste copilot voor uw merk en gedrag, waardoor meerdere gegevenssets en verbonden systemen kunnen worden gebruikt vanuit een meerdere keuze aan ui- of gespreksoppervlakken.

Deze benaderingen zijn in volgorde van toenemende mogelijkheden om aan te passen, wat ook vereist dat een ISV meer verantwoordelijkheid ophaalt via de controle die is verkregen en de totale ontwikkelingsinspanning verhoogt.

Daarom raden we u ten zeerste aan om te beginnen bij benadering 1, wat de snelste manier is om op de markt te komen voor uw initiële vereisten. Microsoft brengt vaak nieuwe Copilots van de eerste partij uit. Controleer voortdurend of een nieuwe Copilot uw gebruikers efficiënter kan aanpakken door uw gegevens en services ernaar uit te breiden.

Stap over op Benaderingen 2 en vervolgens 3, omdat uw vereisten u leiden tot meer controle en aanpassing.

Een uitzondering hier is misschien waar een ISV al een bestaande AI-functie in huis heeft met bestaande assets. Een ISV die al een GenAI-team heeft met bestaande AIOps-processen en al IP-adressen heeft gemaakt in bijvoorbeeld Python of LangChain, kan natuurlijk beter zijn gericht op Benadering 3.

Een laatste bijschrift is dat deze lijst met patronen niet volledig of wederzijds exclusief is. We hebben hier geselecteerde patronen samengesteld waarbij we synergieën voor ISV's zien en het is belangrijk om te begrijpen dat ze op verschillende manieren kunnen worden gecombineerd om een oplossing te creëren die perfect aansluit bij uw behoeften. Wanneer u bijvoorbeeld werkt met Benadering 3 (Patterns G of H), hebt u mogelijk een front-end nodig. In dit geval kunt u invoegtoepassingen (Patroon A) of de Teams AI-bibliotheek (Patroon F) gebruiken. Houd altijd rekening met de synergie tussen verschillende patronen bij het plannen van uw AI-strategie.