Condividi tramite


Creazione di esperienze di intelligenza artificiale generative con Microsoft Cloud: guida per gli ISV

Benvenuti nella guida alla creazione di esperienze di intelligenza artificiale generative (GenAI) uniche con Microsoft Cloud. In qualità di fornitore di software indipendente (ISV), si è in una posizione privilegiata per sfruttare la potenza di GenAI per innovare e offrire soluzioni accattivanti ai clienti.

Che cos'è Microsoft Cloud?
Microsoft Cloud è una piattaforma completa e integrata che offre un'ampia gamma di funzionalità e servizi. Include l'intelligenza artificiale di Azure, Microsoft 365, Microsoft Fabric e altro ancora, mettendolo in primo piano nella rivoluzione globale dell'intelligenza artificiale generativa.

Questa piattaforma consente di visualizzare i dati e le funzionalità proprietari in varie aree, tra cui Microsoft 365, un hub di produttività e collaborazione a cui accedono milioni di utenti.

Questa guida consente di esplorare le ampie possibilità disponibili nell'ecosistema Microsoft Cloud.

Che cosa sono i copiloti?
Si fa riferimento a un copilota come assistente virtuale basato sull'intelligenza artificiale che migliora la produttività degli utenti aiutando gli esseri umani con attività cognitive complesse, fornendo suggerimenti contestuali e fornendo informazioni dettagliate avanzate sui dati. Questi copiloti possono essere basati su dati e contesto specifici di clienti o ISV, offrendo agli ISV l'opportunità di creare esperienze di intelligenza artificiale generative che comprendano i dati specifici dell'azienda.

Scenari e approcci

Diagramma che mostra i componenti di Microsoft Copilot, l'orchestrazione di intelligenza artificiale e l'infrastruttura Microsoft Cloud sottostante.

Diagramma che elenca i tre approcci ISV di estendibilità copilota. Prima di tutto, estendere Copilot consente di visualizzare i dati e il servizio nei Copilot di Microsoft. In secondo luogo, creare copiloti consente di creare copiloti ovunque con codice minimo e l'inserimento dati Microsoft facoltativo. Terzo, il controllo completo consente di creare esperienze di intelligenza artificiale end-to-end personalizzate. Ognuna delle tre opzioni include altri dettagli descritti nel testo seguente.

Questa guida fornisce indicazioni basate su scenari che consentono agli ISV di esplorare il campo esteso di GenAI in Microsoft Cloud. Il nostro obiettivo è quello di aiutarti a selezionare i modelli e le tecnologie più adatti per i tuoi requisiti unici, disposti in tre approcci di alto livello per creare esperienze di IA.

Gli approcci sono suddivisi in modelli basati su scenari che consentono di esplorare il percorso più appropriato per lo scenario e i requisiti.

Importante

Si noti che questi approcci e i relativi modelli non si escludono a vicenda. Possono essere combinati per creare una soluzione personalizzata che soddisfi al meglio i requisiti e gli scenari specifici.

Approccio 1: Surface your data and services into Microsoft's Copilots:Approach 1: Surface your data and services into Microsoft's Copilots:

Questo approccio è progettato per gli ISV che desiderano integrare i dati e i servizi nei Copilot di Microsoft. Lo stato attivo consiste nell'usare plug-in e connettori Graph per migliorare le esperienze utente.

Scenario: io sono un ISV in cui gli utenti finali eseguono operazioni in app Microsoft come Teams, Word, Outlook e devono...

... accedere alle informazioni usando le interfacce del linguaggio naturale e ho un servizio esistente che voglio rendere disponibile tramite queste app di Microsoft 365.

... trarre informazioni dettagliate dalle origini dati ISV combinate con i dati di Microsoft Graph incentrati sugli utenti e i dati line-of-business dell'organizzazione.

Approccio 2: Creare copiloti ovunque, con codifica minima e integrazione facoltativa dei dati Microsoft:

Questo approccio è destinato agli ISV che puntano ad arricchire le proprie app con i dati e gli strumenti di Microsoft o che vogliono creare assistenti di intelligenza artificiale personalizzati con Azure. Implica l'uso dell'API Microsoft Graph, dei plug-in di Copilot Studio, della libreria di intelligenza artificiale di Teams o dell'abilitazione dei clienti a creare esperienze copilot personalizzate con i dati tramite connettori.

Scenario: sono un ISV in cui gli utenti finali lavorano ovunque...

... e voglio consentire loro di creare esperienze copilote usando i nostri dati e servizi.

Scenario: sono un ISV in cui gli utenti finali lavorano nelle applicazioni e nell'interfaccia utente esistenti, che vogliono...

... incorporare i dati di Graph incentrati sugli utenti microsoft nel copilota.

... offrire un'esperienza di conversazione all'interno dell'applicazione esistente, che può rispondere alle domande e trasformare le conversazioni in azioni.

Scenario: io sono un ISV che ha come obiettivo l'esperienza copilota di Microsoft Teams e include i requisiti per...

... creare bot intelligenti di Teams che si integrano con GenAI, eseguire bot in Teams e avere conversazioni con riconoscimento del contesto o usare l'esperienza di chat di Teams e io come ISV incentrato sulla logica di business complessa.

Approccio 3: Controllo completo: Creare esperienze end-to-end di intelligenza artificiale personalizzate (BYO):

Questo approccio è destinato agli ISV che cercano di creare esperienze di intelligenza artificiale completamente nuove o copiloti usando strumenti come Azure AI Studio e Semantic Kernel. Offre il massimo controllo e personalizzazione, offrendo possibilità illimitate.

Scenario: sono un ISV che cerca di sviluppare esperienze di intelligenza artificiale interoperativa all'avanguardia che...

... richiedono una gestione specializzata di dati intricati e granulari, che potrebbero includere modelli di intelligenza artificiale di ottimizzazione per soddisfare specifiche esigenze di accuratezza.

... usare i modelli e i servizi di intelligenza artificiale personalizzati di ISV per soluzioni personalizzate.

... fornire un controllo completo sull'esperienza di conversazione, inclusi i prompt di sistema, la temperatura, il tono e i requisiti di sicurezza personalizzati.

Suggerimento

Per una comprensione più approfondita, è consigliabile esplorare il contenuto dettagliato disponibile nei collegamenti Introduzione forniti in ogni modello.

Lo stack di Microsoft Copilot comprende tre livelli distinti: il back-end (con i dati presenti nei rispettivi repository), un livello di orchestrazione di intelligenza artificiale al centro e il front-end (esperienza dell'interfaccia utente del copilota). All'interno di ogni livello sono disponibili livelli consigliati da considerare durante la creazione di un copilota.

Man mano che gli ISV passano dall'approccio 1 all'approccio 3, interagiscono più profondamente con ogni livello, presupponendo maggiori responsabilità di sviluppo. Ad esempio, la creazione di un plug-in in Approccio 1 significa che Microsoft gestisce l'orchestrazione dell'intelligenza artificiale, inclusa l'integrazione dei dati e l'intelligenza artificiale responsabile. Al contrario, lo sviluppo di un copilota personalizzato potrebbe richiedere il controllo completo sull'esperienza utente, sul livello di orchestrazione, sulla gestione dei dati e sull'intelligenza artificiale responsabile.

Nota

Anche se "copilota" si riferisce al concetto generale di assistente di intelligenza artificiale generativa, "Copilot" si riferisce a prodotti Microsoft specifici, ad esempio Microsoft 365 Copilot o Dynamics 365 Copilot con cui gli ISV possono integrarsi.

Ogni opzione varia in complessità e impegno. L'adozione di copiloti Microsoft esistenti è semplice, estendendoli con plug-in richiede uno sforzo minimo e creare una nuova esperienza copilota potrebbe avere bisogno di progettazione, scienza e progettazione.

È importante ricordare che una soluzione di intelligenza artificiale è ottimale quanto i dati su cui si basano i modelli e che usano come contesto. I copiloti Microsoft pronti per l'uso supportano già una gamma di scenari e possono essere estesi con dati, funzioni e processi. Tuttavia, l'interfaccia utente non può essere estesa. È quindi importante considerare attentamente lo scenario specifico, come applicare algoritmi GenAI e come l'utente (il "pilota") può trarre vantaggio dalla funzionalità di copilota.

Approccio 1: Surface your data and services into Microsoft's Copilots

Gli ISV che cercano di visualizzare i servizi, i dati e i processi esistenti nei copiloti Microsoft o nelle applicazioni Di Microsoft 365 possono farlo creando plug-in e connettori.

Questo approccio consente ad esempio a Microsoft 365 Copilot di interagire con le API di altri software e servizi, visualizzando informazioni aggiornate, eseguire azioni ed eseguire nuovi tipi di calcoli.

Modello A: Creare plug-in per migliorare la funzionalità di copilot esistente

I plug-in sono estensioni che aumentano le funzionalità di un Copilot esistente, consentendogli di interagire con app e servizi ISV. Possono espandere le funzionalità di un utente abilitando l'interazione con le API, tramite la conversazione in linguaggio naturale. Ad esempio, un plug-in potrebbe consentire a Copilot di recuperare informazioni utili, eseguire nuovi calcoli o eseguire azioni in modo sicuro per conto dell'utente.

Gli ISV possono creare plug-in usando vari strumenti, tra cui le estensioni dei messaggi di Teams e i plug-in power platform tramite Copilot Studio. I nuovi plug-in possono essere pubblicati nell'ecosistema Copilot di Microsoft tramite il Centro per i partner, in cui gli amministratori IT possono approvarli per l'uso da parte degli utenti finali.

Scenari ISV:

  • ISV che cercano di visualizzare i servizi esistenti nelle app client di Microsoft 365
  • Gli utenti possono cercare, aggiornare ed eseguire azioni in un'applicazione ISV o in qualsiasi sistema esterno, dalle app client di Microsoft 365, ad esempio Teams, Outlook, Word e così via.
  • Un utente di Teams potrebbe trovare informazioni rilevanti da un sistema CRM o di ticket esterno che i clienti usano, includendo facoltativamente l'esecuzione di azioni per conto dell'utente, all'interno del sistema

Vantaggio del partner:

  • Gestire milioni di utenti e aziende che usano le app client di Microsoft 365, incontrare gli utenti in cui lavorano subito.
  • Aumentare la visibilità del servizio della soluzione visualizzandoli nelle app client di Microsoft 365.
  • Ridurre l'attrito degli utenti eliminando la necessità di spostarsi tra più app e canvas.
  • Un'esperienza utente coerente tra le app di Microsoft 365 con integrazione universale e continuità nelle app di Microsoft 365.
  • Ad esempio, un utente Contoso individua l'account cliente più recente riepilogato con i dati provenienti dal sistema esterno di Outlook, SharePoint e Fabrikam, senza uscire da Teams.

Dove iniziare:

Aspetti chiave:

  • I plug-in sono un modo per visualizzare i servizi e le app ISV in Microsoft Copilot che consentono agli utenti finali di interagire con app e servizi ISV dalle app client di Microsoft 365.
  • Gli ISV possono creare plug-in usando strumenti come le estensioni dei messaggi di Teams e i plug-in copilot Studio.
  • I plug-in possono aumentare la visibilità e l'individuabilità della soluzione tramite il Centro per i partner

Modello B: Usare Graph Connecters per portare i dati nelle esperienze copilote

I connettori Graph consentono agli ISV di connettere i dati all'indice semantico di Microsoft 365. I dati diventano ricercabili e utilizzabili per gli utenti, direttamente dalle app client di Microsoft 365, ad esempio Teams, Outlook e Word. Microsoft Copilot viene reso disponibile nei dati ISV, sia nel cloud che in locale, tramite Microsoft Graph. Inoltre, gli ISV possono usare Microsoft Fabric, una piattaforma dati unificata distribuita come prodotto SaaS, per inserire i dati in Microsoft Cloud e connetterli facilmente a Microsoft Graph.

Diagramma che mostra

Gli ISV possono creare connettori Graph usando l'API Connettori Microsoft Graph, che supporta un'ampia gamma di origini dati, file system, pagine Web, applicazioni aziendali e altro ancora.

I connettori Graph possono anche arricchire i dati con funzionalità basate sull'intelligenza artificiale, ad esempio l'elaborazione del linguaggio naturale, l'estrazione di entità e l'analisi delle immagini. Usando i connettori Graph, gli ISV possono estendere Microsoft Copilot con i propri dati, migliorando l'esperienza utente e abilitando interazioni più personalizzate e sicure.

Esistono già centinaia di connettori Graph. Ad esempio, il connettore Jira Cloud Graph può elevare gli oggetti Jira allo stesso livello dei dati di Graph di Microsoft 365, consentendo un ragionamento completo e l'integrazione universale, portando a informazioni dettagliate avanzate e più complete. Il connettore consente agli utenti finali di cercare oggetti Jira da Microsoft 365 Copilot usando l'interfaccia del linguaggio naturale.

Scenari ISV:

  • ISV i cui clienti eseguono il lavoro in Microsoft 365 e vogliono consentire agli utenti finali di ottenere informazioni dettagliate dalle origini dati ISV combinate con i dati di Microsoft Graph incentrati sugli utenti.
  • Gli utenti possono recuperare, riepilogare e ragionare sui dati dalle applicazioni ISV, in combinazione con altri dati del grafo di Microsoft 365, ad esempio messaggi di posta elettronica, documenti di word e così via.
  • Communications Director deve trovare e redraft i messaggi di posta elettronica pr in Outlook che sono arricchiti con contenuto originato da un'applicazione di progettazione grafica ISV

Vantaggio del partner:

  • Incontrare gli utenti in cui lavorano. Una vasta base di utenti usa applicazioni client di Microsoft 365 e ora può accedere ai propri dati e servizi in un'unica esperienza unificata.
  • Informazioni dettagliate arricchite combinando i dati ISV con i dati di Microsoft Graph.
  • Integrazione universale con le app di Microsoft 365 e Microsoft Search, Context IQ e Viva, con un connettore.
  • Canali espansi per presentare i dati ISV, aumentando potenzialmente la base di utenti.

Dove iniziare:

Aspetti chiave:

  • I connettori Graph consentono agli ISV di inserire i dati nell'ecosistema Microsoft Copilot, migliorando l'esperienza utente con interazioni personalizzate e sicure.
  • Gli ISV possono usare Microsoft Fabric per inserire i dati in Microsoft Cloud e connetterlo a Microsoft Graph.
  • Usando i connettori Graph, gli ISV possono combinare i dati con i dati del grafo di Microsoft 365 per fornire informazioni dettagliate arricchite e ottenere l'integrazione universale con le app di Microsoft 365.

Approccio 2: Creare copiloti ovunque con codifica minima e integrazione facoltativa dei dati Microsoft

Gli ISV possono sfruttare le potenzialità degli strumenti e dei dati in Microsoft Graph nelle proprie app, migliorando le funzionalità e l'esperienza utente.

Modello C: Sviluppare connettori power platform per abilitare i copiloti basati sui clienti in Copilot Studio

Copilot Studio consente ai clienti di creare app di intelligenza artificiale a basso codice in grado di rispondere a query utente comuni, usando i dati dell'organizzazione e delle origini dati Microsoft e partner. Copilot Studio usa i connettori Power Platform per inserire dati da qualsiasi origine, in cui attualmente sono presenti più di 500 connettori. Gli ISV possono creare connettori per i dati e i servizi, per consentire ai clienti di creare copiloti interni e app di intelligenza artificiale, basati sui dati ISV.

Queste app di intelligenza artificiale possono essere visibili agli utenti finali in varie piattaforme, tra cui siti Web, app per dispositivi mobili, Microsoft Teams o qualsiasi canale supportato da Azure Bot Framework.

Scenari di esempio:

  • Gli ISV che cercano di offrire ai clienti un'esperienza di chat bot, all'interno delle applicazioni esistenti, che possono rispondere alle domande e trasformare le conversazioni in azioni.
  • Gli utenti che chiedono domande all'interno dell'applicazione e ricevono risposte in base a ISV, Microsoft o origini dati dei clienti.
  • Creare un connettore cliente dalle API esistenti e convertirlo nel plug-in usando Copilot Studio, consentendo di chiamare queste API da un chatbot con interfaccia del linguaggio naturale.
  • Convertire i flussi di Power Automate esistenti in plug-in che possono essere chiamati dalla chat di Microsoft Copilot per eseguire azioni e recuperare informazioni.
  • Accedere ai dati tramite l'interfaccia del linguaggio naturale da sistemi aziendali come Zendesk, GitHub e Salesforce tramite questi connettori in Power Platform.

Vantaggio del partner:

  • Sfruttare la potenza dei connettori Microsoft e non Microsoft esistenti per migliorare e arricchire facilmente l'applicazione.
  • Accelerare lo sviluppo di plug-in applicando l'approccio del connettore personalizzato Power Platform per un'integrazione rapida ed efficiente.
  • Migliorare il time-to-value tramite le funzionalità a basso codice di Copilot Studio.
  • Ottenere un vantaggio competitivo integrando le funzionalità di intelligenza artificiale nell'app con codice minimo.

Dove iniziare:

Aspetti chiave:

  • Copilot Studio offre una piattaforma per la creazione di app di intelligenza artificiale a basso codice che possono migliorare le applicazioni esistenti con funzionalità di chatbot basate su dati o funzioni ISV.
  • La piattaforma supporta connettori Power Platform esistenti e connettori personalizzati, offrendo flessibilità nell'integrazione di servizi ISV e origini dati.
  • L'integrazione delle funzionalità di intelligenza artificiale può migliorare significativamente l'esperienza utente e offrire all'app un vantaggio competitivo.

Modello D: Sfruttare l'API Microsoft Graph nei copiloti

L'API Microsoft Graph offre un endpoint potente per accedere ai dati incentrati sugli utenti dalle applicazioni di Microsoft 365, che includono Calendar, Bookings, Outlook, Teams, OneDrive, SharePoint e altro ancora. Con questa API è possibile arricchire le app con i dati di Microsoft 365, consentendo agli utenti di ottenere informazioni dettagliate e analisi più avanzate.

Scenari ISV:

  • Clienti e partner che usano un'applicazione ISV esistente che cerca di combare i dati di Graph incentrati sugli utenti Microsoft nel proprio copilota.
  • Un ISV con un'app di gestione dei progetti vuole incorporare i dati del calendario di Microsoft 365 e i dati dei documenti di progetto per consentire agli utenti di tenere traccia delle scadenze e delle attività cardine all'interno dell'app.
  • Un ISV con un'app CRM vuole incorporare i dati di contatto e posta elettronica di Microsoft 365 per migliorare i profili dei clienti e i log di comunicazione.

Si consideri Fabrikam, un software versatile di Human Capital Management (HCM) dotato di una suite HR flessibile, consentendo un'automazione senza problemi di vari flussi di lavoro, ad esempio acquisizione di talenti, gestione dei premi dei dipendenti e processi di feedback. Nella continua ricerca dell'innovazione, Fabrikam introduce una funzionalità di copilot all'avanguardia in cima alla suite HR. Ora puntano a elevare ulteriormente l'applicazione integrando i dati dei gragrafi incentrati sull'utente. Questo miglioramento implica l'uso dell'API Graph per incorporare i calendari dei dipendenti, includendo dettagli come time off pianificati e 1:1 per i processi di feedback e così via.

Vantaggio del partner:

  • Scoprire informazioni dettagliate arricchite combinando i dati con Microsoft 365 Graph.
  • Integrazione facile: accesso standardizzato ai dati di Microsoft 365 per semplificare l'integrazione con le app.
  • Esperienza utente migliorata: offrire un'esperienza utente più semplice con accesso ai dati e alle funzionalità di Microsoft 365 pertinenti all'interno dell'app.
  • Funzionalità avanzate: aggiungere nuove funzionalità e funzionalità all'app usando i dati di Microsoft 365.
  • Scalabilità ed efficienza: concentrarsi sulla creazione e sul miglioramento delle app mentre l'API Graph gestisce il recupero dei dati.

Dove iniziare:

Aspetti chiave:

  • L'API Microsoft Graph consente agli ISV di arricchire le proprie app con dati incentrati sugli utenti di Microsoft 365.
  • Tramite le API Graph è possibile sfruttare l'indice semantico di Microsoft 365, un'esperienza di ricerca più avanzata creata per l'era dei Copilot.
  • Usando l'API Graph, gli ISV possono migliorare le proprie app con informazioni dettagliate e analisi più avanzate.

Modello E: Offrire un'esperienza copilota alle app con Gli assistenti OpenAI di Azure

Gli ISV possono adottare questo approccio a basso codice nei servizi di intelligenza artificiale di Azure per offrire esperienze di tipo copilot alle proprie applicazioni. Offre un percorso rapido per applicare la chiamata di funzione GPT per chiamare le proprie API semplicemente descrivendo la struttura della funzione in JSON e fornendo un ambiente Python in modalità sandbox per eseguire ed eseguire codice per simulare le risposte alle domande dell'utente.

Entrambe queste funzionalità possono essere utili per l'offload di sfide non basate sul linguaggio nel codice convenzionale o nei sistemi esistenti più adatti per l'attività, ad esempio semplici attività matematiche.

Anche se non si ha accesso diretto alla richiesta e alla temperatura del sistema, è possibile influire in modo analogo sul comportamento dell'Assistente tramite istruzioni personalizzate che hanno un'influenza pesante sulla personalità dell'esperienza di copilota.

Vantaggio del partner:

  • Gli assistenti OpenAI di Azure offrono un approccio a basso codice, consentendo agli ISV di integrare rapidamente le funzionalità di intelligenza artificiale generative nelle applicazioni senza sforzi di sviluppo approfonditi.

Dove iniziare:

Aspetti chiave:

  • Gli ISV possono usare Gli assistenti OpenAI di Azure per creare interfacce interattive in linguaggio naturale che migliorano l'engagement degli utenti. Questi assistenti possono chiamare le API semplicemente descrivendole tramite JSON.
  • Un Assistente OpenAI di Azure può scrivere ed eseguire codice, in una sandbox, in base alla richiesta di un utente, di risolvere un problema non GenAI.

Modello F: usare la libreria di intelligenza artificiale di Teams per creare un proprio copilota

Gli ISV possono anche usare la libreria di intelligenza artificiale di Teams per aggiungere funzionalità del linguaggio naturale nel chatbot di Teams esistente. Questa libreria consente agli ISV di concentrarsi sulla logica di business, usando lo scaffolding di Teams per gestire le interazioni conversazionali. Gli ISV possono visualizzare i bot di chat in Teams, offrendo agli utenti un modo più naturale e intuitivo per interagire con le proprie app.

Scenario ISV:

  • Gli utenti finali usano Teams e il partner ISV stanno cercando di visualizzare il proprio servizio o funzionalità in Teams con funzionalità simili a bot.
  • Non è necessaria alcuna integrazione con i dati graph e il partner ISV sta cercando di concentrarsi sul servizio e sulla logica di business senza l'integrazione con le funzionalità di Teams Copilot.
  • Con modelli di app Teams predefiniti e funzionalità predefinite di sicurezza per la moderazione, il partner ISV può aggiungere facilmente funzionalità LLM al chatbot esistente.

Vantaggio del partner:

  • Aggiungere ChatGPT come esperienze di conversazione, con il controllo sulla progettazione delle richieste al bot e riutilizzare le funzionalità di sicurezza predefinite.
  • Basato su funzionalità pronte per riutilizzare funzionalità come
    • Cronologia delle sessioni di conversazione offerte dal meccanismo di intelligenza artificiale di Teams.
    • Supporto multilingue.
    • Supporto di modelli linguistici multi-large, oltre ai modelli OpenAI.
    • Action Planner che può essere utile per eseguire il mapping alle azioni in base alla finalità dell'utente.
    • Pronto a usare il meccanismo di aumento per modificare il modo in cui il modello risponde tramite parametri o modifiche alle richieste di sistema.
    • Ragionamento aggiuntivo che può basere le risposte del modello sui dati.

Dove iniziare:

Aspetti chiave:

  • La libreria di intelligenza artificiale per i team offre un modo semplice per accendere un bot sviluppato da ISV in Teams con la potenza di LLMs.
  • Non richiede l'integrazione con le funzionalità correnti di Microsoft Copilot, può offrire un'esperienza orientata alle attività.
  • Offre molte possibilità dal punto di vista tecnico, ma anche pronte per l'uso di funzionalità Out Of the Box, semplificando l'intero processo di sviluppo.

Se si vuole potenziare il bot in Teams con IMS, La libreria di intelligenza artificiale di Teams è il modo in cui procedere.

Approccio 3: Controllo completo: Creare esperienze end-to-end di intelligenza artificiale personalizzate (BYO)

Gli ISV possono usare Microsoft Copilot Stack per creare esperienze di intelligenza artificiale completamente nuove, come copiloti o assistenti intelligenti. Un edificio ISV in questa parte centrale dello stack assume la responsabilità dell'orchestrazione di intelligenza artificiale, in cui Microsoft offre varie opzioni, che applicano tutti i modelli fondamentali di Microsoft, la toolchain di intelligenza artificiale e l'infrastruttura di intelligenza artificiale.

Il kernel semantico può essere sfruttato per creare gli stessi modelli di orchestrazione di intelligenza artificiale che supportano Microsoft Copilots, nei copiloti. È disponibile come SDK che è possibile sviluppare direttamente.

Con la maggior parte degli investimenti che creano un servizio copilot nel mezzo dello stack, gli ISV hanno la libertà di connettere questo servizio copilot a varie superfici, tra cui Teams, Microsoft 365 Copilot, Microsoft Copilot, superfici di applicazioni, siti Web, chat bot o tutti. Essenzialmente, quando si tratta di integrazione con una superficie dell'applicazione, la parte superiore dello stack, ogni altro modello descritto di seguito è anche un'opzione.

Modello G: Creare un copilota personalizzato con Azure AI Studio

Azure AI Studio è una piattaforma all-in-one per gli ISV per creare assistenti personalizzati, intelligenti o copiloti. Combina funzionalità di vari servizi di intelligenza artificiale di Azure, offrendo un'area di lavoro unificata per lo sviluppo e la distribuzione di applicazioni di intelligenza artificiale generative. Si tratta di una piattaforma collaborativa in cui data scientist, sviluppatori e altri stakeholder possono convergere e collaborare.

Con Azure AI Studio, gli ISV ottengono il controllo completo sul comportamento, la personalità e le funzionalità del copilota. Indipendentemente dall'uso di modelli con training preliminare esistenti dal catalogo completo, dall'ottimizzazione dei modelli sui dati o dal training dei propri modelli di intelligenza artificiale personalizzati, Azure AI Studio accelera lo sviluppo di esperienze di intelligenza artificiale che gestiscono dati granulari complessi.

Una funzionalità distintiva di Azure AI Studio è la sua gamma diversificata di modelli, che si rivolge a diversi settori e casi d'uso. Consente agli ISV di combinare modelli diversi all'interno di una singola soluzione per soddisfare i requisiti specifici.

L'integrazione con Ricerca di intelligenza artificiale di Azure consente agli ISV di implementare un modello di generazione aumentata (RAG) di recupero per i dati non strutturati direttamente da Azure AI Studio, con il vantaggio aggiunto della funzionalità di vettorializzazione integrata di Ricerca di intelligenza artificiale. Ciò significa che tutti i dati necessari per il copilota possono essere mantenuti aggiornati automaticamente in un database vettoriale, semplificando il recupero rapido ed efficiente durante la valutazione della richiesta dell'utente, salvando l'attività di implementazione di un modello di indicizzazione, suddivisione in blocchi, incorporamento e vettorizzazione manualmente.

Prompt Flow, una funzionalità di Azure AI Studio, offre un grafo visualizzato per orchestrare i flussi eseguibili con modelli di linguaggio di grandi dimensioni (LLMS), prompt e strumenti Python. Facilita il debug, la condivisione e l'iterazione dei flussi con facilità grazie alla collaborazione tra team.

Per i team ISV che preferiscono un approccio code-first, Azure AI SDK offre una suite di pacchetti per l'accesso ai servizi di intelligenza artificiale di Azure, inclusa la configurazione dei progetti di Azure AI Studio e delle risorse correlate. In questo modo gli sviluppatori e i data scientist possono gestire i componenti di intelligenza artificiale, configurare modelli di intelligenza artificiale, pipeline e servizi direttamente dal codice, rendendo comunque disponibile l'interfaccia grafica per coloro che lo preferiscono.

La creazione di prototipi è semplice in Azure AI Studio tramite playground. Un percorso tipico per un team che lavora su un progetto in Azure AI Studio potrebbe iniziare con un singolo utente che convalida un'idea in Playground. Una volta prodotti risultati interessanti, possono essere richiesti da Playground a Prompt Flow come flusso con controllo delle versioni e personalizzato. Ora un artefatto con controllo delle versioni nel progetto di intelligenza artificiale, il team più ampio può contribuire in cui il flusso è accessibile tramite l'interfaccia utente di Azure AI Studio e solo codice. A questo punto, è possibile testare e valutare più rami di logica per diverse vm.

Oltre la fase di sviluppo, Azure AI Studio offre anche una toolchain LLMOps, che gestisce la progettazione dei prompt end-to-end dallo sviluppo alla produzione e alla manutenzione in corso.

Azure AI Studio supporta l'integrazione con Ricerca di intelligenza artificiale di Azure, il servizio Azure Open AI e altri servizi di intelligenza artificiale di Azure, semplificando la gestione delle risorse per gli ISV. Fornisce anche un'area di lavoro orientata ai progetti, promuovendo la collaborazione con il calcolo condiviso, le distribuzioni di modelli e i servizi.

Scenari ISV:

  • Un ISV sanitario che crea una piattaforma di telemedicina vuole un copilota che comprende il gergo medico, assiste i medici nella diagnosi dei pazienti e fornisce raccomandazioni di trattamento pertinenti.
  • Un provider di servizi finanziari necessita di un copilota in grado di analizzare le tendenze di mercato, rispondere alle query dei clienti sulle opzioni di investimento e generare report finanziari personalizzati.
  • Una piattaforma di e-learning vuole un copilota che gli studenti dei tutori spiega concetti complessi e adatta il suo stile di insegnamento in base alle preferenze di apprendimento individuali.
  • Una compagnia assicurativa accelera l'analisi dei documenti durante il processo di richiesta convalidando se la richiesta corrente può essere coperta dal contratto.
  • Il copilota aereo può aiutarti a pianificare il viaggio, cercare i biglietti e gli hotel e prenotarli una volta che sei soddisfatto dell'offerta.
  • Una catena di ristoranti sta creando un'app copilota per aiutare i nuovi dipendenti a eseguire l'onboarding guidandoli nell'intero processo.
  • Un ISV offre ai clienti un'estensione di VS Code per aiutare gli sviluppatori a creare l'integrazione con le API.

Vantaggio del partner:

  • Personalizzazione e controllo: creare un copilota personalizzato in linea con i requisiti dell'applicazione.
  • Flessibilità dello scenario: adattarsi a un'ampia gamma di scenari, dai copiloti specifici del dominio all'automazione delle attività e alla generazione di contenuti.
  • Integrazione con i sistemi esistenti: connettersi a database, API e altri servizi per migliorare le funzionalità del copilot.
  • Identità del marchio e esperienza utente: modellare la personalità del copilota per allinearsi alla voce del marchio e migliorare l'esperienza utente.
  • Esperienza di compilazione: SDK open source e altamente estendibile, Semantic Kernel consente di creare agenti intelligenti in grado di chiamare le API esistenti. Con il kernel semantico è possibile usare gli stessi modelli di orchestrazione di intelligenza artificiale che alimentano i copiloti di Microsoft nelle nostre app.
  • Scalabilità e distribuzione: distribuire il copilota tra più client o applicazioni, che servono migliaia di utenti contemporaneamente.

Dove iniziare:

Aspetti chiave:

  • Azure AI Studio offre una potente piattaforma per la creazione di assistenti personalizzati, intelligenti o copiloti.
  • Gli ISV possono modellare il comportamento, la personalità e le capacità del copilota, creando una soluzione veramente personalizzata.
  • Azure AI Studio supporta un'ampia gamma di scenari e si integra perfettamente con l'infrastruttura esistente.
  • La creazione di un copilota personalizzato con Azure AI Studio può migliorare l'esperienza utente e offrire soluzioni personalizzate per casi d'uso specifici.
  • AI Studio offre un servizio copilota (o back-end), che viene visualizzato come un singolo endpoint con scalabilità orizzontale
  • Un ISV include quindi opzioni per connettere il servizio a un'app, a un front-end o a una superficie di conversazione preferita, inclusi i modelli precedenti precedenti.
  • Tenere presente che questo modello può essere combinato con altri in base alle esigenze specifiche. Ad esempio, è possibile associare questo modello con il modello A e il plug-in a un Copilot Microsoft o Pattern F per visualizzare il proprio bot copilot in Teams.

Modello H: Creare un copilota personalizzato con il kernel semantico

Semantic Kernel è un SDK open source che consente agli sviluppatori di creare copiloti sofisticati all'interno delle applicazioni. Supporta una gamma di linguaggi di programmazione, tra cui C#, Java e Python, rendendolo accessibile a un'ampia community di sviluppatori. Il kernel semantico abilita l'orchestrazione dei plug-in di intelligenza artificiale, consentendo l'integrazione con vari modelli di intelligenza artificiale, tra cui Azure OpenAI e Hugging Face.

Il kernel semantico incapsula l'essenza dei modelli di orchestrazione di intelligenza artificiale di Microsoft Copilots, fornendo agli sviluppatori strumenti per creare agenti e copiloti.

Gli agenti sono sistemi di intelligenza artificiale che possono rispondere a domande e automatizzare i processi per gli utenti. Variano da chatbot semplici a assistenti di intelligenza artificiale completamente automatizzati. Copiloti, un tipo speciale di agente, lavorano insieme agli utenti. A differenza degli agenti completamente automatizzati, i copiloti forniscono suggerimenti e consigli, consentendo agli utenti di mantenere il controllo.

Plug-in: forniscono competenze all'agente. È possibile creare plug-in per attività come l'invio di messaggi di posta elettronica, il recupero di informazioni dai database o la richiesta di assistenza.

Planners: gli agenti usano planner per generare piani per completare le attività. Ad esempio, un copilota che aiuta un utente a scrivere un messaggio di posta elettronica creerebbe un piano con passaggi come la raccolta dei dettagli del destinatario e la composizione del messaggio di posta elettronica.

L'SDK include l'estensione VS Code, l'app Chat Copilot di esempio, ma anche gli starter per offrire uno scaffolding per rendere attive le proprie idee.

Si è deciso di iniziare a usare il kernel semantico, è consigliabile definire due funzionalità prima di iniziare a scrivere codice:

  • Per iniziare, definire il comportamento e il comportamento di un copilota.
  • Creare plug-in per le attività comuni con cui il copilota assisterà.
  • Usare i planner per generare piani per le azioni copilote.
  • Pianificare il test accurato per garantire un'esperienza utente raffinata.
  • Assicurarsi di essere in grado di raccogliere commenti e suggerimenti dagli utenti e implementare questa funzionalità nel comportamento dell'agente o del copilota.

Scenari ISV:

  • Si sta creando un copilota che fa parte della propria applicazione (strumento di sviluppo clienti o sistema di risorse umane) e si vuole che le persone rimangano nell'area di autenticazione della stessa interfaccia utente.
  • È necessario un controllo completo sul motore di orchestrazione, sull'implementazione rag, sulle scelte del modello e sui parametri del modello.
  • Con il servizio copilot, si vuole consentire ai clienti di creare estensioni oltre alla soluzione tramite plug-in.
  • La soluzione usa canvas e altri supporti oltre al semplice testo.

Vantaggio del partner:

  • Controllo completo sul comportamento del copilota con l'accesso al motore di orchestrazione opinione usato da Microsoft per creare copiloti proprietari.
  • Modelli perfettamente basati sui propri dati aziendali e integrare dati strutturati, non strutturati e in tempo reale usando Microsoft Fabric OneLake. Ciò consente agli sviluppatori di usare ricerche ibride e semantiche sofisticate per alimentare applicazioni di generazione aumentata (RAG).
  • Accesso a strumenti superiori per perfezionare le risposte di intelligenza artificiale usando strumenti di progettazione dei prompt e LLMOps come il flusso di richieste.

Dove iniziare:

Aspetti chiave:

  • Il kernel semantico è un framework open source che aiuta gli sviluppatori a creare funzionalità GenAI nelle proprie app più facilmente
  • Viene gestito e sviluppato da Microsoft e usato dai team proprietari per creare soluzioni Microsoft Copilot.
  • Con un set di esempi, consente di iniziare facilmente il percorso GenAI all'interno dello stack di applicazioni.
  • Tenere presente che questo modello può essere combinato con altri in base alle esigenze specifiche. Ad esempio, è possibile associare questo modello con il modello A e il plug-in a un Copilot Microsoft o Pattern F per visualizzare il proprio bot copilot in Teams.

Conclusione

Sono stati avviati scenari e sono stati acquistati uno o più modelli di interesse, raccolti in uno dei tre approcci. Mentre ogni modello presenta una varianza, esistono alcune funzionalità comuni per ogni approccio:

Approccio 1: Surface your data and services into Microsoft's Copilots Approccio 2: Creare copiloti ovunque con codifica minima e integrazione facoltativa dei dati Microsoft Approccio 3: Controllo completo: Creare esperienze end-to-end di intelligenza artificiale personalizzate (BYO)
Attività di sviluppo Basso (nessuna/bassa codifica) Medio (codice minimo) Alto (codice Pro)
Origini dati Microsoft Graph (Microsoft/M365 o non Microsoft tramite connettori) Diverso. Connettori di Power Platform, Microsoft Graph, API. Può estendersi su più origini dati, servizi e app all'interno o all'esterno del tenant Microsoft
Interfaccia utente o superficie di conversazione Fornito da Copilot esteso, ad esempio Teams, Microsoft 365 e così via. Varia in base all'approccio fornito da Microsoft, in modo che sia personalizzato. Porta il tuo. Più superfici possibili con lo stesso copilota
Influenzare il tono, il comportamento e i parametri del modello del copilot Nessun controllo diretto. I parametri del modello sono responsabili dell'estensione di Copilot. Alcune influenze in particolare per il comportamento e il tono, tramite istruzioni personalizzate che fanno parte del metaprompt. Con La libreria di intelligenza artificiale di Teams è possibile controllare i parametri del modello. Controllo diretto dei parametri del modello, ad esempio temperatura, richieste di sistema, token massimi e così via. Comportamento del copilota personalizzato.
Supporto per più modelli No No Sì Più chiamate a modelli diversi all'interno dello stesso flusso
Supporto del modello Fornito dal sistema Scelta dei modelli OpenAI Scelta di qualsiasi modello OpenAI e catalogo di modelli completi
Intelligenza artificiale responsabile Fornito dal sistema Fornito dal sistema o dalle opzioni sfruttabili in ogni modello Responsabilità DELL'ISV con le opzioni della piattaforma in ogni modello.
Supporto per la cronologia delle chat Fornito dal sistema Fornito dal sistema o dalle opzioni sfruttabili in ogni modello Responsabilità DELL'ISV con le opzioni della piattaforma in ogni modello.
Scenari di esempio Gli utenti di Microsoft Copilots possono eseguire azioni su o ottenere informazioni dettagliate dai dati e dai servizi ISV. Introdurre un assistente GenAI nella superficie dell'applicazione ISV esistente per ragionare sui dati del cliente o dell'ISV. Presentare il proprio copilota o chatbot in una superficie Microsoft esistente, ad esempio Teams, con un'identità e un'esperienza distinti per Microsoft Copilots. I clienti e gli utenti interagiscono con un copilota completamente personalizzato per il marchio e il comportamento, che possono ragionare su più set di dati e sistemi connessi da una scelta multipla di aree di interfaccia utente o conversazioni.

Questi approcci sono al fine di aumentare le possibilità di personalizzazione, che richiede anche a un ISV di raccogliere più responsabilità tramite il controllo ottenuto e aumenta il lavoro di sviluppo complessivo.

È quindi consigliabile iniziare dall'approccio 1, che potrebbe essere il modo più rapido per il mercato per i requisiti iniziali. Microsoft sta rilasciando spesso nuovi Copiloti di prima parte. Controllare continuamente se un nuovo Copilot potrebbe soddisfare le esigenze degli utenti in modo più efficiente estendendo i dati e i servizi a esso.

Passare a Approcci 2 e quindi 3 gradualmente, perché i requisiti portano alla necessità di maggiore controllo e personalizzazione.

Un'eccezione è forse la posizione in cui un ISV ha già una funzionalità di intelligenza artificiale esistente in presenza di asset esistenti. Ad esempio, un ISV che ha già un team GenAI con processi AIOps esistenti e ha già creato l'INDIRIZZO IP in Python o LangChain, potrebbe essere naturalmente più orientato all'approccio 3.

Un callout chiave finale è che questo elenco di modelli non è esaustivo o si escludono a vicenda. Abbiamo curato qui modelli selezionati in cui vediamo le sinergie per gli ISV ed è importante capire che possono essere combinati in vari modi per creare una soluzione che soddisfi perfettamente le tue esigenze. Ad esempio, quando si usa l'approccio 3 (Patterns G o H), potrebbe essere necessario un front-end. In questo caso, è possibile usare plug-in (Modello A) o la libreria di intelligenza artificiale di Teams (Pattern F) insieme a essa. Prendere sempre in considerazione le sinergie tra modelli diversi durante la pianificazione della strategia di IA.