Criando experiências de IA generativa com o Microsoft Cloud: um guia para ISVs

Bem-vindo ao seu guia para criar experiências exclusivas de IA generativa (GenAI) com o Microsoft Cloud. Como um fornecedor independente de software (ISV), você está em uma posição privilegiada para aproveitar o poder da GenAI para inovar e fornecer soluções cativantes para seus clientes.

O que é o Microsoft Cloud?
O Microsoft Cloud é uma plataforma abrangente e integrada que oferece uma ampla gama de recursos e serviços. Inclui Azure AI, Microsoft 365, Microsoft Fabric e muito mais, colocando-o na vanguarda da revolução global da IA Generativa.

Essa plataforma permite que você coloque seus dados e funcionalidades proprietários em várias áreas, incluindo o Microsoft 365, um hub de produtividade e colaboração acessado por milhões de pessoas.

Este guia ajuda você a navegar pelas amplas possibilidades disponíveis no ecossistema do Microsoft Cloud.

O que são copilotos?
Referimo-nos a um copiloto como um assistente virtual alimentado por IA que melhora a produtividade do utilizador, ajudando os humanos com tarefas cognitivas complexas, fornecendo sugestões contextuais e gerando insights ricos em dados. Esses copilots podem ser fundamentados em dados e contexto específicos de clientes ou ISVs, oferecendo uma oportunidade para os ISVs criarem experiências de IA generativas que compreendam dados específicos do negócio.

Cenários e abordagens

Um diagrama listando as três abordagens ISV de extensibilidade do copiloto. Primeiro, estender o Copilot permite que você insira seus dados e serviços nos Copilots da Microsoft. Em segundo lugar, criar copilots permite que você crie copilots em qualquer lugar com codificação mínima e ingestão de dados Microsoft opcional. Em terceiro lugar, o controle total permite que você construa suas próprias experiências de IA de ponta a ponta. Cada uma das três opções tem mais detalhes que são descritos no texto a seguir.

Este guia fornece orientação orientada por cenários para ajudar os ISVs a navegar no campo expansivo do GenAI no Microsoft Cloud. Nosso objetivo é ajudá-lo a selecionar os padrões e tecnologias mais adequados para suas necessidades exclusivas, organizados em três abordagens de alto nível para criar experiências de IA.

Nossas abordagens são divididas em padrões com base em cenários para ajudá-lo a navegar pelo caminho mais apropriado para seu cenário e requisitos.

Importante

Tenha em atenção que estas abordagens e os seus padrões não se excluem mutuamente. Eles podem ser combinados para criar uma solução personalizada que melhor se adapte aos seus requisitos e cenários exclusivos.

Abordagem 1: Coloque seus dados e serviços nos Copilots da Microsoft:

Esta abordagem foi concebida para ISVs que pretendam integrar os seus dados e serviços nos Copilots da Microsoft. O foco é usar plugins e conectores Graph para melhorar as experiências do usuário.

Cenário: Eu sou um ISV onde meus usuários finais executam trabalho em aplicativos da Microsoft, como Teams, Word, Outlook, e eles precisam...

... aceder a informações utilizando interfaces de linguagem natural e tenho um serviço existente que pretendo disponibilizar através destas aplicações do Microsoft 365.

Padrão A: Crie plugins para aumentar as capacidades do Copilot com dados e funcionalidades ISV

... extrair insights de nossas fontes de dados ISV combinadas com dados do Microsoft Graph centrados no usuário e dados de linha de negócios de sua organização.

Padrão B: Use conectores gráficos para disponibilizar dados ISV para experiências Copilot.

Abordagem 2: Crie copilots em qualquer lugar, com codificação mínima e integração de dados Microsoft opcional:

Essa abordagem é para ISVs que visam enriquecer seus aplicativos com dados e ferramentas da Microsoft, ou que desejam criar seus próprios assistentes de IA com o Azure. Isso envolve fazer uso da API do Microsoft Graph, plug-ins do Copilot Studio, Biblioteca de IA do Teams ou permitir que os clientes criem suas próprias experiências de copiloto com seus dados por meio de conectores.

Cenário: Sou um ISV onde os meus utilizadores finais trabalham em qualquer lugar...

... e quero permitir que eles criem suas próprias experiências de copiloto usando nossos dados e serviços.

Padrão C: Desenvolver conectores de plataforma de energia para habilitar copilots orientados ao cliente no Copilot Studio

Cenário: Sou um ISV onde meus usuários finais trabalham em meus aplicativos e interface do usuário existentes, que querem...

... incorporar dados do Microsoft Graph centrados no usuário no meu copiloto.

Padrão D: Use a API do Microsoft Graph em seus copilots

... fornecer uma experiência de conversação dentro do meu aplicativo existente, que pode responder a perguntas e transformar conversas em ações.

Padrão E: Crie seus próprios assistentes de IA com o Azure

Cenário: Sou um ISV cuja experiência em Copilot tem como alvo o Microsoft Teams e inclui requisitos para...

... criar bots inteligentes do Teams que se integrem ao GenAI, executar bots no Teams e ter conversas sensíveis ao contexto ou usar a experiência de bate-papo do Teams e eu, como um foco ISV em lógica de negócios complexa.

Padrão F: Use a biblioteca de IA do Teams para construir seu próprio copiloto

Abordagem 3: Controle total: construa suas próprias experiências de IA de ponta a ponta (BYO):

Essa abordagem é voltada para ISVs que buscam criar experiências de IA totalmente novas ou copilots usando ferramentas como Azure AI Foundry e Semantic Kernel. Oferece o máximo controlo e personalização, proporcionando possibilidades ilimitadas.

Cenário: Sou um ISV que procura desenvolver experiências de IA interoperáveis de ponta que...

... exigem tratamento especializado de dados complexos e multimodais, o que pode incluir o ajuste fino de modelos de IA para atender a necessidades específicas de precisão.

... usar os modelos e serviços de IA personalizados da ISV para soluções personalizadas.

... Forneça controle completo sobre a experiência de conversação, incluindo prompts do sistema, temperatura, tom e requisitos de segurança personalizados.

Pattern G: Crie novas funcionalidades de IA interoperáveis ou copilotos utilizando as suas APIs existentes com o Azure AI Foundry

Padrão H: Construa seu próprio copiloto com o Kernel Semântico

Gorjeta

Para uma compreensão mais profunda, recomendamos que você explore o conteúdo detalhado disponível nos links Introdução fornecidos em cada padrão.

A pilha do Microsoft Copilot compreende três camadas distintas: o back-end (com os dados nos respetivos repositórios), uma camada de orquestração de IA no meio e o front-end (experiência de interface do usuário do seu copilot). Dentro de cada nível, há camadas recomendadas que devem ser consideradas ao construir um copiloto.

À medida que os ISVs passam da Abordagem 1 para a Abordagem 3, eles se envolvem mais profundamente com cada nível, assumindo maiores responsabilidades de desenvolvimento. Por exemplo, criar um plug-in na Abordagem 1 significa que a Microsoft lida com orquestração de IA, incluindo integração de dados e IA responsável. Por outro lado, o desenvolvimento de um copiloto personalizado pode exigir controle total sobre a experiência do usuário, a camada de orquestração, o gerenciamento de dados e a IA responsável.

Um diagrama quadrado mostrando os componentes do Microsoft Copilot Stack. Envolvendo os blocos está o rótulo "AI safety and security". Dentro da caixa, há duas seções separadas por um conector. A caixa superior empilha o Copilot Studio, o Microsoft Copilot, seus copilotos e aplicativos da Microsoft juntos e, em seguida, se conecta ao conector do meio rotulado como "orquestração de IA". A caixa inferior empilha seus dados, modelos de fundação e cadeia de ferramentas de IA e infraestrutura de IA, com setas apontando para o conector do meio rotulado como "orquestração de IA". Na parte inferior de toda a pilha, o Microsoft Cloud abrange a totalidade dos produtos.

Nota

Enquanto "copiloto" se refere ao conceito geral de um assistente de IA generativa, "Copiloto" refere-se a produtos específicos da Microsoft, como o Microsoft 365 Copilot ou o Dynamics 365 Copilot com os quais os ISVs podem se integrar.

Cada opção varia em complexidade e esforço. Adotar os Microsoft Copilots existentes é simples, estendê-los com plugins requer um esforço mínimo, e criar uma nova experiência de copiloto pode precisar de design, ciência e engenharia.

É importante lembrar que uma solução de IA é tão boa quanto os dados nos quais você baseia seus modelos e usa como contexto. O Microsoft Copilots pronto para uso já suporta uma variedade de cenários e pode ser estendido com seus dados, funções e processos. No entanto, a interface do usuário não pode ser estendida. Portanto, é importante considerar cuidadosamente seu cenário específico, como você pode aplicar algoritmos GenAI e como seu usuário (o "piloto") pode se beneficiar de sua capacidade de copiloto.

Abordagem 1: Coloque seus dados e serviços no Copilots da Microsoft

Os ISVs que procuram exibir seus serviços, dados e processos existentes nos aplicativos Copilots ou Microsoft 365 da Microsoft podem fazê-lo criando plug-ins e conectores.

Essa abordagem permite, por exemplo, que o Microsoft 365 Copilot interaja com APIs de outros softwares e serviços, apresentando informações atualizadas, executando ações e executando novos tipos de cálculos.

Padrão A: Crie plugins para melhorar a funcionalidade de um Copilot existente

Plugins são extensões que aumentam as capacidades de um Copilot existente, permitindo que ele interaja com aplicativos e serviços ISV. Eles podem expandir os recursos de um usuário permitindo a interação com suas APIs, por meio de conversação em linguagem natural. Por exemplo, um plug-in pode permitir que o Copilot recupere informações úteis, execute novos cálculos ou execute ações com segurança em nome do usuário.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. O Microsoft Copilot então tem um ponto de seta bidirecional para e recebendo de um componente de plug-in se conectar ao aplicativo ISV. O aplicativo ISV está conectado a uma fonte de dados ISV.

Os ISVs podem criar plugins usando várias ferramentas, incluindo Teams Message Extensions e plugins Power Platform através do Copilot Studio. Novos plug-ins podem ser publicados no ecossistema Copilot da Microsoft por meio do Partner Center, onde os administradores de TI podem aprová-los para uso pelos usuários finais.

Cenários de ISV:

• ISVs que procuram apresentar os seus serviços existentes em aplicações cliente do Microsoft 365
• Os usuários podem pesquisar, atualizar e executar ações em um aplicativo ISV ou em qualquer sistema externo, a partir de aplicativos cliente do Microsoft 365, como Teams, Outlook, Word etc.
• Um usuário no Teams pode encontrar informações relevantes de um sistema externo de tíquete ou CRM que seus clientes usam, opcionalmente incluindo a execução de ações em nome do usuário, dentro do sistema

Vantagem do parceiro:

• Atenda os milhões de usuários e empresas que usam aplicativos cliente do Microsoft 365, conheça os usuários onde eles trabalham agora.
• Aumente a visibilidade do seu serviço de solução apresentando-os em aplicativos cliente do Microsoft 365.
• Reduza o atrito dos usuários eliminando a necessidade de navegar entre vários aplicativos e telas.
• Uma experiência de usuário consistente em aplicativos do Microsoft 365 com integração e continuidade universais em aplicativos do Microsoft 365.
• Por exemplo, um usuário da Contoso descobre a conta de cliente mais recente resumida com dados provenientes do Outlook, do SharePoint e do sistema externo da Fabrikam, sem sair do Teams.

Por onde começar:

• Criar extensões de mensagem para o Microsoft Copilot para Microsoft 365 | Microsoft Learn
• Criar plug-ins de copiloto - visão geral (visualização) - Microsoft Copilot Studio | Microsoft Learn

Principais conclusões:

• Os plug-ins são uma maneira de exibir serviços e aplicativos ISV no Microsoft Copilots, permitindo que os usuários finais interajam com aplicativos e serviços ISV de aplicativos cliente do Microsoft 365.
• Os ISVs podem criar plugins usando ferramentas como Teams Message Extensions e plugins do Copilot Studio.
• Os plug-ins podem aumentar a visibilidade e a capacidade de descoberta da sua solução através do Partner Center

Padrão B: Use o Graph Connecters para trazer seus dados para experiências do Copilot

Os conectores de gráfico permitem que os ISVs conectem seus dados ao Índice Semântico do Microsoft 365. Seus dados se tornam pesquisáveis e acionáveis para os usuários, diretamente de aplicativos cliente do Microsoft 365, como Teams, Outlook e Word. O Microsoft Copilot baseia-se em dados ISV, seja na nuvem ou no local, através do Microsoft Graph. Além disso, os ISVs podem usar o Microsoft Fabric, uma plataforma de dados unificada fornecida como um produto SaaS, para trazer seus dados para a nuvem da Microsoft e conectá-los facilmente ao Microsoft Graph.

Os ISVs podem criar conectores do Graph usando a API do Microsoft Graph Connectors, que oferece suporte a uma variedade de fontes de dados, sistemas de arquivos, páginas da Web, aplicativos corporativos e muito mais.

Os conectores gráficos também podem enriquecer os dados com recursos alimentados por IA, como processamento de linguagem natural, extração de entidade e análise de imagem. Usando conectores gráficos, os ISVs podem estender o Microsoft Copilot com seus próprios dados, aprimorando a experiência do usuário e permitindo interações mais personalizadas e seguras.

Já existem centenas de conectores Graph. Por exemplo, o conector de gráfico do Jira Cloud pode elevar os objetos do Jira ao mesmo nível dos dados do Microsoft 365 Graph, permitindo raciocínio abrangente e integração universal, levando a insights aprimorados e mais ricos. O conector permite que os usuários finais pesquisem objetos Jira do Microsoft 365 Copilot usando a interface de linguagem natural.

Cenários de ISV:

• ISVs cujos clientes realizam trabalho no Microsoft 365 e desejam permitir que os usuários finais extraiam informações de fontes de dados ISV combinadas com dados do Microsoft Graph centrados no usuário.
• Os usuários podem recuperar, resumir e raciocinar sobre dados de aplicativos ISV, combinados com outros dados de gráfico do Microsoft 365, por exemplo, e-mails, documentos do Word, etc.
• O Diretor de Comunicações precisa encontrar e reformular e-mails de RP no Outlook que são enriquecidos com conteúdo proveniente de um aplicativo de design gráfico ISV

Vantagem do parceiro:

• Conheça os usuários onde eles trabalham. Uma vasta base de usuários usa aplicativos cliente do Microsoft 365 e agora pode acessar seus próprios dados e serviços em uma experiência unificada.
• Informações enriquecidas combinando dados ISV com dados do Microsoft Graph.
• Integração universal com aplicativos Microsoft 365 e Microsoft Search, Context IQ e Viva, com um conector.
• Canais expandidos para mostrar dados ISV, potencialmente aumentando a base de usuários.

Por onde começar:

• Saiba mais sobre conectores gráficos em aka.ms/graph-connectors
• Crie seu próprio conector de gráfico em Criar conectores Microsoft Graph para Microsoft Copilot para Microsoft 365 | Microsoft Learn

Principais conclusões:

• Os conectores gráficos permitem que os ISVs tragam seus dados para o ecossistema do Microsoft Copilot, aprimorando a experiência do usuário com interações personalizadas e seguras.
• Os ISVs podem usar o Microsoft Fabric para trazer seus dados para o Microsoft Cloud e conectá-los ao Microsoft Graph.
• Usando conectores de gráfico, os ISVs podem combinar seus dados com dados de gráfico do Microsoft 365 para fornecer informações enriquecidas e obter integração universal com aplicativos do Microsoft 365.

Abordagem 2: Crie copilots em qualquer lugar com codificação mínima e integração de dados Microsoft opcional

Os ISVs podem trazer o poder das ferramentas e dos dados contidos no Microsoft Graph para seus próprios aplicativos, aprimorando sua funcionalidade e experiência do usuário.

Padrão C: Desenvolver conectores de plataforma de energia para habilitar copilots orientados ao cliente no Copilot Studio

O Copilot Studio permite que os clientes criem aplicativos de IA low-code que podem responder a consultas comuns de usuários, usando dados de sua organização e fontes de dados da Microsoft e de parceiros. O Copilot Studio usa conectores de plataforma de energia para trazer dados de potencialmente qualquer fonte, onde existem mais de 500 conectores atualmente. Como um ISV, você pode criar conectores para seus dados e serviços, para capacitar seus clientes a criar seus próprios copilots internos e aplicativos de IA, baseados em dados ISV.

Um diagrama mostrando componentes do plug-in do Microsoft Copilot Studio. Três fontes se conectam ao plug-in do Copilot Studio, incluindo dados do Microsoft Graph, conectores da Power Platform e outras fontes de dados. O plug-in Copilot Studio então se conecta a aplicativos ISV por meio de um plugin.

Esses aplicativos de IA podem ser apresentados aos usuários finais em várias plataformas, incluindo sites, aplicativos móveis, Microsoft Teams ou qualquer canal suportado pela Estrutura de Bot do Azure.

Exemplos de cenários:

• ISVs que procuram fornecer uma experiência de bot de chat para seus clientes, dentro de seus aplicativos existentes, que podem responder a perguntas e transformar conversas em ações.
• Usuários que fazem perguntas em seu aplicativo e recebem respostas baseadas em ISV, Microsoft ou fontes de dados do cliente.
• Crie o conector do cliente a partir de suas APIs existentes e converta-o em plug-in usando o Copilot Studio, permitindo que essas APIs sejam chamadas a partir de um bot de bate-papo com interface de linguagem natural.
• Converta fluxos existentes do Power Automate em plug-ins que podem ser chamados a partir do bate-papo do copiloto da Microsoft para executar ações e recuperar informações.
• Acesse dados por meio da interface de linguagem natural de sistemas corporativos como Zendesk, GitHub e Salesforce por meio desses conectores na Power Platform.

Vantagem do parceiro:

• Aproveite o poder dos conectores existentes da Microsoft e não Microsoft para aprimorar e enriquecer seu aplicativo sem esforço.
• Agilize o desenvolvimento de plug-ins aplicando a abordagem de conector personalizado da Power Platform para uma integração rápida e eficiente.
• Melhore o time-to-value através dos recursos low-code do Copilot Studio.
• Ganhe uma vantagem competitiva integrando recursos de IA em seu aplicativo com codificação mínima.

Por onde começar:

• Arquitetura de plug-ins do Microsoft Copilot Studio - Microsoft Copilot Studio | Microsoft Learn
• Incorporar um controle Power Virtual Agents usando o controle de chatbot | Microsoft Learn

Principais conclusões:

• O Copilot Studio oferece uma plataforma para criar aplicativos de IA low-code que podem aprimorar aplicativos existentes com recursos de chatbot baseados em dados ou funções ISV.
• A plataforma suporta conectores de plataforma de energia existentes e conectores personalizados, oferecendo flexibilidade na integração de serviços ISV e fontes de dados.
• A integração de recursos de IA pode melhorar significativamente a experiência do usuário e dar ao seu aplicativo uma vantagem competitiva.

Padrão D: Aproveite a API do Microsoft Graph em seus copilots

A API do Microsoft Graph oferece um ponto de extremidade poderoso para acessar dados centrados no usuário de aplicativos do Microsoft 365, que inclui Calendário, Reservas, Outlook, Teams, OneDrive, SharePoint e muito mais. Com essa API, você pode enriquecer seus aplicativos com dados do Microsoft 365, permitindo que os usuários obtenham insights e análises mais avançados.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. Os dados do Microsoft Graph também têm uma seta conectando-os ao aplicativo ISV, com a seta simbolizando a API do Graph. O aplicativo ISV está conectado a uma fonte de dados ISV.

Cenários de ISV:

• Clientes e parceiros que usam o aplicativo ISV existente que procuram pentear os dados do Microsoft User Graph centrados no usuário em seu copiloto.
• Um ISV com um aplicativo de gerenciamento de projetos deseja incorporar dados de calendário do Microsoft 365 e dados de documentos de projeto para ajudar os usuários a controlar prazos e marcos no aplicativo.
• Um ISV com um aplicativo CRM deseja incorporar dados de contato e email do Microsoft 365 para aprimorar perfis de clientes e logs de comunicação.

Considere a Fabrikam, um software versátil de Gestão de Capital Humano (HCM) equipado com um pacote de RH flexível, permitindo a automação perfeita de vários fluxos de trabalho, como aquisição de talentos, gerenciamento de recompensas de funcionários e processos de feedback. Em sua busca contínua por inovação, a Fabrikam introduz um recurso de copiloto de ponta em sua suíte de RH. Agora, eles pretendem elevar ainda mais seu aplicativo integrando dados gráficos centrados no usuário. Esse aprimoramento envolve o uso da Graph API para incorporar calendários dos funcionários, abrangendo detalhes como folgas programadas e 1:1s para processos de feedback, etc.

Vantagem do parceiro:

• Descubra informações enriquecidas combinando seus dados com o Microsoft 365 Graph.
• Integração perfeita: acesso padronizado aos dados do Microsoft 365 para facilitar a integração com seus aplicativos.
• Experiência de usuário aprimorada: forneça uma experiência de usuário mais perfeita com acesso a dados e recursos relevantes do Microsoft 365 em seu aplicativo.
• Funcionalidade aprimorada: adicione novos recursos e capacidades ao seu aplicativo usando dados do Microsoft 365.
• Escalabilidade e eficiência: concentre-se em criar e melhorar seus aplicativos enquanto a API do Graph lida com a recuperação de dados.

Por onde começar:

• Usar o Graph Explorer para experimentar APIs do Microsoft Graph - Microsoft Graph | Microsoft Learn
• Início rápido - Microsoft Graph

Principais conclusões:

• A API do Microsoft Graph permite que os ISVs enriqueçam seus aplicativos com dados centrados no usuário do Microsoft 365.
• Através das APIs do Graph, você pode aproveitar o Índice Semântico do Microsoft 365, uma experiência de pesquisa mais avançada criada para a era dos Copilots.
• Ao usar a Graph API, os ISVs podem aprimorar seus aplicativos com insights e análises mais avançados.

Padrão E: Traga uma experiência de copiloto para seus aplicativos com os Assistentes OpenAI do Azure

Os ISVs podem adotar essa abordagem low-code nos Serviços de IA do Azure para trazer experiências semelhantes a copilotos para seus próprios aplicativos. Ele oferece um caminho rápido para aplicar a chamada de função do GPT para chamar suas próprias APIs simplesmente descrevendo a estrutura da sua função em JSON e fornecendo um ambiente python em área restrita para executar e executar código para ajudar a formular respostas às perguntas do usuário.

Ambos os recursos podem ser úteis para transferir desafios não baseados em linguagem para o código convencional ou sistemas existentes que são mais adequados para a tarefa, por exemplo, tarefas matemáticas simples.

Embora você não tenha acesso direto ao prompt e à temperatura do sistema, você também pode afetar o comportamento do seu Assistente por meio de Instruções Personalizadas que têm uma grande influência na personalidade da sua experiência de copiloto.

Vantagem do parceiro:

• Os Assistentes OpenAI do Azure fornecem uma abordagem low-code, permitindo que os ISVs integrem rapidamente os recursos de IA generativa em seus aplicativos sem grande esforço de desenvolvimento.

Por onde começar:

• Guia de início rápido - Introdução aos Assistentes do Azure OpenAI (Pré-visualização) - Azure OpenAI | Microsoft Learn
• Como criar assistentes com o Serviço OpenAI do Azure - Azure OpenAI | Microsoft Learn

Principais conclusões:

• Os ISVs podem usar os Assistentes OpenAI do Azure para criar interfaces de linguagem natural interativas que aprimoram o envolvimento do usuário. Esses assistentes podem chamar APIs simplesmente descrevendo-as via JSON.
• Um Assistente OpenAI do Azure pode escrever e executar código, em uma área restrita, com base no prompt de um usuário, para resolver um problema que não seja do GenAI.

Padrão F: Use a Biblioteca de IA do Teams para construir seu próprio copiloto

Os ISVs também podem usar a Biblioteca de IA do Teams para adicionar recursos de linguagem natural em seu chatbot existente do Teams. Essa biblioteca permite que os ISVs se concentrem em sua lógica de negócios, enquanto usam o andaime do Teams para lidar com interações conversacionais. Os ISVs podem exibir seus bots de bate-papo no Teams, oferecendo aos usuários uma maneira mais natural e intuitiva de interagir com seus aplicativos.

Um diagrama mostrando o fluxo do padrão de biblioteca de IA do Microsoft Teams. Frist, a engenharia imediata flui para a Biblioteca de IA do Teams. Em seguida, os dados fluem da Biblioteca de IA do Teams para duas fontes: aplicativo ISV e Serviço OpenAI do Azure. Esses dois locais fluem dados bidirecionalmente.

Cenário de ISV:

• Os usuários finais estão usando o Teams e o parceiro ISV está procurando exibir seu serviço ou funcionalidade no Teams com recursos semelhantes a Bots.
• Nenhuma integração é necessária com os dados do Graph e o parceiro ISV está procurando se concentrar no serviço e na lógica de negócios sem integrar com os recursos do Teams Copilot.
• Com modelos de aplicativos do Teams pré-criados e recursos de segurança de moderação integrados, o parceiro ISV pode facilmente adicionar o recurso LLM ao seu bot de bate-papo existente.

Vantagem do parceiro:

• Adicione experiências de conversação semelhantes ao ChatGPT, com controle sobre engenharia imediata ao seu bot e reutilize recursos de segurança integrados.
• Construído sobre capacidades prontas para reutilização como:
  • Histórico de sessões de conversação oferecido pelo mecanismo de IA do Teams.
  • Suporte multi-idioma.
  • Suporte a Multi Large Language Models, além dos modelos OpenAI.
  • Planejador de ações que pode ajudar a mapear ações com base na intenção do usuário.
  • Pronto para usar o mecanismo de aumento para alterar a maneira como o modelo está respondendo por meio de parâmetros ou mudança de prompt do sistema.
  • Raciocínio extra que pode fundamentar as respostas do modelo em seus dados.

Por onde começar:

• Introdução à Biblioteca de IA do Teams: Biblioteca de IA do Teams - Teams | Microsoft Learn
• Lista de recursos técnicos: Recursos da biblioteca de IA do Teams - Teams | Microsoft Learn

Principais conclusões:

• A biblioteca de IA da equipe fornece uma maneira fácil de iluminar um bot desenvolvido por ISV no Teams com o poder dos LLMs.
• Ele não requer a integração com os recursos atuais do Microsoft Copilot, pode fornecer uma experiência orientada a tarefas.
• Ele oferece muitas possibilidades de uma perspetiva de engenharia, mas também pronto para usar recursos out Of the Box, tornando todo o processo de desenvolvimento mais fácil.

Se você quiser potencializar seu bot no Teams com LLMs, a Biblioteca de IA do Teams é o caminho a seguir.

Abordagem 3: Controle total: crie suas próprias experiências de IA de ponta a ponta (BYO)

Os ISVs podem usar o Microsoft Copilot Stack para criar experiências de IA totalmente novas, como copilots ou assistentes inteligentes. Um edifício ISV nesta parte central da pilha assume a responsabilidade pela orquestração de IA - onde a Microsoft oferece várias opções, todas as quais aplicam os modelos fundamentais da Microsoft, a cadeia de ferramentas de IA e a infraestrutura de IA.

O Kernel Semântico pode ser aproveitado para construir os mesmos padrões de orquestração de IA que alimentam os Microsoft Copilots, em seus copilotos. Ele está disponível como um SDK que você pode desenvolver diretamente.

Um diagrama quadrado mostrando os componentes da orquestração da pilha do Microsoft Copilot. A primeira caixa é rotulada como "Apps and Copilot Frontend" e é conectada por uma seta bidirecional a uma caixa maior chamada "AI orchestration", que é preenchida com componentes de pilha. Dentro do Copilot Studio, Azure AI Foundry, sequência de prompts, avaliações, experimentos, catálogo de modelos, ajuste fino, kernel semântico e aprendizagem automática. A pilha de "orquestração de IA" está conectada a outra caixa rotulada como "modelos e dados de fundação". Na parte inferior de toda a pilha, o Microsoft Cloud abrange a totalidade dos produtos.

Com a maior parte do investimento criando um serviço de copiloto no meio da pilha, os ISVs têm a liberdade de conectar esse serviço de copiloto a várias superfícies, incluindo Teams, Microsoft 365 Copilot, Microsoft Copilot, suas próprias superfícies de aplicativos, sites, chatbots – ou todos. Essencialmente, quando se trata de integração com uma superfície de aplicação – o topo da nossa pilha – todos os outros padrões descritos aqui também são uma opção.

Padrão G: Crie seu próprio copiloto com o Azure AI Foundry

Azure AI Foundry é uma plataforma tudo-em-um para ISVs criarem assistentes personalizados e inteligentes ou copilotos. Ele combina recursos de vários serviços de IA do Azure, fornecendo um espaço de trabalho unificado para desenvolver e implantar aplicativos de IA generativos. É uma plataforma colaborativa onde cientistas de dados, desenvolvedores e outras partes interessadas podem convergir e trabalhar juntos.

Com o Azure AI Foundry, os ISVs obtêm controlo total sobre o comportamento, a personalidade e as capacidades do copiloto. Seja usando modelos pré-treinados existentes de nosso catálogo extenso, ajustando modelos em seus dados ou treinando seus próprios modelos de IA personalizados, o Azure AI Foundry acelera o desenvolvimento de experiências de IA que lidam com dados multimodais complexos.

Um recurso de destaque do Azure AI Foundry é sua gama diversificada de modelos, atendendo a vários setores e casos de uso. Ele permite que os ISVs combinem diferentes modelos em uma única solução para atender às suas necessidades exclusivas.

A integração com Azure AI Search permite que os ISVs implementem um padrão de Geração Aumentada de Recuperação (RAG) para dados não estruturados diretamente do Azure AI Foundry, com a vantagem adicional do recurso de vetorização integrada do AI Search. Isso significa que todos os dados que seu copiloto precisa podem ser automaticamente mantidos atualizados em um banco de dados vetorial, facilitando a recuperação rápida e eficiente durante a avaliação imediata do usuário, poupando você mesmo da tarefa de implementar um padrão de indexação, fragmentação, incorporação e vetorização.

Prompt Flow, um recurso do portal Azure AI Foundry, oferece um gráfico visual para orquestrar fluxos executáveis com Modelos de Linguagem de Grande Escala (LLMs), prompts e ferramentas de Python. Ele facilita a depuração, o compartilhamento e a iteração em seus fluxos com facilidade por meio da colaboração em equipe.

Para equipes de ISV que preferem uma abordagem code-first, o Azure AI SDK oferece um conjunto de pacotes para acessar os serviços de IA do Azure, incluindo a configuração de projetos do Azure AI Foundry e recursos relacionados. Isso permite que desenvolvedores e cientistas de dados gerenciem componentes de IA, configurem modelos, pipelines e serviços de IA diretamente do código, enquanto ainda disponibilizam a interface gráfica para aqueles que preferirem.

A criação de protótipos é fácil no portal do Azure AI Foundry através do seu Playground. Uma jornada típica para uma equipe que trabalha em um projeto no Azure AI Foundry pode começar com um indivíduo validando uma ideia no Playground. Uma vez que os resultados atraentes são produzidos, eles podem ser solicitados do Playground para o Prompt Flow como um fluxo versionado e personalizado. Agora um artefato versionado no Projeto de IA, a equipe mais ampla pode contribuir onde o fluxo é acessível por meio da interface do usuário do portal do Azure AI Foundry e somente por código. Vários ramos da lógica para diferentes LLMs podem ser testados e avaliados neste ponto.

Além da fase de desenvolvimento, o Azure AI Foundry também fornece uma cadeia de ferramentas LLMOps, encarregando-se integralmente da engenharia de prompts, desde o desenvolvimento até a produção e a manutenção contínua.

O Azure AI Foundry dá suporte à integração com o Azure AI Search, o Azure OpenAI Service e outros serviços de IA do Azure, simplificando o gerenciamento de recursos para ISVs. Ele também fornece um espaço de trabalho orientado a projetos, promovendo a colaboração contra computação compartilhada, implantações de modelos e serviços.

Cenários de ISV:

• Um ISV de saúde construindo uma plataforma de telemedicina quer um copiloto que entenda o jargão médico, ajude os médicos no diagnóstico de pacientes e forneça recomendações de tratamento relevantes.
• Um provedor de serviços financeiros precisa de um copiloto que possa analisar as tendências do mercado, responder às perguntas dos clientes sobre opções de investimento e gerar relatórios financeiros personalizados.
• Uma plataforma de e-learning quer um copiloto que oriente os alunos, explique conceitos complexos e adapte o seu estilo de ensino com base nas preferências individuais de aprendizagem.
• Uma companhia de seguros acelera a análise de documentos durante o processo de sinistro, validando se o sinistro atual pode ser coberto pelo contrato.
• O copiloto da companhia aérea pode ajudá-lo a planear a viagem, procurar os bilhetes e hotéis e reservá-los assim que estiver satisfeito com a oferta.
• Uma cadeia de restaurantes está a criar uma aplicação copiloto para ajudar os novos funcionários a embarcar, orientando-os ao longo de todo o processo.
• Um ISV oferece aos seus clientes uma extensão VS Code para ajudar os desenvolvedores a criar a integração com suas APIs.

Vantagem do parceiro:

• Personalização e controle: crie um copiloto sob medida que se alinhe precisamente com os requisitos do seu aplicativo.
• Flexibilidade de cenário: atenda a uma ampla variedade de cenários, desde copilots específicos de domínio até automação de tarefas e geração de conteúdo.
• Integração com sistemas existentes: conecte-se a bancos de dados, APIs e outros serviços para aprimorar os recursos do seu copiloto.
• Identidade da marca e experiência do usuário: Molde a personalidade do seu copiloto para se alinhar com a voz da sua marca e melhorar a experiência do usuário.
• Experiência de construção: SDK de código aberto e altamente extensível, o Kernel Semântico permite que você crie agentes inteligentes que podem chamar suas APIs existentes. Com o Kernel Semântico, você pode usar os mesmos padrões de orquestração de IA que alimentam os copilots da Microsoft em nossos próprios aplicativos.
• Escalabilidade e implantação: implante seu copiloto em vários clientes ou aplicativos, atendendo milhares de usuários simultaneamente.

Por onde começar:

• O que é AI Foundry? - Azure AI Foundry | Microsoft Learn
• Crie um aplicativo de recuperação de conhecimento (RAG) personalizado com o SDK do Azure AI Foundry

Principais conclusões:

• O Azure AI Foundry oferece uma plataforma poderosa para criar assistentes personalizados e inteligentes ou copilotos.
• Os ISVs podem moldar o comportamento, a personalidade e as capacidades do seu copiloto, criando uma solução verdadeiramente personalizada.
• O Azure AI Foundry suporta uma vasta gama de cenários e integra-se perfeitamente com a infraestrutura existente.
• Criar um copiloto personalizado com o portal do Azure AI Foundry pode melhorar a experiência do usuário e fornecer soluções personalizadas para casos de uso específicos.
• O AI Foundry oferece um serviço de copiloto (ou backend), apresentado como um ponto de extremidade em escala única
• Em seguida, um ISV tem opções para conectar o serviço a um aplicativo, front-end ou superfície de conversa de sua escolha, incluindo qualquer um dos padrões anteriores acima.
• Lembre-se, este padrão pode ser combinado com outros com base nas suas necessidades específicas. Por exemplo, você pode querer emparelhar esse padrão com o Padrão A e plug-in para um Microsoft Copilot ou Padrão F para exibir seu próprio bot copiloto no Teams.

Padrão H: Construa seu próprio copiloto com o Kernel Semântico

O Semantic Kernel é um SDK de código aberto que permite aos desenvolvedores criar copilots sofisticados em seus aplicativos. Ele suporta uma variedade de linguagens de programação, incluindo C#, Java e Python, tornando-o acessível a uma ampla comunidade de desenvolvedores. O Semantic Kernel permite a orquestração de plugins de IA, permitindo a integração com vários modelos de IA, incluindo do Azure OpenAI e do Hugging Face.

O Semantic Kernel encapsula a essência dos padrões de orquestração de IA do Microsoft Copilots, fornecendo aos desenvolvedores ferramentas para criar agentes e copilotos.

Os agentes são sistemas de IA que podem responder a perguntas e automatizar processos para os utilizadores. Eles variam de simples chatbots a assistentes de IA totalmente automatizados. Os copilotos, um tipo especial de agente, trabalham ao lado dos utilizadores. Ao contrário dos agentes totalmente automatizados, os copilots fornecem sugestões e recomendações, permitindo que os usuários mantenham o controle.

Plugins: Estes fornecem habilidades para o seu agente. Você pode criar plugins para tarefas como enviar e-mails, recuperar informações de bancos de dados ou pedir ajuda.

Planejadores: Os agentes usam planejadores para gerar planos para concluir tarefas. Por exemplo, um copiloto ajudando um usuário a escrever um e-mail criaria um plano com etapas como coletar detalhes do destinatário e compor o e-mail.

O SDK vem com extensão VS Code, exemplo de aplicativo Chat Copilot , mas também com iniciantes para oferecer um andaime para dar vida às suas ideias.

Uma vez que você decidiu começar a trabalhar com o Kernel Semântico, sugerimos definir alguns recursos antes de começar a codificar:

• Comece por definir a persona e o comportamento de um copiloto.
• Crie plugins para tarefas comuns com as quais o seu copiloto irá ajudar.
• Use planejadores para gerar planos para ações copiloto.
• Planeje testar completamente para garantir uma experiência de usuário refinada.
• Certifique-se de que você é capaz de coletar feedback de seus usuários e implementá-lo no comportamento do agente ou copiloto.

Cenários de ISV:

• Você está criando um copiloto que faz parte de seu próprio aplicativo (ferramenta de desenvolvimento de clientes ou sistema de RH) e deseja que as pessoas permaneçam no reino da mesma interface do usuário.
• Você precisa de um controle total sobre o mecanismo de orquestração, a implementação do RAG, as escolhas do modelo e os parâmetros do modelo.
• Com o seu serviço copilot, você quer permitir que seus clientes criem extensões sobre sua solução por meio de plugins.
• Sua solução utiliza telas e outras mídias além de texto.

Vantagem do parceiro:

• Controle total sobre o comportamento do seu copiloto com acesso ao mecanismo de orquestração opinativo usado pela Microsoft para criar Copilots de primeira parte.
• Aterre perfeitamente modelos em seus próprios dados corporativos e integre dados estruturados, não estruturados e em tempo real usando o Microsoft Fabric OneLake. Isso permite que os desenvolvedores empreguem sofisticadas pesquisas híbridas e semânticas para alimentar aplicativos de geração aumentada (RAG) de recuperação.
• Acesso a ferramentas superiores para refinar respostas de IA usando engenharia imediata e ferramentas LLMOps como fluxo de prompt.

Por onde começar:

• GitHub - microsoft/semantic-kernel: Integre tecnologia LLM de ponta de forma rápida e fácil em seus aplicativos
• Construindo agentes e copilots com Kernel Semântico | Microsoft Learn
• Entendendo os plugins de IA no Kernel Semântico e além | Microsoft Learn

Principais conclusões:

• O Semantic Kernel é uma estrutura de código aberto opinativa que ajuda os desenvolvedores a criar recursos GenAI em seus aplicativos com mais facilidade
• Ele está sendo mantido e desenvolvido pela Microsoft e usado por equipes de primeira parte para criar soluções Microsoft Copilot.
• Com um conjunto de amostras, ele ajuda você a iniciar facilmente sua jornada GenAI dentro de sua própria pilha de aplicativos.
• Lembre-se, este padrão pode ser combinado com outros com base nas suas necessidades específicas. Por exemplo, você pode querer emparelhar esse padrão com o Padrão A e plug-in para um Microsoft Copilot ou Padrão F para exibir seu próprio bot copiloto no Teams.

Conclusão

Começámos com cenários e comprámo-lo para um ou mais padrões de interesse, que reunimos numa das três Abordagens. Embora cada padrão tenha alguma variância, existem algumas características comuns para cada abordagem:

	Abordagem 1: Coloque seus dados e serviços no Copilots da Microsoft	Abordagem 2: Crie copilots em qualquer lugar com codificação mínima e integração de dados Microsoft opcional	Abordagem 3: Controle total: crie suas próprias experiências de IA de ponta a ponta (BYO)
Esforço de desenvolvimento	Baixo (Não/código baixo)	Médio (código mínimo)	Alta (código Pro)
Origens de dados	Microsoft Graph (Microsoft/M365 ou não-Microsoft via conectores)	Vários. Conectores da Power Platform, Microsoft Graph, suas APIs.	Pode abranger várias fontes de dados, serviços e aplicativos dentro ou fora do locatário da Microsoft
Interface do usuário ou superfície de conversação	Fornecido pelo Copilot sendo estendido, por exemplo, Teams, Microsoft 365 etc.	Varia de acordo com a abordagem de Fornecido pela Microsoft, para trazer o seu próprio.	Traga o seu. Várias superfícies possíveis com o mesmo copiloto
Influência sobre o tom, o comportamento e os parâmetros do modelo do copiloto	Sem controle direto. Os parâmetros do modelo são da responsabilidade do Copilot que está a ser alargado.	Alguma influência especialmente para o comportamento e tom, através de instruções personalizadas que fazem parte do metaprompt. Com o Teams AI Library, você pode controlar os parâmetros do modelo.	Controle direto dos parâmetros do modelo, como temperatura, prompts do sistema, max tokens, etc. Comportamento personalizado do copiloto.
Compatível com vários modelos	No	No	Sim Várias chamadas para modelos diversos dentro do mesmo fluxo
Suporte ao modelo	Fornecido pelo sistema	Escolha de modelos OpenAI	Escolha de qualquer modelo OpenAI e catálogo completo de modelos
IA responsável	Fornecido pelo sistema	Fornecido pelo sistema ou opções alavancadas em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Suporte para histórico de bate-papo	Fornecido pelo sistema	Fornecido pelo sistema ou opções alavancadas em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Cenários de exemplo	Os usuários no Microsoft Copilots podem executar ações ou obter informações de dados e serviços ISV.	Introduza um assistente GenAI na superfície do aplicativo ISV existente para raciocinar sobre os dados do cliente ou ISV. Apresente seu próprio copiloto ou chatbot em uma superfície existente da Microsoft, como o Teams, com uma identidade e experiência separadas para os Microsoft Copilots.	Seus clientes e usuários interagem com um copiloto totalmente personalizado para sua marca e comportamento, que pode raciocinar em vários conjuntos de dados e sistemas conectados a partir de uma escolha múltipla de interface do usuário ou superfícies de conversação.

Essas abordagens estão em ordem de aumentar as possibilidades de personalização, o que também requer um ISV para assumir mais responsabilidade através do controle ganho e aumenta o esforço geral de desenvolvimento.

Portanto, é altamente recomendável começar a partir da Abordagem 1, que pode muito bem ser a maneira mais rápida de comercializar para suas necessidades iniciais. A Microsoft está lançando novos Copilots de primeira parte com frequência. Verifique continuamente se um novo Copilot pode atender às necessidades de seus usuários de forma mais eficiente, estendendo seus dados e serviços para ele.

Mude para as Abordagens 2 e depois 3 gradualmente, à medida que os seus requisitos o levam à necessidade de mais controlo e personalização.

Uma exceção aqui é talvez quando um ISV já tem uma capacidade de IA existente em casa com ativos existentes. Por exemplo, um ISV que já tem uma equipe GenAI com processos AIOps existentes e já tem IP criado em Python ou LangChain, pode ser naturalmente melhor orientado para a Abordagem 3.

Uma última chamada de atenção é que essa lista de padrões não é exaustiva ou mutuamente exclusiva. Selecionamos aqui padrões selecionados onde vemos sinergias para ISVs e é importante entender que eles podem ser combinados de várias maneiras para criar uma solução que atenda perfeitamente às suas necessidades. Por exemplo, ao trabalhar com a Abordagem 3 (Padrões G ou H), você pode precisar de um frontend. Nesse caso, você pode usar plugins (Padrão A) ou a Biblioteca de IA do Teams (Padrão F) junto com ele. Sempre considere as sinergias entre diferentes padrões ao planejar sua estratégia de IA.