Criando experiências de IA generativa com o Microsoft Cloud: um guia para ISVs

Bem-vindo ao seu guia para criar experiências exclusivas de IA generativa (GenAI) com o Microsoft Cloud. Como fornecedor independente de software (ISV), você está em uma posição privilegiada para aproveitar o poder do GenAI para inovar e fornecer soluções cativantes aos seus clientes.

O que é o Microsoft Cloud?
O Microsoft Cloud é uma plataforma abrangente e integrada que oferece uma ampla gama de recursos e serviços. Ele inclui Azure AI, Microsoft 365, Microsoft Fabric e muito mais, colocando-o na vanguarda da revolução global da IA generativa.

Essa plataforma permite que você exiba seus dados e funcionalidades proprietários em várias áreas, incluindo o Microsoft 365, um hub de produtividade e colaboração acessado por milhões.

Este guia ajuda você a navegar pelas amplas possibilidades disponíveis no ecossistema do Microsoft Cloud.

O que são copilotos?
Referimo-nos a um copiloto como um assistente virtual com inteligência artificial que aumenta a produtividade do usuário, auxiliando os humanos em tarefas cognitivas complexas, fornecendo sugestões contextuais e gerando insights ricos em dados. Esses copilotos podem ser baseados em dados e contextos específicos do cliente ou do ISV, oferecendo uma oportunidade para os ISVs criarem experiências de IA generativas que entendam dados específicos da empresa.

Cenários e abordagens

Um diagrama listando as três abordagens de ISV de extensibilidade do copiloto. Primeiro, estender o Copilot permite que você exiba seus dados e serviços nos Copilots da Microsoft. Em segundo lugar, criar copilots permite que você crie copilots em qualquer lugar com codificação mínima e ingestão opcional de dados da Microsoft. Terceiro, o controle total permite que você crie suas próprias experiências de IA de ponta a ponta. Cada uma das três opções tem mais detalhes que são descritos no texto a seguir.

Este guia fornece diretrizes orientadas por cenários para ajudar os ISVs a navegar no campo expansivo do GenAI no Microsoft Cloud. Nosso objetivo é ajudá-lo a selecionar os padrões e tecnologias mais adequados para seus requisitos exclusivos, organizados em três abordagens de alto nível para criar experiências de IA.

Nossas abordagens são divididas em padrões com base em cenários para ajudá-lo a navegar pelo caminho mais apropriado para seu cenário e requisitos.

Importante

Observe que essas abordagens e seus padrões não são mutuamente exclusivos. Eles podem ser combinados para criar uma solução personalizada que melhor se adapte às suas necessidades e cenários exclusivos.

Abordagem 1: Exibir seus dados e serviços nos Copilots da Microsoft:

Essa abordagem foi projetada para ISVs que desejam integrar seus dados e serviços aos Copilots da Microsoft. O foco é usar plug-ins e conectores do Graph para aprimorar as experiências do usuário.

Cenário: sou um ISV em que meus usuários finais trabalham em aplicativos da Microsoft, como Teams, Word, Outlook, e precisam...

... acessar informações usando interfaces de linguagem natural e tenho um serviço existente que desejo disponibilizar por meio desses aplicativos do Microsoft 365.

Padrão A: Crie plug-ins para aumentar os recursos do Copilot com dados e funcionalidades do ISV

... extrair insights de nossas fontes de dados ISV combinadas com dados do Microsoft Graph centrados no usuário e dados de linha de negócios de sua organização.

Padrão B: use conectores do Graph para disponibilizar dados do ISV para experiências do Copilot.

Abordagem 2: Crie copilots em qualquer lugar, com codificação mínima e integração de dados opcional da Microsoft:

Essa abordagem é para ISVs que desejam enriquecer seus aplicativos com dados e ferramentas da Microsoft ou que desejam criar seus próprios assistentes de IA com o Azure. Envolve usar a API do Microsoft Graph, plug-ins do Copilot Studio, Teams AI Library ou permitir que os clientes criem suas próprias experiências de copiloto com seus dados por meio de conectores.

Cenário: sou um ISV em que meus usuários finais trabalham em qualquer lugar...

... e quero permitir que eles criem suas próprias experiências de copiloto usando nossos dados e serviços.

Padrão C: Desenvolver conectores do Power Platform para habilitar copilotos orientados ao cliente no Copilot Studio

Cenário: sou um ISV em que meus usuários finais trabalham em meus aplicativos e interface do usuário existentes, que desejam que nós...

... incorporar dados do Graph centrados no usuário da Microsoft em meu copiloto.

Padrão D: Usar a API do Microsoft Graph em seus copilots

... fornecer uma experiência de conversação em meu aplicativo existente, que pode responder a perguntas e transformar conversas em ações.

Padrão E: Criar seus próprios assistentes de IA com o Azure

Cenário: sou um ISV cuja experiência com o Copilot é direcionada ao Microsoft Teams e inclui requisitos para...

... criar bots inteligentes do Teams que se integram ao GenAI, executar bots no Teams e ter conversas com reconhecimento de contexto ou usar a experiência de bate-papo do Teams e eu, como ISV, me concentro em lógica de negócios complexa.

Padrão F: Usar a biblioteca de IA do Teams para criar seu próprio copiloto

Abordagem 3: Controle total: crie suas próprias experiências de IA de ponta a ponta (BYO):

Essa abordagem é voltada para ISVs que buscam criar experiências de IA totalmente novas ou copilots usando ferramentas como o Azure AI Studio e o Semantic Kernel. Oferece máximo controle e personalização, oferecendo possibilidades ilimitadas.

Cenário: Sou um ISV que busca desenvolver experiências de IA interoperáveis de ponta que...

... exigem tratamento especializado de dados intrincados e multimodais, que podem incluir modelos de IA de ajuste fino para atender a necessidades específicas de precisão.

... usar os modelos e serviços de IA personalizados do ISV para soluções personalizadas.

... Forneça controle total sobre a experiência de conversação, incluindo prompts do sistema, temperatura, tom e requisitos de segurança personalizados.

Padrão G: criar novas experiências de IA interoperáveis ou copilots usando suas APIs existentes usando o Azure AI Studio

Padrão H: Construa seu próprio copiloto com o Kernel Semântico

Dica

Para uma compreensão mais profunda, recomendamos que você explore o conteúdo detalhado disponível nos links de introdução fornecidos em cada padrão.

A pilha do Microsoft Copilot compreende três camadas distintas: o back-end (com os dados nos respectivos repositórios), uma camada de orquestração de IA no meio e o front-end (experiência de interface do usuário do copiloto). Dentro de cada nível, existem camadas recomendadas que devem ser consideradas ao construir um copiloto.

À medida que os ISVs passam da Abordagem 1 para a Abordagem 3, eles se envolvem mais profundamente com cada camada, assumindo maiores responsabilidades de desenvolvimento. Por exemplo, criar um plug-in na Abordagem 1 significa que a Microsoft lida com a orquestração de IA, incluindo integração de dados e IA responsável. Por outro lado, o desenvolvimento de um copiloto personalizado pode exigir controle total sobre a experiência do usuário, camada de orquestração, gerenciamento de dados e IA responsável.

Um diagrama quadrado mostrando os componentes do Microsoft Copilot Stack. Envolvendo os blocos está o rótulo "segurança e proteção da IA". Dentro da caixa, existem duas seções separadas por um conector. A caixa superior empilha o Copilot Studio, o Microsoft Copilot, seus copilotos e aplicativos da Microsoft e, em seguida, se conecta ao conector intermediário rotulado como "orquestração de IA". A caixa inferior empilha seus dados, modelos de base e cadeia de ferramentas de IA e infraestrutura de IA, com setas apontando para o conector do meio rotulado como "orquestração de IA". Na parte inferior de toda a pilha, o Microsoft Cloud abrange todos os produtos.

Observação

Enquanto "copiloto" se refere ao conceito geral de um assistente de IA generativa, "Copiloto" refere-se a produtos específicos da Microsoft, como o Microsoft 365 Copilot ou o Dynamics 365 Copilot, com os quais os ISVs podem se integrar.

Cada opção varia em complexidade e esforço. A adoção de Microsoft Copilots existentes é simples, estendê-los com plug-ins requer esforço mínimo e criar uma nova experiência de copiloto pode exigir design, ciência e engenharia.

É importante lembrar que uma solução de IA é tão boa quanto os dados nos quais você baseia seus modelos e usa como contexto. Os Microsoft Copilots prontos para uso já oferecem suporte a uma variedade de cenários e podem ser estendidos com seus dados, funções e processos. No entanto, a interface do usuário não pode ser estendida. Portanto, é importante considerar cuidadosamente seu cenário específico, como você pode aplicar algoritmos GenAI e como seu usuário (o "piloto") pode se beneficiar de sua capacidade de copiloto.

Abordagem 1: Exibir seus dados e serviços no Copilots da Microsoft

Os ISVs que desejam exibir seus serviços, dados e processos existentes nos aplicativos Copilots ou Microsoft 365 da Microsoft podem fazer isso criando plug-ins e conectores.

Essa abordagem permite, por exemplo, que o Microsoft 365 Copilot interaja com APIs de outros softwares e serviços, exibindo informações atualizadas, execute ações e execute novos tipos de cálculos.

Padrão A: Crie plug-ins para aprimorar a funcionalidade de um Copilot existente

Plug-ins são extensões que aumentam os recursos de um Copilot existente, permitindo que ele interaja com aplicativos e serviços ISV. Eles podem expandir os recursos de um usuário permitindo a interação com suas APIs, por meio de conversas em linguagem natural. Por exemplo, um plug-in pode permitir que o Copilot recupere informações úteis, execute novos cálculos ou execute ações com segurança em nome do usuário.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. O Microsoft Copilot tem uma seta bidirecional apontando para e recebendo de um componente de plug-in conectado ao aplicativo ISV. O aplicativo ISV está conectado a uma fonte de dados ISV.

Os ISVs podem criar plug-ins usando várias ferramentas, incluindo extensões de mensagem do Teams e plug-ins do Power Platform por meio do Copilot Studio. Novos plug-ins podem ser publicados no ecossistema Copilot da Microsoft por meio do Partner Center, onde os administradores de TI podem aprová-los para uso pelos usuários finais.

Cenários de ISV:

• ISVs que desejam exibir seus serviços existentes em aplicativos cliente do Microsoft 365
• Os usuários podem pesquisar, atualizar e executar ações em um aplicativo ISV ou em qualquer sistema externo, a partir de aplicativos cliente do Microsoft 365, como Teams, Outlook, Word etc.
• Um usuário no Teams pode encontrar informações relevantes de um sistema externo de tíquetes ou CRM que seus clientes usam, incluindo opcionalmente a execução de ações em nome do usuário, dentro do sistema

Vantagem do parceiro:

• Atenda aos milhões de usuários e empresas que usam aplicativos cliente do Microsoft 365, encontre os usuários onde eles trabalham no momento.
• Aumente a visibilidade do serviço da solução exibindo-os em aplicativos cliente do Microsoft 365.
• Reduza o atrito dos usuários eliminando a necessidade de navegar entre vários aplicativos e telas.
• Uma experiência de usuário consistente nos aplicativos do Microsoft 365 com integração universal e continuidade nos aplicativos do Microsoft 365.
• Por exemplo, um usuário da Contoso descobre a conta de cliente mais recente resumida com dados provenientes do Outlook, do SharePoint e do sistema externo da Fabrikam, sem sair do Teams.

Por onde começar:

• Criar extensões de mensagem para o Microsoft Copilot para Microsoft 365 | Microsoft Learn
• Criar plug-ins do copilot - visão geral (versão prévia) - Microsoft Copilot Studio | Microsoft Learn

Lições importantes:

• Os plug-ins são uma maneira de exibir serviços e aplicativos ISV no Microsoft Copilots, permitindo que os usuários finais interajam com aplicativos ISV e serviços de aplicativos cliente do Microsoft 365.
• Os ISVs podem criar plug-ins usando ferramentas como extensões de mensagem do Teams e plug-ins do Copilot Studio.
• Os plug-ins podem aumentar a visibilidade e a capacidade de descoberta da solução por meio do Partner Center

Padrão B: Usar conectores de gráfico para trazer seus dados para as experiências do Copilot

Os conectores do Graph permitem que os ISVs conectem seus dados ao Índice Semântico do Microsoft 365. Seus dados se tornam pesquisáveis e acionáveis para os usuários, diretamente de aplicativos cliente do Microsoft 365, como Teams, Outlook e Word. O Microsoft Copilot se baseia em dados ISV, seja na nuvem ou localmente, por meio do Microsoft Graph. Além disso, os ISVs podem usar o Microsoft Fabric, uma plataforma de dados unificada fornecida como um produto SaaS, para trazer seus dados para o Microsoft Cloud e conectá-los facilmente ao Microsoft Graph.

Os ISVs podem criar conectores do Graph usando a API de Conectores do Microsoft Graph, que dá suporte a uma variedade de fontes de dados, sistemas de arquivos, páginas da Web, aplicativos empresariais e muito mais.

Os conectores de gráfico também podem enriquecer os dados com recursos baseados em IA, como processamento de linguagem natural, extração de entidade e análise de imagem. Usando conectores do Graph, os ISVs podem estender o Microsoft Copilot com seus próprios dados, aprimorando a experiência do usuário e permitindo interações mais personalizadas e seguras.

Já existem centenas de conectores do Graph. Por exemplo, o conector de grafo do Jira Cloud pode elevar os objetos do Jira ao mesmo nível que os dados do Microsoft 365 Graph, permitindo raciocínio abrangente e integração universal, levando a insights aprimorados e mais ricos. O conector permite que os usuários finais pesquisem objetos do Jira do Microsoft 365 Copilot usando a interface de linguagem natural.

Cenários de ISV:

• ISVs cujos clientes executam o trabalho no Microsoft 365 e desejam permitir que os usuários finais extraiam insights de fontes de dados ISV combinadas com dados do Microsoft Graph centrados no usuário.
• Os usuários podem recuperar, resumir e raciocinar sobre dados de aplicativos ISV, combinados com outros dados de grafo do Microsoft 365, por exemplo, emails, documentos do Word etc.
• O Diretor de Comunicações precisa localizar e reformular emails de PR no Outlook que são enriquecidos com conteúdo proveniente de um aplicativo de design gráfico ISV

Vantagem do parceiro:

• Conheça os usuários onde eles trabalham. Uma vasta base de usuários usa aplicativos cliente do Microsoft 365 e agora pode acessar seus próprios dados e serviços em uma experiência unificada.
• Insights enriquecidos combinando dados ISV com dados do Microsoft Graph.
• Integração universal com aplicativos do Microsoft 365 e Microsoft Search, Context IQ e Viva, com um conector.
• Canais expandidos para mostrar dados ISV, aumentando potencialmente a base de usuários.

Por onde começar:

• Saiba mais sobre conectores de grafo em aka.ms/graph-connectors
• Crie seu próprio conector de grafo em Criar conectores do Microsoft Graph para o Microsoft Copilot para Microsoft 365 | Microsoft Learn

Lições importantes:

• Os conectores do Graph permitem que os ISVs tragam seus dados para o ecossistema do Microsoft Copilot, aprimorando a experiência do usuário com interações personalizadas e seguras.
• Os ISVs podem usar o Microsoft Fabric para trazer seus dados para o Microsoft Cloud e conectá-los ao Microsoft Graph.
• Usando conectores do Graph, os ISVs podem combinar seus dados com os dados do Microsoft 365 Graph para fornecer insights enriquecidos e obter integração universal com aplicativos do Microsoft 365.

Abordagem 2: Crie cocopiadores em qualquer lugar com codificação mínima e integração de dados opcional da Microsoft

Os ISVs podem trazer o poder das ferramentas e dos dados do Microsoft Graph para seus próprios aplicativos, aprimorando sua funcionalidade e experiência do usuário.

Padrão C: Desenvolver conectores do Power Platform para habilitar copilotos orientados ao cliente no Copilot Studio

O Copilot Studio permite que os clientes criem aplicativos de IA de baixo código que podem responder a consultas comuns de usuários, usando dados de sua organização e fontes de dados da Microsoft e de parceiros. O Copilot Studio usa conectores do Power Platform para trazer dados de potencialmente qualquer fonte, onde existem mais de 500 conectores hoje. Como ISV, você pode criar conectores para seus dados e serviços, para capacitar seus clientes a criar seus próprios copilotos internos e aplicativos de IA, com base em dados ISV.

Um diagrama mostrando os componentes do plug-in do Microsoft Copilot Studio. Três fontes se conectam ao plug-in do Copilot Studio, incluindo dados do Microsoft Graph, conectores do Power Platform e outras fontes de dados. O plug-in do Copilot Studio se conecta a aplicativos ISV por meio de um plug-in.

Esses aplicativos de IA podem ser exibidos para usuários finais em várias plataformas, incluindo sites, aplicativos móveis, Microsoft Teams ou qualquer canal compatível com o Azure Bot Framework.

Cenários de exemplo:

• ISVs que procuram fornecer uma experiência de bot de bate-papo para seus clientes, dentro de seus aplicativos existentes, que podem responder a perguntas e transformar conversas em ações.
• Usuários fazendo perguntas em seu aplicativo e recebendo respostas baseadas em fontes de dados ISV, Microsoft ou do cliente.
• Crie um conector de cliente a partir de suas APIs existentes e converta-o em plug-in usando o Copilot Studio, permitindo que essas APIs sejam chamadas de um bot de bate-papo com interface de linguagem natural.
• Converta fluxos existentes do Power Automate em plug-ins que podem ser chamados do chat do Microsoft Copilot para executar ações e recuperar informações.
• Acesse dados por meio da interface de linguagem natural de sistemas corporativos, como Zendesk, GitHub e Salesforce, por meio desses conectores no Power Platform.

Vantagem do parceiro:

• Aproveite o poder dos conectores existentes da Microsoft e de outros países para aprimorar e enriquecer seu aplicativo sem esforço.
• Acelere o desenvolvimento de plug-ins aplicando a abordagem de conector personalizado do Power Platform para uma integração rápida e eficiente.
• Melhore o tempo de retorno por meio dos recursos de baixo código do Copilot Studio.
• Obtenha uma vantagem competitiva integrando recursos de IA em seu aplicativo com o mínimo de codificação.

Por onde começar:

• Arquitetura de plug-in do Microsoft Copilot Studio - Microsoft Copilot Studio | Microsoft Learn
• Inserir um controle do Power Virtual Agents usando o controle de chatbot | Microsoft Learn

Lições importantes:

• O Copilot Studio oferece uma plataforma para criar aplicativos de IA de baixo código que podem aprimorar aplicativos existentes com recursos de chatbot baseados em dados ou funções de ISV.
• A plataforma oferece suporte a conectores existentes do Power Platform e conectores personalizados, oferecendo flexibilidade na integração de serviços ISV e fontes de dados.
• A integração de recursos de IA pode melhorar significativamente a experiência do usuário e dar ao seu aplicativo uma vantagem competitiva.

Padrão D: Aproveitar a API do Microsoft Graph em seus copilots

A API do Microsoft Graph oferece um ponto de extremidade poderoso para acessar dados centrados no usuário de aplicativos do Microsoft 365, que incluem Calendário, Reservas, Outlook, Teams, OneDrive, SharePoint e muito mais. Com essa API, você pode enriquecer seus aplicativos com dados do Microsoft 365, permitindo que os usuários obtenham insights e análises mais avançados.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. Os dados do Microsoft Graph também têm uma seta conectando-os ao aplicativo ISV, com a seta simbolizando a API do Graph. O aplicativo ISV está conectado a uma fonte de dados ISV.

Cenários de ISV:

• Cliente e parceiros que usam o aplicativo ISV existente que procuram vasculhar os dados do Graph centrados no usuário da Microsoft em seu copiloto.
• Um ISV com um aplicativo de gerenciamento de projetos deseja incorporar dados de calendário do Microsoft 365 e dados de documentos de projeto para ajudar os usuários a acompanhar prazos e marcos no aplicativo.
• Um ISV com um aplicativo CRM deseja incorporar dados de contato e email do Microsoft 365 para aprimorar perfis de clientes e logs de comunicação.

Considere o Fabrikam, um software versátil de gerenciamento de capital humano (HCM) equipado com um pacote de RH flexível, permitindo a automação perfeita de vários fluxos de trabalho, como aquisição de talentos, gerenciamento de recompensas de funcionários e processos de feedback. Em sua busca contínua por inovação, a Fabrikam apresenta um recurso de copiloto de ponta em seu pacote de RH. Agora, eles pretendem elevar ainda mais sua aplicação, integrando dados gráficos centrados no usuário. Esse aprimoramento envolve o uso da API do Graph para incorporar os calendários dos funcionários, abrangendo detalhes como folgas programadas e 1:1s para processos de feedback, etc.

Vantagem do parceiro:

• Descubra insights enriquecidos combinando seus dados com o Microsoft 365 Graph.
• Integração perfeita: acesso padronizado aos dados do Microsoft 365 para facilitar a integração com seus aplicativos.
• Experiência do usuário aprimorada: forneça uma experiência de usuário mais perfeita com acesso a dados e recursos relevantes do Microsoft 365 em seu aplicativo.
• Funcionalidade aprimorada: adicione novos recursos e funcionalidades ao seu aplicativo usando dados do Microsoft 365.
• Escalabilidade e eficiência: concentre-se na criação e melhoria de seus aplicativos enquanto a API do Graph lida com a recuperação de dados.

Por onde começar:

• Usar o Explorador do Graph para experimentar as APIs do Microsoft Graph - Microsoft Graph | Microsoft Learn
• Início Rápido - Microsoft Graph

Lições importantes:

• A API do Microsoft Graph permite que os ISVs enriqueçam seus aplicativos com dados centrados no usuário do Microsoft 365.
• Por meio das APIs do Graph, você pode aproveitar o Índice Semântico do Microsoft 365, uma experiência de pesquisa mais avançada criada para a era dos Copilots.
• Usando a API do Graph, os ISVs podem aprimorar seus aplicativos com insights e análises mais avançados.

Padrão E: Traga uma experiência de copiloto para seus aplicativos com os Assistentes do OpenAI do Azure

Os ISVs podem adotar essa abordagem de baixo código nos Serviços de IA do Azure para trazer experiências semelhantes ao copiloto para seus próprios aplicativos. Ele oferece um caminho rápido para aplicar a chamada de função da GPT para chamar suas próprias APIs simplesmente descrevendo a estrutura de sua função em JSON e fornecendo um ambiente python em sandbox para executar e executar código para ajudar a formular respostas às perguntas do usuário.

Ambos os recursos podem ser úteis para descarregar desafios não baseados em linguagem para código convencional ou sistemas existentes que são mais adequados para a tarefa, por exemplo, tarefas matemáticas simples.

Embora você não tenha acesso direto ao prompt e à temperatura do sistema, você também pode afetar o comportamento do seu Assistente por meio de instruções personalizadas que têm uma forte influência na personalidade de sua experiência de copiloto.

Vantagem do parceiro:

• Os Assistentes OpenAI do Azure fornecem uma abordagem de baixo código, permitindo que os ISVs integrem rapidamente os recursos de IA generativa em seus aplicativos sem grande esforço de desenvolvimento.

Por onde começar:

• Início Rápido – Introdução aos Assistentes do OpenAI do Azure (versão prévia) – OpenAI do Azure | Microsoft Learn
• Como criar assistentes com o serviço OpenAI do Azure - Azure OpenAI | Microsoft Learn

Lições importantes:

• Os ISVs podem usar os Assistentes do OpenAI do Azure para criar interfaces de linguagem natural interativas que aprimoram o envolvimento do usuário. Esses assistentes podem chamar APIs simplesmente descrevendo-as por meio de JSON.
• Um Assistente OpenAI do Azure pode escrever e executar código, em uma área restrita, com base no prompt de um usuário, para resolver um problema que não seja GenAI.

Padrão F: Usar a Biblioteca de IA do Teams para criar seu próprio copiloto

Os ISVs também podem usar a Biblioteca de IA do Teams para adicionar recursos de linguagem natural em seu chatbot do Teams existente. Essa biblioteca permite que os ISVs se concentrem em sua lógica de negócios, enquanto usam a estrutura do Teams para lidar com interações de conversação. Os ISVs podem exibir seus bots de chat no Teams, oferecendo aos usuários uma maneira mais natural e intuitiva de interagir com seus aplicativos.

Um diagrama mostrando o fluxo do padrão de biblioteca de IA do Microsoft Teams. Primeiro, a engenharia imediata flui para a Biblioteca de IA do Teams. Em seguida, os dados fluem da Biblioteca de IA do Teams para duas fontes: aplicativo ISV e Serviço OpenAI do Azure. Esses dois locais fluem dados bidirecionalmente.

Cenário de ISV:

• Os usuários finais estão usando o Teams e o parceiro ISV está procurando exibir seu serviço ou funcionalidade no Teams com recursos semelhantes a bots.
• Nenhuma integração é necessária com os dados do Graph e o parceiro ISV está procurando se concentrar no serviço e na lógica de negócios sem se integrar aos recursos do Teams Copilot.
• Com modelos de aplicativo do Teams predefinidos e recursos de segurança de moderação internos, o parceiro ISV pode adicionar facilmente o recurso LLM ao bot de chat existente.

Vantagem do parceiro:

• Adicione experiências de conversação semelhantes ao ChatGPT, com controle sobre a engenharia imediata ao seu bot e reutilize recursos de segurança integrados.
• Construído em cima pronto para reutilizar recursos como
  • Histórico da sessão de conversa oferecido pelo mecanismo de IA do Teams.
  • Suporte multilíngue.
  • Suporte a vários modelos de linguagem grandes, além dos modelos OpenAI.
  • Planejador de ações que pode ajudar a mapear ações com base na intenção do usuário.
  • Mecanismo de aumento pronto para usar para alterar a maneira como o modelo está respondendo por meio de parâmetros ou alteração imediata do sistema.
  • Raciocínio extra que pode fundamentar as respostas do modelo em seus dados.

Por onde começar:

• Introdução à Biblioteca de IA do Teams: Biblioteca de IA do Teams - Teams | Microsoft Learn
• Lista de recursos técnicos: recursos da biblioteca de IA do Teams - Teams | Microsoft Learn

Lições importantes:

• A biblioteca de IA da equipe fornece uma maneira fácil de iluminar um bot desenvolvido por ISV no Teams com o poder dos LLMs.
• Ele não requer a integração com os recursos atuais do Microsoft Copilot, pode fornecer uma experiência orientada a tarefas.
• Ele oferece muitas possibilidades do ponto de vista da engenharia, mas também recursos prontos para uso, facilitando todo o processo de desenvolvimento.

Se você deseja alimentar seu bot no Teams com LLMs, a Biblioteca de IA do Teams é o caminho a seguir.

Abordagem 3: Controle total: crie suas próprias experiências de IA de ponta a ponta (BYO)

Os ISVs podem usar o Microsoft Copilot Stack para criar experiências de IA totalmente novas, como copilotos ou assistentes inteligentes. Um edifício ISV nesta parte intermediária da pilha assume a responsabilidade pela orquestração de IA - onde a Microsoft oferece várias opções, todas as quais aplicam os modelos fundamentais da Microsoft, a cadeia de ferramentas de IA e a infraestrutura de IA.

O Kernel Semântico pode ser aproveitado para criar os mesmos padrões de orquestração de IA que alimentam o Microsoft Copilots, em seus copilotos. Ele está disponível como um SDK no qual você pode desenvolver diretamente.

Um diagrama quadrado mostrando os componentes da orquestração de pilha do Microsoft Copilot. A primeira caixa é rotulada como "Apps and Copilot Frontend" e é conectada por uma seta bidirecional a uma caixa maior chamada "Orquestração de IA", que é preenchida com componentes de pilha. Por dentro do Copilot Studio, Azure AI Studio, fluxo de prompt, avaliações, experimentos, catálogo de modelos, ajuste fino, Kernel Semântico e Machine Learning. A pilha de "orquestração de IA" está conectada a outra caixa rotulada como "modelos e dados básicos". Na parte inferior de toda a pilha, o Microsoft Cloud abrange todos os produtos.

Com a maior parte do investimento criando um serviço de copiloto no meio da pilha, os ISVs têm a liberdade de conectar esse serviço de copiloto a várias superfícies, incluindo Teams, Microsoft 365 Copilot, Microsoft Copilot, suas próprias superfícies de aplicativos, sites, bots de bate-papo – ou todos. Essencialmente, quando se trata de integração com uma superfície de aplicação – o topo da nossa pilha – todos os outros padrões descritos aqui também são uma opção.

Padrão G: Criar seu próprio copiloto com o Azure AI Studio

O Azure AI Studio é uma plataforma completa para ISVs criarem assistentes ou copilotos personalizados e inteligentes. Ele combina recursos de vários serviços de IA do Azure, fornecendo um espaço de trabalho unificado para desenvolver e implantar aplicativos de IA generativos. É uma plataforma colaborativa onde cientistas de dados, desenvolvedores e outras partes interessadas podem convergir e trabalhar juntos.

Com o Azure AI Studio, os ISVs obtêm controle total sobre o comportamento, a personalidade e os recursos de seu copiloto. Seja usando modelos pré-treinados existentes de nosso extenso catálogo, ajustando modelos em seus dados ou treinando seus próprios modelos de IA personalizados, o Azure AI Studio acelera o desenvolvimento de experiências de IA que lidam com dados multimodais complexos.

Um recurso de destaque do Azure AI Studio é sua gama diversificada de modelos, atendendo a vários setores e casos de uso. Ele permite que os ISVs combinem diferentes modelos em uma única solução para atender aos seus requisitos exclusivos.

A integração com o Azure AI Search permite que os ISVs implementem um padrão RAG (Geração Aumentada de Recuperação) para dados não estruturados diretamente do Azure AI Studio, com a vantagem adicional do recurso de Vetorização Integrada do AI Search. Isso significa que todos os dados de que seu copiloto precisa podem ser atualizados automaticamente em um banco de dados vetorial, facilitando a recuperação rápida e eficiente durante a avaliação imediata do usuário, poupando a tarefa de implementar um padrão de indexação, agrupamento, incorporação e vetorização por conta própria.

O Fluxo de Prompts, um recurso do Azure AI Studio, oferece um grafo visualizado para orquestrar fluxos executáveis com LLMs (Modelos de Linguagem Grande), prompts e ferramentas Python. Ele facilita a depuração, o compartilhamento e a iteração em seus fluxos com facilidade por meio da colaboração em equipe.

Para equipes ISV que preferem uma abordagem de código primeiro, o SDK de IA do Azure oferece um conjunto de pacotes para acessar os serviços de IA do Azure, incluindo a configuração de projetos do Azure AI Studio e recursos relacionados. Isso permite que desenvolvedores e cientistas de dados gerenciem componentes de IA, configurem modelos de IA, pipelines e serviços diretamente do código, enquanto ainda disponibilizam a interface gráfica para aqueles que preferem.

A prototipagem é fácil no Azure AI Studio por meio de seu Playground. Uma jornada típica para uma equipe que trabalha em um projeto no Azure AI Studio pode começar com um indivíduo validando uma ideia no Playground. Depois que resultados atraentes são produzidos, eles podem ser solicitados do Playground para solicitar o fluxo como um fluxo com versão e personalizado. Agora um artefato com versão no AI Project, a equipe mais ampla pode contribuir onde o fluxo pode ser acessado por meio da interface do usuário do Azure AI Studio e somente por meio de código. Vários ramos da lógica para diferentes LLMs podem ser testados e avaliados neste momento.

Além da fase de desenvolvimento, o Azure AI Studio também fornece uma cadeia de ferramentas LLMOps, lidando com sua engenharia de prompt de ponta a ponta, desde o desenvolvimento até a produção e a manutenção contínua.

O Azure AI Studio dá suporte à integração com o Azure AI Search, o Serviço de IA Aberto do Azure e outros serviços de IA do Azure, simplificando o gerenciamento de recursos para ISVs. Ele também fornece um espaço de trabalho orientado a projetos, promovendo a colaboração em computação compartilhada, implantações de modelo e serviços.

Cenários de ISV:

• Um ISV de saúde que cria uma plataforma de telemedicina quer um copiloto que entenda o jargão médico, auxilie os médicos no diagnóstico de pacientes e forneça recomendações de tratamento relevantes.
• Um provedor de serviços financeiros precisa de um copiloto que possa analisar tendências de mercado, responder a perguntas de clientes sobre opções de investimento e gerar relatórios financeiros personalizados.
• Uma plataforma de e-learning quer um copiloto que ensine os alunos, explique conceitos complexos e adapte seu estilo de ensino com base nas preferências individuais de aprendizado.
• Uma seguradora acelera a análise de documentos durante o processo de sinistro, validando se o sinistro atual pode ser coberto pelo contrato.
• O copiloto da companhia aérea pode ajudá-lo a planejar a viagem, procurar as passagens e hotéis e reservá-los quando estiver satisfeito com a oferta.
• Uma rede de restaurantes está criando um aplicativo copiloto para ajudar os novos funcionários a se integrarem, orientando-os durante todo o processo.
• Um ISV oferece a seus clientes uma extensão do VS Code para ajudar os desenvolvedores a criar a integração com suas APIs.

Vantagem do parceiro:

• Personalização e controle: crie um copiloto sob medida que se alinhe precisamente aos requisitos do seu aplicativo.
• Flexibilidade de cenário: atenda a uma ampla variedade de cenários, desde copilotos específicos de domínio até automação de tarefas e geração de conteúdo.
• Integração com sistemas existentes: conecte-se a bancos de dados, APIs e outros serviços para aprimorar os recursos do seu copiloto.
• Identidade da marca e experiência do usuário: molde a personalidade do seu copiloto para se alinhar com a voz da sua marca e aprimorar a experiência do usuário.
• Experiência de compilação: SDK de código aberto e altamente extensível, o Semantic Kernel permite que você crie agentes inteligentes que podem chamar suas APIs existentes. Com o Kernel Semântico, você pode usar os mesmos padrões de orquestração de IA que alimentam os copilotos da Microsoft em nossos próprios aplicativos.
• Escalabilidade e implantação: implante seu copiloto em vários clientes ou aplicativos, atendendo a milhares de usuários simultaneamente.

Por onde começar:

• O que é o Estúdio de IA? - Estúdio de IA do Azure | Microsoft Learn
• Criar e implantar seu próprio copiloto com o Fluxo de Prompt no Azure AI Studio | Microsoft Learn
• Crie e implante seu próprio copiloto com a CLI e o SDK do Azure AI | Microsoft Learn

Lições importantes:

• O Azure AI Studio oferece uma plataforma poderosa para criar assistentes ou copilotos personalizados e inteligentes.
• Os ISVs podem moldar o comportamento, a personalidade e as capacidades de seus copilotos, criando uma solução verdadeiramente sob medida.
• O Azure AI Studio dá suporte a uma ampla variedade de cenários e se integra perfeitamente à infraestrutura existente.
• A criação de um copiloto personalizado com o Azure AI Studio pode aprimorar a experiência do usuário e fornecer soluções personalizadas para casos de uso específicos.
• O AI Studio oferece um serviço de copiloto (ou back-end), apresentado como um único endpoint dimensionado
• Em seguida, um ISV tem opções para conectar o serviço a um aplicativo, front-end ou superfície de conversa de sua escolha, incluindo qualquer um dos padrões anteriores acima.
• Lembre-se, esse padrão pode ser combinado com outros com base em suas necessidades específicas. Por exemplo, talvez você queira emparelhar esse padrão com o Padrão A e o plug-in para um Microsoft Copilot ou Padrão F para exibir seu próprio bot copilot no Teams.

Padrão H: Construa seu próprio copiloto com o Kernel Semântico

O Semantic Kernel é um SDK de código aberto que capacita os desenvolvedores a criar cocopiadores sofisticados em seus aplicativos. Ele suporta uma variedade de linguagens de programação, incluindo C#, Java e Python, tornando-o acessível a uma ampla comunidade de desenvolvedores. O Semantic Kernel permite a orquestração de plug-ins de IA, permitindo a integração com vários modelos de IA, incluindo o Azure OpenAI e o Hugging Face.

O Semantic Kernel encapsula a essência dos padrões de orquestração de IA do Microsoft Copilots, fornecendo aos desenvolvedores ferramentas para criar agentes e copilotos.

Os agentes são sistemas de IA que podem responder a perguntas e automatizar processos para os usuários. Eles variam de chatbots simples a assistentes de IA totalmente automatizados. Os copilotos, um tipo especial de agente, trabalham ao lado dos usuários. Ao contrário dos agentes totalmente automatizados, os copilotos fornecem sugestões e recomendações, permitindo que os usuários mantenham o controle.

Plugins: fornecem habilidades ao seu agente. Você pode criar plug-ins para tarefas como enviar e-mails, recuperar informações de bancos de dados ou pedir ajuda.

Planejadores: os agentes usam planejadores para gerar planos para concluir tarefas. Por exemplo, um copiloto ajudando um usuário a escrever um e-mail criaria um plano com etapas como coletar detalhes do destinatário e redigir o e-mail.

O SDK vem com a extensão VS Code, o aplicativo Chat Copilot de exemplo, mas também com iniciantes para oferecer a você um andaime para dar vida às suas ideias.

Uma vez que você decidiu começar a trabalhar com o Kernel Semântico, sugerimos definir alguns recursos antes de começar a codificar:

• Comece definindo a persona e o comportamento de um copiloto.
• Crie plugins para tarefas comuns que seu copiloto ajudará.
• Use planejadores para gerar planos para ações do copiloto.
• Planeje testar minuciosamente para garantir uma experiência de usuário refinada.
• Certifique-se de que você é capaz de coletar feedback de seus usuários e implementá-lo no comportamento do agente ou copiloto.

Cenários de ISV:

• Você está construindo um copiloto que faz parte de seu próprio aplicativo (ferramenta de desenvolvimento de clientes ou sistema de RH) e deseja que as pessoas permaneçam no domínio da mesma interface do usuário.
• Você precisa de um controle total sobre o mecanismo de orquestração, a implementação do RAG, as opções de modelo e os parâmetros do modelo.
• Com seu serviço de copiloto, você deseja permitir que seus clientes criem extensões sobre sua solução por meio de plug-ins.
• Sua solução utiliza telas e outras mídias além de apenas texto.

Vantagem do parceiro:

• Controle total sobre o comportamento do copiloto com acesso ao mecanismo de orquestração opinativo usado pela Microsoft para criar Copilotos primários.
• Fundamente perfeitamente os modelos em seus próprios dados corporativos e integre dados estruturados, não estruturados e em tempo real usando o Microsoft Fabric OneLake. Isso permite que os desenvolvedores empreguem pesquisa híbrida e semântica sofisticada para alimentar aplicativos de geração aumentada (RAG) de recuperação.
• Acesso a ferramentas superiores para refinar as respostas de IA usando engenharia imediata e ferramentas LLMOps, como fluxo de prompt.

Por onde começar:

• GitHub - microsoft/semantic-kernel: Integre a tecnologia LLM de ponta de forma rápida e fácil em seus aplicativos
• Construindo agentes e copilotos com o Kernel Semântico | Microsoft Learn
• Entendendo os plug-ins de IA no Semantic Kernel e além | Microsoft Learn

Lições importantes:

• O Semantic Kernel é uma estrutura de código aberto opinativa que ajuda os desenvolvedores a criar recursos GenAI em seus aplicativos com mais facilidade
• Ele está sendo mantido e desenvolvido pela Microsoft e usado por equipes de terceiros para criar soluções do Microsoft Copilot.
• Com um conjunto de amostras, ele ajuda você a iniciar facilmente sua jornada GenAI dentro de sua própria pilha de aplicativos.
• Lembre-se, esse padrão pode ser combinado com outros com base em suas necessidades específicas. Por exemplo, talvez você queira emparelhar esse padrão com o Padrão A e o plug-in para um Microsoft Copilot ou Padrão F para exibir seu próprio bot copilot no Teams.

Conclusão

Começamos com cenários e compramos um ou mais padrões de interesse, que coletamos em uma das três Abordagens. Embora cada padrão tenha alguma variação, existem alguns recursos comuns para cada abordagem:

	Abordagem 1: Exibir seus dados e serviços no Copilots da Microsoft	Abordagem 2: Crie cocopiadores em qualquer lugar com codificação mínima e integração de dados opcional da Microsoft	Abordagem 3: Controle total: crie suas próprias experiências de IA de ponta a ponta (BYO)
Esforço de desenvolvimento	Baixo (sem / baixo código)	Médio (código mínimo)	Alto (código Pro)
Fontes de dados	Microsoft Graph (Microsoft/M365 ou não Microsoft por meio de conectores)	Vários. Conectores do Power Platform, Microsoft Graph, Suas APIs.	Pode abranger várias fontes de dados, serviços e aplicativos dentro ou fora do locatário da Microsoft
Interface do usuário ou superfície de conversação	Fornecido pelo Copilot sendo estendido, por exemplo, Teams, Microsoft 365 etc.	Varia de acordo com a abordagem de Fornecido pela Microsoft, para trazer o seu próprio.	Traga o seu próprio. Várias superfícies possíveis com o mesmo copiloto
Influência sobre o tom, o comportamento e os parâmetros do modelo do copiloto	Sem controle direto. Os parâmetros do modelo são de responsabilidade do Copilot sendo estendidos.	Alguns influenciam especialmente o comportamento e o tom, por meio de instruções personalizadas que fazem parte do metaprompt. Com a Biblioteca de IA do Teams, você pode controlar os parâmetros do modelo.	Controle direto dos parâmetros do modelo, como temperatura, prompts do sistema, tokens máximos, etc. Comportamento personalizado do copiloto.
Capacidade multimodelo	Não	No	Sim Várias chamadas para diversos modelos no mesmo fluxo
Suporte a modelos	Fornecido pelo sistema	Escolha de modelos OpenAI	Escolha de qualquer modelo OpenAI e catálogo completo de modelos
IA responsável	Fornecido pelo sistema	Fornecido pelo sistema ou opções aproveitáveis em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Suporte para histórico de bate-papo	Fornecido pelo sistema	Fornecido pelo sistema ou opções aproveitáveis em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Cenários de exemplo	Os usuários do Microsoft Copilots podem executar ações ou obter insights de dados e serviços do ISV.	Introduza um assistente GenAI na superfície de aplicativo ISV existente para raciocinar sobre os dados do cliente ou do ISV. Apresente seu próprio copiloto ou chatbot em uma superfície existente da Microsoft, como o Teams, com uma identidade e experiência separadas para o Microsoft Copilots.	Seus clientes e usuários interagem com um copiloto totalmente personalizado para sua marca e comportamento, que pode raciocinar sobre vários conjuntos de dados e sistemas conectados a partir de uma escolha múltipla de interface do usuário ou superfícies de conversação.

Essas abordagens estão em ordem de possibilidades crescentes de personalização, o que também exige que um ISV assuma mais responsabilidade por meio do controle obtido e aumente o esforço geral de desenvolvimento.

Portanto, é altamente recomendável começar pela Abordagem 1, que pode ser a maneira mais rápida de comercializar seus requisitos iniciais. A Microsoft está lançando novos Copilotos primários com frequência. Verifique continuamente se um novo Copilot pode atender às necessidades de seus usuários com mais eficiência, estendendo seus dados e serviços para ele.

Passe para as Abordagens 2 e depois 3 gradualmente, conforme seus requisitos o levarem à necessidade de mais controle e personalização.

Uma exceção aqui talvez seja quando um ISV já possui um recurso de IA existente internamente com ativos existentes. Por exemplo, um ISV que já tem uma equipe GenAI com processos AIOps existentes e já tem IP criado em, digamos, Python ou LangChain, pode ser naturalmente melhor orientado para a Abordagem 3.

Um texto explicativo final é que essa lista de padrões não é exaustiva ou mutuamente exclusiva. Selecionamos aqui padrões selecionados em que vemos sinergias para ISVs e é importante entender que eles podem ser combinados de várias maneiras para criar uma solução que atenda perfeitamente às suas necessidades. Por exemplo, ao trabalhar com a Abordagem 3 (Padrões G ou H), você pode precisar de um front-end. Nesse caso, você pode usar plug-ins (Padrão A) ou a Biblioteca de IA do Teams (Padrão F) junto com ele. Sempre considere as sinergias entre diferentes padrões ao planejar sua estratégia de IA.