Visão geral das configurações de IA e de LLM no Microsoft Cloud for Sovereignty (versão preliminar)
Importante
Este é um recurso em versão preliminar. Estas informações estão relacionadas a um recurso de pré-lançamento que pode ser substancialmente modificado antes de ser lançado. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
As organizações do setor público podem aproveitar as mais recentes inovações de IA na nuvem pública, enquanto gerenciam seus dados de acordo com suas políticas locais e requisitos regulatórios com a ajuda do Microsoft Cloud for Sovereignty.
O Microsoft Cloud for Sovereignty oferece agilidade e flexibilidade, recursos avançados de segurança cibernética e acesso às mais recentes inovações, como o OpenAI do Azure, para acelerar a transformação digital e a prestação de serviços públicos essenciais. Ele permite que os clientes criem e transformem digitalmente cargas de trabalho no Microsoft Cloud, enquanto ajuda a atender aos seus requisitos de conformidade, segurança e políticas específicos.
O serviço Azure OpenAI fornece acesso aos poderosos modelos de linguagem do OpenAI, incluindo as séries de modelos GTP4-o, GPT-4, GPT-3.5-Turbo e Embeddings. Esses modelos de linguagem fundamentais são pré-treinados em grandes quantidades de dados para realizar tarefas, como geração de conteúdo, resumo, pesquisa semântica e tradução de linguagem natural em código. Você pode usar o Serviço OpenAI do Azure para ter acesso aos modelos pré-treinados e compilar aplicativos habilitados para IA mais rapidamente e com o mínimo de esforço, ao mesmo tempo em que usa o Microsoft Cloud for Sovereignty para impor requisitos de conformidade, segurança e política com controles soberanos e arquitetura de nuvem em escala empresarial.
Benefícios
Você pode usar serviços OpenAI do Azure nos dados para:
Aumentar a produtividade do funcionário reduzindo o tempo de que ele precisa para encontrar informações críticas na base de conhecimento coletiva da organização.
Aumentar a satisfação dos membros simplificando a regulamentação complexa ou os requisitos do programa.
Exemplo de caso de uso
Os casos de uso soberanos são melhor implementados com base na Zona de Destino Soberana (SLZ). A SLZ consiste em uma hierarquia do grupo de gerenciamento e recursos de plataforma em comum que facilitam a rede, o registro em log e as identidades de serviço gerenciado. O diagrama a seguir mostra a arquitetura da implantação inicial da zona de pouso Sovereign.
O grupo de gerenciamento raiz de uma SLZ é normalmente chamado de zona de destino, ou zona de destino de escala empresarial. As assinaturas individuais que residem em um dos grupos de gerenciamento filho abaixo do pai são geralmente chamadas de zonas de destino do aplicativo ou zonas de destino da carga de trabalho. As cargas de trabalho do aplicativo podem ser implantadas em um ambiente de SLZ em uma das quatro zonas de destino padrão:
Corp (corporativo) - Cargas de trabalho não confidenciais e não voltadas para a Internet
Online - Cargas de trabalho não confidenciais voltadas para a Internet
Confidential corp - Cargas de trabalho confidenciais e não voltadas para a Internet (permite que apenas recursos de computação confidenciais sejam usados)
Confidencial online - Cargas de trabalho confidenciais voltadas para a Internet (permite que somente recursos de computação confidenciais sejam usados)
A principal diferença entre os grupos de gerenciamento Corp e Online é a maneira como eles processam pontos de extremidade públicos. O ambiente Online permite o uso de pontos de extremidade públicos, e o ambiente Corp não. Saiba mais sobre a arquitetura da SLZ.
Em um ambiente SLZ, você deve implantar soluções baseadas em IA como cargas de trabalho dedicadas em suas próprias assinaturas dentro da hierarquia do grupo de geranciamento Corp ou Online .
Recomendamos usar o ambiente Corp como o padrão seguro para implementar Large modelo de linguagem (LLM) por meio de aplicativos baseados em Retrieval Augmented Generation (RAG) , como agentes para uso interno da organização. Você precisa do ExpressRoute ou de conexões baseadas em VPN para ter acesso a APIs front-end ou interfaces de usuário que se conectam aos serviços de IA do Azure e oferecem capacidades de LLM aos usuários finais ou aos consumidores.
Para oferecer aplicativos de LLM ou baseados em RAG ao público, use zonas de destino de carga de trabalho na hierarquia do grupo de gerenciamento Online. No entanto, você deve ter acesso a todos os serviços necessários para implementação por meio dos pontos de extremidade privados de maneira segura na rede virtual. Só ofereça a API ou o aplicativo web front-end por meio de um ponto de extremidade público para os usuários finais ou os consumidores.
Neste caso, você deve proteger o ponto de extremidade público com um Firewall de Aplicativo Web. Você também deve aplicar e configurar o DDoS indicado e outros serviços de segurança. Dependendo das preferências, essa configuração pode acontecer de maneira centralizada na rede virtual do hub ou descentralizada na rede virtual da carga de trabalho.
Se você precisar integrar dados de zonas de aterrissagem Confidenciais com cargas de trabalho de IA, deverá executar os processos de transformação que processam e armazenam os dados em serviços como os serviços de IA Azure, como o Azure AI Search ou o Azure OpenAI, dentro de uma zona de aterrissagem Confidencial . Além disso, esses processos devem filtrar e gerenciar ativamente os dados para evitar o envio de dados confidenciais que devem ser criptografados em uso para serviços e cargas de trabalho não confidenciais. Você deve implementar essa filtragem na lógica de negócios personalizada caso a caso.
Se você precisar ingerir, transformar e consumir dados por cargas de trabalho de IA, recomendamos que você implante uma zona de aterrissagem de dados alinhada aos domínios de dados. Uma zona de destino de dados tem várias camadas que permitem agilidade para as integrações de dados do serviço e os produtos de dados que ela contém.
Uma zona de aterrissagem de dados faz parte do cenário de análise em escala de nuvem do Cloud Adoption Framework , que é uma abordagem abrangente e opinativa projetada para acelerar e otimizar a implantação de soluções de análise avançada na nuvem. Ele fornece uma metodologia estruturada, abrangendo melhores práticas e serviços padronizados, para facilitar a ingestão, a transformação e o consumo de dados em vários domínios. Ao utilizar esse cenário, as organizações podem obter maior agilidade e escalabilidade em suas operações de dados, garantindo governança e compartilhamento seguro de dados. Essa estrutura não apenas otimiza o desempenho das cargas de trabalho de análise, mas também aprimora a integração e o geranciamento perfeitos de produtos de dados, gerando processos de tomada de decisão mais criteriosos e informados.
Você pode implantar uma nova zona de destino de dados com um conjunto padrão de serviços que permite que a zona de destino de dados comece a ingerir e analisar dados. Você pode conectar a zona de destino de dados à zona de destino de dados LLM e a todas as outras zonas de destino de dados com o emparelhamento de rede virtual. Esse mecanismo permite a você compartilhar dados de maneira segura por meio da rede interna do Azure, ao mesmo tempo em que obtém menos latência e mais taxa de transferência do que passando pelo hub.
Algumas implementações podem exigir o uso de dados confidenciais que requerem criptografia em uso, disponível com a computação confidencial. Nesse cenário, você pode executar soluções de dados baseadas em máquina virtual em zonas de destino no grupo de gerenciamento confidencial. Pode não ser possível executar alguns serviços de dados PaaS em máquinas virtuais confidenciais.