Explore conexões e tempos de execução
Ao criar um aplicativo LLM (Large Language Model) com fluxo de prompt, primeiro você precisa configurar todas as conexões e tempos de execução necessários.
Explore conexões
Sempre que quiser que seu fluxo se conecte a uma fonte de dados externa, serviço ou API, você precisará que seu fluxo seja autorizado a se comunicar com esse serviço externo. Ao criar uma conexão, você configura um link seguro entre o fluxo de prompt e os serviços externos, garantindo uma comunicação de dados contínua e segura.
Dependendo do tipo de conexão criada, a conexão armazena com segurança o ponto de extremidade, a chave de API ou as credenciais necessárias para que o fluxo de prompt se comunique com o serviço externo. Todos os segredos necessários não são expostos aos usuários, mas armazenados em um Cofre de Chaves do Azure.
Ao configurar conexões, os usuários podem facilmente reutilizar serviços externos necessários para ferramentas em seus fluxos.
Algumas ferramentas internas exigem que você tenha uma conexão configurada:
| Connection type | Ferramentas incorporadas |
|---|---|
| Azure Open AI | LLM ou Python |
| IA aberta | LLM ou Python |
| Cognitive Search | Pesquisa de banco de dados vetorial ou Python |
| Serp | Serp API ou Python |
| Personalizado | Python |
As conexões de fluxo de prompt desempenham funções fundamentais em dois cenários. Eles automatizam o gerenciamento de credenciais de API, simplificando e protegendo o tratamento de informações de acesso confidenciais. Além disso, permitem a transferência segura de dados de várias fontes, cruciais para manter a integridade e a privacidade dos dados em diferentes ambientes.
Explore tempos de execução
Depois de criar seu fluxo e configurar as conexões necessárias que suas ferramentas usam, você deseja executar seu fluxo. Para executar o fluxo, você precisa de computação, que é oferecida por meio de tempos de execução de fluxo de prompt.
Os tempos de execução (1) são uma combinação de uma instância de computação (2) que fornece os recursos de computação necessários e um ambiente (3) que especifica os pacotes e bibliotecas necessários que precisam ser instalados antes de poder executar o fluxo.
Ao usar tempos de execução, você tem um ambiente controlado onde os fluxos podem ser executados e validados, garantindo que tudo funcione como pretendido em uma configuração estável. Um ambiente padrão está disponível para desenvolvimento e testes rápidos. Quando você precisa que outros pacotes sejam instalados, você pode criar um ambiente personalizado.