Explorar conexões e runtimes
Ao criar um aplicativo LLM (Large Language Model) com prompt flow, primeiro você precisa configurar todas as conexões e runtimes necessários.
Explorar conexões
Sempre que quiser que seu fluxo se conecte a uma fonte de dados, serviço ou API externa, você precisará que seu fluxo seja autorizado a se comunicar com esse serviço externo. Ao criar uma conexão, você configura um link seguro entre o prompt flow e os serviços externos, garantindo uma comunicação de dados perfeita e segura.
Dependendo do tipo de conexão criado, a conexão armazena com segurança o ponto de extremidade, a chave de API ou as credenciais necessárias para que o prompt flow se comunique com o serviço externo. Os segredos necessários não são expostos aos usuários, mas são armazenados em um Azure Key Vault.
Ao configurar conexões, os usuários podem facilmente reutilizar serviços externos necessários para ferramentas nos fluxos deles.
Determinadas ferramentas internas exigem que você tenha uma conexão configurada:
| Tipo de conexão | Ferramentas internas |
|---|---|
| Open AI do Azure | LLM ou Python |
| Open AI | LLM ou Python |
| Cognitive Search | Pesquisa de banco de dados de vetor ou Python |
| Serp | API do Serp ou Python |
| Custom | Python |
As conexões de prompt flow desempenham funções fundamentais em dois cenários. Elas automatizam o gerenciamento de credenciais de API, simplificando e protegendo o tratamento de informações de acesso confidenciais. Além disso, elas permitem a transferência segura de dados de várias fontes, o que é crucial para manter a integridade e a privacidade dos dados em diferentes ambientes.
Explorar runtimes
Depois de criar seu fluxo e configurar as conexões necessárias que suas ferramentas usam, você deseja executar seu fluxo. Para executar o fluxo, você precisa de computação, que é oferecida por meio de runtimes de prompt flow.
Runtimes (1) são uma combinação de uma instância de computação (2) fornecendo os recursos de computação necessários e um ambiente (3) especificando os pacotes e bibliotecas necessários que precisam ser instalados antes que seja possível executar o fluxo.
Ao usar runtimes, você tem um ambiente controlado onde os fluxos podem ser executados e validados, garantindo que tudo funcione como pretendido em uma configuração estável. Um ambiente padrão está disponível para desenvolvimento e teste rápidos. Quando você precisar que outros pacotes sejam instalados, poderá criar um ambiente personalizado.