Exploración de conexiones y runtime
Al crear aplicaciones de modelo de lenguaje grande (LLM) con flujo de avisos, primero se deben configurar las conexiones y los runtime necesarios.
Exploración de conexiones
Siempre que desee que el flujo se conecte al origen de datos externo, al servicio o a la API, será necesario que el flujo esté autorizado para comunicarse con ese servicio externo. Cuando se crea una conexión, se configura un vínculo seguro entre el flujo de avisos y los servicios externos, lo que garantiza una comunicación de datos sin problemas y segura.
Según el tipo de conexión que cree, la conexión almacenará de forma segura el punto de conexión, la clave de API o las credenciales necesarias para que el flujo de avisos se comunique con el servicio externo. Los secretos necesarios no se exponen a los usuarios, sino que se almacenan en una instancia de Azure Key Vault.
Al configurar conexiones, los usuarios pueden reutilizar fácilmente los servicios externos necesarios para las herramientas en sus flujos.
Algunas herramientas integradas requieren que tenga configurada una conexión:
| Tipo de conexión | Herramientas integradas |
|---|---|
| Azure OpenAI | LLM o Python |
| Open AI | LLM o Python |
| Cognitive Search | Búsqueda de base de datos vectorial o Python |
| Serp | API de Serp o Python |
| Personalizado | Python |
Las conexiones de flujo de avisos desempeñan roles fundamentales en dos escenarios. Automatizan la administración de credenciales de API, simplificando y protegiendo el control de información de acceso confidencial. Además, permiten la transferencia de datos segura desde varios orígenes, algo fundamental para mantener la integridad de los datos y la privacidad en distintos entornos.
Exploración de runtime
Después de crear el flujo y configurar las conexiones necesarias que usan las herramientas, ejecute el flujo. Para ejecutar el flujo, se necesita proceso, que se ofrece a través de runtime de flujo de avisos.
Los runtime (1) son una combinación de una instancia de proceso, (2) que proporciona los recursos de proceso necesarios, y un entorno (3) que especifica los paquetes y bibliotecas necesarios que deben instalarse antes de poder ejecutar el flujo.
Cuando se usan runtime, se tiene un entorno controlado en el que se pueden ejecutar y validar los flujos, lo que garantiza que todo funcione según lo previsto en una configuración estable. Hay disponible un entorno predeterminado para pruebas y desarrollo rápidos. Cuando sea necesario instalar otros paquetes, cree un entorno personalizado.