Generación aumentada de recuperación (RAG) en Azure AI Search

Artículo
09/04/2024

La generación aumentada de recuperación (RAG) es una arquitectura que aumenta las funcionalidades de un modelo de lenguaje grande (LLM) como ChatGPT al agregar un sistema de recuperación de información que proporciona datos de base de datos. Agregar un sistema de recuperación de información proporciona control sobre los datos de base de datos usados por un LLM cuando formula una respuesta. En el caso de una solución empresarial, la arquitectura RAG significa que puede restringir IA generativa al contenido empresarial procedente de documentos vectorizados e imágenes, y otros formatos de datos si ha insertado modelos para ese contenido.

La decisión sobre qué sistema de recuperación de información usar es fundamental porque determina las entradas al LLM. El sistema de recuperación de información debe proporcionar:

Estrategias de indexación que se cargan y actualizan a gran escala, para todo el contenido, con la frecuencia necesaria.
Funcionalidades de consulta y ajuste de relevancia. El sistema debe devolver los resultados pertinentes, en los formatos de forma abreviada necesarios para cumplir los requisitos de longitud del token de las entradas LLM.
Seguridad, alcance global y confiabilidad para los datos y las operaciones.
Integración con modelos de inserción para la indexación y modelos de chat o de reconocimiento del lenguaje para la recuperación.

Azure AI Search es una solución probada para la recuperación de información en una arquitectura RAG. Proporciona funcionalidades de indexación y consulta, con la infraestructura y la seguridad de la nube de Azure. A través del código y otros componentes, puede diseñar una solución RAG completa que incluya todos los elementos para la inteligencia artificial generativa sobre su contenido propietario.

Nota:

¿No está familiarizado con los conceptos Copilot y RAG? Vea el vídeo sobre la búsqueda de vectores y el estado de la recuperación de última generación para aplicaciones de IA generativas.

Enfoques de RAG con Azure AI Search

Microsoft tiene varias implementaciones integradas para usar Azure AI Search en una solución RAG.

Inteligencia artificial de Azure Studio usar un índice vectorial y aumento de recuperación.
Azure OpenAI, usar un índice de búsqueda con o sin vectores.
Azure Machine Learning, usar un índice de búsqueda como almacén de vectores en un flujo de avisos.

Los enfoques mantenidos facilitan la puesta en marcha, pero para disponer de más control sobre la arquitectura, necesita una solución personalizada. Estas plantillas crean soluciones globales en:

Si las herramientas y las plantillas no cumplen los requisitos de la aplicación, puede crear una solución RAG personalizada mediante las API de Búsqueda de Azure AI. En el resto de este artículo se explora cómo encaja Azure AI Search en una solución RAG personalizada.

Patrón RAG personalizado para Azure AI Search

Un resumen general del patrón tiene este aspecto:

Comience con una pregunta o solicitud de usuario (solicitud).
Envíelo a Azure AI Search para encontrar información relevante.
Devuelva los resultados de la búsqueda mejor clasificados al modelo de lenguaje grande (LLM).
Use la comprensión del lenguaje natural y las funcionalidades de razonamiento del LLM para generar una respuesta a la pregunta inicial.

Azure AI Search proporciona entradas a la pregunta del LLM, pero no entrena el modelo. En la arquitectura RAG, no hay ningún entrenamiento adicional. El LLM se entrena previamente con datos públicos, pero genera respuestas aumentadas por información del recuperador, en este caso, Búsqueda de Azure AI.

Los patrones RAG que incluyen Azure AI Search tienen los elementos indicados en la ilustración siguiente.

Experiencia de usuario de la aplicación (aplicación web) para la experiencia del usuario
Servidor de aplicaciones u orquestador (capa de integración y coordinación)
Azure AI Search (sistema de recuperación de información)
Azure OpenAI (LLM para inteligencia artificial generativa)

La aplicación web proporciona la experiencia del usuario, lo que proporciona la presentación, el contexto y la interacción del usuario. Las preguntas o solicitudes de un usuario empiezan aquí. Las entradas pasan por la capa de integración, en primer lugar a la recuperación de información para obtener los resultados de la búsqueda, pero también van al LLM para establecer el contexto y la intención.

El servidor de aplicaciones o orquestador es el código de integración que coordina las entregas entre la recuperación de información y el LLM. Una solución frecuente es usar LangChain para coordinar el flujo de trabajo. LangChain se integra con Azure AI Search, lo que facilita la inclusión de Azure AI Search como un recuperador en el flujo de trabajo. LlamaIndex y el kernel semántico son otras opciones.

El sistema de recuperación de información proporciona el índice, la lógica de consulta y la carga útil (respuesta de consulta). El índice de búsqueda puede contener vectores o contenido no vectorial. Aunque la mayoría de las muestras y demos incluyen campos vectoriales, no es un requisito. La consulta se ejecuta mediante el motor de búsqueda existente en Azure AI Search, que puede controlar las consultas de palabra clave (o término) y vectores. El índice se crea de antemano, en función de un esquema que defina y se cargue con el contenido que se origina a partir de archivos, bases de datos o almacenamiento.

El LLM recibe la pregunta original, además de los resultados de Azure AI Search. El LLM analiza los resultados y formula una respuesta. Si el LLM es ChatGPT, la interacción del usuario podría ser una conversación de ida y vuelta. Si usa Davinci, es posible que la pregunta sea una respuesta totalmente compuesta. Una solución de Azure probablemente use Azure OpenAI, pero no hay ninguna dependencia difícil en este servicio específico.

Azure AI Search no proporciona integración nativa de LLM para la conservación de chat o flujos de avisos, por lo que debe escribir código que controle la orquestación y el estado. Puede revisar el origen de la demo (Azure-Samples/azure-search-openai-demo) para ver un plano técnico de lo que implica una solución completa. También se recomienda Estudio de IA de Azure para crear soluciones de Búsqueda de IA de Azure basadas en RAG que se integren con los LLM.

Contenido que se puede buscar en Azure AI Search

En Búsqueda de Azure AI, todo el contenido que se puede buscar se almacena en un índice de búsqueda hospedado en el servicio de búsqueda. Un índice de búsqueda está diseñado para consultas rápidas con tiempos de respuesta de milisegundos, por lo que sus estructuras de datos internas existen para admitir ese objetivo. Para ello, un índice de búsqueda almacena contenido indexado y no archivos de contenido completos como archivos PDF o imágenes completos. Internamente, las estructuras de datos incluyen índices invertidos de texto tokenizado, índices vectoriales para inserciones y texto no modificado para los casos en los que se requiere coincidencia textual (por ejemplo, en filtros, búsqueda aproximada, consultas de expresiones regulares).

Al configurar los datos de la solución RAG, se usan las características que crean y cargan un índice en Azure AI Search. Un índice incluye campos que duplican o representan el contenido de origen. Un campo de índice puede ser transferencia simple (un título o una descripción en un documento de origen se convierte en un título o una descripción en un índice de búsqueda), o un campo podría contener la salida de un proceso externo, como la vectorización o el procesamiento de aptitudes que genera una representación o descripción de texto de una imagen.

Como probablemente sepa qué tipo de contenido desea buscar, considere las características de indexación aplicables a cada tipo de contenido:

Content type	Indexado como	Características
text	tokens, texto sin modificar	Los indexadores pueden extraer texto sin formato de otros recursos de Azure, como Azure Storage y Cosmos DB. También puede insertar cualquier contenido JSON en un índice. Para modificar el texto en curso, use analizadores y normalizadores para agregar procesamiento léxico durante la indexación. Los mapas de sinónimos son útiles si falta la terminología de documentos de origen que se pueden usar en una consulta.
text	vectores ¹	El texto se puede fragmentar y vectorizar en una canalización de indexador, o controlarse externamente y luego indexar como campos vectoriales en el índice.
imagen	tokens, texto no modificado ²	Las aptitudes para OCR y análisis de imágenes pueden procesar imágenes para el reconocimiento de texto o las características de imagen. La información de imagen se convierte en texto que se puede buscar y se agrega al índice. Las aptitudes tienen un requisito de indexador.
image	vectores ¹	Las imágenes se pueden vectorizar en una canalización de indexador o controlarse externamente para una representación matemática del contenido de la imagen y, a continuación, indexar como campos vectoriales en el índice. Puede usar un multimodal de Visión de Azure AI o un modelo de código abierto como OpenAI CLIP para vectorizar texto e imágenes en el mismo espacio de inserción.

¹ Búsqueda de Azure AI proporciona fragmentación y vectorización de datos integrados, pero debe depender de indexadores y conjuntos de aptitudes. Si no puede usar un indexador, el kernel semántico de Microsoft u otras ofertas de la comunidad pueden ayudarle con una solución de pila completa. Para examinar ejemplos de código en los que se muestran ambos enfoques, consulte repositorio azure-search-vectors.

²Las aptitudes son compatibilidad integrada con la inteligencia artificial aplicada. En el caso de OCR e Image Analysis, la canalización de indexación realiza una llamada interna a las API de Azure AI Vision. Estas aptitudes pasan una imagen extraída a Azure AI para su procesamiento y reciben la salida como texto indexado por Azure AI Search. Las aptitudes también se usan para la fragmentación de datos integrada (aptitud División de texto) y la inserción integrada (aptitudes que llaman al multimodal de Visión de Azure AI, Azure OpenAI y modelos del catálogo de modelos de Inteligencia artificial de Azure Studio).

Los vectores proporcionan el mejor alojamiento para contenido disimilar (varios formatos de archivo y lenguajes) porque el contenido se expresa universalmente en representaciones matemáticas. Los vectores también admiten la búsqueda de similitud: coincidencias en las coordenadas que son más similares a la consulta vectorial. En comparación con la búsqueda de palabras clave (o búsqueda de términos) que coincide con los términos tokenizados, la búsqueda de similitud es más matizada. Es una mejor opción si hay requisitos de ambigüedad o interpretación en el contenido o en las consultas.

Recuperación de contenido en Azure AI Search

Una vez que los datos están en un índice de búsqueda, se usan las funcionalidades de consulta de Azure AI Search para recuperar el contenido.

En un patrón no RAG, las consultas realizan un recorrido de ida y vuelta desde un cliente de búsqueda. La consulta se envía, se ejecuta en un motor de búsqueda y la respuesta se devuelve a la aplicación cliente. La respuesta, o los resultados de la búsqueda, constan exclusivamente del contenido textual que se encuentra en el índice.

En un patrón RAG, las consultas y respuestas se coordinan entre el motor de búsqueda y el LLM. La pregunta o consulta de un usuario se reenvía tanto al motor de búsqueda como al LLM como mensaje. Los resultados de búsqueda vuelven del motor de búsqueda y se redirigen a un LLM. La respuesta que lo devuelve al usuario es la inteligencia artificial generativa, ya sea una suma o una respuesta del LLM.

No hay ningún tipo de consulta en Azure AI Search, ni siquiera semántica ni búsqueda vectorial, que compone respuestas nuevas. Solo el LLM proporciona inteligencia artificial generativa. Estas son las funcionalidades de Azure AI Search que se usan para formular consultas:

Característica de consulta	Fin	Por qué usarla
Uso de la sintaxis completa de Lucene	Ejecución de consultas sobre texto y contenido numérico no vectorial	La búsqueda de texto completo es mejor para coincidencias exactas, en lugar de coincidencias similares. Las consultas de búsqueda de texto completo se clasifican mediante el algoritmo BM25 y admiten el ajuste de relevancia a través de perfiles de puntuación. También admite filtros y facetas.
Filtros y facetas	Solo se aplica a campos de texto o numéricos (no vectores). Reduce el área expuesta de búsqueda en función de los criterios de inclusión o exclusión.	Agrega precisión a las consultas.
Clasificador semántico	Vuelva a clasificar un conjunto de resultados BM25 mediante modelos semánticos. Genera subtítulos y respuestas de forma corta que son útiles como entradas del LLM.	Más fácil que los perfiles de puntuación, y en función del contenido, una técnica más confiable para el ajuste de relevancia.
Vector de búsqueda	Ejecución de consultas sobre campos vectoriales para la búsqueda de similitud, donde la cadena de consulta es uno o varios vectores.	Los vectores pueden representar todos los tipos de contenido, en cualquier lenguaje.
Búsqueda híbrida	Combina cualquiera o todas las técnicas de consulta anteriores. Las consultas vectoriales y no vectoriales se ejecutan en paralelo y se devuelven en un conjunto de resultados unificado.	Las mejoras más significativas en precisión y recuperación se realizan mediante consultas híbridas.

Estructuración de la respuesta de la consulta

La respuesta de una consulta proporciona la entrada al LLM, por lo que la calidad de los resultados de búsqueda es fundamental para el éxito. Los resultados son un conjunto de filas tabulares. La composición o estructura de los resultados depende de:

Campos que determinan qué partes del índice se incluyen en la respuesta.
Filas que representan una coincidencia del índice.

Los campos aparecen en los resultados de búsqueda cuando el atributo es "recuperable". Una definición de campo en el esquema de índice tiene atributos y aquellos determinan si se usa un campo en una respuesta. Solo se devuelven campos "recuperables" en los resultados de la consulta de texto completo o vector. De forma predeterminada, se devuelven todos los campos "recuperables", pero puede usar la opción "select" para especificar un subconjunto. Además de "recuperable", no hay restricciones en el campo. Los campos pueden tener cualquier longitud o tipo. Con respecto a la longitud, no hay ningún límite máximo de longitud de campo en Azure AI Search, pero hay límites en el tamaño de una solicitud de API.

Las filas son coincidencias con la consulta, clasificadas por relevancia, similitud o ambos. De forma predeterminada, los resultados se limitan en las 50 coincidencias principales para la búsqueda de texto completo o las coincidencias k-nearest-neighbor para el vector de búsqueda. Puede cambiar los valores predeterminados para aumentar o disminuir el límite hasta el máximo de 1000 documentos. También puede utilizar los parámetros de paginación top y skip para recuperar los resultados como una serie de resultados paginados.

Maximizar la relevancia y la recuperación

Cuando se trabaja con procesos complejos, una gran cantidad de datos y expectativas de respuestas en milisegundos, es fundamental que cada paso añada valor y mejore la calidad del resultado final. En el lado de la recuperación de información, el ajuste de relevancia es una actividad que mejora la calidad de los resultados enviados al LLM. Solo los documentos coincidentes más relevantes o más similares deben incluirse en los resultados.

Estas son algunas sugerencias para maximizar la relevancia y la coincidencia:

Las consultas híbridas que combinan la búsqueda de palabra clave (no vectorial) y la búsqueda de vectores proporcionan la máxima recuperación cuando las entradas son las mismas. En una consulta híbrida, si se duplica en la misma entrada, una cadena de texto y su equivalente vectorial generan consultas paralelas para palabras clave y búsqueda de similitud, devolviendo las coincidencias más relevantes de cada tipo de consulta en un conjunto de resultados unificado.
Las consultas híbridas también pueden ser expansivas. Puede realizar la búsqueda de similitud en el contenido fragmentado detallado y la búsqueda de palabra clave en los nombres, todo en la misma solicitud.
El ajuste de relevancia se admite mediante:
- Perfiles de puntuación que aumentan la puntuación de búsqueda si se encuentran coincidencias en un campo de búsqueda específico o en otros criterios.
- Clasificador semántico que vuelven a clasificar un conjunto de resultados inicial, usando modelos semánticos de Bing para reordenar los resultados para una mejor ajuste semántico a la consulta original.
- Parámetros de consulta para ajustar. Puede aumentar la importancia de las consultas vectoriales o ajustar la cantidad de resultados clasificados por BM25 en una consulta híbrida. También puede establecer umbrales mínimos para excluir los resultados de puntuación bajos de una consulta vectorial.

En comparación y pruebas comparativas, las consultas híbridas con campos de texto y vector, complementadas con la clasificación semántica, generan los resultados más relevantes.

Código de ejemplo para un flujo de trabajo RAG

En el siguiente código de Python se muestran los componentes esenciales de un flujo de trabajo RAG en Búsqueda de Azure AI. Debe configurar los clientes, definir una indicación del sistema y proporcionar una consulta. El mensaje indica al LLM que use solo los resultados de la consulta y cómo devolver los resultados. Para obtener más pasos basados en este ejemplo, consulte este inicio rápido de RAG.

Para la nube de Azure Government, modifique el punto de conexión de API en el proveedor de tokens a "https://cognitiveservices.azure.us/.default".

# Set up the query for generating responses
from azure.identity import DefaultAzureCredential
from azure.identity import get_bearer_token_provider
from azure.search.documents import SearchClient
from openai import AzureOpenAI

credential = DefaultAzureCredential()
token_provider = get_bearer_token_provider(credential, "https://cognitiveservices.azure.com/.default")
openai_client = AzureOpenAI(
    api_version="2024-06-01",
    azure_endpoint=AZURE_OPENAI_ACCOUNT,
    azure_ad_token_provider=token_provider
)

search_client = SearchClient(
    endpoint=AZURE_SEARCH_SERVICE,
    index_name="hotels-sample-index",
    credential=credential
)

# This prompt provides instructions to the model. 
# The prompt includes the query and the source, which are specified further down in the code.
GROUNDED_PROMPT="""
You are a friendly assistant that recommends hotels based on activities and amenities.
Answer the query using only the sources provided below in a friendly and concise bulleted manner.
Answer ONLY with the facts listed in the list of sources below.
If there isn't enough information below, say you don't know.
Do not generate answers that don't use the sources below.
Query: {query}
Sources:\n{sources}
"""

# The query is sent to the search engine, but it's also passed in the prompt
query="Can you recommend a few hotels near the ocean with beach access and good views"

# Retrieve the selected fields from the search index related to the question
search_results = search_client.search(
    search_text=query,
    top=5,
    select="Description,HotelName,Tags"
)
sources_formatted = "\n".join([f'{document["HotelName"]}:{document["Description"]}:{document["Tags"]}' for document in search_results])

response = openai_client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": GROUNDED_PROMPT.format(query=query, sources=sources_formatted)
        }
    ],
    model="gpt-35"
)

print(response.choices[0].message.content)

Código de integración y LLM

Una solución RAG que incluya Búsqueda de Azure AI puede aprovechar las funcionalidades integradas de fragmentación y vectorización de datos, o bien puede crear su propia mediante plataformas como Kernel semántico, LangChain o LlamaIndex.

Los cuadernos del repositorio de demostración son un buen punto de partida porque muestran patrones para la integración de LLM. Gran parte del código de una solución RAG consta de llamadas al LLM, por lo que debe desarrollar una comprensión de cómo funcionan esas API, que está fuera del ámbito de este artículo.

Instrucciones para empezar

Pruebe este inicio rápido de RAG para obtener una demostración de la integración de consultas con modelos de chat a través de un índice de búsqueda.
Tutorial: How to build a RAG solution in Azure AI Search (Tutorial: crear una solución RAG en Búsqueda de Azure AI) para obtener una cobertura centrada en las características y el patrón de las soluciones RAG que obtienen datos de base de un índice de búsqueda.
Comience con aceleradores de soluciones:
Use plantillas de aplicación de chat de empresa: implemente recursos, código y datos de contextualización de ejemplo de Azure mediante documentos de un plan de mantenimiento ficticio para Contoso y Northwind. Esta solución global le proporciona una aplicación de chat operativa en tan solo 15 minutos. El código de estas plantillas es la azure-search-openai-demo incluida en varias presentaciones. Los vínculos siguientes proporcionan versiones específicas del idioma:
- .NET
- Python
- JavaScript
- Java
Revise los conceptos y estrategias de indexación para determinar cómo desea ingerir y actualizar datos. Decida si va a usar el vector de búsqueda, la búsqueda de palabras clave o la búsqueda híbrida. El tipo de contenido que necesita buscar y el tipo de consultas que desea ejecutar determina el diseño del índice.
Revise la creación de consultas para obtener más información sobre la sintaxis y los requisitos de las solicitudes de búsqueda.

Nota:

Algunas características de Azure AI Search están diseñadas para la interacción humana y no son útiles en un patrón RAG. En concreto, puede omitir características como autocompletar y las sugerencias. Otras características como facetas y “orderby” podrían ser útiles, pero sería poco común en un escenario RAG.

Compartir vía