Общие сведения о получении дополненного поколения (RAG) с помощью Службы Azure OpenAI
RAG с Azure OpenAI позволяет разработчикам использовать поддерживаемые модели чата искусственного интеллекта, которые могут ссылаться на определенные источники информации для реагирования. Добавление этих сведений позволяет модели ссылаться как на определенные данные, так и на предварительно обученные знания, чтобы обеспечить более эффективные ответы.
Azure OpenAI позволяет RAG подключать предварительно обученные модели к собственным источникам данных. Azure OpenAI в ваших данных использует возможность поиска Azure AI Search, чтобы добавить соответствующие блоки данных в запрос. После того как данные будут находиться в индексе поиска ИИ, Azure OpenAI для ваших данных выполняет следующие действия.
- Получение запроса пользователя.
- Определите соответствующее содержимое и намерение запроса.
- Запросите индекс поиска с этим содержимым и намерением.
- Вставьте блок результатов поиска в запрос Azure OpenAI, а также системное сообщение и запрос пользователя.
- Отправьте весь запрос в Azure OpenAI.
- Возвращает ссылку на ответ и данные (если таковые есть) пользователю.
По умолчанию Azure OpenAI в ваших данных рекомендуется, но не требуется, модель отвечает только с помощью ваших данных. Этот параметр может быть не выбран при подключении данных, что может привести к выбору модели использования предварительно обученных знаний по данным.
Точное настройка и RAG
Тонкой настройкой является метод, используемый для создания пользовательской модели путем обучения существующей базовой модели, например gpt-35-turbo с набором данных дополнительных обучающих данных. Точное изменение может привести к более высокому качеству запросов, чем только проектирование запросов, настройка модели на примерах больше, чем может соответствовать запросу, и позволить пользователю предоставлять меньше примеров для получения того же высокого качества ответа. Однако процесс точной настройки является дорогостоящим и временным, и его следует использовать только для вариантов использования, когда это необходимо.
RAG с Azure OpenAI на ваших данных по-прежнему использует API без отслеживания состояния для подключения к модели, которая удаляет требование обучения пользовательской модели с данными и упрощает взаимодействие с моделью искусственного интеллекта. Поиск ИИ сначала находит полезную информацию для ответа на запрос, добавляет это в запрос в качестве данных приземления, а Azure OpenAI формирует ответ на основе этой информации.