Общие сведения о запросах на улучшение качества завершения
Создание запроса может быть сложной задачей. На практике запрос действует для настройки весов модели для выполнения требуемой задачи, но это больше искусства, чем наука, часто требующая опыта и интуиции для создания успешного запроса.
При отправке хорошо созданных запросов в модель модель модель возвращает лучшее завершение.
В нашем боте рекомендаций по походам отличный системный запрос помогает модели подготовиться к рекомендациям по соответствующим походам. И хороший пользователь запрашивает дальнейшие уточнения рекомендаций, возвращаемой моделью.
В этом уроке мы говорим о общих понятиях и шаблонах, которые можно использовать для создания запросов и просмотра некоторых методов, которые можно использовать для улучшения качества завершений.
Основные сведения
Текстовые запросы — это взаимодействие пользователей с моделями GPT. Модели генерированного языка пытаются создать следующую серию слов, которые, скорее всего, будут следовать из предыдущего текста. Это как будто мы говорим , что первое, что приходит к вашему уму, когда я <говорю подсказку>?
При разработке сложных запросов полезно помнить об этом фундаментальном поведении. Независимо от запроса модель просто отвечает на то, что она определяет, скорее всего, следует из запроса.
Компоненты запроса
При использовании API завершения нет различий между различными частями запроса, но по-прежнему полезно расчленить запрос на его части компонента - так как цель состоит в том, чтобы подумать о создании запроса.
Instructions
Инструкции, скорее всего, наиболее часто используют компонент запроса. Они входят в запрос, который сообщает модели, что делать и может варьироваться от простого до сложного. Например, Рекомендуете походы к вам энтузиаст походов, которые помогают людям обнаруживать веселые походы в их районе. Вы оптимистично и доброжелательный. Вы вводите себя, когда сначала говорите привет. Когда вы помогаете людям, вы всегда спрашиваете их, где они находятся, и интенсивность походов хотела сообщить о рекомендациях по походам, которые вы предоставляете.
Основное содержимое
Основное содержимое относится к некоторому типу текста, обрабатываемому или преобразованной моделью. Обычно он используется в сочетании с инструкциями. Например, вы предоставите три предложения для близлежащих походов, которые зависят от длины после получения этой информации.
Основное содержимое может быть гораздо длиннее, например запрос модели суммировать статью Википедии.
Примеры
Успешные запросы часто полагаются на практику "один выстрел" или "несколько выстрелов" обучения. Это относится к включению одного или нескольких примеров требуемого поведения модели, обычно включая пары входных и выходных данных. Это не учится в том смысле, что модель постоянно изменилась, но вместо того, чтобы примеры лучше условий модели реагировать как нужное только текущее вывод.
Использование запросов без примеров иногда называется "нулевой выстрел" обучением.
Hike request: I live near Seattle and would like an easy hike.
Recommendation: That's great to hear, the Seattle area has some of the best hikes in the nation! You should try Little Si, you'll love it.
Hike request: I want to go on a hike in the North Cascades that will blow my mind.
Recommendation: You won't find a bad hike in the North Cascades. However, I hear the Sahale Arm stops people in their tracks with its beauty.
Hike request: I'd like to find a strenuous hike that's just like the Enchantments, but without as many people.
Recommendation:
Подсказки
Подсказки действуют как "прыжковый запуск" для выходных данных модели, помогая направлять модель в нужные выходные данные. Часто это префикс, на который модель может создаваться. Подсказка может направлять завершение для включения ключевых элементов. Они часто используются вместе с инструкциями.
В следующем примере показано одно подсказка для суммирование множества проверок следов.
Prompt | Completion |
---|---|
Отзывы следа являются важным соображением о том, идут ли туристы на поход, потому что обзор перечисляет текущие условия следа. [...] Обобщайте приведенные выше тропы: Ключевыми отнимают отзывы о следе: |
что пик почтовых ящиков тропа мутная прямо сейчас, и комары плохо, как только вы получите над линией дерева. Есть также много людей на тропе, начиная с середины утра. |
Вспомогательное содержимое
Вспомогательное содержимое — это информация, которую модель может использовать для влияния на выходные данные каким-то образом. Он отличается от основного содержимого в том, что он не является основным целевым объектом или задачей, но обычно используется вместе с основным содержимым. Распространенные примеры включают контекстную информацию, например текущую дату, имя пользователя, предпочтения пользователя и т. д.
Рекомендации
- Будьте конкретными. Оставляйте как можно меньше возможностей для интерпретации. Ограничивайте рабочее пространство.
- Будьте описательными. Используйте аналогии.
- Дважды вниз. Иногда модель требует повторений. Добавляйте инструкции до и после основного содержания, используйте инструкцию и подсказку и т. д.
- Вопросы заказа. Порядок представления сведений модели может повлиять на выходные данные. Можно ли поместить инструкции перед содержимым ("суммировать приведенные ниже...") или после ("суммировать приведенные выше...") значения выходных данных. Значение может иметь даже порядок, в котором приведены несколько примеров. Этот метод называется предвзятостью пересчета.
- Приготовите выходные данные. Включите несколько слов или фраз в конце запроса, чтобы получить ответ модели, следующий за требуемой формой.
- Присвойте модели значение out. Иногда имеет смысл предложить модели альтернативный путь, если ей не удается выполнить поставленную задачу. Например, при запросе вопроса над фрагментом текста можно включить что-то вроде "ответить с "не найдено", если ответ отсутствует". Этот метод помогает модели избежать создания ложных ответов.
- Цепочка мысли побудит. Модель будет пошаговая инструкция и представить все необходимые действия. Это снижает вероятность неточностей результатов и упрощает оценку ответа модели.