Поделиться через

Функция ai_gen

  • Статья

Область применения:флажок Databricks SQL флажок Databricks Runtime

Внимание

Эта функция предоставляется в режиме общедоступной предварительной версии.

В предварительной версии:

  • Базовая языковая модель может обрабатывать несколько языков, однако эти функции настраиваются для английского языка.
  • Существует ограничение скорости для базовых API-интерфейсов модели Foundation. Ознакомьтесь с ограничениями и пределами использования API моделей Foundation на , от до update.
  • Из-за ограничения скорости эта функция предназначена для тестирования на небольших наборах данных, которые имеют менее 100 строк. Для вариантов использования с более чем 100 строками данных Databricks рекомендует использовать ai_query и подготовленную конечную точку пропускной способности. См. раздел Выполните пакетный вывод LLM с помощью ai_query.

Функция ai_gen() вызывает модель создания искусственного интеллекта для ответа на запрос, предоставленный пользователем, с помощью SQL. Эта функция использует конечную точку обслуживания чата , доступную API модели Databricks Foundation.

Требования

Внимание

Базовые модели, которые могут использоваться в настоящее время, лицензируются в соответствии с лицензией Apache 2.0, © Apache Software Foundation или LLAMA 3.1 Community License Meta © Platform, Inc. Все права защищены. Клиенты отвечают за обеспечение соответствия применимым лицензиям модели.

Databricks рекомендует просматривать эти лицензии, чтобы обеспечить соответствие любым применимым условиям. Если в будущем появятся модели, которые лучше работают в соответствии с внутренними метриками Databricks, Databricks может изменить эту модель (и list применимых лицензий, указанных на этой странице).

В настоящее время Meta-Llama-3.1-70B-Instruct является базовой моделью, которая управляет этими функциями ИИ.

Примечание.

В Databricks Runtime 15.1 и более поздних версиях эта функция поддерживается в записных книжках Databricks, включая записные книжки, которые выполняются как задача в рабочем процессе Databricks.

Синтаксис

ai_gen(prompt)

Аргументы

  • prompt: Выражение STRING.

Возвраты

STRING.

Примеры

> SELECT ai_gen('Generate a concise, cheerful email title for a summer bike sale with 20% discount');
  Summer Bike Sale: Grab Your Dream Bike at 20% Off!

> SELECT
    question,
    ai_gen(
      'You are a teacher. Answer the students question in 50 words: ' || question
    ) AS answer
  FROM
    questions
  LIMIT 10;