ai_generate_text
函式
適用於: Databricks SQL
重要
這項功能處於公開預覽狀態。
警告
AI 函式 ai_generate_text()
已被取代。 Databricks 建議將 ai_query 與外部模型搭配使用。
根據提示,傳回所選大型語言模型 (LLM) 所產生的文字。
需求
- 此函式僅適用於 Databricks SQL Pro 和無伺服器。
- 此函式已被取代。 Databricks 建議 使用外部模型ai_query。
語法
ai_generate_text(prompt, modelName[, param1, value1] [...])
引數
prompt
:字串表示式,傳遞至所選 LLM 的文字提示。modelName
:僅'openai/gpt-3.5-turbo'
支援 和'azure_openai/gpt-35-turbo'
的 STRING 常值。paramN
和valueN
:要驗證和設定所選 LLM 的機碼/值組。 索引鍵必須是字串常值,而且區分大小寫。 值的類型取決於下列索引鍵:- 模型
'openai/gpt-3.5-turbo'
會使用 Open AI 中的聊天完成 API。 它支援下列參數:'apiKey'
:必填。 用來存取模型端點的 OpenAI API 金鑰。 指定的值不能是明確的常數位符串。 建議的值包括 secret(scope、key) 函式和SELECT ...
純量子查詢。'temperature'
:要使用的取樣溫度。 其值是和2
之間的0
數值常值。 預設值是1.0
。stop
:停止字串。 其值是最多 4 個STRING
ARRAY<STRING>
字串常值的 常值。 預設值為 null。
- 模型
'azure_openai/gpt-35-turbo'
會使用來自 Azure OpenAI 服務的聊天完成 API。 它會接受上述'openai/gpt-3.5-turbo'
模型的所有參數,以及建構端點 URL 的任何其他參數。 Databricks 僅支援 API 金鑰驗證。'resourceName'
:必填。 其值是指定資源名稱的字串常值。'deploymentName'
:必填。 其值是指定部署名稱的字串常值。'apiVersion'
:必填。 其值是字串常值,用來指定要使用的 API 版本。
- 模型
傳回
字串表示式,表示從選取的 LLM 重新產生文字。
範例
如需函式的使用ai_generate_text
案例,請參閱使用 ai_generate_text() 和 OpenAI 分析客戶評論。
> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
'apiKey', secret('ml', 'key'),
'temperature', 0.1);
Hello! How can I assist you today?
> SELECT ai_generate_text('Hello',
'azure_openai/gpt-35-turbo',
'apiKey', secret('ml', 'key'),
'resouceName', 'resource',
'deploymentName', 'deploy',
'apiVersion', '2023-03-15-preview',
'temperature', 0.1);
Hello! How can I assist you today?
> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
'temperature', 0.1);
Hello! How can I assist you today?
> CREATE FUNCTION summarize(text STRING)
RETURNS STRING
RETURN AI_GENERATE_TEXT(
CONCAT('Summarize the following text: ',
text),
'openai/gpt-3.5-turbo',
'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
'temperature', 0.1
);
SELECT summarize('This is the text to be summarized.')
This is the summarization.
> SELECT ai_generate_text('Hello',
'openai/gpt-3.5-turbo',
'apiKey', 'sg-xxxxxxxxxxxxxxxxxxxxxx',
'temperature', 0.1);
Error: DATATYPE_MISMATCH.INVALID_SECRET
The parameter value of the "apiKey" argument to the ai_generate_text function can not be a constant 'sg-xxxxxxxxxxxxxxxxxxxxxx'. Recommended usages include `secret(scope, key)` function or a `SELECT ...` subquery.