Funkce ai_gen
Platí pro: Databricks SQL Databricks Runtime
Důležité
Tato funkce je ve verzi Public Preview.
Ve verzi Preview:
- Základní jazykový model dokáže zpracovat několik jazyků, ale tyto funkce jsou vyladěné pro angličtinu.
- Pro základní rozhraní API základního modelu existuje omezení rychlosti. Podívejte se na limity rozhraní API základního modelu až update pro tyto limity.
- Kvůli omezování rychlosti je tato funkce určená pro testování malých datových sad, které mají méně než 100 řádků. Pro případy použití s více než 100 řádky dat doporučuje Databricks používat
ai_query
a koncový bod zřízené propustnosti. Viz Spusťte dávkovou inferenci LLM pomocí ai_query.
Funkce ai_gen()
vyvolá nejmodernější model generující umělé inteligence, který odpoví na výzvu poskytovanou uživatelem pomocí SQL. Tato funkce používá chatovací model obsluhující koncový bod dostupný rozhraními API modelu Foundation Databricks.
Požadavky
Důležité
Základní modely, které lze v tuto chvíli použít, jsou licencované v rámci licence Apache 2.0, Copyright © The Apache Software Foundation nebo LLAMA 3.1 Community License Copyright © Meta Platforms, Inc. Všechna práva vyhrazena. Zákazníci zodpovídají za zajištění dodržování předpisů s příslušnými licencemi modelu.
Databricks doporučuje zkontrolovat tyto licence, abyste zajistili soulad s platnými podmínkami. Pokud se modely objeví v budoucnu, které fungují lépe podle interních srovnávacích testů Databricks, databricks může model změnit (a list příslušných licencí uvedených na této stránce).
Meta-Llama-3.1-70B-Instruct je v současné době základní model, který tyto funkce umělé inteligence využívá.
- Tato funkce je k dispozici pouze u pracovních prostorů ve funkcích AI s využitím podporovaných oblastí rozhraní API modelu foundation.
- Tato funkce není dostupná v Azure Databricks SQL Classic.
- Podívejte se na stránku s cenami SQL služby Databricks.
Poznámka:
V Databricks Runtime 15.1 a novějších je tato funkce podporovaná v poznámkových blocích Databricks, včetně poznámkových bloků, které se spouští jako úkol v pracovním postupu Databricks.
Syntaxe
ai_gen(prompt)
Argumenty
-
prompt
: VýrazSTRING
.
Návraty
Úloha STRING
.
Příklady
> SELECT ai_gen('Generate a concise, cheerful email title for a summer bike sale with 20% discount');
Summer Bike Sale: Grab Your Dream Bike at 20% Off!
> SELECT
question,
ai_gen(
'You are a teacher. Answer the students question in 50 words: ' || question
) AS answer
FROM
questions
LIMIT 10;