ai_gen
-functie
Van toepassing op: Databricks SQL Databricks Runtime
Belangrijk
Deze functie is beschikbaar als openbare preview.
In de preview:
- Het onderliggende taalmodel kan verschillende talen verwerken, maar deze functies zijn afgestemd op Engels.
- Er is snelheidsbeperking voor de onderliggende Foundation Model-API's. Bekijk Foundation Model API-limieten om deze limieten bij te stellen.
- Vanwege snelheidsbeperking is deze functie ontworpen voor het testen van kleine gegevenssets met minder dan 100 rijen. Voor gebruiksvoorbeelden met meer dan 100 rijen gegevens raadt Databricks aan om
ai_query
en een ingerichte doorvoereindpunt te gebruiken. Zie Batch LLM-inferentie uitvoeren met ai_query.
De ai_gen()
functie roept een state-of-the-art AI-model aan om de door de gebruiker verstrekte prompt te beantwoorden met behulp van SQL. Deze functie maakt gebruik van een chatmodel voor eindpunten dat beschikbaar wordt gesteld door Databricks Foundation Model-API's.
Vereisten
Belangrijk
De onderliggende modellen die op dit moment kunnen worden gebruikt, hebben een licentie onder de Apache 2.0-licentie, Copyright © The Apache Software Foundation of de LLAMA 3.1 Community License Copyright © Meta Platforms, Inc. Alle rechten voorbehouden. Klanten zijn verantwoordelijk voor het garanderen van naleving van toepasselijke modellicenties.
Databricks raadt aan deze licenties te controleren om ervoor te zorgen dat alle toepasselijke voorwaarden worden nageleefd. Als modellen in de toekomst beter presteren volgens de interne benchmarks van Databricks, kan Databricks het model (en de lijst met toepasselijke licenties op deze pagina) wijzigen.
Momenteel is Meta-Llama-3.1-70B-Instruct het onderliggende model dat deze AI-functies mogelijk maakt.
- Deze functie is alleen beschikbaar voor werkruimten in AI Functions met behulp van ondersteunde regio's voor Foundation-model-API's.
- Deze functie is niet beschikbaar in Azure Databricks SQL Classic.
- Controleer de pagina met prijzen voor Databricks SQL.
Notitie
In Databricks Runtime 15.1 en hoger wordt deze functie ondersteund in Databricks-notebooks, waaronder notebooks die worden uitgevoerd als een taak in een Databricks-werkstroom.
Syntaxis
ai_gen(prompt)
Argumenten
-
prompt
: EenSTRING
expressie.
Retouren
A STRING
.
Voorbeelden
> SELECT ai_gen('Generate a concise, cheerful email title for a summer bike sale with 20% discount');
Summer Bike Sale: Grab Your Dream Bike at 20% Off!
> SELECT
question,
ai_gen(
'You are a teacher. Answer the students question in 50 words: ' || question
) AS answer
FROM
questions
LIMIT 10;