Delen via

Query's uitvoeren op een geleverd model met ai_query()

  • Artikel

Belangrijk

Deze functie is beschikbaar als openbare preview.

In dit artikel wordt beschreven hoe u een query uitvoert op een model dat een eindpunt uit SQL gebruikt.ai_query()

Wat is ai_query()?

De ai_query() functie is een ingebouwde Azure Databricks SQL-functie, onderdeel van AI-functies. Hiermee kunnen deze typen modellen toegankelijk zijn vanuit SQL-query's:

  • Aangepaste modellen die worden gehost door een model dat het eindpunt bedient.
  • Modellen die worden gehost door Databricks Foundation Model-API's.
  • Externe modellen (externe modellen die buiten Databricks worden gehost).

Zie ai_query functie voor syntaxis- en ontwerppatronen.

Wanneer deze functie wordt gebruikt om een query uit te voeren op een eindpunt voor het leveren van een model, is deze alleen beschikbaar in werkruimten en regio's waar Model serving beschikbaar en ingeschakeld is.

Vereisten

Een query uitvoeren op het eindpunt met ai_query()

U kunt een query uitvoeren op het model achter het eindpunt met behulp van ai_query() serverloze of pro SQL-warehouses. Zie Querygeneratieve AI-modellen voor scoreaanvragen en -responsindelingen.

Notitie

  • Voor Databricks Runtime 14.2 en hoger wordt deze functie ondersteund in notebookomgevingen, waaronder Databricks-notebooks en -taken.
  • Voor Databricks Runtime 14.1 en lager wordt deze functie niet ondersteund in notebookomgevingen, waaronder Databricks-notebooks.

Voorbeeld: Een query uitvoeren op een model in een grote taal

In het volgende voorbeeld wordt het model achter het sentiment-analysis eindpunt opgevraagd met de text gegevensset en wordt het retourtype van de aanvraag opgegeven.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

Voorbeeld: Een query uitvoeren op een voorspellend model

In het volgende voorbeeld wordt een classificatiemodel achter het spam-classification eindpunt opgevraagd om te voorspellen of het spam in inbox_messages de text tabel is. Het model heeft drie invoerfuncties: tijdstempel, afzender, tekst. Het model retourneert een Booleaanse matrix.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages