Dela via

Semantisk sökning med Azure Database for PostgreSQL – flexibel server och Azure OpenAI

  • Artikel

GÄLLER FÖR: Azure Database for PostgreSQL – flexibel server

Den här praktiska självstudien visar hur du skapar ett semantiskt sökprogram med azure database for PostgreSQL – flexibel server och Azure OpenAI-tjänsten. Semantisk sökning gör sökningar baserat på semantik; standard lexikal sökning gör sökningar baserat på nyckelord som anges i en fråga. Till exempel kanske din receptdatauppsättning inte innehåller etiketter som glutenfri, vegansk, mjölkfri, fruktfri eller efterrätt, men dessa egenskaper kan härledas från ingredienserna. Tanken är att utfärda sådana semantiska frågor och få relevanta sökresultat.

Att skapa semantisk sökfunktion för dina data med GenAI och flexibel server innebär följande steg:

  • Identifiera sökscenarierna. Identifiera de datafält som ska ingå i sökningen.
  • För varje datafält som ingår i sökningen skapar du ett motsvarande vektorfält för att lagra inbäddningarna av värdet som lagras i datafältet.
  • Generera inbäddningar för data i de valda datafälten och lagra inbäddningarna i motsvarande vektorfält.
  • Generera inbäddningen för en viss sökfråga för indata.
  • Sök efter vektordatafältet och visa en lista över närmaste grannar.
  • Kör resultaten genom lämpliga relevans-, rangordnings- och anpassningsmodeller för att skapa den slutliga rangordningen. I avsaknad av sådana modeller rangordnar du resultatet i fallande punktproduktordning.
  • Övervaka modellen, resultatkvaliteten och affärsmåtten, till exempel CTR (select-through rate) och uppehållstid. Använd feedbackmekanismer för att felsöka och förbättra sökstacken från datakvalitet, data färskhet och anpassning till användarupplevelse.

Förutsättningar

  1. Skapa ett OpenAI-konto och begär åtkomst till Azure OpenAI-tjänsten.
  2. Bevilja åtkomst till Azure OpenAI i önskad prenumeration.
  3. Bevilja behörigheter för att skapa Azure OpenAI-resurser och distribuera modeller.

Skapa och distribuera en Azure OpenAI Service-resurs och en modell, distribuera inbäddningsmodellen textinbäddning-ada-002. Kopiera distributionsnamnet när det behövs för att skapa inbäddningar.

Aktivera tilläggen azure_ai och pgvector

Innan du kan aktivera azure_ai och pgvector på din flexibla Azure Database for PostgreSQL-serverinstans måste du lägga till dem i listan med tillåtna värden enligt beskrivningen i hur du använder PostgreSQL-tillägg och kontrollera om de har lagts till korrekt genom att köra SHOW azure.extensions;.

Sedan kan du installera tillägget genom att ansluta till måldatabasen och köra kommandot CREATE EXTENSION . Du måste upprepa kommandot separat för varje databas som du vill att tillägget ska vara tillgängligt i.

CREATE EXTENSION azure_ai;
CREATE EXTENSION vector;

Konfigurera OpenAI-slutpunkt och nyckel

I Azure AI-tjänsterna under Resurshanteringsnycklar> och slutpunkter hittar du slutpunkten och nycklarna för din Azure AI-resurs. Använd slutpunkten och en av nycklarna för att aktivera azure_ai tillägget för att anropa modelldistributionen.

select azure_ai.set_setting('azure_openai.endpoint','https://<endpoint>.openai.azure.com');
select azure_ai.set_setting('azure_openai.subscription_key', '<API Key>');

Ladda ned och importera data

  1. Ladda ned data från Kaggle.
  2. Anslut till servern och skapa en test databas och skapa en tabell där du importerar data.
  3. Importera data.
  4. Lägg till en inbäddningskolumn i tabellen.
  5. Generera inbäddningarna.
  6. Söka.

Skapa tabellen

CREATE TABLE public.recipes(
    rid integer NOT NULL,
    recipe_name text,
    prep_time text,
    cook_time text,
    total_time text,
    servings integer,
    yield text,
    ingredients text,
    directions text,
    rating real,
    url text,
    cuisine_path text,
    nutrition text,
    timing text,
    img_src text,
    PRIMARY KEY (rid)
);

Importera data

Ange följande miljövariabel i klientfönstret för att ange kodning till utf-8. Det här steget är nödvändigt eftersom den här datauppsättningen använder WIN1252 kodning.

Rem on Windows
Set PGCLIENTENCODING=utf-8;

# on Unix based operating systems
export PGCLIENTENCODING=utf-8

Importera data till den skapade tabellen. Observera att den här datamängden innehåller en rubrikrad:

psql -d <database> -h <host> -U <user> -c "\copy recipes FROM <local recipe data file> DELIMITER ',' CSV HEADER"

Lägg till en kolumn för att lagra inbäddningarna

ALTER TABLE recipes ADD COLUMN embedding vector(1536);

Generera inbäddningar

Generera inbäddningar för dina data med hjälp av tillägget azure_ai. I följande vektoriserar vi några olika fält, sammanfogade:

WITH ro AS (
    SELECT ro.rid
    FROM
        recipes ro
    WHERE
        ro.embedding is null
        LIMIT 500
)
UPDATE
    recipes r
SET
    embedding = azure_openai.create_embeddings('text-embedding-ada-002', r.recipe_name||' '||r.cuisine_path||' '||r.ingredients||' '||r.nutrition||' '||r.directions)
FROM
    ro
WHERE
    r.rid = ro.rid;

Upprepa kommandot tills det inte finns några fler rader att bearbeta.

Dricks

Leka med LIMIT. Med ett högt värde kan instruktionen misslyckas halvvägs på grund av begränsningar som införts av Azure OpenAI. Om det misslyckas väntar du i minst en minut och kör kommandot igen.

Skapa en sökfunktion i databasen för enkelhetens skull:

create function
    recipe_search(searchQuery text, numResults int)
returns table(
            recipeId int,
            recipe_name text,
            nutrition text,
            score real)
as $$
declare
    query_embedding vector(1536);
begin
    query_embedding := (azure_openai.create_embeddings('text-embedding-ada-002', searchQuery));
    return query
    select
        r.rid,
        r.recipe_name,
        r.nutrition,
        (r.embedding <=> query_embedding)::real as score
    from
        recipes r
    order by score asc limit numResults; -- cosine distance
end $$
language plpgsql;

Anropa nu bara funktionen för att söka:

select recipeid, recipe_name, score from recipe_search('vegan recipes', 10);

Och utforska resultaten:

 recipeid |                         recipe_name                          |   score
----------+--------------------------------------------------------------+------------
      829 | Avocado Toast (Vegan)                                        | 0.15672222
      836 | Vegetarian Tortilla Soup                                     | 0.17583494
      922 | Vegan Overnight Oats with Chia Seeds and Fruit               | 0.17668104
      600 | Spinach and Banana Power Smoothie                            |  0.1773768
      519 | Smokey Butternut Squash Soup                                 | 0.18031077
      604 | Vegan Banana Muffins                                         | 0.18287598
      832 | Kale, Quinoa, and Avocado Salad with Lemon Dijon Vinaigrette | 0.18368931
      617 | Hearty Breakfast Muffins                                     | 0.18737361
      946 | Chia Coconut Pudding with Coconut Milk                       |  0.1884186
      468 | Spicy Oven-Roasted Plums                                     | 0.18994217
(10 rows)

Relaterat innehåll