Sdílet prostřednictvím


Aktualizace integrace Ollama

Vydání verze 9.0 .NET.NET Aspire Community Toolkit s integracemi Ollama přináší významné změny. Tyto aktualizace vylepšují funkce a lépe se integrují s návrhem rozhraní API .NET.NET Aspire.

Zavedená verze

.NET .NET Aspire Community Toolkit 9.0 GA

Předchozí chování

Integrace Ollama zahrnuje aktualizace hostování a integrace client, podrobnosti jsou uvedeny v následujících částech.

Hostování Ollama

Prostředek hostování Ollama musel být poskytnut jako odkaz na jiné prostředky a poskytoval by informace o modelu jako sadu proměnných prostředí. Řetězec představoval pouze koncový bod HTTP, nikoli skutečný „připojovací řetězec“.

OllamaSharp client

Podporuje v3 knihovny a nepodporuje rozhraní Microsoft.Extensions.AI (M.E.AI).

Nové chování

Nové chování zahrnuje následující aktualizace.

Modely jako prostředky

V dřívějších verzích byly modely přidány do prostředku Ollama a tento prostředek bylo třeba předat jako referenci. Tento přístup vyžadoval alternativní řešení pro nastavení a zjištění výchozího modelu. Ve verzi 9.0 jsme představili OllamaModelResource. Tento prostředek lze předat jako referenci a poskytuje klientům informace o připojení, který model použít.

Nový formát připojovacího řetězce

Původně byl "připojovací řetězec" ze zdroje Ollama pouze HTTP koncový bod, ale aby lépe podporoval model jako prostředek funkce, zdroje vytvářejí "skutečný" připojovací řetězec Endpoint=<...>;Model=<...>. Část Model je zahrnuta pouze v případě, že předáváte OllamaModelResource.

OllamaSharp 4 a Microsoft.Extensions.AI

OllamaSharp se aktualizoval na novou hlavní verzi a nyní podporuje rozhraní z Microsoft.Extensions.AI. Můžete zaregistrovat IOllamaApiClient (nativní OllamaSharp client), nebo z M.E.AI IChatClient a IEmbeddingGenerator<TInput,TEmbedding> (v závislosti na typu modelu). Díky těmto novým rozhraním je kód přenosnější napříč možnostmi LLM/SLM.

Vyřazení a odebrání rozhraní API

Při refaktoringu se některá rozhraní API stala zastaralými nebo byla odebrána.

Typ zásadní změny

Tato změna je binární nekompatibilní a behaviorální změna.

Důvod změny

Změny mají za cíl, aby knihovna byla funktivnější a lépe integrovaná s návrhem rozhraní API .NET.NET Aspire.

Upgrade na .NET.NET Aspire 9.0.

Ovlivněná rozhraní API