Aktualizace integrace Ollama
Vydání verze 9.0 .NET.NET Aspire Community Toolkit s integracemi Ollama přináší významné změny. Tyto aktualizace vylepšují funkce a lépe se integrují s návrhem rozhraní API .NET.NET Aspire.
Zavedená verze
.NET .NET Aspire Community Toolkit 9.0 GA
Předchozí chování
Integrace Ollama zahrnuje aktualizace hostování a integrace client, podrobnosti jsou uvedeny v následujících částech.
Hostování Ollama
Prostředek hostování Ollama musel být poskytnut jako odkaz na jiné prostředky a poskytoval by informace o modelu jako sadu proměnných prostředí. Řetězec představoval pouze koncový bod HTTP, nikoli skutečný „připojovací řetězec“.
OllamaSharp client
Podporuje v3 knihovny a nepodporuje rozhraní Microsoft.Extensions.AI (M.E.AI).
Nové chování
Nové chování zahrnuje následující aktualizace.
Modely jako prostředky
V dřívějších verzích byly modely přidány do prostředku Ollama a tento prostředek bylo třeba předat jako referenci. Tento přístup vyžadoval alternativní řešení pro nastavení a zjištění výchozího modelu. Ve verzi 9.0 jsme představili OllamaModelResource. Tento prostředek lze předat jako referenci a poskytuje klientům informace o připojení, který model použít.
Nový formát připojovacího řetězce
Původně byl "připojovací řetězec" ze zdroje Ollama pouze HTTP koncový bod, ale aby lépe podporoval model jako prostředek funkce, zdroje vytvářejí "skutečný" připojovací řetězec Endpoint=<...>;Model=<...>. Část Model je zahrnuta pouze v případě, že předáváte OllamaModelResource.
OllamaSharp 4 a Microsoft.Extensions.AI
OllamaSharp se aktualizoval na novou hlavní verzi a nyní podporuje rozhraní z Microsoft.Extensions.AI. Můžete zaregistrovat IOllamaApiClient (nativní OllamaSharp client), nebo z M.E.AI IChatClient a IEmbeddingGenerator<TInput,TEmbedding> (v závislosti na typu modelu). Díky těmto novým rozhraním je kód přenosnější napříč možnostmi LLM/SLM.
Vyřazení a odebrání rozhraní API
Při refaktoringu se některá rozhraní API stala zastaralými nebo byla odebrána.
Typ zásadní změny
Tato změna je binární nekompatibilní a behaviorální změna.
Důvod změny
Změny mají za cíl, aby knihovna byla funktivnější a lépe integrovaná s návrhem rozhraní API .NET.NET Aspire.
Doporučená akce
Upgrade na .NET.NET Aspire 9.0.
