Updates voor Ollama-integratie
De .NET.NET Aspire Community Toolkit 9.0-release van de Ollama-integraties introduceert aanzienlijke wijzigingen. Deze updates verbeteren de functionaliteit en kunnen beter worden geïntegreerd met het .NET.NET Aspire API-ontwerp.
Versie ingevoerd
.NET .NET Aspire Community Toolkit 9.0 GA algemene beschikbaarheid
Vorig gedrag
De Ollama-integratie omvat zowel hosting- als clientintegratie-updates, beide zijn details in de volgende secties.
Ollama hostingdienst
De Ollama-hostingresource moest worden opgegeven als de verwijzing naar andere resources en zou modelinformatie bieden als een set omgevingsvariabelen. De verbindingsreeks was alleen het HTTP-eindpunt en niet in een echt 'verbindingsreeks'-formaat.
OllamaSharp-cliënt
Ondersteunt v3 van de bibliotheek en biedt geen ondersteuning voor de Microsoft.Extensions.AI -interfaces (M.E.AI).
Nieuw gedrag
Het nieuwe gedrag bevat de volgende updates.
Modellen als bronnen
In eerdere versies werden modellen toegevoegd aan de Ollama-resource en moest u deze resource doorgeven als referentie. Voor deze aanpak zijn tijdelijke oplossingen vereist om het standaardmodel in te stellen en te detecteren. In versie 9.0 hebben we de OllamaModelResourcegeïntroduceerd. Deze resource kan worden doorgegeven als referentie en biedt verbindingsgegevens aan clients over welk model moet worden gebruikt.
Nieuwe indeling van verbindingsreeks
Oorspronkelijk was de 'verbindingsreeks' van een Ollama-resource alleen het HTTP-eindpunt, maar om het model als resource functie beter te ondersteunen, maken de resources een 'echte' verbindingsreeks van Endpoint=<...>;Model=<...>. Het Model deel wordt alleen inbegrepen als u de OllamaModelResourceverzendt.
OllamaSharp 4 en Microsoft.Extensions.AI
OllamaSharp bijgewerkt naar een nieuwe primaire versie en ondersteunt nu de interfaces van Microsoft.Extensions.AI. U kunt de IOllamaApiClient (systeemeigen OllamaSharp-client) of van M.E.AI IChatClient en IEmbeddingGenerator<TInput,TEmbedding> registreren (afhankelijk van uw modeltype). Door deze nieuwe interfaces te gebruiken, is code meer draagbaar over LLM/SLM-opties.
API-uitfaseringen en verwijderingen
Bij alle herstructureringen worden sommige API's afgeschaft of verwijderd.
Type van ingrijpende wijziging
Deze wijziging is een binaire niet-compatibele en gedragsverandering.
Reden voor wijziging
De wijzigingen zijn bedoeld om de bibliotheek functioneeler en beter te integreren met het .NET.NET Aspire API-ontwerp.
Aanbevolen actie
upgraden naar .NET.NET Aspire 9.0.
