Atualizações de integração do Ollama
A versão 9.0 do Kit de Ferramentas da Comunidade .NET.NET Aspire das integrações do Ollama introduz mudanças significativas. Essas atualizações melhoram a funcionalidade e se integram melhor ao design da API .NET.NET Aspire.
Versão introduzida
.NET .NET Aspire Kit de Ferramentas da Comunidade 9.0 GA
Comportamento anterior
A integração do Ollama inclui atualizações de hospedagem e integração client, os quais são detalhados nas seções a seguir.
Hospedagem Ollama
O recurso de hospedagem Ollama tinha que ser fornecido como referência para outros recursos e forneceria informações de modelo como um conjunto de variáveis de ambiente. A string de conexão era apenas o ponto de extremidade HTTP e não estava no formato real de uma 'string de conexão'.
OllamaSharp client
Suporta v3 da biblioteca e não suporta as interfaces Microsoft.Extensions.AI (M.E.AI).
Novo comportamento
O novo comportamento inclui as seguintes atualizações.
Modelos como recursos
Em versões anteriores, modelos foram adicionados ao recurso Ollama, e você tinha que passar esse recurso como referência. Essa abordagem exigia soluções alternativas para definir e descobrir o modelo padrão. Na versão 9.0, introduzimos o OllamaModelResource. Esse recurso pode ser passado como referência e fornece informações de conexão aos clientes sobre qual modelo usar.
Novo formato de cadeia de conexão
Originalmente, a "string de conexão" de um recurso Ollama era apenas o ponto de extremidade HTTP, mas para melhor suportar o Modelo de como recurso, os recursos criam uma "string de conexão" real de Endpoint=<...>;Model=<...>. A parte Model só está incluída se estiver a passar a OllamaModelResource.
OllamaSharp 4 e Microsoft.Extensions.AI
OllamaSharp foi atualizado para uma nova versão principal e agora suporta as interfaces do Microsoft.Extensions.AI. Você pode registrar o IOllamaApiClient (OllamaSharp nativo client), ou do M.E.AI IChatClient e IEmbeddingGenerator<TInput,TEmbedding> (dependendo do seu tipo de modelo). O uso dessas novas interfaces torna o código mais portátil nas opções LLM/SLM.
Descontinuações e remoções de API
Com toda a refatoração, algumas APIs estão sendo preteridas ou removidas.
Tipo de mudança de rutura
Esta alteração é uma incompatibilidade binária
Motivo da mudança
As mudanças visam tornar a biblioteca mais funcional e melhor integrada com o design da API .NET.NET Aspire.
Ação recomendada
Atualize para .NET.NET Aspire 9.0.
