次の方法で共有

Ollama 統合の更新

  • [アーティクル]

Ollama 統合の .NET.NET Aspire Community Toolkit 9.0 リリースでは、大幅な変更が導入されています。 これらの更新プログラムは、機能を強化し、.NET.NET Aspire API 設計との統合を強化します。

導入されたバージョン

.NET .NET Aspire コミュニティツールキット 9.0 GA

以前の動作

Ollama 統合には、ホスティングと client の両方の統合更新プログラムが含まれています。両方とも、次のセクションで詳しく説明します。

Ollama ホスティング

Ollama ホスティング リソースは、他のリソースへの参照として提供する必要があり、一連の環境変数としてモデル情報を提供します。 接続文字列は HTTP エンドポイントのみで、実際の "接続文字列" 形式ではありません。

OllamaSharp client

ライブラリの v3 をサポートし、Microsoft.Extensions.AI (M.E.AI) インターフェイスをサポートしていません。

新しい動作

新しい動作には、次の更新が含まれています。

リソースとしてのモデル

以前のバージョンでは、モデルが Ollama リソースに追加され、このリソースを参照として渡す必要がありました。 この方法では、既定のモデルを設定して検出するための回避策が必要でした。 バージョン 9.0 では、OllamaModelResourceを導入しました。 このリソースは参照として渡され、使用するモデルに関する接続情報をクライアントに提供できます。

新しい接続文字列の形式

もともと、Ollama リソースからの "接続文字列" は単なる HTTP エンドポイントでしたが、リソース 機能として モデルをより適切にサポートするために、リソースは の "実際の" 接続文字列を作成します。 Model パーツは、OllamaModelResourceを渡す場合にのみ含まれます。

OllamaSharp 4 と Microsoft.Extensions.AI

OllamaSharp は新しいメジャー バージョンに更新され、Microsoft.Extensions.AIからのインターフェイスをサポートするようになりました。 IOllamaApiClient (ネイティブの OllamaSharp client) または M.E.AI IChatClientと IEmbeddingGenerator<TInput,TEmbedding> (モデルの種類に応じて) を登録できます。 これらの新しいインターフェイスを使用すると、LLM/SLM オプション全体でコードの移植性が高くなります。

API の非推奨と削除

すべてのリファクタリングにより、一部の API は非推奨または削除されています。

破壊的変更の種類

この変更は、バイナリ互換性のない であり、動作変更です。

変更の理由

この変更は、ライブラリをより機能的にし、.NET.NET Aspire API 設計との統合を強化することを目的としています。

.NET .NET Aspire 9.0にアップグレードします。

影響を受ける API