Fabric 環境でのライブラリ管理
Microsoft Fabric 環境では、Spark ジョブを実行するための柔軟な構成が提供されます。 ライブラリには、開発者が作業に含めたい再利用可能なコードが用意されています。 Fabric 環境には、各 Spark ランタイムに付属する組み込みライブラリを除いて、パブリックおよびカスタムのライブラリをインストールできます。 また、ノートブックや Spark ジョブ定義に環境を簡単にアタッチできます。
Note
特定のパッケージのバージョンを変更すると、それに依存する他のパッケージが破損する可能性があります。 たとえば、ダウングレードするとazure-storage-blob
、他のさまざまなライブラリでPandas
問題がfsspec_wrapper
Pandas
mssparkutils
notebookutils
発生する可能性があります。
ここで、各ランタイムのプレインストール済みパッケージとそのバージョンの一覧を表示できます。
パブリック ライブラリ
パブリック ライブラリは、Fabric で現在サポートされている PyPI や Conda などのリポジトリから取得されます。
新しいパブリック ライブラリを追加する
新しいパブリック ライブラリを追加するには、ソースを選択し、ライブラリの名前とバージョンを指定します。 あるいは、Conda 環境仕様の .yml ファイルをアップロードして、パブリック ライブラリを指定することもできます。 アップロードされた .yml ファイルの内容が抽出され、リストに追加されます。
Note
追加時のライブラリ名のオートコンプリート機能は、最も一般的なライブラリに制限されます。 インストールするライブラリが、この一覧にない場合、オートコンプリートのプロンプトは表示されません。 代わりに、そのライブラリの完全な名前を入力して、PyPI または Conda で直接検索します。 ライブラリ名が有効であれば、使用可能なバージョンが表示されます。 ライブラリ名が無効な場合、ライブラリが存在しないことを示す警告が表示されます。
パブリック ライブラリをバッチで追加する
環境では、バッチ内の複数のパブリック ライブラリを管理するための YAML ファイルのアップロードがサポートされています。 YAML の内容が抽出され、パブリック ライブラリの一覧に追加されます。
Note
YAML ファイル内のカスタム conda チャネルは現在サポートされていません。 PyPI と conda のライブラリのみが認識されます。
パブリック ライブラリをフィルター処理する
パブリック ライブラリの一覧をフィルター処理し、必要なライブラリを見つけるには、[パブリック ライブラリ] ページの検索ボックスにキーワードを入力します。
パブリック ライブラリを更新する
既存のパブリック ライブラリのバージョンを更新するには、ご使用の環境に移動し、[パブリック ライブラリ] または [カスタム ライブラリ] を開きます。 必要なライブラリを選択し、バージョンのドロップダウンを選択して、そのバージョンを更新します。
パブリック ライブラリを削除する
対応する行にマウス ポインターを合わせると、各ライブラリのごみ箱オプションが表示されます。 または、複数のパブリック ライブラリを選択し、リボンの[削除] ボタンを選択すると、それらのライブラリを削除できます。
依存関係を表示する
各パブリック ライブラリには、さまざまな依存関係があります。 対応する行にマウスのポインターを合わせると、依存関係の表示オプションが表示されます。
yaml にエクスポートする
Fabric には、パブリック ライブラリの完全な一覧を YAML ファイルにエクスポートし、それをローカル ディレクトリにダウンロードするオプションが用意されています。
カスタム ライブラリ
カスタム ライブラリとは、ユーザーまたはユーザーの組織によってビルドされたコードです。 Fabric では、whl、.jar、.tar.gz 形式のカスタム ライブラリ ファイルがサポートされています。
Note
R 言語については、.tar.gz ファイルのみがサポートされています。 Python 言語には、.whl ファイル形式を使用してください。
カスタム ライブラリをアップロードする
カスタム ライブラリをローカル ディレクトリから Fabric 環境にアップロードできます。
カスタム ライブラリを削除する
対応する行にマウス ポインターを合わせると、各ライブラリのごみ箱オプションが表示されます。 または、複数のカスタム ライブラリを選択し、リボンの[削除] ボタンを選択すると、それらのライブラリを削除できます。
すべてのカスタム ライブラリをダウンロードする
カスタム ライブラリを 1 つずつクリックして、ローカルの既定のダウンロード ディレクトリにダウンロードします。