Cvičení – instalace závislostí NVIDIA DeepStream a sady SDK

Dokončeno

Sada NVIDIA DeepStream SDK vyžaduje určitý požadovaný software. Projdeme si instalaci těchto závislostí a vysvětlíme jejich role.

  1. Nainstalujte balíčky závislostí, které poskytují nástroje pro kompilaci aplikací C a C++ ze zdroje. Všimněte si, že je součástí více gstreamermodulů plug-in. Jsou potřeba, protože NVIDIA DeepStream používá knihovnu GStreamer pro zpracování médií a složení grafů v aplikacích DeepStream. K instalaci těchto požadavků na hostitelský terminál použijte následující příkazy:

    sudo apt install \
    libssl1.0.0 \
    libgstreamer1.0-0 \
    gstreamer1.0-tools \
    gstreamer1.0-plugins-good \
    gstreamer1.0-plugins-bad \
    gstreamer1.0-plugins-ugly \
    gstreamer1.0-libav \
    libgstrtspserver-1.0-0 \
    libjansson4 \
    gcc \
    make \
    git \
    python3
    
  2. Nainstalujte ovladač NVIDIA verze 470.63.01 ze stránky ovladačů NVIDIA Unix na adrese: https://www.nvidia.com/Download/driverResults.aspx/179599/en-us

    1. Instalační balíček by se měl stáhnout do složky Stažené soubory místního uživatele. Pomocí těchto příkazů přejděte do umístění pro stažení a nainstalujte balíček:
    chmod 755 NVIDIA-Linux-x86_64-470.63.01.run
    sudo ./NVIDIA-Linux-x86_64-470.63.01.run 
    
  3. Nainstalujte CUDA Toolkit 11.4 přidáním úložiště CUDA založeného na UBUNTU nvidia do zdrojů APT. Sada CUDA Toolkit umožňuje vašemu vývojovému prostředí používat akceleraci GPU na zařízeních s kompatibilním hardwarem. Sada nástrojů obsahuje speciální nástroje a knihovny kompilátoru, které umožňují vytvářet a spouštět aplikace akcelerované gpu. Také automaticky nainstaluje kompatibilní ovladače, které umožňují spouštění aplikací akcelerovaných gpu v hostitelském systému.

    Pokud chcete nainstalovat CUDA Toolkit 11.4, spusťte na hostitelském terminálu tyto příkazy:

    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
    sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
    wget https://developer.download.nvidia.com/compute/cuda/11.4.1/local_installers/cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo dpkg -i cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
    sudo apt-key add /var/cuda-repo-ubuntu1804-11-4-local/7fa2af80.pub
    sudo apt-get update
    sudo apt-get -y install cuda
    
  4. Nainstalujte TensorRT 8.0.1 GA z NVIDIA. TensorRT je sada SDK, která poskytuje vysoce výkonnou implementaci algoritmů pro odvozování hlubokého učení prostřednictvím hardwarové akcelerace. Zahrnuje různé optimalizace pro zajištění nízké latence a vysoké propustnosti v aplikacích, které používají hluboké učení. K jeho instalaci potřebujete členství v programu NVIDIA Developer Program. Pokud ho nemáte, zobrazí se výzva k jeho vytvoření po dokončení následujících kroků. Toto bezplatné členství umožňuje přístup k potřebným instalačním souborům.

    Poznámka:

    K dokončení tohoto procesu budete muset mít na hostitelském počítači prohlížeč.

    Pokud ho nemáte, můžete prohlížeč Firefox snadno nainstalovat na hostitelský počítač pomocí tohoto příkazu: sudo apt install firefox

    1. Spuštěním následujících příkazů přidejte úložiště CUDA do zdrojů apt:

      echo "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda-repo.list
      wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
      sudo apt-key add 7fa2af80.pub
      sudo apt-get update
      
    2. Otevřete prohlížeč na hostitelském počítači a stáhněte balíček místního úložiště TensorRT 8.0.1 GA pro Ubuntu 18.04 a CUDA 11.3 DEB.

    3. Instalační balíček by se měl stáhnout do složky Stažené soubory místního uživatele. Pomocí těchto příkazů přejděte do umístění pro stažení a nainstalujte balíček:

      cd ~/Downloads
      sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626_1-1_amd64.deb 
      sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626/7fa2af80.pub 
      sudo apt-get update 
      sudo apt-get install \
      libnvinfer8=8.0.1-1+cuda11.3 \
      libnvinfer-plugin8=8.0.1-1+cuda11.3 \
      libnvparsers8=8.0.1-1+cuda11.3 \
      libnvonnxparsers8=8.0.1-1+cuda11.3 \
      libnvinfer-bin=8.0.1-1+cuda11.3 \
      libnvinfer-dev=8.0.1-1+cuda11.3 \
      libnvinfer-plugin-dev=8.0.1-1+cuda11.3 \
      libnvparsers-dev=8.0.1-1+cuda11.3 \
      libnvonnxparsers-dev=8.0.1-1+cuda11.3 \
      libnvinfer-samples=8.0.1-1+cuda11.3 \
      libnvinfer-doc=8.0.1-1+cuda11.3
      
  5. Nainstalujte a povolte librdkafka adaptér protokolu Kafka používaný zprostředkovatelem zpráv DeepStream. Otevřete terminál a spusťte následující příkazy:

    cd ~
    git clone https://github.com/edenhill/librdkafka.git
    cd librdkafka
    git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
    ./configure
    make sudo make install
    sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.0/lib
    sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.0/lib
    
  6. Nainstalujte sadu DeepStream SDK. Sada SDK obsahuje všechny knihovny, vývojové zdroje a ukázky, které vám pomůžou začít vytvářet vlastní kanály IVA.

    1. Otevřete prohlížeč na hostitelském počítači. Přejděte na NVIDIA DeepStream - verze 6.0.0-1 Ke stažení.

    2. Měla by se stáhnout do složky Stažené soubory místního uživatele. Pomocí těchto příkazů přejděte do umístění pro stažení a nainstalujte balíček:

    cd ~/Downloads
    sudo apt-get install ./deepstream-6.0_6.0.0-1_amd64.deb
    

Teď jste připraveni začít zkoumat, jak vytvářet aplikace Intelligent Video Analytics pomocí sady NVIDIA DeepStream SDK. Prozkoumáme a spustíme ukázkovou aplikaci.