Oefening: de NVIDIA DeepStream-afhankelijkheden en SDK installeren

Voltooid

Voor de NVIDIA DeepStream SDK is een aantal vereiste software vereist. We doorlopen de installatie van deze afhankelijkheden en leggen hun rollen uit.

1. Installeer de afhankelijkheidspakketten die hulpprogramma's bieden voor het compileren van C- en C++-toepassingen vanuit de bron. U ziet dat er meerdere gstreamerop -gebaseerde invoegtoepassingen zijn opgenomen. Ze zijn nodig omdat NVIDIA DeepStream gebruikmaakt van de GStreamer-bibliotheek voor mediaverwerking en grafieksamenstelling in DeepStream-toepassingen. Gebruik de volgende opdrachten om deze vereisten te installeren op de hostterminal:

   sudo apt install \
   libssl1.0.0 \
   libgstreamer1.0-0 \
   gstreamer1.0-tools \
   gstreamer1.0-plugins-good \
   gstreamer1.0-plugins-bad \
   gstreamer1.0-plugins-ugly \
   gstreamer1.0-libav \
   libgstrtspserver-1.0-0 \
   libjansson4 \
   gcc \
   make \
   git \
   python3
   

2. Installeer de NVIDIA-stuurprogrammaversie 470.63.01 vanaf de pagina NVIDIA Unix-stuurprogramma's op: https://www.nvidia.com/Download/driverResults.aspx/179599/en-us

   1. Het installatiepakket moet worden gedownload naar de map Downloads van uw lokale gebruiker. Ga naar de downloadlocatie en installeer het pakket met behulp van deze opdrachten:

   chmod 755 NVIDIA-Linux-x86_64-470.63.01.run
   sudo ./NVIDIA-Linux-x86_64-470.63.01.run 
   

3. Installeer CUDA Toolkit 11.4 door de op Ubuntu gebaseerde CUDA-opslagplaats van NVIDIA toe te voegen aan uw APT-bronnen. Met de CUDA Toolkit kan uw ontwikkelomgeving GPU-versnelling gebruiken op apparaten met compatibele hardware. De toolkit bevat speciale compilerhulpprogramma's en bibliotheken waarmee u met GPU versnelde toepassingen kunt bouwen en uitvoeren. Ook worden de compatibele stuurprogramma's automatisch geïnstalleerd om actieve GPU-versnelde toepassingen op het hostsysteem toe te staan.

   Als u CUDA Toolkit 11.4 wilt installeren, voert u deze opdrachten uit op de hostterminal:

   wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
   sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
   wget https://developer.download.nvidia.com/compute/cuda/11.4.1/local_installers/cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
   sudo dpkg -i cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
   sudo apt-key add /var/cuda-repo-ubuntu1804-11-4-local/7fa2af80.pub
   sudo apt-get update
   sudo apt-get -y install cuda
   

4. Installeer TensorRT 8.0.1 GA van NVIDIA. TensorRT is een SDK die krachtige implementatie van deep learning-deductiealgoritmen biedt via hardwareversnelling. Het omvat verschillende optimalisaties voor het leveren van lage latentie en hoge doorvoer in toepassingen die gebruikmaken van Deep Learning. Als u het wilt installeren, hebt u een LIDMAATSCHAP van het NVIDIA Developer Program nodig. Als u nog geen account hebt, wordt u gevraagd er een te maken wanneer u de volgende stappen uitvoert. Met dit gratis lidmaatschap hebt u toegang tot de benodigde installatiebestanden.

   Notitie

   U moet een browser op uw hostcomputer hebben om dit proces te voltooien.

   Als u er nog geen hebt, kunt u de Firefox-browser eenvoudig installeren op uw hostcomputer met behulp van deze opdracht: sudo apt install firefox

   1. Voeg de CUDA-opslagplaats toe aan uw apt-bronnen door de volgende opdrachten uit te voeren:

      echo "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda-repo.list
      wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
      sudo apt-key add 7fa2af80.pub
      sudo apt-get update
      

   2. Open een browser op de hostcomputer en download het lokale opslagplaatspakket TensorRT 8.0.1 voor Ubuntu 18.04 en CUDA 11.3 DEB.

   3. Het installatiepakket moet worden gedownload naar de map Downloads van uw lokale gebruiker. Ga naar de downloadlocatie en installeer het pakket met behulp van deze opdrachten:

      cd ~/Downloads
      sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626_1-1_amd64.deb 
      sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626/7fa2af80.pub 
      sudo apt-get update 
      sudo apt-get install \
      libnvinfer8=8.0.1-1+cuda11.3 \
      libnvinfer-plugin8=8.0.1-1+cuda11.3 \
      libnvparsers8=8.0.1-1+cuda11.3 \
      libnvonnxparsers8=8.0.1-1+cuda11.3 \
      libnvinfer-bin=8.0.1-1+cuda11.3 \
      libnvinfer-dev=8.0.1-1+cuda11.3 \
      libnvinfer-plugin-dev=8.0.1-1+cuda11.3 \
      libnvparsers-dev=8.0.1-1+cuda11.3 \
      libnvonnxparsers-dev=8.0.1-1+cuda11.3 \
      libnvinfer-samples=8.0.1-1+cuda11.3 \
      libnvinfer-doc=8.0.1-1+cuda11.3
      

5. Installeer librdkafka deze om de Kafka-protocoladapter in te schakelen die wordt gebruikt door de DeepStream-berichtbroker. Open een terminal en voer de volgende opdrachten uit:

   cd ~
   git clone https://github.com/edenhill/librdkafka.git
   cd librdkafka
   git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
   ./configure
   make sudo make install
   sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.0/lib
   sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.0/lib
   

6. Installeer de DeepStream SDK. De SDK bevat alle bibliotheken, ontwikkelingsbronnen en voorbeelden om u op weg te helpen met het bouwen van aangepaste IVA-pijplijnen.

   1. Open een browser op de hostcomputer. Ga naar de NVIDIA DeepStream - versie 6.0.0-1 Downloaden.

   2. Het moet worden gedownload naar de map Downloads van uw lokale gebruiker. Ga naar de downloadlocatie en installeer het pakket met behulp van deze opdrachten:

   cd ~/Downloads
   sudo apt-get install ./deepstream-6.0_6.0.0-1_amd64.deb
   

U bent nu klaar om te beginnen met het bouwen van Intelligent Video Analytics-toepassingen met behulp van de NVIDIA DeepStream SDK. We onderzoeken en voeren een voorbeeldtoepassing uit.