A Térinformatikai tároló telepítése és futtatása (előzetes verzió)

Az Azure Stack Edge egy hardveres szolgáltatásként nyújtott megoldás, és egy hálózati adatátviteli képességekkel rendelkező, AI-kompatibilis peremhálózati számítástechnikai eszköz. Részletes előkészítési és beállítási utasításokért tekintse meg az Azure Stack Edge dokumentációját.

Minimális hardverkövetelmények

• 4 GB rendszer RAM
• 4 GB GPU RAM
• 8 magos PROCESSZOR
• Egy NVIDIA CUDA számítási képességű GPU 6.0 vagy újabb (például NVIDIA Tesla T4, A2, 1080Ti vagy 2080Ti)
• 20 GB HDD-tárhely

Javasolt hardver

• 32 GB rendszer RAM
• 16 GB GPU RAM
• 8 magos PROCESSZOR
• Két NVIDIA CUDA Számítási képes gpu 6.0 vagy újabb (például NVIDIA Tesla T4, A2, 1080Ti vagy 2080Ti)
• 50 GB SSD-tárhely

Ebben a cikkben a következő szoftvercsomagokat fogja letölteni és telepíteni. A gazdaszámítógépnek képesnek kell lennie a következők futtatására (az utasításokért lásd alább):

• NVIDIA grafikus illesztőprogramok és NVIDIA CUDA eszközkészlet. A GPU-illesztő minimális verziója 460 A CUDA 11.1-es verziójával.
• Az NVIDIA MPS (többfolyamatos szolgáltatás) konfigurációi.
• Docker CE és NVIDIA-Docker2
• Azure IoT Edge-futtatókörnyezet .

A példánkban egy NCv3 sorozatú virtuális gépet használunk, amely egy v100 GPU-val rendelkezik.

Számítás konfigurálása az Azure Stack Edge portálon

A térinformatikai elemzés az Azure Stack Edge számítási funkcióit használja egy AI-megoldás futtatásához. A számítási funkciók engedélyezéséhez győződjön meg arról, hogy:

• Csatlakoztatta és aktiválta az Azure Stack Edge-eszközt.
• Az eszköz eléréséhez PowerShell 5.0-s vagy újabb verzióját futtató Windows-ügyfélrendszerrel rendelkezik.
• Kubernetes-fürt üzembe helyezéséhez konfigurálnia kell az Azure Stack Edge-eszközt az Azure Portal helyi felhasználói felületénkeresztül:
  1. Engedélyezze a számítási funkciót az Azure Stack Edge-eszközön. A számítás engedélyezéséhez nyissa meg az eszköz webes felületén található Számítási lapot.
  2. Válasszon ki egy hálózati adaptert, amelyet engedélyezni szeretne a számításhoz, majd válassza az Engedélyezés lehetőséget. Ez létrehoz egy virtuális kapcsolót az eszközön, az adott hálózati adapteren.
  3. Hagyja üresen a Kubernetes tesztcsomópont IP-címét és a Kubernetes külső szolgáltatások IP-címét.
  4. Válassza az Alkalmazás lehetőséget. Ez a művelet körülbelül két percet vehet igénybe.

Azure Stack Edge-szerepkör beállítása és IoT Hub-erőforrás létrehozása

Az Azure Portalon keresse meg az Azure Stack Edge-erőforrást. Az Áttekintés lapon vagy a navigációs listában válassza az Edge compute Get started (Első lépések) gombot. Az Edge-számítás konfigurálása csempén válassza a Konfigurálás lehetőséget.

Az Edge-számítás konfigurálása lapon válasszon ki egy meglévő IoT Hubot, vagy hozzon létre egy újat. Alapértelmezés szerint egy standard (S1) tarifacsomagot használ egy IoT Hub-erőforrás létrehozásához. Ha ingyenes szintű IoT Hub-erőforrást szeretne használni, hozzon létre egyet, majd válassza ki. Az IoT Hub-erőforrás ugyanazt az előfizetést és erőforráscsoportot használja, amelyet az Azure Stack Edge-erőforrás használ

Válassza a Létrehozás lehetőséget. Az IoT Hub-erőforrás létrehozása eltarthat néhány percig. Az IoT Hub-erőforrás létrehozása után az Edge konfigurálása számítási csempe frissül az új konfiguráció megjelenítéséhez. Ha ellenőrizni szeretné, hogy az Edge számítási szerepkör konfigurálva lett-e, válassza a Konfiguráció megtekintése lehetőséget a Számítási csempe konfigurálása lapon.

Amikor az Edge számítási szerepkör be van állítva az Edge-eszközön, két eszközt hoz létre: egy IoT-eszközt és egy IoT Edge-eszközt. Mindkét eszköz megtekinthető az IoT Hub-erőforrásban. Az Azure IoT Edge-futtatókörnyezet már fut az IoT Edge-eszközön.

MPS engedélyezése az Azure Stack Edge-en

Az alábbi lépéseket követve távolról csatlakozhat Windows-ügyfélről.

1. Windows PowerShell-munkamenet futtatása rendszergazdaként.

2. Győződjön meg arról, hogy a Windows távfelügyeleti szolgáltatás fut az ügyfélen. A parancssorba írja be a következőt:

   winrm quickconfig
   

   További információ: Telepítés és konfiguráció a Windows távfelügyelethez.

3. Rendeljen hozzá egy változót a fájlban hosts használt kapcsolati sztring.

   $Name = "<Node serial number>.<DNS domain of the device>"
   

   Cserélje le és <DNS domain of the device> írja be <Node serial number> az eszköz csomópont sorozatszámát és DNS-tartományát. A csomópont sorozatszámának értékeit a Tanúsítványok lapról és a DNS-tartományból szerezheti be az eszköz helyi webes felhasználói felületén található Eszköz lapról.

4. Ha hozzá szeretné adni ezt a kapcsolati sztring az eszközhöz az ügyfél megbízható gazdagépeinek listájához, írja be a következő parancsot:

   Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   

5. Windows PowerShell-munkamenet indítása az eszközön:

   Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   

   Ha a megbízhatósági kapcsolattal kapcsolatos hibát lát, ellenőrizze, hogy az eszközre feltöltött csomóponttanúsítvány aláírási lánca is telepítve van-e az eszközhöz hozzáférő ügyfélen.

6. Adja meg a jelszót, amikor a rendszer kéri. Használja ugyanazt a jelszót, amelyet a helyi webes felhasználói felületre való bejelentkezéshez használ. A helyi webes felhasználói felület alapértelmezett jelszava a következő Password1: . Ha sikeresen csatlakozik az eszközhöz távoli PowerShell használatával, a következő mintakimenet jelenik meg:

   Windows PowerShell
   Copyright (C) Microsoft Corporation. All rights reserved.
   
   PS C:\WINDOWS\system32> winrm quickconfig
   WinRM service is already running on this machine.
   PS C:\WINDOWS\system32> $Name = "1HXQG13.wdshcsso.com"
   PS C:\WINDOWS\system32> Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   PS C:\WINDOWS\system32> Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   
   WARNING: The Windows PowerShell interface of your device is intended to be used only for the initial network configuration. Please engage Microsoft Support if you need to access this interface to troubleshoot any potential issues you may be experiencing. Changes made through this interface without involving Microsoft Support could result in an unsupported configuration.
   [1HXQG13.wdshcsso.com]: PS>
   

Kövesse ezeket az utasításokat, ha a gazdaszámítógép nem Azure Stack Edge-eszköz.

NVIDIA CUDA Eszközkészlet és Nvidia grafikus illesztőprogramok telepítése a gazdaszámítógépre

A következő bash-szkripttel telepítse a szükséges Nvidia grafikus illesztőprogramokat és a CUDA-eszközkészletet.

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/3bf863cc.pub
sudo add-apt-repository "deb http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda

Indítsa újra a gépet, és futtassa a következő parancsot.

nvidia-smi

A következő kimenetnek kell megjelennie.

A Docker CE és az nvidia-docker2 telepítése a gazdaszámítógépre

Telepítse a Docker CE-t a gazdaszámítógépre.

sudo apt-get update
sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io

Telepítse az nvidia-docker-2 szoftvercsomagot.

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y docker-ce nvidia-docker2
sudo systemctl restart docker

NVIDIA MPS engedélyezése a gazdaszámítógépen

A legjobb teljesítmény és kihasználtság érdekében konfigurálja a gazdaszámítógép GPU-jait az NVIDIA Multiprocess Service (MPS) számára. Futtassa az MPS-utasításokat egy terminálablakból a gazdaszámítógépen.

# Set GPU(s) compute mode to EXCLUSIVE_PROCESS
sudo nvidia-smi --compute-mode=EXCLUSIVE_PROCESS

# Cronjob for setting GPU(s) compute mode to EXCLUSIVE_PROCESS on boot
echo "SHELL=/bin/bash" > /tmp/nvidia-mps-cronjob
echo "PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin" >> /tmp/nvidia-mps-cronjob
echo "@reboot   root    nvidia-smi --compute-mode=EXCLUSIVE_PROCESS" >> /tmp/nvidia-mps-cronjob

sudo chown root:root /tmp/nvidia-mps-cronjob
sudo mv /tmp/nvidia-mps-cronjob /etc/cron.d/

# Service entry for automatically starting MPS control daemon
echo "[Unit]" > /tmp/nvidia-mps.service
echo "Description=NVIDIA MPS control service" >> /tmp/nvidia-mps.service
echo "After=cron.service" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Service]" >> /tmp/nvidia-mps.service
echo "Restart=on-failure" >> /tmp/nvidia-mps.service
echo "ExecStart=/usr/bin/nvidia-cuda-mps-control -f" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Install]" >> /tmp/nvidia-mps.service
echo "WantedBy=multi-user.target" >> /tmp/nvidia-mps.service

sudo chown root:root /tmp/nvidia-mps.service
sudo mv /tmp/nvidia-mps.service /etc/systemd/system/

sudo systemctl --now enable nvidia-mps.service

Az Azure IoT Edge konfigurálása a gazdaszámítógépen

A térinformatikai tároló gazdaszámítógépen való üzembe helyezéséhez hozzon létre egy Azure IoT Hub-szolgáltatáspéldányt a Standard (S1) vagy az ingyenes (F0) tarifacsomag használatával.

Az Azure CLI használatával hozza létre az Azure IoT Hub egy példányát. Szükség esetén cserélje le a paramétereket. Másik lehetőségként létrehozhatja az Azure IoT Hubot az Azure Portalon.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Tekintse meg az elérhető régiók régiótámogatását .

sudo az iot hub create --name "<iothub-group-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

Telepítenie kell az Azure IoT Edge 1.0.9-es verzióját. A megfelelő verzió letöltéséhez kövesse az alábbi lépéseket:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Másolja ki a létrehozott listát.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Telepítse a Microsoft GPG nyilvános kulcsát.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Frissítse a csomaglistákat az eszközön.

sudo apt-get update

Telepítse az 1.0.9-es kiadást:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Ezután regisztrálja a gazdaszámítógépet IoT Edge-eszközként az IoT Hub-példányban egy kapcsolati sztring használatával.

Csatlakoztatnia kell az IoT Edge-eszközt az Azure IoT Hubhoz. A kapcsolati sztring a korábban létrehozott IoT Edge-eszközről kell másolnia. Másik lehetőségként futtathatja az alábbi parancsot az Azure CLI-ben.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

A gazdaszámítógépen nyissa meg /etc/iotedge/config.yaml szerkesztésre. Cserélje le ADD DEVICE CONNECTION STRING HERE a kapcsolati sztring. Mentse és zárja be a fájlt. Futtassa ezt a parancsot az IoT Edge szolgáltatás újraindításához a gazdaszámítógépen.

sudo systemctl restart iotedge

A térinformatikai tároló üzembe helyezése IoT-modulként a gazdaszámítógépen az Azure Portalról vagy az Azure CLI-ből. Ha a portált használja, állítsa a rendszerkép URI-ját az Azure Container Registry helyére.

Az alábbi lépésekkel üzembe helyezheti a tárolót az Azure CLI használatával.

A GPU-val rendelkező Azure-beli virtuális gépek térbeli elemzések futtatására is használhatók. Az alábbi példa egy NCv3 sorozatú virtuális gépet fog használni, amely egy v100 GPU-val rendelkezik.

A virtuális gép létrehozása

Nyissa meg a Virtuális gép létrehozása varázslót az Azure Portalon.

Adjon nevet a virtuális gépnek, és válassza ki az USA 2. nyugati régióját.

A virtuális gép méretének megkereséséhez válassza a "Minden méret megjelenítése" lehetőséget, majd tekintse meg az "N sorozat" listát, majd válassza az alább látható NC6s_v3.

Ezután hozza létre a virtuális gépet. A létrehozás után lépjen a virtuálisgép-erőforrásra az Azure Portalon, és válassza ki Extensions a bal oldali panelen. Válassza a "Hozzáadás" lehetőséget a bővítmények ablakának az összes elérhető bővítményrel való megjelenítéséhez. Keresse meg és válassza ki NVIDIA GPU Driver Extension, válassza a létrehozás lehetőséget, és fejezze be a varázslót.

A bővítmény sikeres alkalmazása után lépjen a virtuális gép főoldalára az Azure Portalon, és válassza a lehetőséget Connect. A virtuális gép SSH-val vagy RDP-vel is elérhető. Az RDP hasznos, mivel lehetővé teszi a vizualizáció ablakának megtekintését (ezt később ismerteti). Konfigurálja az RDP-hozzáférést az alábbi lépések végrehajtásával és a virtuális gép távoli asztali kapcsolatának megnyitásával.

A grafikus illesztőprogramok telepítésének ellenőrzése

Futtassa a következő parancsot annak ellenőrzéséhez, hogy a grafikus illesztőprogramok telepítése sikeresen megtörtént-e.

nvidia-smi

A következő kimenetnek kell megjelennie.

A Docker CE és az nvidia-docker2 telepítése a virtuális gépre

Futtassa egyenként a következő parancsokat a Docker CE és az nvidia-docker2 virtuális gépen való telepítéséhez.

Telepítse a Docker CE-t a gazdaszámítógépre.

sudo apt-get update

sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

sudo apt-get update

sudo apt-get install -y docker-ce docker-ce-cli containerd.io

Telepítse az nvidia-docker-2 szoftvercsomagot.

DISTRIBUTION=$(. /etc/os-release;echo $ID$VERSION_ID)

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -

curl -s -L https://nvidia.github.io/nvidia-docker/$DISTRIBUTION/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update

sudo apt-get install -y docker-ce nvidia-docker2

sudo systemctl restart docker

Most, hogy beállította és konfigurálta a virtuális gépet, kövesse az alábbi lépéseket az Azure IoT Edge konfigurálásához.

Az Azure IoT Edge konfigurálása a virtuális gépen

A térinformatikai tároló virtuális gépen való üzembe helyezéséhez hozzon létre egy Azure IoT Hub-szolgáltatáspéldányt a Standard (S1) vagy az ingyenes (F0) tarifacsomag használatával.

Az Azure CLI használatával hozza létre az Azure IoT Hub egy példányát. Szükség esetén cserélje le a paramétereket. Másik lehetőségként létrehozhatja az Azure IoT Hubot az Azure Portalon.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Tekintse meg az elérhető régiók régiótámogatását .

sudo az iot hub create --name "<iothub-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

Telepítenie kell az Azure IoT Edge 1.0.9-es verzióját. A megfelelő verzió letöltéséhez kövesse az alábbi lépéseket:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Másolja ki a létrehozott listát.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Telepítse a Microsoft GPG nyilvános kulcsát.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Frissítse a csomaglistákat az eszközön.

sudo apt-get update

Telepítse az 1.0.9-es kiadást:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Ezután regisztrálja a virtuális gépet IoT Edge-eszközként az IoT Hub-példányban egy kapcsolati sztring használatával.

Csatlakoztatnia kell az IoT Edge-eszközt az Azure IoT Hubhoz. A kapcsolati sztring a korábban létrehozott IoT Edge-eszközről kell másolnia. Másik lehetőségként futtathatja az alábbi parancsot az Azure CLI-ben.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

A virtuális gépen nyissa meg /etc/iotedge/config.yaml szerkesztésre. Cserélje le ADD DEVICE CONNECTION STRING HERE a kapcsolati sztring. Mentse és zárja be a fájlt. Futtassa ezt a parancsot az IoT Edge szolgáltatás újraindításához a virtuális gépen.

sudo systemctl restart iotedge

Helyezze üzembe a térinformatikai tárolót IoT-modulként a virtuális gépen az Azure Portalon vagy az Azure CLI-n. Ha a portált használja, állítsa a rendszerkép URI-ját az Azure Container Registry helyére.

Az alábbi lépésekkel üzembe helyezheti a tárolót az Azure CLI használatával.