Uzamsal Çözümleme kapsayıcısını yükleme ve çalıştırma (önizleme)

Azure Stack Edge, hizmet olarak donanım çözümü ve ağ veri aktarımı özelliklerine sahip yapay zeka özellikli bir uç bilgi işlem cihazıdır. Ayrıntılı hazırlık ve kurulum yönergeleri için Azure Stack Edge belgelerine bakın.

En düşük donanım gereksinimleri

• 4 GB sistem RAM'i
• 4 GB GPU RAM
• 8 çekirdek CPU
• Bir NVIDIA CUDA İşlem Özellikli GPU 6.0 veya üzeri (örneğin, NVIDIA Tesla T4, A2, 1080Ti veya 2080Ti)
• 20 GB HDD alanı

Önerilen donanım

• 32 GB sistem RAM'i
• 16 GB GPU RAM
• 8 çekirdek CPU
• İki NVIDIA CUDA İşlem Özellikli GPU 6.0 veya üzeri (örneğin, NVIDIA Tesla T4, A2, 1080Ti veya 2080Ti)
• 50 GB SSD alanı

Bu makalede aşağıdaki yazılım paketlerini indirip yükleyeceksiniz. Ana bilgisayar aşağıdakileri çalıştırabilmelidir (yönergeler için aşağıya bakın):

• NVIDIA grafik sürücüleri ve NVIDIA CUDA Araç Seti. CUDA 11.1 ile en düşük GPU sürücüsü sürümü 460'tır.
• NVIDIA MPS (Çoklu İşlem Hizmeti) için yapılandırmalar.
• Docker CE ve NVIDIA-Docker2
• Azure IoT Edge çalışma zamanı.

Örneğimizde, bir v100 GPU'ya sahip bir NCv3 serisi VM kullanıyoruz.

Azure Stack Edge portalında işlem yapılandırma

Uzamsal Analiz, bir yapay zeka çözümü çalıştırmak için Azure Stack Edge'in işlem özelliklerini kullanır. İşlem özelliklerini etkinleştirmek için şunlardan emin olun:

• Azure Stack Edge cihazınızı bağladınız ve etkinleştirdiniz .
• Cihaza erişmek için PowerShell 5.0 veya üzerini çalıştıran bir Windows istemci sisteminiz var.
• Kubernetes kümesini dağıtmak için Azure Stack Edge cihazınızı Azure portalındaki Yerel kullanıcı arabirimiaracılığıyla yapılandırmanız gerekir:
  1. Azure Stack Edge cihazınızda işlem özelliğini etkinleştirin. İşlemi etkinleştirmek için cihazınızın web arabirimindeki İşlem sayfasına gidin.
  2. İşlem için etkinleştirmek istediğiniz bir ağ arabirimi seçin ve ardından Etkinleştir'i seçin. Bu, cihazınızda bu ağ arabiriminde bir sanal anahtar oluşturur.
  3. Kubernetes test düğümü IP adreslerini ve Kubernetes dış hizmetler IP adreslerini boş bırakın.
  4. Uygula'yı seçin. Bu işlem yaklaşık iki dakika sürebilir.

Azure Stack Edge rolünü ayarlama ve IoT Hub kaynağı oluşturma

Azure portalında Azure Stack Edge kaynağınıza gidin. Genel Bakış sayfasında veya gezinti listesinde Edge işlem Başlarken düğmesini seçin. Edge işlemini yapılandır kutucuğunda Yapılandır'ı seçin.

Edge işlemini yapılandır sayfasında mevcut bir IoT Hub'ı seçin veya yeni bir tane oluşturmayı seçin. Varsayılan olarak, IoT Hub kaynağı oluşturmak için Standart (S1) fiyatlandırma katmanı kullanılır. Ücretsiz katman IoT Hub kaynağı kullanmak için bir tane oluşturun ve seçin. IoT Hub kaynağı, Azure Stack Edge kaynağı tarafından kullanılan abonelik ve kaynak grubunu kullanır

Oluştur'u belirleyin. IoT Hub kaynağı oluşturma işlemi birkaç dakika sürebilir. IoT Hub kaynağı oluşturulduktan sonra Edge'i Yapılandır işlem kutucuğu yeni yapılandırmayı gösterecek şekilde güncelleştirilir. Edge işlem rolünün yapılandırıldığını onaylamak için İşlemi yapılandır kutucuğunda Yapılandırmayıgörüntüle'yi seçin.

Edge cihazında Edge işlem rolü ayarlandığında iki cihaz oluşturur: IoT cihazı ve IoT Edge cihazı. Her iki cihaz da IoT Hub kaynağında görüntülenebilir. Azure IoT Edge Çalışma Zamanı, IoT Edge cihazında zaten çalışıyor olacaktır.

Azure Stack Edge'de MPS'yi etkinleştirme

Windows istemcisinden uzaktan bağlanmak için bu adımları izleyin.

1. Yönetici olarak bir Windows PowerShell oturumu çalıştırın.

2. İstemcinizde Windows Uzaktan Yönetim hizmetinin çalıştığından emin olun. Komut istemine şunu yazın:

   winrm quickconfig
   

   Daha fazla bilgi için bkz . Windows Uzaktan Yönetimi için yükleme ve yapılandırma.

3. Dosyasında kullanılan bağlantı dizesi bir değişken atayınhosts.

   $Name = "<Node serial number>.<DNS domain of the device>"
   

   ve <DNS domain of the device> değerini cihazınızın düğüm seri numarası ve DNS etki alanı ile değiştirin<Node serial number>. Düğüm seri numarası değerlerini, cihazınızın yerel web kullanıcı arabirimindeki Cihaz sayfasından Sertifikalar sayfasından ve DNS etki alanından alabilirsiniz.

4. Cihazınızın bu bağlantı dizesi istemcinin güvenilen konaklar listesine eklemek için aşağıdaki komutu yazın:

   Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   

5. Cihazda bir Windows PowerShell oturumu başlatın:

   Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   

   Güven ilişkisiyle ilgili bir hata görürseniz, cihazınıza yüklenen düğüm sertifikasının imzalama zincirinin cihazınıza erişen istemcide de yüklü olup olmadığını denetleyin.

6. İstendiğinde parolayı belirtin. Yerel web kullanıcı arabiriminde oturum açmak için kullanılan parolayı kullanın. Varsayılan yerel web kullanıcı arabirimi parolası şeklindedir Password1. Uzak PowerShell kullanarak cihaza başarıyla bağlandığınızda aşağıdaki örnek çıkışı görürsünüz:

   Windows PowerShell
   Copyright (C) Microsoft Corporation. All rights reserved.
   
   PS C:\WINDOWS\system32> winrm quickconfig
   WinRM service is already running on this machine.
   PS C:\WINDOWS\system32> $Name = "1HXQG13.wdshcsso.com"
   PS C:\WINDOWS\system32> Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   PS C:\WINDOWS\system32> Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   
   WARNING: The Windows PowerShell interface of your device is intended to be used only for the initial network configuration. Please engage Microsoft Support if you need to access this interface to troubleshoot any potential issues you may be experiencing. Changes made through this interface without involving Microsoft Support could result in an unsupported configuration.
   [1HXQG13.wdshcsso.com]: PS>
   

Ana bilgisayarınız bir Azure Stack Edge cihazı değilse bu yönergeleri izleyin.

Ana bilgisayara NVIDIA CUDA Araç Seti ve Nvidia grafik sürücüleri yükleme

Gerekli Nvidia grafik sürücülerini ve CUDA Toolkit'i yüklemek için aşağıdaki bash betiğini kullanın.

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/3bf863cc.pub
sudo add-apt-repository "deb http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda

Makineyi yeniden başlatın ve aşağıdaki komutu çalıştırın.

nvidia-smi

Aşağıdaki çıkışı görmelisiniz.

Ana bilgisayara Docker CE ve nvidia-docker2 yükleme

Docker CE'yi ana bilgisayara yükleyin.

sudo apt-get update
sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io

nvidia-docker-2 yazılım paketini yükleyin.

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y docker-ce nvidia-docker2
sudo systemctl restart docker

Konak bilgisayarda NVIDIA MPS'yi etkinleştirme

En iyi performans ve kullanım için NVIDIA Multiprocess Service (MPS) için ana bilgisayarın GPU'larını yapılandırın. MPS yönergelerini ana bilgisayardaki bir terminal penceresinden çalıştırın.

# Set GPU(s) compute mode to EXCLUSIVE_PROCESS
sudo nvidia-smi --compute-mode=EXCLUSIVE_PROCESS

# Cronjob for setting GPU(s) compute mode to EXCLUSIVE_PROCESS on boot
echo "SHELL=/bin/bash" > /tmp/nvidia-mps-cronjob
echo "PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin" >> /tmp/nvidia-mps-cronjob
echo "@reboot   root    nvidia-smi --compute-mode=EXCLUSIVE_PROCESS" >> /tmp/nvidia-mps-cronjob

sudo chown root:root /tmp/nvidia-mps-cronjob
sudo mv /tmp/nvidia-mps-cronjob /etc/cron.d/

# Service entry for automatically starting MPS control daemon
echo "[Unit]" > /tmp/nvidia-mps.service
echo "Description=NVIDIA MPS control service" >> /tmp/nvidia-mps.service
echo "After=cron.service" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Service]" >> /tmp/nvidia-mps.service
echo "Restart=on-failure" >> /tmp/nvidia-mps.service
echo "ExecStart=/usr/bin/nvidia-cuda-mps-control -f" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Install]" >> /tmp/nvidia-mps.service
echo "WantedBy=multi-user.target" >> /tmp/nvidia-mps.service

sudo chown root:root /tmp/nvidia-mps.service
sudo mv /tmp/nvidia-mps.service /etc/systemd/system/

sudo systemctl --now enable nvidia-mps.service

Konak bilgisayarda Azure IoT Edge'i yapılandırma

Uzamsal Analiz kapsayıcısını konak bilgisayara dağıtmak için Standart (S1) veya Ücretsiz (F0) fiyatlandırma katmanını kullanarak bir Azure IoT Hub hizmeti örneği oluşturun.

Azure IoT Hub örneği oluşturmak için Azure CLI'yi kullanın. Parametreleri uygun yerlerde değiştirin. Alternatif olarak, Azure portalda Azure IoT Hub'ı oluşturabilirsiniz.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Bkz . Kullanılabilir bölgeler için Bölge Desteği .

sudo az iot hub create --name "<iothub-group-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

Azure IoT Edge sürüm 1.0.9'u yüklemeniz gerekir. Doğru sürümü indirmek için şu adımları izleyin:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Oluşturulan listeyi kopyalayın.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Microsoft GPG ortak anahtarını yükleyin.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Cihazınızdaki paket listelerini güncelleştirin.

sudo apt-get update

1.0.9 sürümünü yükleyin:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Ardından, bağlantı dizesi kullanarak ana bilgisayarı IoT Hub örneğinize IoT Edge cihazı olarak kaydedin.

IoT Edge cihazını Azure IoT Hub'ınıza bağlamanız gerekir. daha önce oluşturduğunuz IoT Edge cihazından bağlantı dizesi kopyalamanız gerekir. Alternatif olarak, Azure CLI'da aşağıdaki komutu çalıştırabilirsiniz.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

Ana bilgisayarda düzenleme için açın /etc/iotedge/config.yaml . değerini bağlantı dizesi ile değiştirinADD DEVICE CONNECTION STRING HERE. Dosyayı kaydedip kapatın Konak bilgisayarda IoT Edge hizmetini yeniden başlatmak için bu komutu çalıştırın.

sudo systemctl restart iotedge

Uzamsal Analiz kapsayıcısını Azure portalından veya Azure CLI'dan konak bilgisayarda IoT Modülü olarak dağıtın. Portalı kullanıyorsanız görüntü URI'sini Azure Container Registry'nizin konumuna ayarlayın.

Azure CLI kullanarak kapsayıcıyı dağıtmak için aşağıdaki adımları kullanın.

Uzamsal Analizi çalıştırmak için GPU'ya sahip bir Azure Sanal Makinesi de kullanılabilir. Aşağıdaki örnek, bir v100 GPU'ya sahip bir NCv3 serisi VM kullanacaktır.

Sanal makineyi oluşturma

Azure portalında Sanal Makine Oluşturma sihirbazını açın.

VM'nize bir ad verin ve (ABD) Batı ABD 2 bölgesini seçin.

VM boyutunu bulmak için "Tüm boyutları göster" seçeneğini belirleyin ve ardından "N Serisi" listesini görüntüleyin ve aşağıda gösterilen NC6s_v3 seçin.

Ardından VM'yi oluşturun. Oluşturulduktan sonra Azure portalında VM kaynağına gidin ve sol bölmeden öğesini seçin Extensions . Tüm kullanılabilir uzantıları içeren uzantılar penceresini açmak için "Ekle" seçeneğini belirleyin. öğesini arayın ve seçin NVIDIA GPU Driver Extension, oluştur'u seçin ve sihirbazı tamamlayın.

Uzantı başarıyla uygulandıktan sonra Azure portalında VM ana sayfasına gidin ve öğesini seçin Connect. VM'ye SSH veya RDP aracılığıyla erişilebilir. RDP, görselleştirici penceresinin görüntülenmesini sağladığından yararlıdır (daha sonra açıklanmıştır). Bu adımları izleyerek ve VM'ye uzak masaüstü bağlantısı açarak RDP erişimini yapılandırın.

Grafik Sürücülerinin Yüklü Olduğunu Doğrulama

Grafik sürücülerinin başarıyla yüklendiğini doğrulamak için aşağıdaki komutu çalıştırın.

nvidia-smi

Aşağıdaki çıkışı görmelisiniz.

Docker CE ve nvidia-docker2'yi VM'ye yükleme

Vm'ye Docker CE ve nvidia-docker2 yüklemek için aşağıdaki komutları teker teker çalıştırın.

Docker CE'yi ana bilgisayara yükleyin.

sudo apt-get update

sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

sudo apt-get update

sudo apt-get install -y docker-ce docker-ce-cli containerd.io

nvidia-docker-2 yazılım paketini yükleyin.

DISTRIBUTION=$(. /etc/os-release;echo $ID$VERSION_ID)

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -

curl -s -L https://nvidia.github.io/nvidia-docker/$DISTRIBUTION/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update

sudo apt-get install -y docker-ce nvidia-docker2

sudo systemctl restart docker

Vm'nizi ayarlayıp yapılandırdığınıza göre, Azure IoT Edge'i yapılandırmak için aşağıdaki adımları izleyin.

VM'de Azure IoT Edge'i yapılandırma

Uzamsal Analiz kapsayıcısını VM'ye dağıtmak için Standart (S1) veya Ücretsiz (F0) fiyatlandırma katmanını kullanarak bir Azure IoT Hub hizmeti örneği oluşturun.

Azure IoT Hub örneği oluşturmak için Azure CLI'yi kullanın. Parametreleri uygun yerlerde değiştirin. Alternatif olarak, Azure portalda Azure IoT Hub'ı oluşturabilirsiniz.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Bkz . Kullanılabilir bölgeler için Bölge Desteği .

sudo az iot hub create --name "<iothub-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

Azure IoT Edge sürüm 1.0.9'u yüklemeniz gerekir. Doğru sürümü indirmek için şu adımları izleyin:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Oluşturulan listeyi kopyalayın.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Microsoft GPG ortak anahtarını yükleyin.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Cihazınızdaki paket listelerini güncelleştirin.

sudo apt-get update

1.0.9 sürümünü yükleyin:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Ardından, bağlantı dizesi kullanarak VM'yi IoT Hub örneğinize IoT Edge cihazı olarak kaydedin.

IoT Edge cihazını Azure IoT Hub'ınıza bağlamanız gerekir. daha önce oluşturduğunuz IoT Edge cihazından bağlantı dizesi kopyalamanız gerekir. Alternatif olarak, Azure CLI'da aşağıdaki komutu çalıştırabilirsiniz.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

Vm'de düzenleme için açın /etc/iotedge/config.yaml . değerini bağlantı dizesi ile değiştirinADD DEVICE CONNECTION STRING HERE. Dosyayı kaydedip kapatın Vm'de IoT Edge hizmetini yeniden başlatmak için bu komutu çalıştırın.

sudo systemctl restart iotedge

Uzamsal Analiz kapsayıcısını Azure portalından veya Azure CLI'dan VM'de IoT Modülü olarak dağıtın. Portalı kullanıyorsanız görüntü URI'sini Azure Container Registry'nizin konumuna ayarlayın.

Azure CLI kullanarak kapsayıcıyı dağıtmak için aşağıdaki adımları kullanın.