GPU Kılavuzu
Bu belge TRUBA altyapısında GPU kaynaklarının kullanımını kolaylaştırmak için oluşturulmuştur.
GPU Kaynağı Talep Etme
TRUBA altyapısındaki GPU kaynakları SLURM kaynak yöneticisi ile kullanılabilir. GPU kaynağı bulunan kümelerde –-gres=gpu:n tanımı ile bu kaynaklar talep edilir.
Not
–-gres=gpu:n tanımındaki n sayısı her bir sunucuda kullanılacak GPU sayısını belirtir. Kümelerdeki sunucular üzerinde farklı sayıda GPU bulunduğu için bu tanımlamanın işi göndereceğiniz kümeye göre yapılması gerekmektedir. GPU kaynağı bulunan kümeler için hesaplama kümeleri belgesine bakınız.
sbatch ile gönderilmek üzere hazırlanan iş betiği örneği:
#!/bin/bash
#SBATCH -p akya-cuda # Kuyruk adi: Uzerinde GPU olan kuyruk olmasina dikkat edin.
#SBATCH -A [USERNAME] # Kullanici adi
#SBATCH -J print_gpu # Gonderilen isin ismi
#SBATCH -o print_gpu.out # Ciktinin yazilacagi dosya adi
#SBATCH --gres=gpu:1 # Her bir sunucuda kac GPU istiyorsunuz? Kumeleri kontrol edin.
#SBATCH -N 1 # Gorev kac node'da calisacak?
#SBATCH -n 1 # Ayni gorevden kac adet calistirilacak?
#SBATCH --cpus-per-task 10 # Her bir gorev kac cekirdek kullanacak? Kumeleri kontrol edin.
#SBATCH --time=1:00:00 # Sure siniri koyun.
# Modüller
# Çalıştırılacak komutlar
Not
Betikteki [USERNAME] yer tutucusunu kullanıcı adınızla değiştirmeyi unutmayın.
srun ile iş çalıştırmak için örnek:
srun -n 1 -N 1 -c 10 --gres=gpu:1 -p akya-cuda --time 1:00:00 # çalıştırılacak komutu buraya ekleyin.
srun kullanarak 1 saat interaktif çalışmak için örnek:
srun -n 1 -N 1 -c 10 --gres=gpu:1 -p akya-cuda --time 1:00:00 --pty /bin/bash
Uyarı
Kümede talep ettiğiniz çekirdek sayısını kullanacağınız GPU sayısına göre belirleyiniz.
barbun-cuda kümesi için 20*[GPU_SAYISI] (Bir sunucuda 2 adet P100 bulunmaktadır.)
akya-cuda kümesi için 10*[GPU_SAYISI] (Bir sunucuda 4 adet V100 bulunmaktadır.)
palamut-cuda kümesi için 16*[GPU_SAYISI] (Bir sunucuda 8 adet A100 bulunmaktadır.)
Not
palamut-cuda kümesinin kullanım izni ile ilgili bilgiler için lütfen Palamut-cuda sayfasını inceleyiniz.