Bu eğitim materyali NVIDIA’nın Accelerated Computing eğitim materyali temel alınarak oluşturulmuştur.
Heterojen Hesaplamaya Giriş
Öğrenim Hedefleri
Gecikme süresi (latency) hedefli cihazlarla (CPU), üretilen iş (throughput) hedefli cihazlar (GPU) arasındaki temel farkları kavramak.
İşlemci (CPU) ve grafik işlem ünitelerini (GPU) birlikte kullanmanın önemini anlamak.
Heterojen Hesaplama
Heterojen hesaplama birden fazla hesaplama ünitesi kullanarak (bu üniteler birbirleriyle aynı veya farklı olabilir) hesaplama yapma işlemidir. Bu noktada yapılan işlem ve bu işlemin yapılacağı donanım arasında önemli bir ilişki vardır. Bu ilişkinin daha iyi anlaşılabilmesi için işlemci (CPU) ve grafik işlem üniteleri (GPU) hakkında bazı bilgiler ve aralarındaki farklar ilerleyen bölümde bulunabilir.
İşlemciler (CPU) : Gecikme Süresi Hedefli Cihazlar
İşlemcilerin başlıca özelliklerinden ilki aritmetik ve mantıksal işlemleri gerçekleştiren Aritmetik Mantık Biriminin maksimum performans elde edilecek şekilde düzenlenmiş olmasıdır. İşlemcilerde güçlü Aritmetik Mantık Birimi, aritmetik ve mantık işlemlerinin düşük gecikme süreleri ile işlenmesini sağlar.
İşlemcilerin bir diğer özelliği ise büyük önbelleğe sahip olmalarıdır. Önbellek, uzun süren bellek işlemlerinin gecikme süresinde etkisini azaltmak için oldukça önemlidir.
İşlemcilerde kullanılan ve kontrol sinyallerini üreten kontrol ünitesi de oldukça gelişmiştir. Dallanma öngörüsü (ing., branch prediction) ve Veri Yönlendirme (ing., data forwarding) yöntemleriyle dallanma ve veri gecikmelerini azaltmak için kullanılan başlıca yöntemlerdendir.
Grafik İşlem Ünitesi (GPU) : Üretilen İş Hedefli Cihazlar
Grafik işlem ünitelerindeki önbellek genellikle küçüktür. Küçük boyutlu depolama üniteleri fiziksel nedenlerden dolayı daha hızlıdır ve küçük önbellek boyutları, grafik işlem ünitelerinde bellek ile ilgili işlerde üretilen iş oranının artmasını sağlar.
Kontrol sinyallerini üreten kontrol ünitesi işlemcilere göre oldukça basittir. Dallanma öngörüsü veya veri yönlendirme içermezler.
Aritmetik Mantık Birimleri enerji açısından maksimum verimli olacak şekilde tasarlanır. İşlemcilerin aksine işlemler uzun süren gecikme süreleri ile sonuçlanabilir ancak pipeline kullanımı sonucu yüksek iş/zaman oranına ulaşılabilir.
Grafik işlem üniteleri tasarımları gereği yüksek sayılarda iş parçacığı içerirler.
İşlemciler (CPU) Ve Grafik İşlem Ünitesi (GPU)
İşlemciler gecikmenin önemli olduğu, sıralı şekilde çalışan kısımlarda grafik işlem ünitelerinden 10x+ hızlı olabilir.
Grafik işlem üniteleri üretilen iş miktarının önemli olduğu paralel kısımlarda işlemcilerden 10x+ hızlı olabilir.
Uygulamanın uygun kısımlarında işlemci uygun kısımlarında grafik işlem ünitesi kullanımı genel performans açısından önemli sonuçlar verebilir.
Heterojen Paralel Hesaplama ve Alanlar
Heterojen paralel hesaplamanın sıklıkla kullanıldığı bazı alanlar:
Finansal Analiz
Dijital Ses İşleme
Bilimsel Simülasyonlar
Dijital Video İşleme
Mühendislik Simülasyonlar
Bilgisayarlı Görü İşlemleri
Yoğun Veri İçeren Analizler
İstatiksel Modelleme
Işın İzleme
Medikal Gözlem
Elektronik Tasarım Otomasyon
İnteraktif Fizik