Ekran Kartlı Sunucu Satın Al: GPU Seçim Rehberi

Ekran kartlı sunucu satın al, işlemci (CPU) ve belleğin yanında bir veya birden fazla grafik işlemcisi (GPU) barındıran, yapay zekâ eğitimi, çıkarım (inference) ve render gibi paralel hesaplama iş yüklerine ayrılmış sunucu türüdür. Bu sunucular, matris ve vektör işlemlerini binlerce küçük çekirdeğe dağıttığı için CPU tabanlı kurulumlara göre belirgin hız farkı yaratır. Yazı, GPU seçiminde VRAM, CUDA ve veri yolu kararlarını, satın alma adımlarını ve sık yapılan hataları kapsar.

Ekran kartlı sunucu satın alırken hangi GPU özelliklerine bakılır?

GPU seçiminde ilk ölçüt genellikle video belleği (VRAM) olur, çünkü model ağırlıkları ve ara aktivasyonlar doğrudan VRAM'e yüklenir. VRAM yetmediğinde eğitim ya hiç başlamaz ya da diske taşma (offload) nedeniyle ciddi yavaşlar. Bu nedenle satın alma öncesinde hedef modelin yaklaşık bellek ihtiyacını hesaplamak gerekir.

İkinci ölçüt bellek bant genişliğidir: aynı VRAM kapasitesine sahip iki kart, farklı bant genişliğiyle çok farklı eğitim süreleri üretebilir. Üçüncü ölçüt ise mimari ve yazılım desteğidir; CUDA çekirdek sayısı, tensor çekirdeği varlığı ve sürücü-kütüphane uyumu doğrudan kullanılabilirliği belirler. Aşağıdaki tablo, karar verirken hangi özelliğin hangi iş yükünde öne çıktığını özetler.

CUDA nedir ve GPU sunucu seçimini neden etkiler?

CUDA, NVIDIA grafik işlemcilerinde paralel hesaplama yapmayı sağlayan yazılım platformudur ve PyTorch, TensorFlow gibi çerçevelerin GPU üzerinde çalışmasının temelini oluşturur. Bir sunucuda CUDA desteği yoksa popüler yapay zekâ kütüphanelerinin çoğu ya CPU'ya düşer ya da hiç çalışmaz. Bu yüzden satın alma kararında kartın yalnızca teknik özellikleri değil, hedef yazılım yığınıyla uyumu da kontrol edilir.

Pratikte CUDA uyumu üç katmanda doğrulanır: sürücü sürümü, CUDA araç seti (toolkit) sürümü ve çerçeve sürümü. Örneğin eski bir sürücüyle yeni bir çerçeve sürümü çalışmayabilir; bu durumda sunucu sağlayıcısından sürücü güncelleme yetkisi istemek gerekir. Kurulum sonrası doğrulama birkaç komutla yapılabilir:

nvidia-smi
nvcc --version
python -c "import torch; print(torch.cuda.is_available())"

İlk komut kartı ve sürücü sürümünü, ikincisi CUDA araç setini, üçüncüsü ise çerçevenin GPU'yu görüp görmediğini gösterir. torch.cuda.is_available() çıktısı False dönerse sorun neredeyse her zaman sürücü-kütüphane uyumsuzluğudur; donanımı değiştirmeden önce bu katmanı düzeltmek gerekir.

Ekran kartlı sanal sunucu mu, fiziksel GPU sunucu mu seçilmeli?

Ekran kartlı sanal sunucu (GPU VPS), GPU kaynağının sanallaştırma katmanı üzerinden paylaştırıldığı ve genellikle daha hızlı başlatılan bir seçenektir. Fiziksel GPU sunucusu ise kartın tamamının tek kiracıya ayrıldığı, sürücü ve çekirdek üzerinde daha geniş kontrol sunan kurulumdur. İkisi arasındaki seçim, iş yükünün sürekliliğine ve donanım kontrolü ihtiyacına bağlıdır.

Karar kuralı nettir: kısa süreli denemeler, prototip çalışmaları ve değişken yükler için sanal seçenek daha ekonomik olur; haftalar süren eğitim koşuları, özel çekirdek yamaları veya çoklu GPU topolojisi gerekiyorsa fiziksel sunucu tercih edilir. Aşağıdaki liste bu ayrımı hızlıca yapmanızı sağlar:

• Sanal seçin çünkü: dakikalar içinde kurulur, kaynak artırıp azaltabilirsiniz, düşük başlangıç maliyeti sunar.
• Fiziksel seçin çünkü: GPU'nun tamamı size aittir, sürücü ve BIOS düzeyinde kontrol gerekir, uzun süreli kararlı yük profili ister.
• İkisini birlikte kullanın çünkü: geliştirme sanal ortamda, üretim eğitimi fiziksel sunucuda yürütülebilir.

Bu ayrımı daha ayrıntılı görmek için ekran kartlı fiziksel sunucu kiralama yazısındaki adım listesi yol gösterici olur.

Yapay zekâ için GPU sunucu nasıl planlanır?

Yapay zekâ için GPU sunucu planlaması, model boyutu ile donanım kapasitesini eşleştirmekle başlar. Eğitimde yalnızca model ağırlıkları değil, gradyanlar ve iyileştirici (optimizer) durumları da bellekte tutulur; bu yüzden gereken VRAM, model dosyasının birkaç katı olabilir. Çıkarım tarafında ise gereksinim genellikle daha düşüktür ama gecikme hedefi öne çıkar.

Planlamada üç adım izlenir:

1. Modelin parametre sayısını ve istenen duyarlılığı (örneğin 16 bit) belirleyin; yaklaşık VRAM ihtiyacını hesaplayın.
2. Veri kümesinin boyutuna göre disk ve bellek gereksinimini çıkarın; NVMe disk, veri yükleme darboğazını azaltır.
3. Eğitim süresini ölçmek için küçük bir deneme koşusu yapın; tam koşuya geçmeden darboğazı görün.

Çoklu GPU kullanacaksanız kartlar arası veri aktarımının NVLink veya PCIe üzerinden nasıl yapıldığını sormak gerekir, çünkü bu ayrıntı ölçeklenmeyi doğrudan etkiler. Tek çekirdek performansının veri ön işleme aşamasında belirleyici olduğu durumlarda Ryzen sunucu paketleri, GPU'yu besleyen CPU tarafını güçlendirmek için değerlendirilebilir.

Ekran kartlı sunucu satın alma adımları nelerdir?

Satın alma süreci, ihtiyaç analizinden sözleşmeye kadar birkaç adımda ilerler. Adımların sırası önemlidir; çünkü yanlış sırada verilen kararlar, sonradan donanım değişikliği gerektirir. Süreç tipik olarak şöyle işler:

1. İş yükünü tanımlayın: eğitim, çıkarım, render veya bilimsel hesaplama olduğunu netleştirin.
2. VRAM ve bant genişliği hedefini yazın: model boyutundan türetilen somut sayılar belirleyin.
3. Yazılım yığınını doğrulayın: CUDA, sürücü ve çerçeve sürümlerinin uyumunu kontrol edin.
4. Sanal mı fiziksel mi kararını verin: süreklilik ve kontrol ihtiyacına göre seçin.
5. Ağ ve depolama planını tamamlayın: veri kümesi aktarımı için bant genişliği ve NVMe kapasitesi ayarlayın.
6. Kurulum sonrası doğrulama yapın: nvidia-smi ve kısa bir eğitim koşusuyla performansı ölçün.

Bu adımların her biri, sonraki adımın girdisini oluşturur. Örneğin VRAM hedefi belirlenmeden yapılan bir kart seçimi, modelin yarıda bellek hatası vermesine yol açar. Süreci daha ayrıntılı görmek için GPU sunucu satın al rehberindeki kontrol listesi kullanılabilir.

Ekran kartlı sunucu seçerken sık yapılan hatalar nelerdir?

En yaygın hata, yalnızca kart modeline bakıp VRAM'i göz ardı etmektir. Aynı aileden iki kart arasında bellek farkı büyük olduğunda, modelin sığmadığı kartta eğitim hiç başlamaz. İkinci sık hata, soğutma ve güç altyapısını hesaba katmamaktır; sürekli yük altında termal kısma (throttling) performansı düşürür.

Bir diğer hata, sürücü ve çekirdek kontrolünün sanal ortamda sınırlı olabileceğini bilmemektir. Özel çekirdek modülü veya belirli bir sürücü sürümü gerekiyorsa bunu satın almadan önce sormak gerekir. Ayrıca veri kümesini sunucuya aktarma süresi sıkça unutulur; yüzlerce GB'lık bir veri kümesi, yavaş bağlantıda günler alabilir.

Pratik bir örnek: bir görüntü işleme ekibi, çıkarım için sanal GPU sunucusu kurar ve modeli doğrular; ardından haftalık eğitim koşularını fiziksel GPU sunucusuna taşır. Böylece hem geliştirme hızı korunur hem de uzun eğitimler kesintisiz sürer. Benzer bir geçiş planı için ekran kartlı sanal sunucu seçim rehberi faydalı olur.

Sık Sorulan Sorular

Ekran kartlı sunucu satın alırken ilk hangi özellik kontrol edilmeli?

Önce VRAM kapasitesi kontrol edilir, çünkü hedef modelin belleğe sığmaması durumunda eğitim başlamaz. Ardından bellek bant genişliği ve CUDA desteği değerlendirilir. Bu üç ölçüt birlikte, kartın iş yükünüze uygun olup olmadığını gösterir.

GPU sunucu kiralama ile satın alma arasındaki fark nedir?

Kiralama, donanımı aylık bedelle kullanmanızı sağlar ve bakım, güç, soğutma yükünü sağlayıcı üstlenir. Satın alma ise donanımın sahibi olmayı gerektirir ve veri merkezi koşullarını kendiniz kurmanız gerekir. Çoğu ekip, değişen yükler için kiralamayı tercih eder.

Ekran kartlı VPS yapay zekâ eğitimi için yeterli mi?

Kısa denemeler, prototip çalışmaları ve küçük modellerin eğitimi için ekran kartlı VPS yeterli olabilir. Uzun süreli ve çoklu GPU gerektiren eğitimlerde ise fiziksel GPU sunucusu daha uygun olur, çünkü kartın tamamı ve sürücü kontrolü tek kiracıya aittir.

Sunucudaki ekran kartının çalıştığını nasıl doğrularım?

Kurulum sonrası nvidia-smi komutu kartı, sürücü sürümünü ve bellek kullanımını listeler. Ardından nvcc --version ile CUDA araç seti doğrulanır ve çerçevenin GPU'yu gördüğü torch.cuda.is_available() çıktısıyla kontrol edilir.

Sonuç

Ekran kartlı sunucu satın al, VRAM, bellek bant genişliği ve CUDA uyumunu birlikte değerlendirmeyi gerektiren bir karardır. İş yükünü net tanımlamak, sanal ile fiziksel arasındaki seçimi doğru yapmak ve kurulum sonrası doğrulamayı atlamamak, sonradan donanım değişikliği ihtiyacını azaltır.

Bir sonraki adımda iş yükünüzü ve VRAM hedefinizi yazıya dökün; ardından güncel paketleri incelemek için GPU sunucu hizmet sayfasına göz atın ve kurulum sürecini başlatın.