Ekran Kartlı Fiziksel Sunucu Kiralama: 5 Adımda Seçim

Ekran kartlı fiziksel sunucu kiralama, bir veri merkezinde barındırılan ve GPU'sunun tamamının tek müşteriye ayrıldığı sunucu kiralama modelidir. Sanal sunucularda GPU paylaşımlı olabilirken fiziksel sunucuda ekran kartı doğrudan donanım üzerinden erişilir. Bu yazıda GPU seçiminden CUDA kurulumuna, kaynak planlamasından sık yapılan hatalara kadar izlemeniz gereken adımları bulacaksınız.

Ekran kartlı fiziksel sunucu nedir ve nasıl çalışır?

Ekran kartlı fiziksel sunucu, tek bir fiziksel makinenin tamamının kullanıcıya tahsis edildiği ve üzerinde bir veya birden fazla GPU bulunan sunucudur. Sanal sunucuda (VDS) kaynaklar bir hipervizör katmanı üzerinden paylaştırılır; fiziksel sunucuda ise CPU, RAM, NVMe disk ve GPU doğrudan donanıma bağlıdır. Bu nedenle GPU belleğine erişim gecikmesi daha düşük ve öngörülebilirdir.

GPU (grafik işlem birimi), matris çarpımı gibi paralelleştirilebilir işlemleri binlerce çekirdekte aynı anda yürütür. Yapay zekâ eğitimi, çıkarım (inference), 3B render ve video kodlama bu paralelliği kullanan tipik iş yükleridir. CUDA, NVIDIA ekran kartlarında bu işlemleri yürütmek için kullanılan paralel hesaplama platformudur; PyTorch ve TensorFlow gibi çatılar CUDA üzerinden GPU'ya erişir.

Fiziksel sunucu modelinin öne çıktığı durum, GPU'nun tamamına ihtiyaç duyulan ve komşu kiracı etkisinin istenmediği senaryolardır. Model eğitimi sırasında VRAM'in sürekli dolu kalması, paylaşımlı GPU ortamlarında beklenmeyen yavaşlamalara yol açabilir. Fiziksel sunucuda bu belirsizlik ortadan kalkar; ancak maliyet sanal çözümlere göre daha yüksektir. İki modelin ayrımını sanal sunucu mu fiziksel sunucu mu yazısında karşılaştırmalı olarak bulabilirsiniz.

GPU sunucu kiralama ile sanal çözüm arasında nasıl seçim yapılır?

Seçim, iş yükünün GPU'yu ne kadar süreyle ve ne yoğunlukta kullandığına bağlıdır. Tek seferlik veya kısa süreli denemelerde sanal çözümler daha ekonomik olur; sürekli ve yoğun kullanımda fiziksel sunucu daha tutarlı sonuç verir. Karar verirken VRAM ihtiyacı, eğitim süresi ve veri boyutu ilk bakılacak üç ölçüttür.

BalHost, İstanbul veri merkezinde ekran kartlı sanal sunucu ve ekran kartlı fiziksel sunucu seçeneklerini birlikte sunar. Sanal tarafta GPU paylaşımlı olabilir; fiziksel tarafta kartın tamamı size ayrılır. Güncel fiyatlar için ekran kartlı fiziksel sunucu hizmet sayfasına bakabilirsiniz.

Hangi modeli seçeceğinize dair kısa kural: model prototipi ve çıkarım testleri için sanal çözüm, haftalarca süren eğitim koşuları ve üretim çıkarımı için fiziksel sunucu. Bu ayrımı daha ayrıntılı okumak isterseniz ekran kartlı vps rehberi ve ekran kartlı sanal sunucu yazısı tamamlayıcı bilgi verir.

Ekran kartlı sunucu seçerken hangi GPU ölçütlerine bakılır?

GPU seçiminde ilk ölçüt VRAM miktarıdır; çünkü model ağırlıkları ve ara aktivasyonlar bu belleğe sığmazsa eğitim başlamaz. İkinci ölçüt bellek bant genişliğidir; veri yükleme süreleri doğrudan buna bağlıdır. Üçüncü ölçüt ise kartın desteklediği hassasiyet biçimleridir (FP32, FP16, BF16).

• VRAM: Model parametreleri + gradyanlar + iyileştirici durumu + ara aktivasyonlar toplamı. Kaba bir kural olarak FP16 eğitimde parametre başına yaklaşık 16 bayt, çıkarımda 2 bayt hesaplanır.
• Bellek bant genişliği: Veri kümesi büyükse darboğaz GPU çekirdeklerinden önce bellek tarafında oluşur.
• Hassasiyet desteği: BF16 desteği olmayan kartlarda karışık hassasiyet eğitimi yavaşlar veya desteklenmez.
• NVLink / PCIe: Çok kartlı eğitimde kartlar arası bant genişliği ölçeklemeyi belirler.
• Sürücü uyumu: Kullanacağınız CUDA sürümünün kart tarafından desteklendiğini doğrulayın.

Sık yapılan hata, toplam VRAM'i yalnızca model boyutuna göre hesaplayıp ara aktivasyonları ve iyileştirici durumunu atlamaktır. Örneğin 7 milyar parametreli bir modelin FP16 ağırlıkları yaklaşık 14 GB yer kaplar; ancak Adam iyileştiricisiyle eğitimde toplam ihtiyaç bunun birkaç katına çıkabilir. Bu yüzden 16 GB VRAM ile başlayan bir plan, gerçek eğitimde yetersiz kalabilir. Kaynak planlamasının genel mantığını VPS kiralama rehberi yazısında bulabilirsiniz.

Ekran kartlı fiziksel sunucu kiralama adımları nelerdir?

Kiralama süreci, ihtiyaç analizinden başlayıp sürücü doğrulamasıyla biten beş adımdan oluşur. Her adımda yazılı bir karar vermeniz, sonradan donanım değişikliği ihtiyacını azaltır. Aşağıdaki sıra, çoğu üretim senaryosunda uygulanabilir bir akıştır.

1. İş yükünü tanımlayın. Eğitim mi, çıkarım mı, render mı? Eğitimde VRAM ve kart sayısı, çıkarımda gecikme ve eşzamanlı istek sayısı belirleyicidir.
2. GPU ve VRAM hedefini belirleyin. Modelinizin FP16 ağırlık boyutunu ve iyileştirici maliyetini hesaplayıp üzerine %20–30 pay ekleyin.
3. Yan kaynakları planlayın. GPU'yu besleyecek CPU çekirdek sayısı, RAM, NVMe disk kapasitesi ve ağ bant genişliği darboğaz oluşturmamalıdır.
4. İşletim sistemi ve sürücü setini seçin. Ubuntu LTS sürümleri CUDA ekosisteminde en yaygın desteklenen seçenektir; sürücü ve CUDA sürümünü çatınızın gereksinimine göre sabitleyin.
5. Kurulumu doğrulayın. Sunucu teslim edildikten sonra GPU'nun görünürlüğünü ve CUDA'nın çalıştığını test edin.

Kurulum sonrası GPU doğrulaması nasıl yapılır?

Teslim alınan sunucuda ilk iş, kartın sistem tarafından tanındığını doğrulamaktır. NVIDIA kartlarda nvidia-smi çıktısı kart modelini, sürücü sürümünü, VRAM miktarını ve o anki kullanımı gösterir. Çıktı boşsa sürücü kurulu değildir veya kart görünmüyordur.

# Kartı ve sürücü sürümünü görüntüle
nvidia-smi

# CUDA derleyicisinin sürümünü doğrula
nvcc --version

# PyTorch üzerinden GPU erişimini test et
python3 -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

Bu üç komut, kurulumun sağlıklı olduğunu göstermek için yeterlidir. torch.cuda.is_available() çıktısı False dönüyorsa sürücü sürümü ile PyTorch'un derlendiği CUDA sürümü uyuşmuyor olabilir. Bu durumda sürücüyü güncellemek yerine çatının beklediği CUDA sürümüne karşılık gelen sürücü dalına geçmek daha hızlı sonuç verir.

Veri ve model dosyaları nasıl taşınır?

Eğitim veri kümesi ve model ağırlıkları genellikle onlarca GB boyutundadır; bu nedenle aktarım yöntemi kurulum süresini doğrudan etkiler. Küçük dosyalar için scp veya rsync yeterlidir. Büyük veri kümelerinde sıkıştırılmış arşivleri parçalayıp paralel aktarmak, tek bağlantıya göre daha kısa sürer.

# Dizini sıkıştırarak uzak sunucuya aktar
rsync -avz --progress ./veri-seti/ kullanici@sunucu-ip:/data/veri-seti/

# Aktarımı doğrula
du -sh /data/veri-seti

Aktarım sırasında disk yazma hızı darboğaz oluşturabilir; NVMe disk bu adımda belirgin fark yaratır. Veri kümesini doğrudan işlemek yerine önce yerel diske almak, eğitim sırasında tekrarlanan okumaları hızlandırır.

CUDA sürümü ve sürücü uyumu neden önemlidir?

CUDA, GPU üzerinde genel amaçlı hesaplama yapmayı sağlayan platformdur; her çatı sürümü belirli bir CUDA aralığıyla derlenir. PyTorch'un bir sürümü CUDA 12.x ile derlenmişse, sistemdeki sürücünün bu sürümü desteklemesi gerekir. Sürücü çok eskiyse çatı GPU'yu görmez; çok yeni ve test edilmemişse beklenmeyen hatalar çıkabilir.

Pratik yaklaşım, sürücü ve CUDA sürümünü üretim ortamında sabitlemek ve yalnızca planlı bakım pencerelerinde güncellemektir. Otomatik güncellemeleri kapatmak, uzun süren eğitim koşularının ortasında sürücü değişmesini engeller. Sürüm notlarını okumadan yükseltme yapmak, çalışan bir ortamı birkaç dakika içinde kullanılamaz hâle getirebilir.

Sık yapılan ikinci hata, eğitim ve çıkarım ortamlarını aynı sürücü sürümüne zorlamaktır. Çıkarım tarafında daha yeni, eğitim tarafında daha muhafazakâr bir sürüm tercih etmek yaygın bir uygulamadır. Bu ayrımı yapmak, bir taraftaki güncellemenin diğerini bozma riskini azaltır.

Kaynak planlaması ve pratik örnek

Gerçekçi bir senaryo: 7 milyar parametreli bir dil modelini kendi veri kümenizle ince ayar (fine-tuning) yapmak istiyorsunuz. FP16 ağırlıklar yaklaşık 14 GB, iyileştirici durumu ve gradyanlar eklendiğinde toplam ihtiyaç belirgin biçimde artar. Bu iş için 24 GB VRAM sınıfı bir kart, küçük parti boyutlarıyla başlamak için makul bir başlangıç noktasıdır.

Bu senaryoda yan kaynaklar da planlanmalıdır: veri kümesini besleyecek NVMe disk, CPU tarafında veri ön işleme için yeterli çekirdek ve aktarım sırasında darboğaz oluşturmayacak ağ bant genişliği. GPU güçlü olsa bile disk veya CPU yavaşsa eğitim döngüsü GPU'yu beklemek zorunda kalır. Tek çekirdek performansının bu tür iş yüklerindeki etkisini tek çekirdek performansı yazısında bulabilirsiniz.

Pratik örnek: Eğitim betiğini çalıştırmadan önce küçük bir veri alt kümesiyle tek adımlık deneme koşusu yapın. Bu koşu, VRAM taşması veya sürücü uyumsuzluğu gibi sorunları saatler kaybetmeden ortaya çıkarır. Deneme başarılıysa parti boyutunu kademeli artırın; başarısızsa önce parti boyutunu, sonra hassasiyeti düşürün.

Sonuç

Ekran kartlı fiziksel sunucu kiralama, GPU'nun tamamına ihtiyaç duyan uzun süreli eğitim ve üretim çıkarımı iş yükleri için uygun bir modeldir. Doğru karar; VRAM ihtiyacını, bellek bant genişliğini, CUDA sürücü uyumunu ve yan kaynakları birlikte değerlendirmekten geçer. Kısa süreli denemelerde sanal çözümler, sürekli ve yoğun kullanımda fiziksel sunucu daha tutarlı sonuç verir.

Bir sonraki adım olarak iş yükünüzün VRAM ve kart sayısı ihtiyacını netleştirin, ardından güncel yapılandırmaları ve fiyatları görmek için ekran kartlı fiziksel sunucu hizmet sayfasını inceleyin. Yapılandırma seçeneklerini konuşmak isterseniz bizimle iletişime geçin.

Sık Sorulan Sorular

Ekran kartlı fiziksel sunucu ile ekran kartlı sanal sunucu arasındaki fark nedir?

Fiziksel sunucuda GPU'nun tamamı tek kiracıya ayrılır ve sanallaştırma katmanı bulunmaz; bu nedenle performans daha öngörülebilirdir. Sanal sunucuda GPU paylaşımlı olabilir ve kaynaklar hipervizör üzerinden dağıtılır. Uzun süren eğitim koşuları için fiziksel sunucu, kısa denemeler ve prototip çalışmaları için sanal çözüm genellikle daha uygun maliyetlidir.

GPU sunucu kiralarken VRAM ne kadar olmalı?

VRAM ihtiyacı model boyutuna, hassasiyete ve iyileştirici seçimine bağlıdır. FP16 eğitimde parametre başına yaklaşık 16 bayt, çıkarımda 2 bayt hesaplanır ve ara aktivasyonlar için pay eklenir. 7 milyar parametreli bir modelin ince ayarı için 24 GB VRAM sınıfı bir kart makul bir başlangıçtır; kesin değer veri kümesi ve parti boyutuyla netleşir.

CUDA sürümü ile sürücü uyumsuzluğu nasıl anlaşılır?

En belirgin işaret, torch.cuda.is_available() çağrısının False dönmesi veya nvidia-smi çıktısının boş gelmesidir. Bu durumda sürücü sürümü ile çatının derlendiği CUDA sürümü uyuşmuyor olabilir. Çözüm, çatının beklediği CUDA sürümüne karşılık gelen sürücü dalına geçmek ve sürümü üretim ortamında sabitlemektir.

Ekran kartlı sunucu hangi iş yükleri için uygundur?

Yapay zekâ model eğitimi ve çıkarımı, 3B render, video kodlama ve CUDA tabanlı bilimsel hesaplama tipik kullanım alanlarıdır. Bu iş yüklerinin ortak özelliği, matris çarpımı gibi paralelleştirilebilir işlemlerin yoğun olmasıdır. GPU gerektirmeyen web barındırma gibi işler için standart sanal sunucu veya fiziksel sunucu seçenekleri daha ekonomiktir.

Ekran kartlı sunucu satın almak yerine kiralamak neden tercih edilir?

Kiralama modelinde donanım yatırımı, bakım, soğutma ve veri merkezi işletimi hizmet sağlayıcıya aittir; kullanıcı yalnızca kullanım süresi için ödeme yapar. GPU donanımı hızlı yenilendiği için satın alınan bir kart kısa sürede görece eskimiş hâle gelebilir. Kiralama, ihtiyaç değiştiğinde yapılandırmayı güncellemeyi de kolaylaştırır.