Boru hattınızda CUDA
GPU koşucuları
CI'da model değerlendirmesi ve çekirdek derlemesi için CUDA önceden yüklenmiş NVIDIA L4 ve A10G çalıştırıcıları.
L4 ve A10G
Değerlendirme paketleri ve orta boy çıkarım testleri için yeterli olan 24 GB VRAM.
Sürücüler hazır
CUDA 12.6 ve cuDNN 9 zaten kurulu ve doğrulandı.
Dakika başına
Ayrılmış kapasite taahhüdü yoktur.
GitHub, GPU çalıştırıcıları satmaz, bu nedenle GPU kod yolları genellikle dağıtıma kadar test edilmez. Dakika başına GPU CI, sabit bir küme olmadan bu boşluğu kapatır.
Sık sorulan sorular
- CI'da neden bir GPU'ya ihtiyacım olsun ki?
- Yani bir CUDA çekirdeğinin ilk çalıştırılması üretimde değildir. GPU çalıştırıcıları, çekirdekleri derlemenize, çekme istekleri üzerinde model değerlendirmesi yapmanıza ve birleştirme öncesinde çıkarım gecikme bütçelerini doğrulamanıza olanak tanır.
- Hangi GPU'lar mevcut?
- NVIDIA L4 ve A10G, her ikisi de 24 GB, CUDA 12.6 ve cuDNN 9 önceden yüklenmiş ve doğrulanmıştır.
- GitHub GPU çalıştırıcıları sunuyor mu?
- Hayır. Bu, GitHub'da barındırılan eşdeğeri olmayan bir yetenektir; bu nedenle ekipler ya kendilerini barındırır ya da GPU testlerini tamamen atlar.
Bir sonraki build'iniz yarı fiyata iki kat hızlı olabilir
Ücretsiz başlayın. Ayrılmak da aynı tek satır ve o diff'i de yayımlıyoruz.