CUDA a folyamatban van
GPU futók
NVIDIA L4 és A10G futók előre telepített CUDA-val, modellértékeléshez és kernel-összeállításhoz CI-ben.
L4 és A10G
24 GB VRAM, amely elegendő kiértékelő csomagokhoz és közepes méretű következtetési tesztekhez.
A sofőrök készen állnak
A CUDA 12.6 és a cuDNN 9 már telepítve és ellenőrizve.
Percenként
Nincs fenntartott kapacitás lekötés.
A GitHub nem ad el GPU-futókat, így a GPU-kód elérési útjait általában nem tesztelik a telepítésig. A percenkénti GPU CI bezárja ezt a rést álló fürt nélkül.
Gyakori kérdések
- Miért van szükségem GPU-ra CI-ben?
- Tehát az első alkalom, amikor egy CUDA kernel fut, nem éles állapotban van. A GPU-futók lehetővé teszik a kernelek fordítását, a lekérési kérések modellértékelésének futtatását, valamint a következtetési késleltetési költségvetések ellenőrzését az egyesítés előtt.
- Milyen GPU-k érhetők el?
- NVIDIA L4 és A10G, mindkettő 24 GB, előtelepített és ellenőrzött CUDA 12.6 és cuDNN 9 technológiával.
- A GitHub kínál GPU-futókat?
- Nem. Ez egy olyan képesség, amelynek nincs GitHub által hosztolt megfelelője, ezért a csapatok vagy maguk végzik a szolgáltatást, vagy teljesen kihagyják a GPU-teszteket.
A következő buildje kétszer gyorsabb lehet, fele áron
Kezdje ingyen. A távozás ugyanaz az egy sor, és azt a diffet is közzétesszük.