CUDA ve vašem potrubí
GPU běžce
Běžci NVIDIA L4 a A10G s předinstalovaným CUDA pro vyhodnocení modelu a kompilaci jádra v CI.
L4 a A10G
24 GB paměti VRAM, dostačující pro testovací sady a středně velké inferenční testy.
Řidiči připraveni
CUDA 12.6 a cuDNN 9 jsou již nainstalovány a ověřeny.
Za minutu
Bez závazku vyhrazené kapacity.
GitHub neprodává běžce GPU, takže cesty kódu GPU jsou obvykle až do nasazení netestované. Per-minute GPU CI uzavírá tuto mezeru bez stojícího clusteru.
Časté dotazy
- Proč bych potřeboval GPU v CI?
- Takže první spuštění CUDA jádra není ve výrobě. Spouštěče GPU vám umožňují kompilovat jádra, spouštět vyhodnocování modelů na žádostech o stažení a ověřovat rozpočty inferenční latence před sloučením.
- Které GPU jsou k dispozici?
- NVIDIA L4 a A10G, obě 24 GB, s předinstalovanými a ověřenými CUDA 12.6 a cuDNN 9.
- Nabízí GitHub GPU běžce?
- Ne. Jedná se o funkci bez ekvivalentu hostovaného na GitHubu, a proto se týmy buď samostatně hostují, nebo testy GPU zcela vynechávají.
Váš další build může být dvakrát rychlejší za poloviční cenu
Začněte zdarma. Odchod je tentýž jeden řádek a i ten diff zveřejňujeme.