Runnerek
GPU GitHub Actions futók
NVIDIA L4 és A10G futók modellértékeléshez, CUDA-összeállításhoz és következtetési tesztekhez CI-ben.
Specifikációk
- GPU-k
- NVIDIA L4 24 GB, A10G 24 GB
- vCPU
- 8-32
- Memória
- 32-128 GB
- Drivers
- CUDA 12.6, cuDNN 9 előre telepítve
Runner címkék
runnerhut-gpu-l4runnerhut-gpu-a10g
A GitHub nem kínál GPU-futókat. Azok a csapatok, amelyeknek szükségük van rájuk, vagy saját maguk végzik a szolgáltatást, vagy teljesen kihagyják a GPU-teszteket a CI-ben – ami általában azt jelenti, hogy a CUDA-kernelt első alkalommal termelésben használják.
- Fordítsa le a CUDA kerneleket, és gyorsítótárazza a műtermékeket a futtatások között
- Modellkiértékelési csomagok futtatása lekérési kéréseken
- Egyesítés előtt ellenőrizze a következtetési késleltetési költségkereteket
- Készítsen és teszteljen GPU-kompatibilis tárolóképeket natív módon
A következő buildje kétszer gyorsabb lehet, fele áron
Kezdje ingyen. A távozás ugyanaz az egy sor, és azt a diffet is közzétesszük.