Runners
GPU GitHub Actions hardlopers
NVIDIA L4- en A10G-hardlopers voor modelevaluatie, CUDA-compilatie en inferentietests in CI.
Specificaties
- GPU's
- NVIDIA L4 24 GB, A10G 24 GB
- vCPU
- 8 – 32
- Geheugen
- 32 – 128 GB
- Chauffeurs
- CUDA 12.6, cuDNN 9 vooraf geïnstalleerd
Runner-labels
runnerhut-gpu-l4runnerhut-gpu-a10g
GitHub biedt geen GPU-runners. Teams die ze nodig hebben, kunnen GPU-tests in CI zelf hosten of helemaal overslaan - wat meestal betekent dat de eerste keer dat een CUDA-kernel wordt gebruikt, in productie is.
- Compileer CUDA-kernels en cache de artefacten tussen runs
- Voer modelevaluatiesuites uit op pull-aanvragen
- Controleer de latentiebudgetten voor gevolgtrekkingen voordat u ze samenvoegt
- Bouw en test native containerimages met GPU
Je volgende build kan twee keer zo snel zijn, voor de halve prijs
Begin gratis. Weggaan is dezelfde ene regel, en die diff publiceren we ook.