Runners
Coureurs GPU GitHub Actions
Exécuteurs NVIDIA L4 et A10G pour l'évaluation de modèles, la compilation CUDA et les tests d'inférence en CI.
Caractéristiques
- GPU
- NVIDIA L4 24 Go, A10G 24 Go
- CPU virtuel
- 8 – 32
- Mémoire
- 32 – 128 Go
- Pilotes
- CUDA 12.6, cuDNN 9 préinstallé
Labels de runner
runnerhut-gpu-l4runnerhut-gpu-a10g
GitHub ne propose pas de coureurs GPU. Les équipes qui en ont besoin s'auto-hébergent ou ignorent complètement les tests GPU dans CI - ce qui signifie généralement que la première fois qu'un noyau CUDA est exercé est en production.
- Compilez les noyaux CUDA et mettez en cache les artefacts entre les exécutions
- Exécuter des suites d'évaluation de modèles sur des demandes d'extraction
- Vérifier les budgets de latence d'inférence avant la fusion
- Créez et testez nativement des images de conteneurs compatibles GPU
Votre prochain build pourrait être deux fois plus rapide, pour moitié prix
Commencez gratuitement. Repartir tient à la même ligne, et nous publions ce diff aussi.