CUDA dans votre pipeline
Coureurs GPU
Exécuteurs NVIDIA L4 et A10G avec CUDA préinstallé, pour l'évaluation du modèle et la compilation du noyau dans CI.
L4 et A10G
24 Go de VRAM, suffisant pour les suites d'évaluation et les tests d'inférence de taille moyenne.
Pilotes prêts
CUDA 12.6 et cuDNN 9 déjà installés et vérifiés.
Par minute
Aucun engagement de capacité réservée.
GitHub ne vend pas de coureurs GPU, donc les chemins de code GPU ne sont généralement pas testés jusqu'au déploiement. Le GPU CI par minute comble cet écart sans cluster permanent.
Questions fréquentes
- Pourquoi aurais-je besoin d’un GPU en CI ?
- Ainsi, la première fois qu’un noyau CUDA s’exécute, ce n’est pas en production. Les exécuteurs GPU vous permettent de compiler les noyaux, d'exécuter une évaluation de modèle sur les demandes d'extraction et de vérifier les budgets de latence d'inférence avant la fusion.
- Quels GPU sont disponibles ?
- NVIDIA L4 et A10G, tous deux 24 Go, avec CUDA 12.6 et cuDNN 9 préinstallés et vérifiés.
- GitHub propose-t-il des exécuteurs GPU ?
- Non. Il s’agit d’une fonctionnalité sans équivalent hébergé sur GitHub, c’est pourquoi les équipes s’auto-hébergent ou ignorent complètement les tests GPU.
Votre prochain build pourrait être deux fois plus rapide, pour moitié prix
Commencez gratuitement. Repartir tient à la même ligne, et nous publions ce diff aussi.