Vai al contenuto

CUDA nella tua pipeline

Corridori GPU

Runner NVIDIA L4 e A10G con CUDA preinstallato, per la valutazione del modello e la compilazione del kernel in CI.

L4 e A10G

24 GB di VRAM, sufficienti per suite di valutazione e test di inferenza di medie dimensioni.

Autisti pronti

CUDA 12.6 e cuDNN 9 già installati e verificati.

Al minuto

Nessun impegno di capacità riservata.

Domande frequenti

Perché avrei bisogno di una GPU in CI?
Quindi la prima volta che viene eseguito un kernel CUDA non è in produzione. I runner GPU ti consentono di compilare kernel, eseguire la valutazione del modello su richieste pull e verificare i budget di latenza di inferenza prima dell'unione.
Quali GPU sono disponibili?
NVIDIA L4 e A10G, entrambi da 24 GB, con CUDA 12.6 e cuDNN 9 preinstallati e verificati.
GitHub offre runner GPU?
No. Si tratta di una funzionalità senza equivalente ospitato su GitHub, motivo per cui i team si ospitano autonomamente o saltano completamente i test GPU.

La tua prossima build potrebbe essere due volte più veloce, a metà prezzo

Inizia gratis. Andarsene è la stessa riga, e pubblichiamo anche quel diff.