Runner
Runner GPU GitHub Actions
Runner NVIDIA L4 e A10G per la valutazione del modello, la compilazione CUDA e i test di inferenza in CI.
Specifiche
- GPU
- NVIDIA L4 24 GB, A10G 24 GB
- CPU virtuale
- 8 – 32
- Memoria
- 32 – 128 GB
- Driver
- CUDA 12.6, cuDNN 9 preinstallato
Etichette runner
runnerhut-gpu-l4runnerhut-gpu-a10g
- Compila i kernel CUDA e memorizza nella cache gli artefatti tra le esecuzioni
- Esegui suite di valutazione del modello sulle richieste pull
- Verifica i budget di latenza dell'inferenza prima dell'unione
- Crea e testa nativamente immagini di contenitori abilitati per GPU
La tua prossima build potrebbe essere due volte più veloce, a metà prezzo
Inizia gratis. Andarsene è la stessa riga, e pubblichiamo anche quel diff.