Runnery
GPU GitHub Actions biegacze
Moduły NVIDIA L4 i A10G do oceny modelu, kompilacji CUDA i testów wnioskowania w CI.
Specyfikacja
- Procesory graficzne
- NVIDIA L4 24 GB, A10G 24 GB
- wirtualny procesor
- 8 – 32
- Pamięć
- 32 – 128 GB
- Kierowcy
- Preinstalowana CUDA 12.6, cuDNN 9
Etykiety runnerów
runnerhut-gpu-l4runnerhut-gpu-a10g
- Kompiluj jądra CUDA i buforuj artefakty pomiędzy uruchomieniami
- Uruchamiaj zestawy ocen modeli na żądaniach ściągnięcia
- Przed połączeniem sprawdź budżety opóźnień wnioskowania
- Twórz i testuj natywnie obrazy kontenerów z obsługą procesora graficznego
Twój następny build może być dwa razy szybszy i o połowę tańszy
Zacznij za darmo. Odejście to ta sama jedna linia — ten diff też publikujemy.