Saltar al contenido

Runners

Corredores de GPU GitHub Actions

Ejecutadores NVIDIA L4 y A10G para evaluación de modelos, compilación CUDA y pruebas de inferencia en CI.

Especificaciones

GPU
Nvidia L4 24 GB, A10G 24 GB
CPU virtual
8 – 32
Memoria
32 – 128GB
Conductores
CUDA 12.6, cuDNN 9 preinstalado

Etiquetas de runner

  • runnerhut-gpu-l4
  • runnerhut-gpu-a10g
  • Compile kernels CUDA y almacene en caché los artefactos entre ejecuciones
  • Ejecute conjuntos de evaluación de modelos en solicitudes de extracción
  • Verificar los presupuestos de latencia de inferencia antes de la fusión
  • Cree y pruebe imágenes de contenedores habilitadas para GPU de forma nativa

Tu próximo build podría ser el doble de rápido, por la mitad de precio

Empieza gratis. Marcharse es esa misma línea, y también publicamos ese diff.