Accélérez la prochaine génération d'applications boostées par l'IA avec l'Instance GPU L40S universelle, plus rapide que la L4 et moins chère que la H100 PCIe.
L'Instance GPU L40S offre des performances inégalées pour un large éventail de tâches, notamment pour l'intelligence artificielle générative, l'inférence de LLM, l'entraînement et peaufinage de petits modèles, ainsi que pour les applications en 3D, le rendering et la vidéo.
À partir de 1,4 €/heure pour 1 GPU avec 48 Gb de mémoire GPU et disponible en 4 formats différents (1, 2, 4, 8 GPUs), l'Instance GPU L40S permet une mise à l'échelle rentable en fonction des besoins de charge de travail, garantissant une utilisation optimale des ressources en plus de ses capacités de haute performance.
Intégrez sans effort l'Instance GPU L40S dans votre infrastructure existante avec le support de Kubernetes, simplifiant le déploiement et la gestion des charges de travail en intelligence artificielle tout en conservant la scalabilité et la flexibilité.
Rejoignez les leaders et ingénieurs pour une conférence technique d'une journée sur les avancées en IA !
Nov 7, 2024 Station F, Paris
DC5 est l'un des centres de données les plus écologiques d'Europe, entièrement alimenté par de l'énergie éolienne et hydraulique renouvelable (certifiée GO), avec un système de refroidissement ultra-efficace utilisant la ventilation directe et le refroidissement adiabatique. Avec un PUE de 1,16 (vs. 1,55 en moyenne dans l'industrie), il réduit la consommation d'énergie de 30 à 50 % par rapport aux centres de données traditionnels.
GPU
NVIDIA GPU L40S
Mémoire GPU
48 GB GDDR6 (864 GB/s)
Processeur
8 vCPUs AMD EPYC 7413
Fréquence du processeur
2,65 Ghz
Mémoire
96 GB de RAM
Type de mémoire
DDR4
Bande passante réseau
2,5 Gbps
Stockage
1,6 TB de Scratch Storage et Block Storage (additionnel)
Cores
Tensor Cores 4ème génération RT Cores 3ème génération
Utilisez les Instances GPU H100 PCIe pour l'entraînement de modèles fondamentaux de taille moyenne à grande échelle, mais exploitez les capacités de la L40S pour fine-tuner en quelques heures et entraîner en quelques jours de petits LLM.
Source: Présentation produit NVIDIA L40S, octobre 2023
La L40S GPU Instance, avec 1 GPU, offre des performances d'inférence qui vous permettent de mettre efficacement en production les principaux cas d'utilisation de Llama 2-7B :
*desservant un modèle LLama 2-7B en FP8
Le rendering est essentiel pour parfaire les éléments visuels, des effets d'éclairage aux textures, afin de générer le résultat final.
En exploitant l'architecture Lovelace, l'Instance GPU L40S démontre des performances supérieures par rapport à l'architecture Ampere, notamment dans les tâches de rendu et de graphisme.
Voici quelques résultats concrets pour vous permettre de comparer :
Source : Présentation produit NVIDIA L40S, octobre 2023
"Nous utilisons une instance L40S, et c'est une alternative fantastique à la H100 PCIe compte tenu du rapport qualité-prix et de la vitesse.",
Wilson Wongso Machine Learning Engineer chez Bookbot
| Option | Value | Price |
|---|---|---|
| Zone | Paris 2 | |
| Instance | 1x | 0€ |
| Volume | 10GB | 0€ |
| IPv4 flexible | Oui | 0.004€ |
| Total | |
|---|---|
| À la journée | 0€ |
| À la semaine | 0€ |
| Au mois | 0€ |
Avec quatre formats flexibles, dont les options 1, 2, 4 et 8 GPU, vous pouvez désormais facilement faire évoluer votre infrastructure en fonction de vos besoins spécifiques.
| Nom de l'Instance | Nombre de GPU | TFLOPS FP16 Tensor Cores | VRAM | prix par heure | prix par minute |
|---|---|---|---|---|---|
| L40S-1-48G | 1 NVIDIA L40S GPU | 362 TFLOPS | 48 GB | 1,4€/hour | 0,0235€/min |
| L40S-2-48G | 2 NVIDIA L40S GPUs | 724 TFLOPS | 2x 48 GB | 2,8€/hour | 0,047€/min |
| L40S-4-48G | 4 NVIDIA L40S GPUs | 1448 TFLOPS | 4x 48 GB | 5,6€/hour | 0,094€/min |
| L40S-8-48G | 8 NVIDIA L40S GPUs | 2896 TFLOPS | 8x 48GB | 11,2€/hour | 0,188€/min |
Simple d’utilisation, Kubernetes Kapsule est entièrement intégré à notre écosystème cloud.
Répartissez les charges de travail sur plusieurs serveurs à l'aide d'un Load Balancer afin de garantir une disponibilité continue et d'éviter la surcharge des serveurs.
Sécurisez vos ressources cloud facilement sur un réseau privé régional résilient
Le prix de notre instance GPU comprend le vCPU, la RAM nécessaire pour une performance optimale, un stockage Scratch de 1,6TB. Il n'inclut pas le Block Storage et l'IP flexible.
Pour lancer l'Instance GPU L40S, nous vous recommandons fortement de provisionner un volume supplémentaire de Block Storage, car le Scratch Storage est un stockage éphémère qui disparaît lorsque vous éteignez la machine. L'objectif du Scratch Storage est d'accélérer le transfert de vos données vers le GPU.
Si vous souhaitez obtenir davantage d'informations sur l'utilisation de la mémoire temporaire, cliquez sur Follow the guide
En cas de doute sur le prix, utilisez la calculatrice, elle est faite pour ça !
Il s'agit de 4 formats de la même instance intégrant le GPU NVIDIA L40S.
NVIDIA Multi-Instance GPU (MIG) est une technologie introduite par NVIDIA pour améliorer l'utilisation et la flexibilité des GPU en data center, spécialement conçus pour la virtualisation et les environnements multi-tenant. Cette fonctionnalité est disponible sur l'Instance GPU H100 PCIe mais pas sur l'Instance GPU L40S. Cependant, les utilisateurs peuvent bénéficier de la compatibilité avec Kubernetes Kapsule pour optimiser leur infrastructure.
De nombreux critères doivent être pris en compte pour choisir la bonne instance GPU :
Pour plus d'informations, consultez la [documentation dédiée à ce sujet] (https://www.scaleway.com/en/docs/compute/gpu/reference-content/choosing-gpu-instance-type/)
