Accélérez l'entraînement de vos modèles et de vos inférences avec la puce IA la plus haut de gamme du marché !
Optimisez les Transformers Models et les LLM à travers un traitement efficace, et accélerez les entraînements de modèles plus importants grâce à la technologie de pointe Tensor Cores de 4ᵉ génération et au dernier format de données 8 bits.
Augmentez la vitesse de traitement de vos modèles grâce au Transformer Engine, 30 fois plus rapide pour l'inférence de l'IA et les nouveaux formats de données.
Grâce à la deuxième génération de Secure MIG (GPU multi-instances), vous pouvez partitionner le GPU en instances isolées de taille adéquate afin de maximiser l'utilisation des tâches multi-GPU, des plus petites aux plus grandes.
DC5 est l'un des centres de données les plus écologiques d'Europe, entièrement alimenté par de l'énergie éolienne et hydraulique renouvelable (certifiée GO), avec un système de refroidissement ultra-efficace utilisant la ventilation directe et le refroidissement adiabatique. Avec un PUE de 1,16 (vs. 1,55 en moyenne dans l'industrie), il réduit la consommation d'énergie de 30 à 50 % par rapport aux centres de données traditionnels.
WAW2 est alimenté à 100 % par de l'énergie éolienne (certifiée GO) et utilise une combinaison de refroidissement direct, de free chilling, de systèmes d'immersion et de climatisation pour optimiser le refroidissement des systèmes. Avec un PUE de 1,32 — inférieur à la moyenne du secteur — il minimise la consommation d'énergie pour une efficacité maximale.
GPU
NVIDIA H100 PCIe Tensor Core
Mémoire GPU
80 Go HBM2e
Processeur
24 vCPU AMD Epyc Zen 4
Fréquence du processeur
2,7 Ghz
Mémoire
240 Go de RAM
Type de mémoire
DDR5
Bande passante
10 Gbps
Stockage
Block Storage pour le démarrage et 3 To de stockage Scratch NVMe
Optimisez votre budget pour l'instance GPU PCIe H100 en vous engageant à l'avance.
Comprend, interprète et génère du langage humain de manière à le rendre compréhensible et pertinent en fonction du contexte.
Grâce à des modèles et des algorithmes spécialisés dans :
Convertir le langage parlé en texte écrit, faciliter la traduction des communications verbales en données lisibles par des machines.
Grâce à des modèles et des algorithmes spécialisés dans :
Génère de nouveaux contenus, tels que des images, du texte, de l'audio et du code. Produisant de manière autonome de nouveaux contenus cohérents, étendant le domaine de contenus générés par l'IA au-delà de la simple réplication ou prédiction.
Avec des modèles et des algorithmes spécialisés dans :
Génération d'images comme Deep Dream, qui produit des visuels ressemblant à des hallucinations, comme fchollet l'explique ;
Génération de texte avec des modèles Transformers, également appelés LLMs (Large Language Models) tels que GPT2 ;
Génération de code.
Permettre aux machines d'interpréter et de comprendre les informations visuelles provenant du monde entier, à l'instar de la vision humaine.
Grâce à des modèles et des algorithmes spécialisés dans :
Prédit et suggère aux utilisateurs des articles qui les intéressent en fonction de leurs préférences et de leurs comportements, ce qui permet d'améliorer les recommandations personnalisées et la prise de décision dans diverses applications.
En utilisant, par exemple, le modèle de recommandation Deep Learning Recommendation Model v2 (DLRMv2) qui utilise la couche croisée DCNv2 et un ensemble de données multi-hot synthétisé à partir de l'ensemble de données Criteo.
| Option | Value | Price |
|---|---|---|
| Zone | Paris 2 | |
| Instance | 1x | 0€ |
| Volume | 10GB | 0€ |
| IPv4 flexible | Oui | 0.004€ |
| Total | |
|---|---|
| À la journée | 0€ |
| À la semaine | 0€ |
| Au mois | 0€ |
| Nom de l'instance | Nombre de GPU | TFLOP en FP16 Tensor Cores | VRAM | Prix jusqu'au 30 juin | Prix à partir du 1 juillet |
|---|---|---|---|---|---|
| H100-1-80G | 1 H100 PCIe Tensor Core | Jusqu'à 1513 teraFLOP | 80 Go | 2,52€/heure | 2,73€/heure |
| H100-2-80G | 2 H100 PCIe Tensor Core | Jusqu'à 3026 teraFLOP | 2 x 80 Go | 5,04€/heure | 5,46€/heure |
Bénéficiez d'une image Ubuntu prête à l'emploi pour lancer vos conteneurs d'apprentissage profond préférés (pilote NVIDIA préinstallé et environnement Docker).
Lancez facilement votre JupyterLab ou Notebook préféré grâce à l'environnement Docker préinstallé.
Accédez à plusieurs registres de conteneurs : vos propres conteneurs compilés, les conteneurs IA de Scaleway, le registre NVIDIA NGC et tout autre registre.
Accédez à des centaines de logiciels IA optimisés par Nvidia pour maximiser l'efficacité de vos GPU et augmenter votre productivité. Parmi les centaines de logiciels développés par NVIDIA et testés par des leaders de leur industrie, tirez parti de
1,9 To de Scratch Storage sont inclus dans le prix de l'instance, mais tout volume de stockage Block Storage, que vous provisionnez, est à votre charge. Pour des raisons de redondance et donc de sécurité, nous vous recommandons vivement de provisionner un volume de Block Storage supplémentaire, car le stockage Scratch est un stockage éphémère qui disparaît lorsque vous éteignez la machine. Le Scratch Storage a pour but d'accélérer le transfert de vos ensembles de données vers la GPU.
Comment utiliser Scratch Storage dans ce cas? Suivez le guide !
Ce sont deux formats de la même instance intégrant la NVIDIA H100 PCIe Tensor Core.
H100-1-80G intègre 1 GPU NVIDIA H100 PCIe Tensor Core, offrant une mémoire GPU de 80 Go.
H100-2-80G intègre 2 GPU NVIDIA H100 PCIe Tensor Core, offrant une mémoire GPU de 2 fois 80 Go, soit un total de 160 Go. Cette instance permet d'accélérer la formation de modèles Transformers plus grands qui exploitent 2 GPU à la fois. Grâce au facteur de forme PCIe, les serveurs de l'instance H100 PCIe GPU sont équipés de 2 GPU. En lançant un format d'instance H100-2-80G, l'utilisateur bénéficie d'un serveur entièrement dédié avec 2 GPU.
NVIDIA a annoncé l'H100 pour permettre aux entreprises de réduire les coûts de déploiement de l'IA, _"offrant les mêmes performances IA avec une efficacité énergétique 3,5 fois supérieure et un coût total de possession 3 fois inférieur, tout en utilisant 5 fois moins de nœuds de serveur par rapport à la génération précédente."
_
Qu'est-ce qui dans le produit peut confirmer cette annonce ?
La gravure plus fine de la puce réduit la surface et donc l'énergie nécessaire pour alimenter la puce.
Grâce à des innovations comme le nouveau format de données FP8 (8 bits), davantage de calculs sont effectués avec la même quantité de consommation, ce qui permet une optimisation du temps et de l'énergie.
De plus, chez Scaleway, nous avons décidé de localiser nos instances H100 PCIe dans le datacenter adiabatique DC5. Avec un PUE (efficacité d'utilisation de l'énergie) de 1,15 (alors que la moyenne est généralement de 1,6), ce datacenter permet d'économiser entre 30 % et 50 % d'électricité par rapport à un centre de données conventionnel.
NVIDIA Multi-Instance GPU (MIG) est une technologie introduite par NVIDIA pour améliorer l'utilisation et la flexibilité des GPU, spécialement conçue pour la virtualisation et les environnements multi-tenants. Elle permet à un seul GPU physique d'être divisé en sept instances plus petites, chacune fonctionnant comme une partition MIG indépendante avec ses propres ressources dédiées, telles que la mémoire, les cœurs de calcul et les sorties vidéo.
Lisez la documentation dédiée pour utiliser la technologie MIG sur votre instance GPU.
De nombreux critères doivent être pris en compte pour choisir la bonne instance GPU :
Pour plus d'informations, consultez la documentation dédiée à ce sujet.
