Managed Inference

Modèle multimodal capable d'analyser vos images et d'offrir des informations sans compromettre le suivi de vos instructions. Un modèle réalisé par Mistral AI et distribué sous la licence Apache 2.0.

Llama 3.1 de Meta est la dernière itération de la famille Llama en libre accès, conçue pour un déploiement et un développement efficaces sur des GPU plus petits. Les modèles Llama sont adaptés aux dialogues dynamiques et à la génération de texte créatif. Conçu avec les dernières avancées en matière d'efficacité et de scalabilité, il excelle dans les tâches de raisonnement complexe et de codage. Son mécanisme avancé de Grouped-Query Attention assure une puissance de traitement inégalée, en faisant l'outil ultime pour les applications de chat et bien plus encore.

Llama-3.1-70b-instruct de Meta est le modèle le plus puissant de la famille Llama, avec 70 milliards de paramètres pour une génération de texte inégalée. Idéal pour les applications d'IA avancées, il excelle dans les dialogues dynamiques, les raisonnements complexes et les tâches de codage compliquées. Son mécanisme d'attention aux requêtes groupées garantit un traitement efficace, ce qui en fait le meilleur choix pour un déploiement haut de gamme.

Un modèle de 12 milliards de paramètres publié par Mistral AI en collaboration avec Nvidia, et distribué sous la licence Apache 2.0. Nemo offre une très grande fenêtre de context pouvant aller jusqu'à 128k tokens, particulièrement utile pour les applications RAG.

Entraîné sur Nabuchodonosor 2023 de Scaleway, Mixtral-8x7B est un modèle de type Sparse Mixture of Experts génératif de pointe. Il a été travaillé pour surpasser les performances du modèle Llama 2 70B dans une cas d'usage.

Un modèle d’embedding avancé qui traduit les données en vecteurs, capturant les relations complexes pour un meilleur traitement de l'information. Parfait pour mettre en place votre système RAG (Retrieval-Augmented Generation).