Témoignage client : Retorik ai

Nous étions à la recherche d'un fournisseur de cloud aligné sur notre objectif d'héberger notre plateforme d'IA dans un environnement souverain. Grâce à Scaleway, nous avons trouvé un partenaire de confiance qui nous a permis non seulement d'atteindre cet objectif mais aussi de limiter nos émissions de CO2, tout en maîtrisant notre budget cloud, ce qui nous a permis de réduire nos coûts de 15%.

A propos de l'entreprise

Retorik AI est une plateforme d'intelligence artificielle générative développée par Davi qui répond aux défis de productivité dans les professions à forte demande grâce à des capacités verbales et non verbales. La plateforme génère des robots intelligents capables de comprendre le langage humain et les émotions, ce qui leur permet d'interpréter et de répondre de manière appropriée aux utilisateurs, en tenant compte du contenu et de la tonalité émotionnelle des échanges. Ces robots fournissent des réponses précises et contextuelles dans un domaine d'expertise donné, garantissant à l'utilisateur une information fiable et adaptée. De plus, ils sont dotés d'une apparence, d'une attitude sociale et d'une personnalité qui les rendent plus humains et interactifs, offrant une expérience utilisateur naturelle et engageante.

Défis

Retorik ai va au-delà des modèles linguistiques traditionnels pour optimiser les flux de travail et améliorer l'efficacité, en dotant les employés numériques de compétences professionnelles, comportementales, sociales et émotionnelles.

Jusqu'à présent, ils hébergeaient leurs données en France, mais auprès d'un fournisseur étranger. Au fur et à mesure que leurs besoins en ressources informatiques d'IA augmentaient, ils se sont rendu compte qu'ils ne pouvaient pas développer des modèles d'IA souverains et éthiques tout en étant exposés à la loi américaine sur le cloud. De plus, ils ne pouvaient pas garantir une sécurité totale des données de leurs clients finaux.

Retorik AI avait donc besoin de garantir la souveraineté de ses modèles d'IA et la sécurité des données de ses clients, tout en réduisant ses coûts de cloud. Ils voulaient également éviter d'être soumis à la juridiction spécifique hors d'Europe, et répondre à leurs préoccupations environnementales, y compris la réduction des émissions de CO2.

Résultats

Après avoir développé une infrastructure sur Kubernetes, nous avons logiquement construit leur installation sur Kapsule ; le produit Kubernetes géré de Scaleway. Cela leur a permis de concevoir leurs piles de R&D et de production pour leurs LLM hébergés en interne, grâce à la disponibilité des nœuds H100 dans Kapsule. Les équipes de Scaleway leur ont également apporté de précieux conseils pour dimensionner correctement leurs environnements et assurer la stabilité de leurs clusters K8s. Grâce à Scaleway, ils ont pu économiser 15% sur les coûts du cloud.

Projets futurs

Retorik ai a pour objectif d'améliorer de manière significative la performance des modèles qu'ils servent. De plus, ils souhaitent réduire les efforts de maintenance de leurs équipes, tout en garantissant la sécurité des données de leurs clients. A cette fin, ils font actuellement partie de la version beta privée de Generative APIs.