NVIDIA a publié l’intégralité de la plateforme Run:ai en open source, avec quatre composants modulaires utilisables séparément ou ensemble. Les mécanismes éprouvés de planification et de partage des GPU quittent ainsi un produit commercial opaque pour passer sous la gouvernance de la communauté. Les entreprises peuvent désormais adopter, auditer et étendre ces capacités, puis les combiner avec leurs outils Kubernetes existants. Pour les équipes chargées des achats et de l’architecture, cela réduit les risques d’intégration et ouvre la voie à des modèles de déploiement gérés par des partenaires ou soutenus par la communauté.

KAI Scheduler est un ordonnanceur natif Kubernetes, conscient des GPU, qui apporte aux charges de travail d’IA la planification par groupes, le placement optimisé tenant compte de la topologie et l’allocation équitable des ressources. Il est conçu pour coexister avec les mécanismes Kubernetes standard ou remplacer la couche de planification, selon les besoins du client. GPU Fractioning Operator s’appuie sur l’isolation mémoire native de CUDA 13.4 pour présenter aux pods des fractions strictes de GPU et exporter des métriques par pod. Ensemble, ces composants permettent aux entreprises d’exécuter des charges de travail variées — notebooks interactifs, tâches d’entraînement et d’inférence — avec des limites de mémoire et des décisions de placement prévisibles.

Les bénéfices concrets pour les équipes d’exploitation sont mesurables. Le fractionnement réduit la mémoire GPU inutilisée et permet d’exécuter de petites charges de travail sans réserver des appareils entiers, ce qui améliore le taux d’utilisation et répartit les coûts du matériel. KAI Resource Management associe des quotas aux équipes et aux projets afin que les garanties et les limites de capacité soient transparentes et applicables, réduisant ainsi la contention et les préemptions inattendues. Workload Map uniformise l’observabilité et les opérations sur le cycle de vie entre plusieurs CRD, simplifiant les procédures SRE et la répartition des coûts. Ces résultats se traduisent par une baisse des dépenses matérielles réelles et une exploitation plus fluide des environnements mutualisés.

L’ouverture du code améliore la transparence, mais ne supprime pas la complexité opérationnelle. Les équipes doivent évaluer le niveau de maturité de chaque composant, notamment pour les politiques de partage équitable à grande échelle et les déploiements multi-clusters. Les modèles de support varient : les versions communautaires disponibles dans les dépôts et les produits communautaires NGC n’incluent pas le support payant de NVIDIA pour les entreprises, sauf souscription distincte. La sécurité, la fréquence des mises à niveau et la compatibilité avec les versions spécifiques de CUDA et des pilotes (pour le fractionnement) doivent être validées en environnement de préproduction. Enfin, les organisations doivent vérifier les conditions de licence et tout accord propre au produit qui s’appliquerait à la redistribution de lots logiciels.

Commencez modestement et procédez par étapes. Testez GPU Fractioning Operator sur un cluster de développement afin de mesurer le comportement de l’isolation mémoire et les métriques exportées. Évaluez ensuite KAI Scheduler dans un espace de noms non critique pour tester la planification par groupes et le placement tenant compte de la topologie avec des tâches représentatives. Ajoutez KAI Resource Management une fois le comportement de base de l’ordonnanceur établi et lorsque vous souhaitez associer des quotas aux différentes entités de l’organisation. Utilisez Workload Map pour simplifier les intégrations avec les outils de supervision, de gestion des coûts et de sauvegarde. Pour accélérer la création de valeur, envisagez un déploiement avec un partenaire de l’écosystème, en particulier si vous avez besoin d’automatiser la gestion du cycle de vie ou de modèles d’isolation des locataires.